НеВенец творения. Всё, что вы боитесь знать о будущем - Игорь Александрович Диденко Страница 28

Да, общество ждут изменения, причем колоссальные. Помимо беспилотников на дорогах, повсеместного распознавания лиц, 100 % безналичных платежей и электронного документооборота в скором времени могут стать реальностью и беспристрастный «алгоритмический» суд, и супермаркеты без обслуживающего персонала, и даже наделение машин статусом «субъектов права» (по аналогии с физическими и юридическими лицами). И это не шутка. Как писали российские СМИ, сегодня по инициативе экспертов нацпроекта «Цифровая экономика» ведется разработка кодекса прав машин и искусственного интеллекта (сейчас это называется «Федеральный закон, регулирующий правоотношения в сфере киберфизических систем». В рамках этого национального проекта обсуждают и создание Федерального агентства по робототехнике и искусственному интеллекту и даже внедрение «машиночитаемого права и автоматического правоприменения» в сфере действия не только, например, Правил дорожного движения, но и других кодексов.

Впрочем, в российских реалиях судебный процесс, основанный на непредвзятом анализе «больших судебных данных» искусственным интеллектом – скорее благо, чем бедствие. Процессы станут менее затратными, не такими долгими и более предсказуемыми, а право – фактически прецедентным (если, конечно, не будет вмешиваться человеческий фактор). Алгоритм на основании одинаковых данных судит всегда одинаково, а два разных судьи-человека в одной и той же ситуации могут принять противоположные решения, по-разному оценив обстоятельства дела. Про устранение из процессов коррупционной составляющей нечего и говорить – искусственный интеллект не берет взяток.

Посмотрим на ситуацию с другой стороны. Что будет, если алгоритмы начнут выписывать штрафы за нарушения и исполнять надзорные функции, посредством, например, установленных повсюду камер видеонаблюдения? Здесь все зависит от того, как и кем они будут управляться и настраиваться. Хочется верить, что в этом случае операторы «контролирующих систем» будут действовать особенно аккуратно. Видеофиксация нарушений означает почти автоматическое принятие презумпции вины нарушителя, поскольку камера, алгоритм, нейросеть, если они правильно настроены, просто не могут ошибаться.

Кстати, как отмечают правозащитники, даже без использования искусственного интеллекта в судебном процессе в последние годы в мире утвердился тренд на упрощение судопроизводства и увеличение числа обвинительных приговоров.

Так, в рамках сделок с правосудием (когда обвиняемый признает свою вину в обмен на смягчение приговора) по федеральным уголовным делам в США уже выносится 97 % приговоров. Для сравнения: в 90-х годах эта цифра составляла лишь 10 %. Американская практика, похоже, оказывает влияние на весь мир: за последние 30 лет в 90 странах число таких приговоров выросло более чем в 3 раза. В России, например, приговоры по сделке с правосудием составляют 92 % всех уголовных дел.

Эти цифры показывают, как незаметно во всем мире начинает превалировать «алгоритмическая» логика презумпции вины. Если человек попал под следствие – значит, виноват. Если не может доказать происхождение своих денег – виноват на 100 %, даже если это совокупные сбережения членов семьи всех предыдущих поколений. А дороговизна адвокатских услуг в развитых, да и в развивающихся странах не располагает к активной и эффективной защите от следственных органов. Проще смириться и пойти на сделку со следствием и получить условный срок или даже просто штраф вместо реального срока.

В таких обстоятельствах вероятность того, что многое сведется к надзорным и карательным функциям искусственного интеллекта, довольно велика. В Китайской Народной Республике, например, видеокамеры сейчас устанавливаются даже в мусорных баках – они определяют человека, который неправильно сортирует и выбрасывает мусор, а аналитическая нейросеть с помощью системы распознавания лиц автоматически выписывает ему штраф, как и нарушителям на пешеходных переходах (о новейших технологиях учета и контроля с помощью искусственного интеллекта читатель сможет подробнее прочитать в главах 4 и 5).

Кстати, тот же Дмитрий Медведев в своих выступлениях упоминал о перспективах создания в России «умных дорог», которые будут сами отслеживать нелегальные перевозки, несоблюдение Правил дорожного движения, и, видимо, сами, в автоматическом режиме штрафовать нарушителей. С одной стороны, это правильно. Чем меньше контактов между людьми, тем ниже вероятность коррупции и различных нарушений. Но если довести эту мысль до абсурда, можно прийти к простому выводу: если людей не будет вообще, никаких нарушений не случится в принципе. Останется только научить роботов потреблять, и общество станет стабильным и утопично-идеальным.

А ведь научить машины потреблять – не такая сложная задача, как может показаться на первый взгляд. Возможно, в будущем социально-технологическая эволюция пройдет через этот этап «на пути к полной технологической сингулярности», в особенности, если, как считает американский бизнесмен-визионер Илон Маск, «самая большая проблема, с которой столкнется мир в следующие 20 лет – демографический коллапс (именно коллапс, а не взрыв)».

Но, даже если демографический коллапс (а он на самом деле очень вероятен, и подробнее читатель сможет прочитать об этом в следующих главах) минует нашу многострадальную цивилизацию и роботы-потребители не заполнят улицы мегаполисов будущего, новейшие «умные» технологии потребуют от человека колоссальных изменений в поведении, мышлении, потреблении. И очень большой вопрос, сможет ли после такой адаптации «человек разумный» вообще называться человеком.

Возможно, в условиях постоянного контроля под страхом абсолютно неминуемого наказания он сам превратится в человекоподобную машину, которая будет рефлекторно принимать единственно верные решения. Конечно, они не будут никем диктоваться (нет, ни в коем случае!) сверху, но «боязнь мыслепреступления» будет настолько велика, что многие действия человека станут автоматическими, как безусловно машинальным станет соблюдение многочисленных правил и кодексов.

Даже если до этого не дойдет, людям все равно придется осваивать «машинное мышление». Алгоритм не рассуждает «духом закона», он руководствуется только «буквой». Если предписание не выполнено досконально и в полном объеме – вам положен штраф: искусственный интеллект непредвзят и не может ошибаться. Недавний пример, вызвавший, кстати, бурю эмоций в социальных сетях – тысячи штрафов за нарушение Правил дорожного движения с камер перед стоп-линиями в Москве. Водители привыкли перед ними притормаживать и не всегда останавливаются полностью. Но в «глазах» алгоритма такое поведение – очевидное нарушение: он должен либо зафиксировать полную остановку автомобиля, либо выписать штраф. Точно так же алгоритм автоматически отключит человеку электричество или газ за просрочку платежа, несмотря на время года и температуру за окном.

В будущем алгоритмы смогут не только судить, контролировать и штрафовать. При желании они смогут еще и заниматься политикой и международной дипломатией, эффективно обосновывая любую позицию и претворяя ее в жизнь. Так, профессор Оксфордского Университета Корнелиу Бйола в своей статье для испанского Королевского института международных исследований Элькано указывает на