Власть и прогресс - Саймон Джонсон Страница 9

может стать заложником видения, сформированного представителями власти и отвечающего их интересам. Подобное видение помогает лидерам в области бизнеса и высоких технологий осуществлять планы, делающие их еще богаче, влиятельнее, могущественнее. Элиты могут убеждать себя: что хорошо для них – хорошо и для общего блага. Могут даже прийти к мысли, что на благородном пути прогресса оправданы любые жертвы – особенно если высокую цену платят молчаливые и незаметные члены общества. Вдохновляемые таким эгоистичным видением, лидеры отрицают, что существует множество путей развития, имеющих очень разные последствия. Могут даже оскорбиться, если указать им на альтернативы.

Неужели от гибельных идей, навязываемых людям без их согласия, нет никакой защиты? Как остановить влияние классовых предрассудков на развитие высоких технологий? Неужели мы обречены бегать в колесе, где сменяют друг друга горделивые и эгоцентричные фантазии, определяющие собой наше будущее?

Нет. Не стоит отчаиваться: история учит нас, что более инклюзивное видение – такое, которое прислушивается к голосам более широкого круга и яснее представляет себе последствия для всех, – вполне возможно. Общее процветание возможно там, где предприниматели и разработчики новых технологий вынуждены считаться с какими-то иными силами и отвечать перед ними; в этом случае методы производства и инновации развиваются в большем согласии с интересами простых людей.

Инклюзивное видение не избегает спорных вопросов – например о том, стоит ли выгода для одних той цены, которую неизбежно заплатят другие. Оно оценивает все последствия социальных решений и не затыкает рты тем, кто от них не выигрывает.

Держаться ли нам узкого, эгоцентрического видения или перейти к более инклюзивному – тоже вопрос выбора. Исход зависит от того, найдутся ли в обществе альтернативные источники власти, сумеют ли те, кто не вхож в высокие кабинеты, организоваться и заставить себя услышать. Если мы не хотим подчиняться видению правящих элит, то должны найти способы им противостоять и противопоставлять их эгоизму свое, более инклюзивное видение. К сожалению, в век искусственного интеллекта это становится все сложнее.

Огонь нашего времени

На заре истории жизнь человечества преобразил огонь. Древнейшие слои, обнаруженные при раскопках в Сварткрансе, пещере в Южной Африке, показывают нам человеческие кости, обглоданные хищниками – медведями и крупными кошачьими. Для крупнейших хищников тех времен человек был легкой добычей. Особую опасность представляли темные места вроде пещер – нашим предкам приходилось их избегать. Но вот в этой пещере появляются первые следы огня – слой прогоревших углей возрастом приблизительно в 1 млн лет. И дальше археологические находки показывают совершенно обратную картину: начиная с этого времени основная масса костей в пещере – не человеческие. Они принадлежат животным. Овладев огнем, древние гоминиды смогли изгнать хищников из пещер, поселились там – и сами стали хищниками.

Ни одна другая технология за последние 10 000 лет даже близко не оказала такого фундаментального влияния на всю нашу жизнь. Но сейчас – по крайней мере, если верить его пропагандистам, – появился новый кандидат на пьедестал – искусственный интеллект (ИИ). Директор Google Сундар Пичаи говорит об этом без обиняков:

«ИИ, возможно, самый важный проект в истории человечества. На мой взгляд, он принесет более серьезные перемены, чем электричество или даже огонь».

ИИ – это название отрасли информатики, разрабатывающей «разумные» машины, то есть машины и алгоритмы (инструкции по решению проблем), способные выполнять сложные высокоуровневые задачи. Современные разумные машины делают то, что еще пару десятилетий назад казалось невозможным. Примеров множество: программы распознавания лиц, поисковики, угадывающие, что мы хотим найти, системы рекомендаций, предлагающие продукты, которые нам больше всего понравятся (или, как минимум, которые мы с наибольшей вероятностью купим). Многие современные системы общаются с людьми с помощью естественного языка, преобразуя компьютерные запросы и команды в человеческую речь. Сири, созданная Apple, или поисковик Google – примеры систем, основанных на ИИ, широко известных и распространенных во всем мире.

Энтузиасты ИИ указывают и на некоторые впечатляющие достижения. Программы ИИ умеют распознавать тысячи различных предметов и образов, осуществляют перевод простых текстов более чем на сто языков. Помогают диагностировать рак. Делают инвестиции – порой успешнее популярных финансовых аналитиков. Помогают юристам и их помощникам просеивать тысячи документов и находить среди них те, что могут пригодиться в деле. Переводят инструкции, данные на естественном языке, в компьютерный код. Даже сочиняют музыку, отдаленно напоминающую Баха, и пишут газетные статьи (впрочем, бессодержательные и скучные).

В 2016 году компания по разработке ИИ DeepMind выпустила AlphaGo – программу для игры в го, победившую одного из двух лучших игроков в мире. Год спустя за ней последовала AlphaZero – шахматная программа, способная побить любого гроссмейстера. Стоит отметить, что это была самообучающаяся программа, и сверхчеловеческого уровня она достигла лишь после девяти часов непрерывной игры с самой собой.

Эти победы воодушевили общество; теперь мы со всех сторон слышим, что ИИ изменит все стороны нашей жизни – и исключительно к лучшему. С его помощью человечество достигнет здоровья, процветания и иных похвальных целей. Как гласит подзаголовок недавно вышедшей книги на эту тему: «Искусственный интеллект преобразит все». Или, как выразился Кай-Фу Ли, бывший глава китайского Google: «ИИ станет самой преобразующей технологией в истории человечества».

Но что, если и здесь найдется ложка дегтя? Что, если ИИ полностью разрушит рынок труда, на котором зарабатывает себе на жизнь большинство из нас, и безмерно увеличит экономическое неравенство? Что, если главным результатом его внедрения станет не рост производительности, а перераспределение власти и богатства – от обычных людей к тем, кто контролирует информацию и принимает ключевые корпоративные решения? Что, если на этом пути ИИ отбросит в нищету миллиарды жителей развивающихся стран? Усилит и укрепит существующие предрассудки – например, связанные с цветом кожи? Уничтожит демократические институты?

Число свидетельств, что эти опасения вполне оправданы, неизменно растет. По-видимому, развитие ИИ движется по траектории, умножающей неравенство не только в индустриальных странах, но и во всем мире. Опираясь на огромные массивы данных, собранные IT-компаниями и авторитарными правительствами, ИИ уже сейчас душит демократию и укрепляет автократию. Мы увидим в девятой и десятой главах, насколько глубоко и обширно его влияние и на экономику, хотя на нынешнем своем пути развития ИИ почти не повышает нашу производительность. Учитывая все это, новейший энтузиазм по поводу ИИ приходится признать лишь новой версией старого технооптимизма, с одинаковым восторгом приветствующего и автоматизацию, и усиление надзора, и выбрасывание обычных людей на обочину жизни.

Однако большинство лидеров в сфере высоких технологий не принимают эти опасения всерьез. Мы только и слышим, сколько добра принесет нам ИИ. А если возникнут какие-то проблемы… что ж, это неизбежно, но долго они не