Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси Страница 46

XX в. считали себя обреченными разрабатывать заранее предопределенное супероружие для поддержания равновесия сил. С тех пор государства попали в замкнутый круг, инвестировав за последнее столетие триллионы долларов во все более изощренные системы обороны и нападения вместо того, чтобы тратить деньги на технологии с положительной суммой. Чтобы угроза оставалась убедительной, сторонам требуется погрузиться в безумие и отбросить всякие моральные принципы. Американские военные убили сотни тысяч невинных людей, чтобы укрепить свою репутацию в глазах других ядерных держав. Несмотря на это, ясно, что каждый из нас в отдельности не совсем потерял совесть. Пока не появилась возможность полностью автоматизировать такие злодеяния – например, благодаря автономным дронам, – исследователи предлагают паллиативные решения, заговаривая совесть военных с помощью их отстранения от последствий собственных действий. Все это в конечном итоге можно рассматривать как проект, призванный переложить ответственность за трудные решения на машины, чьи мыслительные способности, как нам обещают, скоро превзойдут способности любого человека. Однако их синтетический разум совсем не похож на наш, и мы не можем делать вид, что это уместная или морально приемлемая замена.

Теория игр была приспособлена в качестве рационального фундамента неолиберального мирового порядка, и ее эгоистичные предпосылки до сих пор пронизывают наши сконструированные социальные системы. Изначально изобретенная для картографирования человеческого поведения, теория игр с тех пор искривила тот самый ландшафт, который должна была отображать. Пока ученые, изучавшие игры, надеялись создать науку, которая положит конец войнам, безудержное умножение оружия сделало нас всех более уязвимыми. Историки со временем обнаружили, что ядерная гонка, в которую включилась Америка, во многом была односторонней. Немецкая ядерная программа, ставшая первоначальным толчком к запуску Манхэттенского проекта, была свернута в 1942 г. Теоретики RAND работали с неверными разведданными о ядерном потенциале СССР. Они считали, что американские военные сильно отстали от советских, и этот так называемый «разрыв в ракетах» привил военным аналитикам, убежденным, что они спасают планету, почти мессианские наклонности. Десятилетиями американские стратеги соревновались со своими собственными фантазиями. Сегодня такие риски выше, чем когда-либо. Нынешняя ядерная дипломатия основана на еще более шатком равновесии между девятью странами. Некоторые опасаются, что схожие процессы разворачиваются сейчас и в области искусственного интеллекта, где корпорации наперегонки разрабатывают потенциально разрушительную технологию в убеждении, что она может спасти мир.

Как говорит специалист по компьютерной криптографии Брюс Шнайер, не существует такой вещи, как безопасность вообще. Антивирусное программное обеспечение не может спасти пользователя от гриппа; автомобильная сигнализация не убережет владельца машины от кражи личных данных. А иногда системы безопасности делают нас менее защищенными, потому что мы становимся самонадеянными под их защитой. Создатели теории игр искали универсальные ответы в отвлеченной математике, и мир оказался в худшем положении из-за веры наших лидеров в их технократические решения.

Все это должно заставить нас задуматься. В своем романе «Книга имен» лауреат Нобелевской премии Жозе Сарамаго писал: «Строго говоря, не мы принимаем решения, а они – нас»[311][312]. Если это правда, то кто мы такие, чтобы перепоручать свои решения математике? Одной из отличительных черт человеческой природы является ее пластичность и адаптивность, о чем свидетельствует разнообразие культур и норм по всему миру. Опасность использования упрощенных моделей для обоснования политических решений заключается в том, что люди учатся. Психолог Б. Ф. Скиннер утверждал, что мы не можем испортить или изменить физику, задействовав неверную модель атома. Но он ошибался, распространяя этот принцип на людей: избранная нами модель человека может вредить людям. Человеческое поведение определяется вознаграждениями и стимулами, а наши предпочтения зависят от усвоенных нами представлений об играх, в которые мы играем. То, что мы думаем о самих себе, может радикально влиять на наш образ жизни и решения, которые мы принимаем. Нет ничего невероятного в том, что мы можем изменять динамику человеческих взаимоотношений, выстраивая социальные, политические или экономические системы на основе моделей, стимулирующих эгоистичное поведение. Свидетельством тому – безрассудная политика, приведшая к балансированию на грани ядерной войны. Наши теории об окружающем нас мире привели к глубокому нравственному падению, к гонке по нисходящей. Мирные граждане были – и остаются – заложниками военных решений своих стран.

Часть III

Игроки лучше прежнего

8

Шахматы – дрозофила интеллекта

В шахматах, как чисто мыслительной игре, где исключена случайность, игра против себя самого является абсурдной… Играть против самого себя столь же парадоксально, как пытаться перепрыгнуть через собственную тень[313][314].

СТЕФАН ЦВЕЙГ

Австрийский писатель Стефан Цвейг и его молодая будущая жена бежали из континентальной Европы в 1938 г., после аннексии Австрии нацистами. Они метались между Великобританией и США: Цвейг больше всего на свете желал мирной обстановки для работы. В отличие от своего товарища по писательскому изгнанию Томаса Манна, он не мог заставить себя в открытую критиковать нацистов. Он хотел лишь, чтобы его оставили в покое. Нигде в Европе Цвейг с женой не чувствовали себя в безопасности, поэтому в 1941 г. они переехали в бразильский город Петрополис. Здесь, «вдали от политики»[315], восторженно писал он, можно было существовать «ближе к собственному сердцу и сердцу природы». Бомбардировка Пёрл-Харбора японцами повергла его в панику, им овладел ужас, что державы «оси» оккупируют даже Северную и Южную Америку. Он чувствовал все большее отчуждение от собственной жизни. Цвейг оказался за границей наедине со своей женой, которая была подавлена не меньше его: «За много-много миль от всего, что раньше было моей жизнью: от книг, концертов, друзей и бесед»[316].

Последнее произведение Цвейга, «Шахматная новелла», отражает эти переживания. Там рассказывается о докторе Б., австрийском финансовом консультанте, имевшем связи в католической церкви и среди переживавшей упадок аристократии. В Вене доктора Б. арестовывает гестапо, подвергая его пыткам в надежде завладеть состояниями его клиентов. Запертый на месяцы в пустом гостиничном номере, он лишен человеческого общения, книг и письменных принадлежностей:

Я ничего не делал, ничего не слышал, ничего не видел. Особенно по ночам. Это была пустота без времени и пространства… И так все ждешь, ждешь, все думаешь, думаешь, думаешь, пока не начинает ломить в висках. Ничего. Ты по-прежнему один. Один. Один…[317]

Ему удается стащить из кармана надзирателя сборник шахматных партий, сыгранных крупнейшими мастерами. Заучив 150 собранных в книге партий, он обнаруживает, что может мысленно играть в шахматы сам с собой, разделив свою психику «между черным и белым "я"». Это отвлекающее занятие позволяет ему некоторое время сопротивляться пыткам гестапо,