Реальность на кону: Как игры объясняют человеческую природу - Келли Клэнси Страница 62

стартап DeepMind использовал наработки Боулинга для создания способного к обучению с подкреплением агента, который мог научиться играть в десятки различных игр Atari на уровне, не уступающем человеческому или превосходящем его. Исследователи ставили перед программой задачу наращивать свой рейтинг, а затем направляли в нее поток необработанных изображений игрового интерфейса и оставляли ее обучаться на протяжении тысячелетий ускоренной игры. Программа научилась подбирать правильные стратегии управления своим аватаром без формулирования ее целей в явной форме (вроде фразы «Ты – подводная лодка, похожая на желтый прямоугольник с выпуклостями, которая должна поражать вражеские корабли, похожие на серые прямоугольники с выпуклостями»). Это вызвало возрождение интереса к системам, основанным на обучении. Впоследствии компании начали испытывать свои программы на более сложных видеоиграх вроде Dota и StarCraft II, которые в большей степени приближены к сценариям, встречающимся в реальной жизни.

Игры остаются впечатляющим способом оценки возможностей любой программы. В начале 1980-х гг. аспиранты Шафи Гольдвассер и Сильвио Микали изобрели новую мощную форму математического доказательства, пытаясь придумать не допускающую жульничества партию в покер по телефону. Созданный ими метод, получивший название «интерактивная система доказательства», состоит из двух компонентов: доказывающего и проверяющего. Они обмениваются сообщениями до тех пор, пока проверяющий не будет «убежден» в правильности ответа. Интерактивные доказательства стали основополагающим подходом в информатике и криптографии. Они также являются метафорической сутью того, чего мы надеемся добиться при проверке интеллекта с помощью игр. Традиционные математические доказательства предопределены, каждый новый шаг в них – это вывод, неизбежно вытекающий из предыдущего. Интерактивные же доказательства верны вероятностно. Проверяя утверждение доказывающего снова и снова, проверяющий все больше убеждается в его правоте. В этих терминах можно, например, математически выразить тест Тьюринга. Игры принимают ту же форму: эксперты-люди многократно тестируют играющую в игры компьютерную программу, чтобы убедиться в ее возможностях. Для интеллекта или его механического аналога не существует никакой единой меры. Его оценка будет интерактивной по своей природе – результатом многократного зондирования системы.

Основанные на теории игр программы, использующие стратегию минимакса, были достаточно хороши, чтобы одолеть лучших игроков-людей в нескольких настольных играх, но их мало кто назвал бы осмысленно разумными. Однако игры способствовали развитию самых передовых процессоров и графических интерфейсов, что, в свою очередь, сделало возможным создание более мощных программ и игр. В отсутствие языка, необходимого для точного анализа анатомии мысли, исследователи использовали игры как средство для выражения определенных аспектов интеллекта, таких как планирование и поиск. Они создавали и оценивали обучающиеся системы, используя игры как тренировочную площадку для них. Игры устраняют необходимость в вычурных определениях, сводя сложнейшую философскую проблему к бинарному исходу: победа или поражение. Предполагаемый интеллект программы мог быть проявлен в ее превосходстве над противниками-людьми. Реагируя на ходы другого игрока, она должна была демонстрировать адаптивность и дальновидность. После зарождения теории вероятностей люди начали мечтать о том, чтобы принимать более обоснованные и разумные решения. Теперь компьютеры, казалось, могли помочь нам сориентироваться в изначально невероятно сложном пространстве возможностей, тщательно перечисляя все потенциальные исходы и вычисляя ожидаемую выгоду от них. Однако всем было ясно, что человеческое мышление нисколько не походит на эти замысловатые уравнения, описывающие скольжение по сложному ландшафту минимаксных градиентов.

Игры позволяют легко фиксировать прогресс. Поэтому они идеально подходят для научных групп и коммерческих компаний, желающих предъявлять четкие результаты грантодателям и инвесторам. Но является ли это прогрессом в поисках подлинного интеллекта? Игры ограничены четкими правилами, которых не существует в реальном мире. У них есть границы, которых нет у жизни. Игры были созданы для имитации определенных абстрактных представлений о реальности, но реальность не имитирует игры. Даже случайность в азартных играх упорядочена: игральная кость принимает одно из шести возможных значений, карты – одно из пятидесяти двух. Реальный мир вовсе не так аккуратен. В старинном анекдоте пьяный ищет ключи под уличным фонарем – не потому, что он их там уронил, а потому, что там лучше видно. Он может найти там много чего, но он никогда не найдет там своих ключей. Интуитивно, по умолчанию, овладение играми и набор очков кажутся прогрессом. Но является ли умение играть в игры тем, что действительно имеет значение, или просто тем, что легче всего подсчитать? Интеллект не ограничивается простым поиском по дереву знаний. Системы машинного обучения способны осуществлять поиск в пространствах, где все возможные исходы можно предвидеть – например, противник может сделать в игре лишь определенное число допустимых ходов. Но эти системы не в состоянии уловить беззаконную случайность реального мира, где правила иногда меняются посреди хода, а враг может к чертям разбомбить игровое поле. Следующим номером программы исследователям ИИ предстояло сделать реальность более похожей на игру.

11

Cogito ergo нулевая сумма

Опыт, отец всех наук[411][412].

МИГЕЛЬ ДЕ СЕРВАНТЕС

В 1943 г. студентка физического факультета Висконсинского университета в Мэдисоне Джоан Хинтон слушала курс классической механики, который читал там Станислав Улам. За месяц до сессии она подошла к Уламу с вопросом, нельзя ли ей сдать экзамен досрочно. Ей нужно было уехать по важному делу. Она не могла сказать, по какому именно, но уехать нужно было немедленно. Улам нацарапал несколько вопросов на обороте конверта, и Хинтон в спешке написала ответы, пристроившись прямо на пыльном полу его кабинета. Коллеги и студенты Улама пропадали один за другим. Он подозревал, что их тайком привлекают к работе над секретными военными проектами, но никто не мог рассказать ему подробностей.

Улам очень хотел внести свой вклад в войну, но из-за плохого зрения его не взяли в ВВС США. Он родился в Польше в еврейской семье и лишь недавно попал в Америку. 20 августа 1939 г., за двенадцать дней до вторжения нацистов в Польшу, отец посадил его и его семнадцатилетнего брата на корабль, идущий в США. Вся семья Улама, кроме брата, погибла во время холокоста. В последнее время его коллега и товарищ по эмиграции Джон фон Нейман присылал ему письма с почтовыми штемпелями столичного Вашингтона. Улам предположил, что тот сотрудничает с военными, и написал другу послание, в котором предложил свои услуги.

Фон Нейман хранил по этому поводу таинственное молчание, но предложил Уламу встретиться в Чикаго, где он должен был пересаживаться с одного поезда на другой по дороге на запад страны. Фон Нейман вышел из поезда в сопровождении двух «мужчин, малость смахивающих на горилл»[413]. Улам распознал в них телохранителей и сделал вывод: «Должно быть, он – важная