Генезис. Искусственный интеллект, надежда и душа человечества - Крейг Манди Страница 11

игры даже не приходили в голову человеку. Это стало возможным потому, что человеческий разум способен оперировать лишь четырьмя независимыми переменными одновременно, тогда как ИИ может обрабатывать бесчисленные вероятностные оценки в многомерном пространстве[35]. Так ИИ получил доступ к принципиально новым идеям и впервые сделал их частью человеческого опыта.

Когда пользователь задает вопрос модели ИИ – например, вводя вопрос в ChatGPT, – он просит не просто найти информацию, как это делают традиционные поисковые системы, а синтезировать множество данных и на их основе сделать вывод. Работая в многомерном пространстве, система создает сложные представления информации, учитывая взаимосвязи внутри и между различными областями знаний. На основе этих сетевых структур она формулирует ответы.

Именно здесь проявляется удивительная способность ИИ: скорость и мощь LLM[36], освоивших колоссальные объемы данных. Поскольку точность ответов влияет на наши представления об истине, такие модели создают все более детальную «карту глубин» наших знаний.

ИИ, скорее всего, будет накапливать новые данные не только быстро, но и таким образом, что это откроет исследовательские перспективы. Играя в го, AlphaGo часто выбирала необычно открытые позиции. Некоторые модели ИИ, вероятно, научились предпочитать области с множеством вариантов, что позволяет гибко исследовать новые возможности.

Человечеству может быть трудно адаптироваться к этому новому способу познания, ведь нам пока неясно, будет ли этот процесс соответствовать нашему восприятию реальности. Возможно, нам потребуются инструменты, чтобы успевать за ИИ и направлять его. Или же мы создадим технологии, с помощью которых – неторопливо, как мы привыкли, – будем «перелопачивать грунт на дне того самого океана», тем самым расширяя наши скромные возможности познания. А может, решим вообще не выходить за пределы знакомого мира.

Существует и риск некорректного управления ИИ, который может накапливать знания разрушительными методами. Его способы открытий могут быть столь же мощными и хаотичными, как вулканические извержения, когда-то формировавшие наш мир. Словно новое извержение, ИИ способен разрушить старые представления, одновременно расширяя острова знаний. Он может даже сдвигать тектонические плиты на дне «океана», поднимая новые горы познания. Но поскольку эти знания будут оторваны от нашего опыта, они могут вызвать когнитивные кризисы, ведущие к более полному – хотя и не всегда желательному – пониманию реальности.

С другой стороны, если развитие ИИ будет соответствовать нашим целям, оно, подобно совершенствованию вычислительной техники, станет миссией, облегчающей все остальные задачи человека. Это возведет ИИ в ранг главной – или равной нам – силы во Вселенной, определяющей большинство значимых открытий следующего века. Оглядываясь назад, мы, возможно, осознаем, как мал был остров, который мы возделывали тысячелетиями, по сравнению с подводными рифами возможностей, скрытыми во тьме неведомого.

Глава 2. Мозг

Чтобы объяснить феномен ИИ и его значение для человечества, исследователи предлагают множество аналогий. Антропологи сравнивают его с огнем или электричеством. Военные и дипломаты проводят параллели с атомной энергией или даже с несокрушимой человеческой волей таких исторических фигур, как Отто фон Бисмарк. Астрономы видят в ИИ сходство с астероидом – маловероятной, но в целом реальной угрозой, способной сплотить человечество перед лицом общей опасности, а кто-то даже говорит о сходстве изобретения ИИ с открытием внеземной жизни. Экономисты уподобляют ИИ рынкам или бюрократии, а государственные и общественные лидеры сравнивают появление ИИ с изобретением печатного станка или развитием корпораций – не будем забывать, что последние, обретя собственную волю, сумели подчинить себе целые регионы, как это произошло с Индийским субконтинентом, прежде чем мир осознал их угрозу существующим структурам власти[37].

Однако сегодня мы смотрим на ИИ иначе. Ни одно новшество, каким бы революционным оно ни было, не сравнится с изначальным замыслом и (как мы полагаем) пока что временной целью наших устремлений – создать интеллект, превосходящий разум любого человека[38].

Осмыслить место ИИ в истории можно двумя способами.

Первый – через призму преемственности. До сих пор самые передовые в задачах преобразования технологии улучшали или усиливали функции человеческого тела. Колесо облегчило перемещение грузов, двигатели избавили от физического переутомления, а рентген, микроскопы и лампы расширили границы восприятия дальше естественных возможностей глаза. Телефон усилил наш голос так, как никогда не смогли бы голосовые связки. Каждый аспект человеческих способностей так или иначе был дополнен, усилен или переосмыслен благодаря машинам. Остается вопрос: не является ли ИИ просто следующим шагом в этой череде усовершенствований?

Второй подход состоит в том, чтобы признать, что на этот раз все иначе. ИИ обладает особыми качествами, которые не сводятся к усилению человеческих способностей. Создав за несколько десятилетий аналог того, что эволюция формировала миллионы лет – искусственный мозг, – мы подошли к последнему рубежу: воспроизведению неорганическим путем самого сложного органа, который нам еще только предстоит переосмыслить.

Скорость

В предыдущей главе мы обратили внимание на сходство машинного обучения ИИ с тренировкой разума аспиранта, изучающего философию. Этот пример можно развить: по сути, создание машинного интеллекта напоминает процесс биологического созревания человеческого мозга от подросткового возраста до взрослого состояния.

Учащиеся в ходе получения среднего образования осваивают основы ключевых предметов, формируя базовое представление о мире. Это представление может быть не слишком глубоким или не всегда верным, но то же самое можно сказать и о том, как получает знания машина. Системы ИИ, как и люди, учатся, усваивая информацию и преобразуя ее в концепцию для последующего применения. В это время алгоритм обрабатывает огромные объемы данных, собранных из открытых источников в интернете или предоставленных другими, более узконаправленными источниками, и сводит результаты в сжатое и компактное отображение концепций для дальнейшего использования. Подобно тому как человеческий мозг преобразует сенсорные данные в нейронные связи – «веса», формирующие сеть обработки информации, машины также требуют постепенной настройки своих вычислительных параметров.

Нейронные сети, как и старшеклассники (не все, конечно), могут лениться. На ранних этапах обучения ИИ будет делать лишь минимум необходимого. Запоминая ответы вместо того, чтобы действительно учиться, модель, столкнувшись с примером «2 + 2», может поначалу лишь закодировать ответ «4», не освоив базового принципа сложения. Однако по достижении определенного порога (достаточно быстро) этот подход перестает работать, вынуждая систему, подобно человеку, переходить к более универсальным аксиомам знаний.

Это и отличает ИИ от обычных компьютеров: его картина мира создается не программированием, но обучением. В традиционном программировании алгоритм, созданный человеком, указывает машине, как преобразовать набор входных данных в набор выходных. В машинном обучении, напротив, созданные человеком алгоритмы указывают машине только на то, как улучшить себя, позволяя ей самой разрабатывать схемы преобразования входных данных в выходные. По мере того как машина «учится»