Если кто-то его создаст, все умрут: Почему сверхразумный ИИ убьет нас всех - Элиезер Шломо Юдковски Страница 6

и науке; крупные прорывы совершаются людьми-исследователями, а не ИИ (пока ещё). Более того, по крайней мере двум авторам этой книги до сих пор кажется, что o1 уступает в интеллекте даже тем людям, которые не совершают крупных научных прорывов. Точно определить, чего именно ей не хватает, становится всё труднее, но у нас тем не менее остаётся ощущение, что, хотя o1 знает и помнит больше, чем любой отдельный человек, она всё же в каком-то важном смысле «поверхностна» по сравнению с двенадцатилетним ребёнком.

Так будет не всегда. Трудно предсказать, насколько быстро будет развиваться ИИ и по какому пути он пойдёт, но конечную точку определить легко, ведь на технологических пределах у машин есть множество преимуществ перед биологическим мозгом. Вот лишь некоторые из них:

Чистая скорость. Транзисторы, базовые строительные блоки всех компьютеров, могут включаться и выключаться миллиарды раз в секунду; в то время как необычайно быстрые нейроны, напротив, срабатывают всего сто раз в секунду. Даже если бы для имитации одного нейронного импульса требовалось 1000 операций транзистора, и даже если бы искусственный интеллект был ограничен современным аппаратным обеспечением, это означает, что мышление человеческого уровня можно было бы эмулировать на машине в 10 000 раз быстрее. И это не говоря уже о том, на что был бы способен ИИ с усовершенствованными алгоритмами и более мощным железом. Разуму, который предсказывает мир и управляет им как минимум в 10 000 раз быстрее любого человека, люди казались бы не более чем статуями, действующими настолько медленно, что они произносили бы примерно по одному слову в час.

Возможность копирования и вставки. В нынешнем мире требуется двадцать или более лет, чтобы вырастить одного нового человека и передать ему крошечную долю всех человеческих знаний. Да и то мы не можем целиком перенести успешные навыки мышления из одного человеческого разума в другой; гениальность Альберта Эйнштейна умерла вместе с ним. Искусственный интеллект со временем окажется в другом мире — в мире, где гениальность можно будет копировать по первому требованию.

Более быстрое совершенствование. Увеличение размеров человеческого мозга столкнулось с бутылочным горлышком в тот момент, когда головы младенцев стали слишком большими, чтобы проходить через женский таз. Графические процессоры (GPU — специализированные компьютерные чипы, очень эффективные для работы современных ИИ) совершенствуются, как и алгоритмы, работающие на этих чипах, причем гораздо, гораздо, гораздо быстрее, чем человеческий вид способен эволюционировать в сторону более широкого таза.

Больший объём памяти. Человеческий мозг содержит около ста миллиардов нейронов и ста триллионов синапсов. С точки зрения объёма хранения данных это превосходит большинство ноутбуков. Но дата-центр на момент написания этой книги может иметь 400 квадриллионов байт в пятимиллисекундной доступности — это более чем в тысячу раз превышает объём памяти человеческого мозга. Кроме того, современные ИИ обучаются на значительной части всех накопленных человечеством знаний и сохраняют в памяти существенную их долю — на что не способен ни один человек.

Более высокое качество мышления. Когда речь идёт о мышлении, качество бьёт количество. Один шахматист-человек может победить любое число обученных обезьян, работающих сообща. Но человеческий мозг не находится на пике качества мышления. Существует множество хорошо изученных случаев того, как человеческий разум становится жертвой систематических ошибок. (Например, «мотивированный скептицизм»: склонность искать аргументы против неприятных вам выводов, но не против тех, которые вам нравятся. Представьте себе ИИ, который никогда так не делает.) И несмотря на то, что в нашем мозгу сто миллиардов нейронов, большинство людей с трудом умножают трёхзначные числа в уме, а это значит, что мы используем эти нейроны далеко не так эффективно, как могли бы. Столь же невероятно, что модели человеческого мышления знаменуют собой конечный предел интеллектуальных алгоритмов, как и то, что человеческие нейроны представляют собой предел возможных скоростей вычислений.

Возможности самоэкспериментирования и самоперезаписи. ИИ могли бы создавать копии своего разума, проводить на них эксперименты и (при необходимости) восстанавливать оригиналы из резервных копий. ИИ могли бы встраивать новые вычислительные процессы в собственный разум гораздо легче, чем люди могут подключать компьютеры к биологическим нейронам. ИИ могли бы пытаться создавать немного отличающиеся версии своего разума, чтобы посмотреть, работают ли они лучше. ИИ могли бы совершенствоваться гораздо быстрее, чем люди.

Сверхбыстрые разумы, способные мыслить со сверхчеловеческим качеством в 10 000 раз быстрее нас, не знающие старения и смерти, копирующие своих наиболее успешных представителей, отточенные миллиардами испытаний до нечеловеческих способов мышления, работающие без устали и делающие более точные обобщения на основе меньшего количества данных, и способные направить весь этот интеллект на анализ, понимание и, в конечном счёте, совершенствование самих себя, — такие разумы превзошли бы наш.

Возможность появления машинного интеллекта, способного превзойти человека во всех практически важных сферах нашей деятельности, называли по-разному. Мы будем описывать его с помощью термина «сверхинтеллект», означающего разум, значительно превосходящий любого человека в решении практически любых задач управления и прогнозирования — по крайней мере, тех, где есть возможность существенно превзойти человеческие результаты.ii

Известные нам законы физики в теории позволяют машинам превосходить мозг в прогнозировании и управлении. На практике ИИ пока до этого не дошёл — но сколько времени пройдёт, прежде чем у ИИ появятся все перечисленные выше преимущества?

Мы не знаем. Пути развития предсказать труднее, чем конечные точки. Но ИИ не останутся глупыми навсегда.

В 2021 году весь мир увидел плоды прорыва в алгоритмах, лежащих в основе того, что сейчас называют «генеративным искусством». У этих первых ИИ были свои ограничения: они с трудом рисовали пальцы и создавали изображения людей с невозможными, жуткими руками. Некоторые люди, рассуждавшие слишком поспешно, говорили: «Посмотрите, как плохо ИИ рисуют! Работа иллюстраторов в безопасности». Другие думали: «Но ещё пять лет назад ИИ не умели так рисовать; что, если они станут лучше?» И ИИ стали лучше.

Сегодня ИИ прекрасно рисуют руки. Плохо нарисованные пальцы на первых итерациях этой технологии были худшим из того, как вообще могло выглядеть «генеративное искусство».

Если взглянуть на нынешние ИИ под правильным углом, в их интеллекте можно увидеть поверхностность... но поверхностнее, чем сейчас, ИИ уже никогда не покажется.

И путь к катастрофе может оказаться короче и быстрее, чем путь к непосредственному созданию сверхинтеллекта людьми. Вместо этого он может пролечь через ИИ, достаточно умный, чтобы внести существенный вклад в создание ещё более умного ИИ.

При таком сценарии возникает возможность — и, по сути, все основания ожидать запуска — цикла положительной обратной связи, называемого «интеллектуальным взрывом»: