Революция разума: на подступах к Сингулярности. Как технологии изменят общество и сознание - Рэймонд Курцвейл Страница 79

мы должны всерьез озаботиться современным движением «неолуддитов», которые, упорствуя в своих заблуждениях, призывают повсеместно отказаться от технического прогресса, чтобы избежать опасностей, исходящих от генетики, нанотехнологий и робототехники80. Из-за их взглядов возникают задержки в оказании помощи тем, кто в ней нуждается. Например, в некоторых странах Африки голод становится все более острым из-за нежелания принимать гуманитарную помощь в виде продуктов питания, которые могут содержать генетически модифицированные организмы81.

В нынешнюю эпоху, когда технологии позволяют все активнее вмешиваться в наше тело и разум, возникает новый тип сопротивления техническому прогрессу. Его сторонники выступают за «принципиальную человечность», отрицая любые изменения в природе человека82. Неодобрение вызывают технологии модификации генома, влияние на свертывание белков и другие шаги на пути к радикальному продлению жизни. Такие взгляды не будут широко распространены, потому что спрос на методы терапии, избавляющие от боли, немощи и смерти – обязательных атрибутов нашего жизненного пути в теле природной версии, – быстро станет массовым.

Когда люди слышат о перспективах радикального продления жизни, у них возникают два основных возражения. Во-первых, это вопрос истощения материальных ресурсов при неограниченном росте населения. Мы часто слышим о том, что ископаемые источники энергии, чистая вода, жилье, земля и другие ресурсы, необходимые для поддержания растущего числа жителей, находятся на исходе. Кажется, что, если смертность начнет резко падать, эта проблема только усугубится. Однако, как я уже подробно описывал в главе 4, когда мы начнем рационально использовать земные ресурсы, мы поймем, что их запасы в тысячи раз превышают наши потребности. Например, солнечный свет способен дать в 10 000 раз больше энергии, чем необходимо, чтобы удовлетворить все наши нужды83.

Второй аргумент заключается в том, что нам будет невыносимо скучно заниматься одними и теми же вещами на протяжении многих веков. Однако уже в 2020-х годах мы начнем пользоваться компактными устройствами виртуальной и дополненной реальности. А в 2030-х эти технологии будут интегрированы непосредственно в нашу нервную систему с помощью нанороботов, которые будут передавать сигналы нашим органам чувств. Таким образом, в дополнение к продлению срока жизни мы получим феноменальное расширение жизненного опыта. Мы сможем путешествовать по обширным просторам виртуальной и дополненной реальности, ограниченным только нашим воображением, которое, в свою очередь, значительно расширится. Даже прожив сотни лет, мы не успеем исчерпать всех возможностей для получения знаний и культурного опыта.

Искусственный интеллект – это революционная технология, которая поможет нам решить множество насущных проблем, в том числе победить болезни, бедность, остановить разрушение окружающей среды, преодолеть все наши человеческие несовершенства. На нас лежит моральная обязанность воспользоваться благами новых технологий, избежав при этом вреда от них. И у нас уже есть подобный опыт. В начале этой главы я упоминал, как, будучи мальчишкой, участвовал в учениях по гражданской обороне, готовясь к ядерной войне. Когда я рос, большинство людей вокруг меня считало ядерный конфликт почти неизбежным. Тот факт, что мы как цивилизация нашли в себе силы и разум воздержаться от применения этого ужасающего оружия, вселяет уверенность, что в наших силах столь же ответственно подойти к использованию биотехнологий, нанотехнологий и сверхмощного искусственного интеллекта. Мы вовсе не обречены на неудачу.

В целом у нас есть повод для осторожного оптимизма. Конечно, искусственный интеллект принесет с собой новые угрозы, но он также значительно расширит наши возможности в борьбе с ними. Что касается злоупотреблений, то новые технологии способны улучшить интеллект всех людей, независимо от их моральных убеждений. Это открывает двери для использования их как во благо, так и во вред84. Наша задача – построить мир, в котором способности искусственного интеллекта будут доступны каждому, чтобы результаты его применения отражали ценности всего человечества.

Глава 8. Разговор с Кассандрой

КАССАНДРА[6]: Я правильно понимаю, вы считаете, что к 2029 году будет создана нейросеть, которая превзойдет человека во всех проявлениях интеллекта?

РЭЙ: Все верно. С каждым днем нейронные сети демонстрируют все более высокие результаты в одной задаче за другой, постепенно опережая людей.

КАССАНДРА: И в конце концов с любой задачей, которую может решить человек, машина справится гораздо лучше?

РЭЙ: Именно. К 2029 году компьютеры станут умнее любого человека.

КАССАНДРА: Значит, чтобы пройти тест Тьюринга, искусственному интеллекту придется притворяться не таким сообразительным?

РЭЙ: Разумеется, иначе сразу станет очевидно, что человек не может обладать такими способностями.

КАССАНДРА: Вы также рассчитываете, что к началу 2030-х годов мы найдем способ проникать в мозг человека и подключаться к высшим слоям новой коры, чтобы отслеживать, что в них происходит, и вмешиваться в работу разума?

РЭЙ: Совершенно верно.

КАССАНДРА: И тогда сверхмощный искусственный интеллект, который мы создадим, станет частью нашего мозга, по крайней мере, пока мы подключены к облаку?

РЭЙ: Все правильно.

КАССАНДРА: Хорошо, но ведь эти два направления – обучение нейросетей всему, что умеют люди, и даже больше, и подключение к мозгу напрямую с помощью двусторонних каналов связи – относятся к совершенно разным областям науки.

РЭЙ: Да, это так.

КАССАНДРА: Развитие искусственного интеллекта предполагает, что исследования будут проводиться исключительно в компьютерной сфере. Вычислительные эксперименты занимают считаные дни и практически не подлежат государственному надзору. Прорывные результаты приходят один за другим, и прогресс идет невиданными темпами. Однако поместить устройство с миллионами электродов непосредственно в мозг человека – это уже совсем другая история. Необходим строгий контроль и регулирование на всех уровнях. Мы имеем дело не просто с имплантом в теле, а с мозгом – самым важным и уязвимым органом. Придется для начала убедить власти, что без таких операций не обойтись. Если таким образом мы сможем предотвратить серьезное заболевание мозга, это может стать веским аргументом. Но подключение к компьютеру не кажется достаточным основанием для проведения таких операций.

РЭЙ: В любом случае мы это сделаем – отчасти для того, чтобы устранить серьезные нарушения в работе мозга, о которых вы упомянули.

КАССАНДРА: Я согласна, что такая возможность появится, но едва ли это произойдет очень скоро.

РЭЙ: Вот почему я ожидаю, что этот замысел будет осуществлен не ранее 2030-х годов.

КАССАНДРА: Но если будет принят закон о запрете на установку имплантов в мозг, это может задержать появление такого интерфейса на десять лет, например, до 2040-х годов. Это значительно повлияет на ваш предполагаемый график подключения людей к суперкомпьютерам. Например, машины успеют полностью лишить людей работы, вместо того чтобы стать помощниками и расширить наш интеллект.

РЭЙ: Во-первых, прямое подключение ИИ к мозгу очень удобно – имплант невозможно потерять, как мобильный телефон.