Пока мы не сбились с пути - Деннис Э. Тейлор Страница 7

– Ну да, но я же сказал – целый век прошел, черт побери, а прогресс нулевой.

– Значит, ты просто недостаточно умен. – Хью рассмеялся, увидев мой притворный гнев, а может, и не стопроцентно притворный. – Билл, все нормально. Я такой же, как и все остальные Бобы. Несколько экс-людей, которые при жизни были физиками, тоже занимались этой проблемой – как до, так и после смерти. И они тоже ничего не добились. Так что это просто сложная задача. Не забывай: мы – скоростные суперинтеллекты, но тот факт, что после жизни мы стали компьютерами, не сделал нас умнее. В данном случае, как и при создании разумного ИИ, возможно, понадобится тот, кто сделает шаг назад и критически проанализирует основные предположения. А может, люди просто недостаточно разумны, чтобы учесть все параметры. В любом случае теперь у нас есть Тот. Или, по крайней мере, скоро мы его получим.

Я медленно выпрямился.

– Ладно, Хью, я понимаю твои доводы и во многом их разделяю. Просто меня беспокоит, что вы пытаетесь срезать углы. – Я оглянулся. – Но, кажется, еще остался ряд с десертами, к которому я еще не подходил.

– Чизкейк, – ответил Хью и, театрально застонав, встал с кресла. – Чизкейк – это воплощение зла.

* * *

Я слегка схитрил, оставив себе чуть больше места для десерта. Ассортимент десертов впечатлил меня не меньше, чем шведский стол, и сейчас я понял, что смотрю на пустые тарелки, на которых совсем недавно был чизкейк, мороженое с шоколадным соусом, печенье нескольких видов и большой кусок торта «Красный бархат». Будь я все еще биологическим существом, то, вероятно, уже умер бы – или, по крайней мере, впал в кому от избытка сахара.

Прилагая огромные усилия, я сумел согнуться настолько, чтобы сесть чуть прямее.

– Хью, скажи, кто-нибудь вообще определил то, как именно будет выглядеть высший разум?

Прежде чем ответить, Хью застонал и слегка поерзал в кресле.

– Кое-какие предположения у нас есть. Все варианты вполне вероятные, большинство из них – не взаимоисключающиеся, и ни один не является неизбежным. Возможно, этот разум сможет держать в уме гораздо больше переменных одновременно. Люди, кажется, могут учитывать только семь, а остальные уже начинают сгружать в кратковременную память. Многозадачность. Людям она доступна – до какой-то степени, – но при этом задача, сильно нагружающая интеллект, может быть только одна. То есть ты можешь обдумывать свой предстоящий доклад, когда ведешь машину, но не когда подсчитываешь свои расходы. Способность решать рекурсивные задачи – такие как предсказание действий человека, который знает, что ты пытаешься предсказать его действия. Улучшенная способность моделировать реальность. Способность обнаруживать последовательности в данных такая же, как у экспертной системы.

– Но ничего по-настоящему революционного или совершенно нового?

– Откуда нам знать, Билл? Мы можем вообразить себе нечто подобное не больше, чем пес может представить себе чтение и письмо.

Я хмыкнул, заметив возможность направить разговор в нужное мне русло.

– Интересно, как вы сможете ему доверять?

– Повторяю: загрузка кармы, – ответил Хью. – Название туповатое, я понимаю. Фактически она заключается в том, чтобы привить ИИ те же нравственные ценности, которые есть у людей. Это позволяет устранить такие сложности, как «проблема скрепки», ведь теперь ИИ понимает, что превращать все на свете в скрепки – плохо. Большинство жутких сценариев, в которых участвует ИИ, основано на том, что он интерпретирует идеи буквально и не обдумывает последствия. Но, по мнению некоторых, разумный ИИ с меньшей вероятностью будет действовать словно безмозглый зомби, поскольку будет обладать самосознанием.

– Да, Хью, но в этом случае ты учишь Тота человеческой морали и одновременно говоришь ему о том, что он – не человек. Интересно, как оно все выйдет в итоге.

– Никакого доступа к физической реальности, Билл. Не только никакого доступа к «бродягам» и тому подобному. Мы даже не станем запускать Тота на реальной технике: он будет работать в виртуальной реальности на виртуальной машине и общаться с нашими виртуальными версиями. Даже если он научится управлять слабовольными созданиями, словно джедай, то при этом будет просто переманивать на свою сторону аватаров.

Я не ответил. «Прыгуны», похоже, все продумали. По крайней мере, у них были заготовлены ответы на все вопросы, хотя это не всегда одно и то же.

Я надеялся, что у меня просто паранойя. Более того, я надеялся, что она и у АНЕКа.

7

Реванш

Хершел. Январь 2330 г. На пути к 40 Эридана

Я плавал в секции «Беллерофонта», в котором располагался двигатель ВСПЛЕСК. Он был легко узнаваем – ведь, в конце концов, способов построить такой двигатель не так много, но Другие, разумеется, многие вещи проектировали совершенно по-своему. Данный двигатель, в частности, сильно зависел от главного компьютера – в отличие от наших двигателей, которыми управляли независимые подсистемы. Контроллер ВСПЛЕСКа принимал команды высокого уровня и превращал их в детализированные инструкции, которые необходимы для выполнения приказа. Интересно, что это может поведать нам о Других?

Мы летели от Нового Пава к 40 Эридана и воспользовались этой возможностью, чтобы наконец-то завершить ремонт «Беллерофонта». Брошенный корабль Других был продырявлен в ходе нападения на Дельту Павлина, и хотя пробоину в корпусе мы заделали, трогать поврежденные двигатели и центральный компьютер не стали. Вместо этого мы создали комплект пластин с двигателями, чтобы, так сказать, транспортировать транспорт.

Но десятикилометровый корабль, который тащит куча летающих вокруг него пластин, управляемых совершенно отдельной системой, был в лучшем случае неприглядным зрелищем.

В ходе ремонта нам очень пригодилось сырье, которое мы собрали в системе Нового Пава. Хотя мы и не собирали двигатель с нуля, нам все равно пришлось заменить крупные его части. А двигатель, который приводил в движение столь массивный корабль, был в буквальном смысле слова крупнее линкора.

– Как дела? – написал в сообщении Нил.

Я скорчил гримасу, хотя он и не мог меня видеть.

– Проблем как таковых нет – все идет по плану, и детали прошли все тесты. Но ты же понимаешь, что будет, когда мы подключим спирали главного поля?

– Да. Начнется проверка всех систем – со всеми сопутствующими рисками.

– Ну, я не знаю, много ли тут риска. Мы возьмем…

– Херш, по-моему, застрять в межзвездном пространстве – это не очень хорошо.

Я вздохнул.

– Вот почему, прежде чем что-либо предпринимать, мы выключим пластины и сложим их в грузовом отсеке. До 40 Эридана еще несколько лет. Времени на устранение ошибок полно.