Верхум - Георгий Леонардович Васильев Страница 114

и обучают их на разных данных. Если от какого-то ИИ-актора исходит угроза, то у верхума всегда есть возможность противопоставить ему другого ИИ-актора. К примеру, если какая-то разновидность ИИ распространяет ложные новости и дипфейки, то другую разновидность ИИ можно приспособить к тому, чтобы их отлавливать и разоблачать.

Помните Башню проб и ошибок из шестой главы? Я изобразил её в виде шестиэтажной Пизанской башни. Эта башня иллюстрировала этапы развития разума на Земле. Первый этаж символизировал появление живых существ, а пятый – появление верхумов. Тогда я сказал, что заселение шестого этажа уже началось, но этим и ограничился. Теперь я могу уточнить, что имел в виду появление искусственного интеллекта. Пока неясно, к чему это приведёт. Как видите, сценариев развития событий много. Но с моей точки зрения, искусственный интеллект не станет главным действующим лицом на планете. Скорее всего, он будет интегрирован в Верхум. Осмелюсь высказать надежду, что со временем Верхум найдёт способ приручить искусственный интеллект, так же как он приручил человека. Ну хотя бы потому, что Верхум будет становиться всё умнее и сильнее с каждым новым подключённым к нему ИИ-актором[440].

Я сэкономлю ваше время и на этом закруглю свой обзор сценариев будущего. Добавлю лишь один – чисто в психотерапевтических целях. Это наименее тревожный сценарий из всех, что мне пришли на ум. Он исходит из того, что у искусственного интеллекта нет собственных целей. Все его разновидности создаются исключительно для нужд людей и верхумов. То есть цели ИИ-акторам задаются извне. Их учат оптимизировать рекламу, переводить тексты, водить машины, ставить диагнозы, торговать на бирже, рисовать картинки и так далее. Если такая ситуация сохранится, то ИИ-акторы так и останутся “рабочими лошадками”. А смысл их работы будут определять верхумы и люди, которые уж как-нибудь между собой договорятся. По крайне мере, до сих пор им это удавалось.

Как с этим жить?

Помните, с чего начиналась эта книга? Я сослался на мнение нескольких смелых футурологов, которые предсказали, что в скором времени на Земле появится интермозгонет, или брейн-нет, – колоссальный гипермозг, объединяющий мозги людей и компьютеров. Здесь, в конце книги, после всего, что мы узнали о верхумах, эта идея уже не выглядит слишком экстравагантной. И футуристической её тоже не назовёшь. Сверхразум человечества – это не туманное будущее, а исторический факт.

Сейчас Верхум человечества использует в своей работе интеллектуальные способности миллиардов людей, современные компьютеры, телекоммуникации и искусственный интеллект. Но он успешно функционировал и без искусственного интеллекта. Верхум генерировал и распространял огромное число мемов и 50 лет назад, когда ещё не было интернета, и 100 лет назад, когда не было компьютеров, и 200 лет назад, когда для связи ещё не использовались электрические сигналы. Большие и малые верхумы вовсю перерабатывали и запоминали мемы на протяжении тысяч лет – задолго до того, как были изобретены книгопечатание, навигация и письменность. Верхум существовал даже до появления человека, точнее, человека разумного. Два миллиона лет назад верхум в каком-то виде уже умел производить и накапливать полезные мемы, помогая естественному отбору создавать наш биологический вид. Звучит странно, но это так: верхум намного древнее, чем Homo sapiens.

Сколько всего верхумов на Земле? Трудно сказать точно. Но порядок цифр мы можем оценить. Верхумом обладает любой, даже самый малый социум, в котором люди объединены общим культурным укладом. Верхум возникает и у семьи, и у компании друзей, и у трудового коллектива, и у стабильной группы в соцсети. А раз так, то общее число верхумов на планете должно измеряться сотнями миллионов, а возможно, и миллиардами. Человечество представляет собой экосистему всех верхумов Земли. А Верхум этой экосистемы – как раз и есть тот самый сверхразум, который привиделся футурологам.

Человек – продукт Верхума. Его голова наполнена идеями, подавляющее большинство которых попало туда в виде мемов – новостей, лайфхаков, профессиональных знаний, научных теорий, религиозных догм, норм морали и многого другого. Совокупность всех этих мемов представляет собой культуру, которую Верхум регулярно воспроизводит и доносит до человека. Даже самые фундаментальные представления человека о мире формируются Верхумом. Верхум понял сам и объяснил человеку, что такое время, пространство, масса, энергия, Вселенная, элементарные частицы. Фактически Верхум придумал мир, в котором современный человек живёт. И это ещё не всё. Верхум воспроизводит особый тип мемов – мемы-институты, которые формируют менталитет человека и влияют на его поступки. Так Верхум обретает власть над человеком. Грубо говоря, с помощью институтов Верхум заставляет человека работать на себя.

Мы привыкли жить среди верхумов – получать письма от госучреждений, заключать договоры найма с корпорациями, жертвовать деньги благотворительным организациям, ругать парламенты за плохие законы. Мы считаем совершенно естественным относиться к ним как к личностям, хотя они не люди. Однако гораздо чаще верхумы остаются для нас невидимками, а их влияние непостижимо. Мы не понимаем, откуда берутся наши убеждения и наша система ценностей. Мы не знаем, из каких источников к нам поступают подавляющее большинство мемов. А уж про бесчисленные мемы, которые проходят мимо нас, я вообще не говорю. Всё это – работа верхумов, но мы её не замечаем.

И это неудивительно. Можно ли ждать от нейрона, что он возвысится до понимания человеческого мышления? Он даже не ведает, что является частью мозга. Нейрон живёт как умеет – добывает себе пропитание, вырабатывает нейромедиаторы, отращивает дендриты, обменивается информацией с другими нейронами. А мышление человека происходит будто бы в другом измерении. Оно возникает как эмерджентное свойство неуёмной нейронной активности.

Люди подобно нейронам просто живут – получают образование, зарабатывают деньги, растят детей, обмениваются новостями, ссорятся, мирятся, продают, покупают, чего-то боятся, к чему-то стремятся. А мышление Верхума возникает как эмерджентное свойство этой активности людей. Благодаря ей Верхум генерирует, сравнивает, улучшает и запоминает мемы.

Но на этом сходство между нейроном и человеком заканчивается. Если одноклеточному нейрону не дано постичь мысли мозга, то человек разумный вполне способен воспринимать мемы, которые доносит до него Верхум. Вынырнув из повседневных забот, человек рано или поздно задаётся вопросом: откуда взялось всё это богатство идей, которое меня окружает? Ну предположим, технологии кто-то когда-то изобрёл. Но как появились значения слов, представления о красоте, этические нормы, универсальные ценности или законы природы? Поневоле задумаешься о сверхразуме, который всё это породил.

Мысль о сверхразуме преследовала человека на протяжении всей его долгой истории. Роль сверхразума выполняли и духи предков, и боги разных стихий, и единый Бог, который, как мы видели, сильно напоминает Верхум человечества. Даже закоренелые атеисты