Третья мировая может оказаться не самой страшной угрозой

Всё больше экспертов задаются абсолютно всерьез вопросом: идет ли мир к третьей мировой? А может, уже пришел? Правда, другие им возражают: мол, да ладно, это преувеличение, что, разве со времен Второй мировой никогда похожих ситуаций не складывалось? И как-то каждый раз разруливали.

Но последние игнорируют самый важный вопрос: а из-за чего они, собственно, случаются — мировые войны? Как нас всех учили в школе — из-за «неразрешимых противоречий». А вот из-за каких именно, от трактовки зависит. Кто-то скажет — экономических, кто-то — империалистических. Кто-то — идеологических.

Предложу свою версию — антропологических.

Судите сами, в начале прошлого века на Европейском континенте уже не могли мирно сосуществовать два типа: старый — «человек-подданный» и новый — «человек-гражданин». Первые жили в империях, вторые — в республиках (даже если одна из них была замаскирована под британскую монархию). Кстати, Российская империя тогда «заблудилась» и вступила в войну на стороне «граждан».

Если взять Вторую, то там еще очевидней: арийский «сверхчеловек», советский «новый человек» и представитель западного «свободного мира» — это принципиально разные варианты развития нашего вида. Они не могли жить вместе, как кроманьонцы с неандертальцами. Аналогия не прямая, конечно. Но исход похожий.

А что сегодня? А сегодня еще хуже. Неразрешимый конфликт сложился между теми, кому вполне комфортно оставаться, скажем так, «традиционным» человеком, и теми, кто всеми силами стремится в постчеловечество. И пусть количественно последних не так много, но в среде интеллектуалов, тех, кто видит будущее как киборгизацию человека, как слияние его с компьютером, всё больше. И эта устремленность создала удивительную ситуацию, поистине невиданную в истории человечества, когда уже не понятно, что для его судьбы опасней — война или мир. Потому что дальнейшее мирное развитие в том же направлении таит в себе невиданную угрозу.

За всеми перипетиями боевых действий, которые распространяются по планете всё шире, большинство позабыло о беспрецедентном предупреждении, прозвучавшем минувшей весной. Тогда группа весьма влиятельных и осведомленных людей опубликовала открытое письмо с призывом к центрам, исследующим искусственный интеллект (ИИ), «немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4». В случае отказа они требовали вмешаться в ситуацию соответствующие правительства.

Более тысячи подписантов, среди которых были глава Tesla, SpaceX и X Илон Маск, сооснователь Pinterest Эван Шарп и сооснователь Apple Стив Возняк и множество менее известных экспертов и исследователей вопрошали: «Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?».

А следом известный специалист в области ИИ Элиезер Юдковский выступил и вовсе с паническим заявлением. Он подчеркнул, что процесс разработки новых алгоритмов никак и никем не контролируется. И появление ИИ, обладающего если не самосознанием (что такое сознание никто на самом деле не может сформулировать), то скажем так — самостоятельным интересом, станет угрозой для жизни на Земле.

«Если кто-то создаст слишком мощный ИИ в нынешних условиях, я ожидаю, что вскоре после этого умрет каждый представитель человеческого рода и вся биологическая жизнь на Земле», — заявил Юдковский.

Он потребовал запретить эксперименты в данной сфере, которые не находятся под контролем государственных структур, и буквально разбомбить те центры, которые откажутся подчиниться. При этом он подчеркивал, что любой военный конфликт будет менее катастрофическим, чем «рождение» «самосознающего» ИИ.

К чему такая паника? — подумало человечество. Прогресс ведь это же здорово! Но подавляющее большинство землян даже не знают, что такое сингулярность. А речь во всех этих угрожающих требованиях именно о ней. Ряд экспертов и футурологов предрекают ее наступление вот-вот, буквально в течение ближайших лет.

Но что это за «зверь» такой? В астрофизике — это точка, возникающая при формировании черных дыр, в которой уже не действуют физические законы нашей вселенной.

Однако одни жаждут, а другие стремятся не допустить так называемую «технологическую сингулярность».

По Рэю Курцвейлу, изобретателю и футурологу, автору бестселлера «Сингулярность уже близко», это «период в будущем, когда темпы технологического прогресса окажутся настолько высокими, когда влияние технологий станет настолько глубоким, что человеческая жизнь безвозвратно перевернётся».

Причем и он, и его сторонники честно признаются, что, как и в случае с черной дырой, описать, что произойдет после того, как ИИ пройдет так называемый «тест Тьюринга», то есть будет признано, что он обладает «сознанием» (что бы под ним ни подразумевалось), совершенно невозможно.

Курцвейл верит, что с этого момента начнется стремительное преобразование всей реальности в гигантский компьютер, что откроет совершенно немыслимые перспективы, которые звучат пока совершенно фантастично. Но судя по письмам-предостережениям отнюдь не праздных людей, на самом деле это всё уже совсем не фантастика.

Да и сам Курцвейл не какой-то фрик-мечтатель. Он в 2009 году создал и возглавил Университет сингулярности, сооснователями которого стали NASA и Google…

Так в чём же уникальность этой угрозы? А в том, что большинство человечества не только не в курсе этих «блестящих перспектив», не только даже помыслить их может с трудом, но и, разумеется, не давало ни устно, ни письменно согласия на необратимое преображение их жизни с совершенно непрогнозируемыми последствиями.

Адепты сингулярности мошеннически спекулируют на вере людей в прогресс. До сих пор ведь он вроде не подводил. Да и вообще, говорят они, зачем существует человечество, если не ради прогресса?

И это чудовищная подмена — не прогресс на службе человека, а сам человек лишь элемент, лишь фаза прогресса, который его преодолеет и понесется в абсолютно бесчеловечное будущее, в котором адепты сингулярности рассчитывают обрести бессмертие (ограниченное лишь смертью самой вселенной), фактически перестав быть биологическими существами. И это не преувеличение. Некоторые разработчики всерьез говорят о том, что, возможно, человек лишь этап в эволюции разума. И его задачей было создать ИИ, который уже дальше будет эволюционировать самостоятельно.

И тут понимаешь, что в инквизиции было здоровое зерно. Ведь эта структура, с перегибами на местах, конечно, отслеживала на пользу то или иное открытие Человеку с большой буквы. То есть не может ли оно поколебать его восприятие себя как образа Божия? И вот мы видим, что идея Прогресса (тоже с большой буквы), как цели и смысла существования человечества появляется в XVIII веке. Как раз когда Французская революция объяснила при помощи гильотины, что «человек — это звучит гордо». И быть образом Божьим «непрогрессивно».

Кстати, тысячелетия до этого человечество жило вовсе без идеи прогресса. И вот, с того момента, как его впервые возвели на пьедестал для массового поклонения, минуло всего-то два с половиной века, и теперь человеку объясняют, что ему пора вовсе отказаться от субъектности и вручить свою судьбу Искусственному интеллекту, потому что это опять же «прогрессивно». А с Прогрессом не спорят.

И вот между теми, кто уже готов к киборгизации и полному переселению в виртуальные миры, и теми, кто выбирает «традиционные ценности» — то есть просто остаться человеком (и кого киборги просто спишут в утиль), явно сложились неразрешимые противоречия.

Но нет, скажет кто-то, человек же разумное существо, и все эти великие умы как-то найдут способ нейтрализовать угрозу, которую сами же породили. Тем более что они ее осознают.

И здесь фундаментальная ошибка: человек существо умное, но далеко не всегда разумное, то есть ответственное. Вернемся, к примеру, к тому же Курцвейлу. Ему сейчас 75 лет. И он очень не хочет умирать. Открытые источники сообщают, что для него выработан специальный режим, включающий сотни таблеток, внутривенные вливания и другие методы, целью которых является продление жизни. До каких пределов? Он сам отвечает: он ждет, когда ИИ создаст нанороботов и иные технологии, которые смогут не просто поддерживать его жизнь, но радикально его обновить. И он уверен, что дотянет на своих добавках до этого момента, что он близок. И причем тут риски, причем судьба человечества, когда речь идет о твоей личной, уходящей жизни? Для него-то в этой ситуации и нет никакого риска, а есть шанс. И вы думаете он один такой среди влиятельных старцев?

Снова стоит вспомнить Достоевского. Герой «Записок из подполья» говорит: «Свету ли провалиться, или вот мне чаю не пить? Я скажу, что свету провалиться, а чтоб мне чай всегда пить».