«Паразит на человеческом интеллекте». Как не запутаться в нейросетях

Искусственный интеллект GPT-4, как и другие нейросети, сейчас находится в центре интереса, у кого-то восторженного, у кого-то испуганного.

Роботы начинают делать то, что еще недавно считалось исключительной прерогативой человека, — сочинять осмысленные тексты. Статьи, стихи, проповеди, даже мирные договоры. Они могут рисовать картины по заданию пользователей гораздо быстрее, чем профессиональные иллюстраторы.

Сейчас любой может задать нейросети вопрос и получить вполне содержательный ответ. Более того, есть масса приложений для телефона, которые позволяют — если вы загрустили — пообщаться с терпеливым и всегда благожелательным собеседником.

Многие говорят о том, что мы переживаем «самую большую технологическую революцию со времен изобретения колеса». Одни делятся паническими прогнозами — нейросети, по меньшей мере, обрушат рынок труда, оставив не у дел массу народа «творческих профессий», а то и захватят планету, покончив с людьми.

Другие, напротив, полны фактически религиозных упований — искусственный интеллект решит все наши проблемы.

Премудрые компьютеры разработают уже без помощи людей еще более премудрые, те породят интеллект столь могучий, что он избавит нас от всех несчастий, да и самой смерти. И явится то, что ревностные адепты технокультов называют «сингулярностью» — благое преображение всего мироздания мощью искусственного разума, который, познав все тайны природы, найдет даже способ воскресить мертвых.

Однако и эти страхи, и эти надежды имеют мало общего с реальностью.

На самом деле, конечно, искусственный интеллект чреват и огромными возможностями, и серьезными опасностями, но не такими, как люди себе обычно представляют.

Когда компьютеры делают что-то, что раньше считалось исключительным для людей — ведут беседы или рисуют картины, — появляется сильный соблазн предположить, что внутри них находится кто-то вроде нас, обладающий волей и разумом. Кто-то, кто может принимать решения или вынашивать замыслы, добрые или злые.

Но это не так.

Иногда, например, нейросеть обвиняют в «расизме» из-за того, что на картинках, которые она рисует, почти одни белые. Но это никоим образом не признак того, что компьютерная программа обладает личностью и эта личность почему-то имеет зуб на темнокожих людей.

Все гораздо проще.

Сеть обучается на массиве изображений в интернете, а, зайдя на любой ресурс, где выкладываются фотографии, например, на flickr.com, вы увидите, что большинство людей на фотографиях — белые. По той очевидной причине, что возможностей покупать качественные камеры и ездить с ними по миру гораздо больше у жителей Европы и благополучных районов Северной Америки.

Этот же эффект приводит к тому, что нейросети хуже распознают лица меньшинств — просто потому, что их меньше в интернете.

Но мы склонны впадать в понятную иллюзию, приписывая компьютерным алгоритмам предпочтения или даже предрассудки. В реальности программы не могут проявлять «любви» или «ненависти». Они даже не могут мыслить, и это не вопрос мощности компьютера.

Еще в XIX веке немецкий философ Франц Брентано обратил внимание на такое свойство человеческой мысли, как «интенциональность», то есть направленность, «очёмтость». Мысли всегда имеют свой предмет, они всегда обращены к чему-то, в них всегда есть элемент личного, субъективного выбора. Вы помышляете об этом предмете, а не о другом.

Вычислительный процесс начисто лишен этого качества — он не «о чем-то», он просто обрабатывает данные согласно алгоритму.

Если, например, вводите в окошко электронного переводчика текст о творчестве раннего Мандельштама, программа (в отличие от переводчика-человека) не «понимает» в нем ни единого слова. Она просто производит подстановку в зависимости от того массива переводов, на которых она обучалась.

Если нейросеть выдает вам выжимку из статьи, это не значит, что она поняла ее содержание и пересказала своими словами, как сделал бы человек. Это значит, что ее алгоритмы обработали текст, пройдя обучение на множестве примеров того, как это делают люди.

Как сказал об этом философ Дэниел Деннет:

«Искусственный интеллект в его текущем проявлении — паразит на человеческом интеллекте. Он довольно неразборчиво пожирает то, что было произведено создателями-людьми, и выжимает паттерны, которые он там находит, включая некоторые из наших самых дурных привычек. Эти машины не имеют (пока во всяком случае) целей, или стратегий, или способностей к самокритике или инновациям, которые дали бы им возможность выйти за пределы их баз данных и подумать о их собственном мышлении и их собственных целях»

То есть ничего похожего на личность — добрую или злую — за искусственным интеллектом не стоит и едва ли появится. В этом отношении ИИ не должен быть предметом ни чрезмерных страхов, ни необоснованных надежд.

Но с ним может быть связано много реальных опасностей. Упомянем только самую очевидную: хотя программа не является личностью и не может быть вашим другом или исповедником, она может успешно имитировать и то и другое.

Приятный электронный голос не раздражается, не осуждает, не расходится с вами во мнениях, у него всегда есть на вас время. И соблазн заменить общение с людьми, часто тяжелыми, неудобными и колючими, на общение с ИИ может быть почти непреодолимым.

Социальные сети уже привели к формированию «эхокамер», когда мы находим людей, которые соглашаются с нами (даже когда мы явно неправы) и укрепляют наши предрассудки и заблуждения.

ИИ позволят людям запираться от своих ближних в добровольную тюрьму из ласковых голосов, ни один из которых не будет человеческим.

Это может разрушить не только общение, но и саму способность общаться. Не по злой воле алгоритмов — у них нет никакой воли. А потому, что таково уже несчастное состояние падшего человека — все обращать себе по вред. В том числе искусственный интеллект.