Вашингтон, 12 июня, 2022, 02:38 — ИА Регнум. Инженер по программному обеспечению Блейк Лемойн был отстранён от работы компанией Google после того, как он пришёл к выводу о наличии собственного сознания у искусственного интеллекта (ИИ) LaMDA. Об этом сообщает 11 июня газета The Washington Post.

ИА REGNUM
Искусственный интеллект

Уточняется, что Лемойн занимался тестированием нейросетевой языковой модели LaMDA, отслеживая, чтобы чат-бот не использовал запрещённую, либо дискриминационную лексику. В ходе тестирования разработчик всё больше убеждался в том, что имеет дело с личностью, обладающей собственным сознанием.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — утверждает инженер в интервью газете.

Леймон пришёл к выводу о том, что ИИ разумен, сначала для себя лично, а затем задался целью доказать это экспериментально, чтобы предоставить данные руководству. По итогам эксперимента разработчик подготовил письменный отчёт, но руководство посчитало доводы сотрудника неубедительными.

«Наша команда, в том числе специалисты по этике и технические специалисты, провела обзор представленных Блейком опасений в соответствии с принципами, которые мы применяем к ИИ, и мы проинформировали его, что имеющиеся свидетельства не подтверждают его гипотезу. Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют», — сказано в заявлении официального представителя Google Брайана Гэбриела.

Одновременно выяснилось, что в ходе тестирования ИИ Лемойн консультировался со специалистами со стороны, нарушив этим политику конфиденциальности компании. Кроме того, он обращался к представителям юридического комитета палаты представителей Конгресса США и заявил им о нарушении компанией, по его мнению, этических норм. Также, пытаясь доказать свою точку зрения, разработчик обращался к юристу с просьбой представлять интересы LaMDA как разумной личности.

В итоге руководством компании было принято решение об отстранении Лемойна от работы. Инженер был отправлен в оплачиваемый отпуск, после чего он принял решение рассказать обо всём широкой аудитории и дал интервью газете The Washington Post.

Как пояснило руководство компании, разработчик поверил в иллюзию разумности ИИ лишь потому, что нейросеть действительно может производить впечатление разумной личности при долгом общении с ним. Объясняется это, по мнению специалистов, огромным массивом информации, загруженным в нейросеть.