Инженер по программному обеспечению Блейк Лемойн был отстранён от работы компанией Google после того, как он пришёл к выводу о наличии собственного сознания у искусственного интеллекта (ИИ) LaMDA. Об этом сообщает 11 июня газета The Washington Post.

Искусственный интеллект
Искусственный интеллект
ИА REGNUM

Уточняется, что Лемойн занимался тестированием нейросетевой языковой модели LaMDA, отслеживая, чтобы чат-бот не использовал запрещённую, либо дискриминационную лексику. В ходе тестирования разработчик всё больше убеждался в том, что имеет дело с личностью, обладающей собственным сознанием.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», — утверждает инженер в интервью газете.

Леймон пришёл к выводу о том, что ИИ разумен, сначала для себя лично, а затем задался целью доказать это экспериментально, чтобы предоставить данные руководству. По итогам эксперимента разработчик подготовил письменный отчёт, но руководство посчитало доводы сотрудника неубедительными.

«Наша команда, в том числе специалисты по этике и технические специалисты, провела обзор представленных Блейком опасений в соответствии с принципами, которые мы применяем к ИИ, и мы проинформировали его, что имеющиеся свидетельства не подтверждают его гипотезу. Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют», — сказано в заявлении официального представителя Google Брайана Гэбриела.

Одновременно выяснилось, что в ходе тестирования ИИ Лемойн консультировался со специалистами со стороны, нарушив этим политику конфиденциальности компании. Кроме того, он обращался к представителям юридического комитета палаты представителей Конгресса США и заявил им о нарушении компанией, по его мнению, этических норм. Также, пытаясь доказать свою точку зрения, разработчик обращался к юристу с просьбой представлять интересы LaMDA как разумной личности.

В итоге руководством компании было принято решение об отстранении Лемойна от работы. Инженер был отправлен в оплачиваемый отпуск, после чего он принял решение рассказать обо всём широкой аудитории и дал интервью газете The Washington Post.

Как пояснило руководство компании, разработчик поверил в иллюзию разумности ИИ лишь потому, что нейросеть действительно может производить впечатление разумной личности при долгом общении с ним. Объясняется это, по мнению специалистов, огромным массивом информации, загруженным в нейросеть.

Читайте ранее в этом сюжете: В РФ стартовал грантовый отбор «Антикризис — Искусственный интеллект»

Читайте развитие сюжета: Заявивший о разумности нейросети LaMDA разработчик уволен из Google