В США заявили, что ИИ способен помочь пользователям создать биооружие

Вашингтон, 3 августа, 2024, 18:28 — ИА Регнум. Чат-боты с искусственным интеллектом (ИИ) способны помочь пользователям создать биологическое оружие, и ситуация грозит обернуться «кошмаром» для правительств стран мира, отметили в своей публикации 3 августа обозреватели агентства Bloomberg.

Генеративный ИИ продолжает совершенствоваться, и люди могут использовать его для создания «самых отвратительных вещей», в том числе вирусов и токсинов, сказал изданию биолог, доцент Массачусетского технологического института Кевин Эсвелт.

«Сегодня мы не можем защититься от этого», — заявил Эсвелт.

Весной 2023 года биохимик, бывший инспектор ООН Рокко Касагранде предупредил чиновников администрации США о возможности создания с помощью чат-ботов биологического оружия. К таким выводам Касагранде пришел после того, как компания Anthropic, разработчик чат-бота Claude, попросила его протестировать научные возможности нейросети и выяснилось, что Claude и другие чат-боты способны научить пользователей создавать потенциально опасные вирусы.

Ответы чат-бота выходили за рамки того, что можно найти в Google, а иногда он выдавал даже ту опасную информацию, о которой пользователь не спрашивал, к примеру, о способах максимально быстро заразить человека, отметила старший аналитик Gryphon Одри Серлес.

Руководители администрации США отнеслись к ситуации всерьёз, заявили авторы. Крупные компании в области ИИ обязались оценивать «наиболее значимые риски» в сфере биологической безопасности, а Белый дом издал указ, предусматривающий усиление контроля за финансируемыми государством исследованиями искусственных геномов, сказано также в публикации.

При этом директор Центра безопасности в области здравоохранения при Университете Джонса Хопкинса Том Инглесби заявил, что властям США стоит занять ещё более жесткую позицию и регулярно проверять компании, занимающиеся ИИ, отметили также авторы.

Как передавало ИА Регнум, в ноябре 2023 года предприниматель Илон Маск в беседе с занимавшим тогда пост премьер-министра Великобритании Риши Сунаком заявил, что ИИ со временем избавит людей от необходимости работать. Беседа Маска и британского премьера прошла после конференции по вопросам ИИ, на которой обсуждались потенциальные риски использования этой технологии, включая создание биологического оружия, кибератаки и потерю контроля над технологиями. Маск признал, что не уверен, сможет ли человечество контролировать ИИ.

Начальник войск радиационной, химической и биологической защиты Вооружённых сил России генерал-лейтенант Игорь Кириллов ранее отмечал, что ЦРУ участвует в американских военно-биологических программах, в том числе через исследовательскую корпорацию RAND, с помощью ИИ планировавшую крупномасштабные биологические атаки. В США продолжается программа создания биологического оружия, а одна из задач Пентагона — «биологический шантаж» — предполагает анализ эпидобстановки вдоль границ геополитических противников, заявил также Кириллов.