Foreign Policy: Когда Пентагон создаст автономных роботов-убийц?

Министерство обороны США 12 февраля представило «дорожную карту» по развитию технологий искусственного интеллекта. Самое интересное заключается в том, чего не хватает в этой «дорожной карте»: военные так и не смогли приблизиться к созданию автономного оружия, способного думать и действовать самостоятельно, пишет Лара Селигман в статье для издания The Foreign Policy.

Читайте также: Project Syndicate: США и Израиль вместо мира предлагают Палестине апартеид

Как оказалось, военное использование искусственного интеллекта (ИИ) сегодня и в обозримом будущем останется более прозаичным, чем принято думать. У Пентагона есть несколько пилотных проектов, предполагающих использование ИИ для решения повседневных проблем, включая ликвидацию последствий наводнений, борьбу с пожарами и техническое обслуживание военного оборудования, заявил генерал ВВС Джон Шэнахэн, который возглавляет новый Объединённый центр искусственного интеллекта Пентагона.

«Мы нисколько не приблизились к полной автоматизации, о которой большинство людей, похоже, делают поспешные выводы», — заявил Шэнахэн во время брифинга во вторник, 12 февраля.

Вопрос заключается не в том, что оборонное ведомство США никогда всерьёз не задумывалось о разработке полностью автономного оружия. В 2012 году Пентагон опубликовал директиву об автономном оружии, в которой говорилось о том, что представляет собой автономная система оружия и как её нужно задействовать. В директиве было чётко указано на то, что за автономной системой всегда будет следить человек, однако насколько будет минимизирован контроль со стороны человека — это открытый вопрос.

Современные высокоточные ракеты уже обладают определенной автономностью. Технология «выстрелил и забыл» не требует вмешательства со стороны человека после осуществления запуска ракеты. Однако до создания полностью автономного оружия, представленного в таких фильмах, как «Терминатор» и «Я, робот», ещё очень далеко, считают эксперты.

«Давайте сравним, скажем, дистанционно пилотируемый беспилотник Reaper с полностью автономным беспилотником Reaper. Очень трудно получить автономный Reaper, способный самостоятельно принимать решение, стрелять или нет. Некоторые эксперты считают, что ИИ так никогда и не сможет принимать такие решения», — заявил профессор политологии из Университета Пенсильвании Майкл Горовиц.

Для создания системы, аналогичной вымышленной системе «Скайнет» из фильма «Терминатор», которая обладает сознанием и пытается уничтожить человечество, потребуется «множество прорывных достижений в скорости и эффективности алгоритмов», что, по мнению большинства исследователей в области ИИ, станет возможным лишь в отдалённом будущем, заявил Горовиц.

Проблема заключается в огромном количестве данных, необходимых для обучения алгоритмам на случай непредвиденных обстоятельств, с которыми может столкнуться автономная система в постоянно меняющихся условиях реального сражения. Причём система должна функционировать таким образом, чтобы контролирующий её оператор, мог бы полностью ей доверять.

Новая стратегия министерства обороны США в сфере ИИ является по большей части продолжением политики предыдущей администрации. Новая стратегия предусматривает ускорение процесса внедрения технологий ИИ; развитие партнёрских отношений с промышленными и научными кругами, союзниками и партнёрами; подготовку квалифицированных кадров в сфере ИИ, а также лидерство США в области военной этики и безопасности ИИ.

В ближайшем будущем использование ИИ будет выглядеть весьма прозаично. Объединенный центр искусственного интеллекта запустил две пилотные программы: одна направлена на оказание гуманитарной помощи в случае стихийных бедствий, а другая — на проведение профилактического обслуживания техники.

Читайте также: Project Syndicate: Франция и ФРГ должны изменить правила игры

По словам Шэнахэна, в рамках противопожарной миссии использование ИИ значительно ускорит процесс отслеживания лесных пожаров. Проект Пентагона по борьбе с последствиями стихийных бедствий был запущен после недавних разрушительных лесных пожаров в Калифорнии, добавил Шэнахэн.

Что касается второго пилотного проекта, то министерство обороны намерено использовать ИИ для проведения профилактической диагностики технического состояния вертолётов семейства Sikorsky H-60, которые используют все военные службы. Диагностика необходима для более точного прогнозирования необходимости ремонта.

Отдельно Пентагон продолжает работу над проектом Project Maven, который использует ИИ для анализа изображений, полученных с камер видеонаблюдения беспилотников, летающих над полями сражений, в том числе на Ближнем Востоке и в Африке.