Москва, 24 мая, 2018, 19:16 — ИА Регнум. Предлагаем вашему вниманию перевод статьи Джин Дагерти и Молли Джей, опубликованную The Wilson Quarterly.

«1 сентября 2017 года. Первый учебный день в России, День знаний, президент Владимир Путин в эфире федерального канала говорит с подростками о будущем.

«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира».

Затем, в марте этого года на финише кампании по переизбранию Путина, он делает жесткое заявление в своем ежегодном послании Федеральному собранию: «Скорость технологических изменений нарастает стремительно, идёт резко вверх. Тот, кто использует эту технологическую волну, вырвется далеко вперёд. Тех, кто не сможет этого сделать, она — эта волна — просто захлестнёт, утопит».

«В кратчайшие сроки нам необходимо создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных.»

Приведут ли эти звучащие на самом высоком уроне призывы к тому, что Россия однажды будет на равных соревноваться с признанными лидерами в области ИИ? У этого могут быть далеко идущие последствия, учитывая тот факт, что уже сейчас технология используется в самых разных сферах и непосредственное ее применение может быть как полезным, так и вредоносным. В недавней пропагандистской кампании в социальных сетях, при помощи которой Россия пыталась повлиять на результаты выборов на Западе, использовались относительно базовые технологии ИИ, но и этого оказалось достаточно для создания определенного эффекта. Неизвестно, сможет ли Россия сравняться с топ игроками в области ИИ, но другие столицы, от Вашингтона до Пекина, внимательно следят за усилиями Москвы.

На сегодняшний день бесспорные лидеры в области искусственного интеллекта — США и Китай. Если сравнивать размеры инвестиций трех стран в эту сферу, российское правительство сильно уступает. По данным cnews.ru, издания о высоких технологиях, размер рынка ИИ/машинного обучения в России в 2017 году составлял менее 12 миллионов долларов. Предполагается, что к 2020 году он должен вырасти, и значительно, до 460 миллионов долларов. Но даже эта цифра крайне мала по сравнению с 7,4 миллиардов долларов, которые Пентагон направил в прошлом году на развитие ИИ и такие смежные области, как большие данные и облачные вычисления.

Китай стремительно догоняет США в этой сфере. Пекин объявил о строительстве технопарка по развитию искусственного интеллекта, предполагаемый объем инвестиций в который составляет 2,12 миллиардов долларов. Планируется, что к 2020 году стоимость рынка ИИ в Китае достигнет 24 миллиардов долларов, а в последующие пять лет эта цифра как минимум удвоится.

Но даже при том, что индустрия искусственного интеллекта в России только зарождается, бывший главный исполнительный директор Google Эрик Шмидт выражает обеспокоенность. В январе этого года на мероприятии BBC в Лондоне его спросили, что он думает о предсказании Владимира Путина о «властелине мира».

«Меня это очень беспокоит», — ответил Шмидт. «Я думаю, что и российский, и китайский лидеры осознали важность этой области, не только с точки зрения коммерческого применения, но также для военных разработок».

Начиная с царствования Петра I, как в период Советской власти, так и сейчас, при Владимире Путине, Россия стремится к тому чтобы, по выражению Ленина, «догнать и перегнать» Запад. (В случае ИИ и Восток тоже.) Призыв российского президента нужно рассматривать, пишет Сэмюэл Бендетт из Американского совета по внешней политики, как «признание текущего места России в разворачивающейся технологической гонке и указание правительству страны, частному бизнесу и военным направить необходимые ресурсы в эту область».

Найти лицо

Если Россия собирается, как говорит Путин, «использовать эту технологическую волну», ей понадобятся такие люди, как Артем Кухаренко.

Кухаренко сидит за компьютером в своем маленьком офисе, расположенном примерно в пяти километрах от Кремля. На экране компьютера — лицо женщины с тонкой сеткой белых линий на нем. Как объяснил мне Артем, это иллюстрация к программному обеспечению по распознаванию лиц, которое он разработал вместе с несколькими товарищами, а потом использовал в качестве трамплина для запуска собственной компании, NtechLab.

Программа основывается на технологии искусственного интеллекта и использует алгоритмы для мгновенного сопоставления фотографий лиц с базой изображений. Сфера ее применения довольно широка: это и распознавание лица для разблокирования смартфона, сканирование покупателей для составления базы данных, поиск пропавших людей, поиск потенциального партнера, идентификация преступников и, в некоторых случаях, сбор информации о политических оппонентах.

Кухаренко максимально, насколько это возможно в России, похож на предпринимателей из Кремниевой долины. Сын химика и физика, он, пожалуй, был генетически предрасположен к раннему проявлению математических талантов. В детстве, говорит он, любовь к компьютерным играм привела его к программированию, так он мог создавать свои собственные игры. Затем он поступил на факультет Вычислительной математики и кибернетики в МГУ, ведущий российский центр вычислительной техники и информатики. За этим последовало сотрудничество с лабораторией e-Lab американского университета Пёрдью и работа в Московском исследовательском центре Samsung.

Сейчас в компании Кухаренко, которая была создана в 2015 году, работает 50 человек, большинство из них разработчики и исследователи в области нейронных сетей, компьютерных систем, моделирующих работу человеческого мозга. Результаты компании получили признание на международном уровне. В ноябре прошлого года NtechLab выиграла конкурс Face Recognition Prize Challenge, который проводится Управлением директора национальной разведки США. Компания Кухаренко превзошла других участников как в скорости, так и в точности распознавания лиц.

FindFace, одно из первых приложений, использующих систему распознавания лиц, позволяет пользователям крупнейшей в России социальной сети Вконтакте находить друзей через поиск по фотографиям. Сервис стал весьма популярен, однако его использование затрагивает ряд этических вопросов. Молодой художник из Санкт-Петербурга, который интересуется вопросами приватности, запустил проект под названием «Your Face is Big Data». Он делал фотографии пассажиров в метро без их разрешения, а потом сопоставлял с их же страницами ВКонтакте. Художник сказал затем GlobalVoices, что теоретически этот сервис «могут использовать серийные убийцы или коллекторы, пытающиеся выследить должников». Другое тревожное использование технологии — один российский имиджборд использовал FindFace, чтобы вычислить женщин, которые снимались в порнографических фильмах или работали проститутками.

Кухаренко возражает на это, что любая технология может быть использована как для благородных, так и для неблаговидных целей. «Создавая этот сервис, мы хотели продемонстрировать, что такая технология существует, что это не фантастика, и люди должны подумать дважды, прежде чем выкладывать какую-либо информацию о себе в сеть».

Он указывает на другие возможности применения технологии NtechLab, например «умную демографию» для компаний розничной торговли. В сочетании с системой замкнутого телевидения для сканирования покупателей, технология распознавание лиц может «показать, что обычно улыбаются женщины, скажем, в возрасти от 30 до 40, которые покупают определенные товары», объясняет Кухаренко. Это позволяет продавцам точно определять потребности покупателей и наилучший способ представления товара.

В так называемых «умных городах», где современные технологии и данные применяются для повышения эффективности и качества жизни, распознавание лиц можно использовать в связке с CCTV. «Когда люди попадают в поле зрения этих камер, объясняет Кухаренко, вы можете сопоставить их с базой данной преступников, и если мимо проходит нарушитель закона, в правоохранительные органы отправляется соответствующий сигнал».

В Москве и Татарстане компания проводит пилотное тестирование систем «видеоаналитики» в связке с CCTV камерами регионального правительства. По данным новостного сайта Meduza, только в Москве насчитывается около 100 000 камер в зданиях и дворах, на дорогах, в общественном транспорте и в других местах.

В Рязанской области Министерство внутренних дел использует мобильную биометрическую систему на основе технологии распознавания лиц компании NtechLab. «Это позволяет им идентифицировать людей на массовых мероприятиях», — говорит Кухаренко, а это значит, что полиция сможет использовать эту технологию для того, чтобы идентифицировать и арестовывать протестующих. Основатель NtechLab подчеркивает, что его компания «не работает напрямую с правительствами». Скорее, она работает с другими компаниями, которые, в свою очередь, тесно сотрудничают с государственными органами. Сеть партнеров NtechLab протянулась от Новой Зеландии до Бразилии и включает в себя США и Китай.

Если Россия выберет китайскую модель, ей предстоит пройти долгий путь; в Китае насчитывается 170 миллионов камер наблюдения, и планируется установить еще 400 миллионов в ближайшие три года, говорит BBC. Китай утверждает, что это будет самая большая сеть камер наблюдения в мире. Во время празднования китайского Нового года местная полиция даже использовала темные очки с системой распознавания лиц, которые разработала компания из Пекина, чтобы вести наблюдение за большим числом граждан, которые в это время массово путешествуют, чтобы навестить родственников.

Ложь и ИИ

Искусственный интеллект обладает потенциалом не только раскрывать истину, например, выявляя шаблоны поведения покупателей или идентифицируя преступников, но он также может быть использован и для обмана.

Исследование Центра Белфер в Гарварде предупреждает, что ИИ «кардинально улучшит возможности сбора и анализа данных, но то же верно и в отношении создания новых данных». С одной стороны, утверждается в докладе, в разведывательных операциях станет возможным использование большего числа источников, что будет способствовать выявлению истины, но также искусственный интеллект позволит «гораздо более убедительно лгать».

Россия уже использовала машинное обучение, подраздел ИИ, позволяющий строить алгоритмы, способные обучаться, для того, чтобы задействовать армию ботов, создавать адресную рекламу и многое другое во время президентской кампании в США в 2016 году. Разбор ситуации после выборов выявил механизм, при помощи которого российская разведка использовала платформы социальных сетей, таких, как Facebook, для создания фейковых аккаунтов и распространения через них дезинформации и контента, обостряющего разногласия по вопросам расовой справедливости и прав геев, и влияния на общественное мнение.

В отличие от Китая Россия редко использует пропаганду на Западе для продвижения своих достижений. Вместо этого Москва стремится дискредитировать западную демократию и эксплуатирует недостатки и слабые места западных институтов. Подход России к ИИ иногда отражает эту стратегию.

«В настоящий момент Россия не может на равных соревноваться с США и Китаем, которые уже сделали значительные вложения в человеческий капитал и развитие стратегии», — говорит Элеонор Пауэлс, глава лаборатории ИИ в Уилсон центре. «При этом те технологии искусственного интеллекта, которыми Россия уже обладает, могут быть использованы для создания хаоса на международной арене. Это не требует серьезных денежных вливаний, но может дорого обойтись другим участникам».

(Показательный пример двойственной природы ИИ: глава Facebook Марк Цукерберг отвечая в прошлом месяце на вопросы Конгресса, сказал, что ИИ поможет выиграть «гонку кибервооружений» с Москвой).

На подходе и более сложные способы дезинформации, основанные на ИИ. Поразительный пример тому — технология машинного обучения, разработанная недавно в Университете Вашингтона, которая буквально может вкладывать слова в рот политического лидера. Команда разработчиков, базирующаяся в Сиэтле, использовала аудио запись речи бывшего президента США Барака Обамы, в которой он говорил про терроризм и затрагивал другие темы. Они конвертировали это аудио в последовательное движение губ, используя специально разработанную для этого технику, и потом соединили результат с видео с Обамой, записанным в другое время.

Может ли «поющий под фонограмму» президент «объявить» войну другой стороне? Это одна из многих гипотетических возможностей нового мира, вооруженного ИИ.

Военные цели

Сегодня стремление России к паритету в области искусственного интеллекта в значительной мере обусловлено его военным потенциалом. В Сирии Москва использует дроны с ИИ, а также беспилотные подводные аппараты, которые ищут неразорвавшиеся снаряды. У российских вооруженных сил есть также амбициозные планы по интегрированию технологий ИИ в боевые самолеты, ракеты и системы радиоэлектронной борьбы, и в этой области Россия уже достигла серьезных результатов.

Однако для развития новых российских технологий необходимо использовать потенциал молодого поколения разработчиков, и применять новый философский подход, говорит Бендетт из Американского совета по внешней политике. «Многие молодые ученые и специалисты в военной сфере выросли в цифровую эпоху, так же, как их американские и китайские коллеги», — говорит он. «Вероятно, многие из этих молодых людей учились заграницей, получили там новый опыт и российские военные, скорее всего, будут его использовать».

Но удастся ли им удержать талантливых специалистов? В 2010 году Кремль запустил широко разрекламированный Инновационный центр «Сколково», крупный технологический центр на окраине Москвы, призванный формировать культуру стартапов и развивать венчурный капитализм. Результаты оказались весьма скромными, и некоторые критики винили в этом командно-директивный подход к работе. «Современная молодежь пытается привить американскую культуру гибкости к военным инновационным разработкам», — говорит Бендетт. Но перенос Кремниевой долины на российскую почву может оказаться непростым делом: «В России на текущий момент нет необходимой инфраструктуры, ее пытаются создать буквально с нуля».

В марте на первой конференции Министерства обороны, посвященной искусственному интеллекту, министр Сергей Шойгу призвал военных и гражданских ученых объединить усилия в разработке технологий ИИ, которые, по его словам, крайне важны для противодействия «возможным угрозам технологической и экономической безопасности России». Этот подход аналогичен программе Пентагона DIUx, в рамках которой финансируются пилотные контракты для коммерческих разработок с потенциалом применением в военной сфере. Российское правительство также создало Фонд перспективных исследований, который содействует осуществлению научных исследований и разработок в интересах обороны страны и безопасности государства. За модель взяли американское Агентство передовых оборонных исследовательских проектов, которое инвестирует в прорывные технологии.

Министерство обороны РФ планирует построить целый город для разработки военных инноваций. Статья на сайте «Красной звезды», официальной газеты министерства, описывает этот город, «Эру», как «военный инновационный технополис». Он будет располагаться в Анапе, живописном городке на побережье Черного моря, и более 2000 молодых ученых получат возможность вести исследования в восьми областях, включая ИИ, робототехнику и суперкомпьютерное вычисление. И хотя проект вызывает ассоциации с закрытыми военными промышленных городами, в которых ученые жили и работали во время Холодной войны, для строительства «Эры» планируется привлекать частный капитал.

«Это, безусловно, более современный подход, но многое зависит от того, сделало ли российское правительство выводы из проекта «Сколково», — говорит Майкл Кофман, научный сотрудник корпорации CNA. «Довольно сложно создавать прорывные технологии в такой среде, и она не особо привлекательна для нынешнего поколения разработчиков».

Но пока, с одной стороны, Россия пытается скопировать американскую модель сотрудничества государства и частного капитала, с другой стороны она также изучает китайскую стратегию, которая соединяет жесткий правительственный контроль с частным бизнесом и университетской наукой. Пытаясь совместить оба этих подхода, говорит Бендетт, Москва стремится найти «свой уникальный путь».

Математика и мечты

В феврале главный изобретатель Америки Илон Маск и его инженеры из SpaceX успешно запустили ракету с 27 двигателями. Эту задачу в СССР пытались решить более полувека назад, но потерпели неудачу. «Нигде запуск тяжелой ракеты SpaceX's Falcon не вызвал такого сильного эхо, как в России», — написал один из журналистов Bloomberg.

И в самом деле, достижения Маска не прошли незамеченными ни для российских лидеров, ни для ученых. Даже в условиях серьезного бюджетного финансирования и политической поддержки, Москва не планирует запускать тяжелые ракеты до 2028 года. Виталий Егоров из Dauria Aerospace, компании по производству частных спутников, которая работает с правительством России, написал полный горечи пост на Facebook: «Математики у нас не перевелись. У нас перевелись мечтатели».

Возвращаясь в московский офис NtechLab: Кухаренко намерен и дальше совершенствовать свою технологию распознавания лиц — сделать ее более точной и более быстрой. «Мы хотим сохранить технологическое лидерство в этой области», — говорит он. Но подобно тому, как раньше было соглашение по контролю за распространением ядерного оружия, будет ли когда-нибудь создано международное соглашение по допустимому использованию технологий, которые разрабатывает Кухаренко? «Может быть, не по отношению ко всему ИИ, потому что это очень широкая сфера», — говорит он мне, — «но что касается распознавания лиц, да, скорее всего, будут введены какие-то ограничения. Распознавание лиц дает тебе бесспорное преимущество».

Идея международного управления ИИ пока не сильно занимает Кухаренко, тем более, что его собственные разработки помогают технологии опережать попытки регулирования. В этом вопросе весь мир, не только Россия, может скоро обнаружить себя в положении догоняющего.

***

Джил Дагерти (@jillrussia) — сотрудник в Уилсон центре Института Кеннана. Более тридцати лет проработала журналистом CNN, и была главой московского бюро.

Молли Джей — главный директор по электронным каналам продаж в Школе публичной политики и управления в университете Вашингтона. Ранее она занимала должность в Amazon и POLITICO и работала консультантом в Microsoft».