Вице-президент Европейской комиссии по цифровой политике Маргрет Вестагер в своей вступительной речи к Европейскому форуму по искусственному интеллекту 30 июня 2020 года заявила, что некоторые приложения, использующие искусственный интеллект (ИИ), в частности для прогнозирования для нужд полицейского контроля, не могут быть применены в ЕС.

Вестагер проанализировала плюсы и минусы использования определенных направлений искусственного интеллекта в Европе, акцентируя внимание на проблемах, которые могут возникнуть в результате безответственного применения новейших цифровых технологий.

«При правильном развитии и использовании он может творить чудеса как для нашей экономики, так и для нашего общества. Но искусственный интеллект также может причинить вред», — сказала она, отметив, что некоторые приложения могут привести к дискриминации, усиливая предрассудки и предубеждения в обществе.

«Иммигранты и люди, принадлежащие к определенным этническим группам, могут подвергаться целенаправленному преследованию со стороны полиции. Это неприемлемо».

Вице-президент Еврокомиссии по цифровой политике также размышляла о недавно прошедшем общественном обсуждении «Белой книги» Комиссии ЕС по искусственному интеллекту, которая была опубликована в феврале 2020 года.

В «Белой книге» изложены основные положения Еврокомиссии по цифровой политике и по формированию нормативно-правовой базы для ИИ. В частности, в ней отмечается, что новейшие технологии, которые могут быть сопряжены с высоким риском злоупотреблений и потенциально привести к нарушению основных прав человека, должны быть внимательно изучены и ограничены в использовании.

Полученные в процессе общественного обсуждения «Белой книги» замечания содержат опасения использования технологии сбора и обработки биометрических данных, а также недоверие к программам, которые обеспечивают принятие решений на основе ИИ.

Например, часть правозащитных организаций призвала к полному запрету некоторых технологий прогнозирования с использованием искусственного интеллекта для реализации предупредительных правоохранительных мер и защиты населения.

Выступая в этом же русле, международная общественная организация по защите прав человека в интернете «Европейские цифровые права» (EDRi) также призвала запретить программное обеспечение на базе ИИ, предназначенное для предиктивного контроля со стороны полиции, обосновывая свой призыв тем, что такой контроль является «недопустимым использованием» ИИ.

Совсем недавно в Великобритании были проведены эксперименты по использованию предиктивных технологий ИИ для прогнозирования мест и времени совершения преступлений, а также выявления лиц, которыми они могут быть совершены. В связи с этим более тысячи участников общественного обсуждения «Белой книги» подняли вопросы, связанные с возможным нарушением прав, вызванным ненадлежащим использованием ИИ, о чём и упомянула в своей речи Маргрет Вестагер.

«Большинство из этих участников согласились с тем, что ИИ, если его неправильно оформить, может поставить под угрозу наши основные права или безопасность, — сказала она. — Многие из них согласились с нами, что мы должны сосредоточить наше внимание на приложениях с высокой степенью подобного риска. Но довольно немногие из них были убеждены, что мы уже нашли способ различать приложения с высоким и низким уровнем такого риска».

Между тем, рискуя распространиться по всей территории России, в Москве работает общегородская система видеонаблюдения с функцией распознавания лиц. Соответствующее оборудование висит на фасадах домов и на дверях подъездов жилых домов. Технологию слежения за своими горожанами московская мэрия приобрела у российской компании NtechLab за $3,2 млн. Сейчас система распознавания лиц объединяет почти 180 тысяч устройств. В планах идеологов проекта интегрировать данную систему с операторами мобильной связи, которые могут получать данные геолокации со смартфонов своих абонентов.

Департамент информационных технологий (ДИТ) г. Москвы уже почти пять лет закупает у операторов связи обезличенные данные, которые содержат информацию по движению сим-карт абонентов. По этим данным можно составить отчёты о месте проживания и работы человека, о том, сколько времени он проводит в том или ином месте и многое другое. По данным РБК, стоимость контракта на оказание услуг по предоставлению доступа к геоаналитическим данным на 2018−2020 годы составила 308,66 млн руб.

В 2019 году ГУВД г. Москвы отчиталось об использовании системы распознавания лиц: с помощью 1000 камер снаружи подъездов жилых домов сотрудники правоохранительных органов задержали 90 человек, подозреваемых в совершении преступлений. Вдохновленный такими успехами ДИТ г. Москвы запланировал создание для московской полиции очков дополненной реальности с технологией распознавания лиц.

На этом цифровые подарки для МВД не закончатся. Речь идёт о создании специального приложения «Мигрант», которое будет содержать цифровой профиль въезжающих в Россию на постоянное место жительства или для временной работы. В приложении будет формироваться «рейтинг социального доверия мигранта», основанный на социально-правовом статусе мигранта, биометрических данных, сведениях о здоровье, криминальном прошлом.

Читайте ранее в этом сюжете: В Шанхае уже сегодня можно заказать беспилотное такси