Лондон, 8 сентября, 2018, 11:56 — ИА Регнум. Предрассудки могут формироваться в системах с искусственным интеллектом, показало исследование специалистов из Кардиффского университета и Массачусетского технологического института. Исследование опубликовано в журнале Scientific Reports.

Исследования показали, что возникновение предубеждений характерно не только для человеческих групп, но и для любых автономных систем. Учеными была построена модель из свободных виртуальных агентов. Было установлено, что после тысяч взаимодействий между агентами возникали группы с предвзятым отношением к другим группам.

Это позволило сделать вывод о том, что формирование предубеждений — это общая закономерность, которая действует и в случае с искусственным интеллектом. Было установлено, что взаимодействие между агентами внутри сформировавшихся групп укрепляет предубеждение к другим группам, тогда как межгрупповое взаимодействие снижает уровень предубеждения.

Отметим, что в 2016 году издание ProPublica опубликовало исследование, показавшее, что компьютерные аналитические алгоритмы, использующиеся в американских судах, проявляют расовую дискриминацию. Журналисты проанализировали 7000 дел и установили, что программа предвзято относится к темнокожим преступникам.