Для западной культуры характерно стремление освободить человека, обеспечив ему контроль над «необходимостями» (законами, причинно-следственными связями) внешней среды. Разве не прекрасно было бы знать, когда произойдёт стихийное бедствие, откажет электроприбор или с крыши упадёт кирпич? Вот только окружающая человека среда — это в первую очередь другие люди. И проследить, где кончается «природа» и начинается «общество», не так просто, как кажется на первый взгляд.

Диего Ривера. Человек на перепутье (фрагмент). Фреска. 1934
Диего Ривера. Человек на перепутье (фрагмент). Фреска. 1934

Дельфийский оракул отвечает лидийскому царю, стоит ли тому нападать на Персию. В идеальном городе Томмазо Кампанеллы астрологи решают, когда и кому следует рожать детей, чтобы те выросли хорошими гражданами. Сегодня интеллектуальные системы предсказывают, с какой вероятностью женатый тридцатилетний рабочий из Глазго сможет выплатить кредит на автомобиль. О чём конкретно здесь идёт речь? О протуберанцах на солнце, чьих-то моральных и волевых качествах, состоянии фондового рынка, статистике разводов в регионе? Где кончаются объективные внешние обстоятельства и начинается индивидуальная моральная ответственность, основанная на свободе воли? Вообще, волнует ли кого-то на практике это различие?

Описывая современное государство, Макс Вебер подчёркивал, что оправданное «эффективностью» и «рациональностью» стремление бюрократии использовать формальные классификации и показатели может привести к расчеловечиванию: сложная реальность подменяется усреднённым значением того параметра, который поддаётся «строгому» подсчёту. Бенедикт Андерсон считал, что национальное строительство являлось такой подгонкой жизни обществ под административные шаблоны социальных ролей, семейного положения, исторической идентичности и т.п. Позже историк экономики Джерри Мюллер возмутится «тиранией показателей»: «эффективные менеджеры» кидают все ресурсы крупных частных и государственных структур на максимизацию показателей, которые легче всего подсчитать (и «прибыль» здесь ещё не худший пример). Но одно дело — сухой научный анализ, что-то учитывающий, а что-то нет; другое — предание анализу моральной силы. Означает ли низкая прибыль то, что урожай уничтожен засухой? Или что работники ленивы? Если интеллектуальная система отказалась выдать рабочему кредит — это потому, что рабочих систематически угнетают, или потому, что данный гражданин глуп и безответственен?

Подобное смешение уже стало благодатной почвой для антиутопий, в которых на законопослушного героя по какой-то скрытой логике заранее навешивается ярлык потенциального маргинала или преступника. В 1970-е годы социологи назвали это «статистической дискриминацией». Допустим, по статистике, у женщин рабочая неделя в среднем на 20% короче, а зарплата на 30% меньше, чем у мужчин. Разве не справедливо, что тот, кто меньше работает, меньше и получает? Работодатель, мысля (как бы) рационально, решает по возможности набирать более работоспособных мужчин и сокращать в первую очередь «проблемных» женщин. Средняя рабочая неделя у женщин падает ещё сильнее, как и зарплата. Иными словами, путаница в причинах, следствиях и распределении ответственности создаёт нисходящий порочный круг. Ту же «логику» можно применить к возрастной группе, профессии, региону (например, сельским жителям) и т.п.

Александр Дейнека. Безработные в Берлине. 1932
Александр Дейнека. Безработные в Берлине. 1932

Социолог Кристин Вилльямс утверждает (American Sociological Review, 86,2,2021), что подобный процесс остро проявил себя в США в разгар пандемии, когда быстро меняющиеся обстоятельства побуждали компании то массово увольнять, то посылать на удалёнку или в отпуск, то вновь набирать работников. В критической ситуации особо явно проступили стереотипы, начиная от образа «идеального работника» у руководства, заканчивая методами оценки эффективности и социальных навыков сотрудника. В итоге всё провозглашаемое в США «разнообразие» сузилось до белых мужчин средних лет, почти вне зависимости от сектора. Качественно отличалась только сфера «необходимых» профессий, на которые не распространялся карантин (и связанные с ним компенсации; люди обязаны были выходить на работу, несмотря на угрозу заболеть): продавцы, курьеры, медперсонал и пр. Среди них, наоборот, повысилась доля женщин и меньшинств. Также участились забастовки с характерными требованиями — повышения минимальной оплаты труда.

Отдельного упоминания заслуживает протест автора против разделения работников на «квалифицированных» и «неквалифицированных». Вилльямс указывает, что исторически элементом борьбы рабочих организаций было признание ценности соответствующих навыков и позиций (сегодня особо активны международные объединения прислуги и работников сферы ухода). В плане дискриминации деление на «квалификации» выражается в невозможности перейти на другую должность (якобы требующую качественно иного уровня подготовки) или поступить на курсы повышения квалификации.

Сила «статистической дискриминации» в её кажущейся научной объективности. На это указывает исследование социолога Андраса Тилчика (American Sociological Review, 86,1,2021). Автор отмечает, что если личная предвзятость должна наказываться рынком (например, расист проиграет конкуренцию, не приняв на работу квалифицированных мигрантов), то статистическая дискриминация скорее поддерживается «рациональностью» рыночной теории. Средние оценки по группе замещают индивидуальные достоинства, стратегически действуя как самоисполняющиеся пророчества. Тилчик сравнивает это с идеей «меритократии»: если невидимая рука продвинула одних и задвинула других, значит, так и должно быть. Прикрываясь аргументами про «недостаток информации», решающийся грубыми приближениями, экономисты защищают статус-кво, игнорируя воспроизводящиеся и усугубляющиеся провалы рынка. Излишне обобщённые оценки даже выдаются за естественную реакцию мозга: так, встретив на тёмной улице чертыхающегося мужчину в кожаной куртке и рваных джинсах, вы не будете разбираться, кто на самом деле перед вами, и просто перейдёте на другую сторону. При этом игнорируется очевидное отличие такой ситуации от задачи приёма на работу — работодатель имеет на руках и более полную информацию, и запас времени, и возможность протестировать соискателя.

Винсент Ван Гог. Заводы в Аньере. 1887
Винсент Ван Гог. Заводы в Аньере. 1887

По результатам эксперимента с 2000 участников Тилчик пришёл к выводу, что люди доверяют статистической дискриминации как научному выводу, принимая её как этически нейтральную, рациональную, распространённую. Однако если респонденту привести даже базовую критику статистики, эффект сходит на нет. Впрочем, исследование расизма в Норвегии, проведённое Ниной Хой-Петерсен (Sociology, 55,6,2021), предлагает иное объяснение такой «доверчивости», чем простая вера в цифры. Среди граждан, открытых к представителям другой национальности в бытовых ситуациях, лишь 30–50% придерживались равенства при найме сотрудников на работу, покупке подержанного автомобиля или прикосновении. Автор объясняет это не столько отсутствием реального доверия, сколько стремлением сохранить властные иерархии, несмотря на культурную ценность эгалитаризма.

Наконец, конкретный пример статистической дискриминации разбирает социолог Барбара Кивиат (American Sociological Review, 84,6,2019), анализирующая механизмы подсчёта кредитного рейтинга при продаже автомобильных страховок в США. Автор рассматривает дискуссии вокруг алгоритмов подсчёта, ведущиеся на уровне штатов с 1970-х годов. В теории страхование должно быть «солидаристским» механизмом, распределяющим риски по наибольшему числу людей. Однако страховые компании стремились увеличить свою прибыль, выделяя наиболее «опасные» группы и назначая им повышенные тарифы. Это поднимало принципиальный моральный вопрос: является ли повышенный риск у данных индивидов следствием их личных изъянов (безответственности, опасного вождения, пьянства) либо же общей проблемой, перекладываемой на плечи самых незащищённых категорий населения? Например, если рабочий на заводе с большей вероятностью потеряет работу в кризис, чем программист, следует ли наказывать его за это повышенным тарифом?

Оказалось, что производители программного обеспечения всеми силами пытались уйти от раскрытия алгоритмов и даже списка параметров, по которым принимается решение. На уровне риторики акцент делался не на групповых показателях, а на индивидуальных качествах заёмщика: хотя система не могла, например, предсказать вероятность аварии, утверждалось, что она отлавливает самых «безответственных» клиентов. Одно из альтернативных объяснений увязывало кредитный рейтинг с уровнем дохода гражданина. Например, состоятельные американцы почти никогда не обращались в страховую компанию, если ущерб от аварии не превышал 700$, предпочитая покрыть его из своего кармана (справедливо считая, что падение кредитного рейтинга обернётся в дальнейшем большими затратами). В кризис 2008 года некоторые банки сократили кредитный лимит для всех своих заёмщиков, что также негативно отразилось на их рейтинге. Отдельной проблемой оставались люди, никогда раньше не бравшие кредитов: с точки зрения политиков, они были идеалом гражданина, живущего по средствам; с точки зрения страховых компаний — ненадёжными индивидами с низким рейтингом. Масла в огонь подливало наблюдение, что тариф в таких случаях явно зависел от почтового индекса, то есть от принадлежности целому региону.

Грант Вуд. Весна в городе. 1941
Грант Вуд. Весна в городе. 1941

В 1980-е годы в ряде штатов было ограничено использование данных о поле, браке, расе, образовании или месте работы при кредитовании; позднее сюда добавилась информация о частоте обращения человека к своей и чужой кредитной истории, а также список чрезвычайных обстоятельств вроде ухудшения материального положения вследствие стихийного бедствия. Правда, скорее всего, все эти данные можно получить и косвенным путём. В двух штатах кредитный рейтинг был вовсе запрещён, хотя подобные предложения выдвигались (и наталкивались на дорогие контрпропагандистские кампании) во многих регионах. Если повышенные тарифы считались к 2000-м годам однозначно несправедливым моментом, то камнем преткновения оказалась их «обратная сторона» — пониженные тарифы.

Кивиат отмечает, что рынок на деле сталкивает разные морали, выгодные различным группам; в данном случае стремление к прибыли (как компаний, так и лиц с высоким кредитным рейтингом, обычно более богатых) полностью вывело из поля зрения страховую солидарность и задачу равномерного распределения рисков. Альтернативой было бы вовсе отказаться от предсказаний — ведь многие групповые риски на самом деле являются внешними не только для индивида, но и для группы. Так, если женщины в целом зарабатывают меньше, то проблема скорее в экономической системе, а не в каком-то типично женском пороке. В частности, на их долю выпадает больше неоплачиваемой домашней работы или заботы о детях и родственниках.

Один из популярных технических консультантов Кремниевой долины, Джарон Ланье, постоянно сетует на злоупотребление интеллектуальными системами: даже погружённые в тему IT-компании постоянно выбирают лёгкие пути, пользуясь большими массивами данных, но не задумываясь об их социальном или моральном значении. Например, онлайн-переводчик задействует архив чужих переводов, не оплачивая труд этих живых переводчиков, не повышая, а понижая ценность этой профессии. Понятно, почему страховые компании не хотят разбираться, чем именно обусловлен повышенный риск у данной группы, кто за него ответственен (и должен компенсировать). Тем более никого не интересуют уникальные личные обстоятельства. Задача — перераспределить обязательства среди населения так, чтобы максимизировать прибыль.

Хендрик Тербрюгген. Богач и Лазарь. 1625
Хендрик Тербрюгген. Богач и Лазарь. 1625

С наёмными работниками ситуация менее очевидна. Зачем смотреть на средние показатели по группе, если существует масса способов оценить навыки конкретного кандидата? Дэвид Грэбер вторит выводам Вилльямс и Хой-Петерсен, рассматривая современные корпоративные структуры как властную и статусную иерархию, участники которой озабочены скорее привилегиями и имиджами, чем эффективностью работы. Формальные признаки здесь значат больше (и с большей вероятностью дают доступ к благам), чем реальный трудовой процесс. Менее циничный, но по сути схожий взгляд предлагает теория общественных сетей: приём на работу по факту опосредован личными связями, не до конца осознаваемым доверием, схожестью привычек и жизненных обстоятельств. Как заметил Пьер Бурдьё, анализируя карьерные пути во французских университетах, «серьёзность» кандидата была важнее его квалификации.

Даже если капитализм и определяет проблемные точки, он склонен поддерживать статус-кво, а не докапываться до глубинных причин — несложно догадаться, что они приведут к вопросам неравенства, эксплуатации, «внешних эффектов» и другим неудобным для системы моментам. Статистическая дискриминация позволяет удерживать внимание на самом безопасном уровне: не слишком конкретном, не слишком общем. Группу проигравших можно обвинить во всех грехах, заручившись поддержкой группы выигравших.

Конечно, как указывает Джерри Мюллер, дело не в обобщениях как таковых и тем более не в статистике или прогнозах интеллектуальных систем. Необходимо критически относиться к «точным» ответам, использовать их как повод для дальнейшего расследования, а не оправдание выгодных власть имущим решений. Тилчик показал, что цифры всё ещё обладают для нас какой-то магической самоочевидной силой; но также и то, что критические мнения остаются эффективны. В этом смысле моральное чувство, стремление помочь угнетённым и добиться справедливости остаются важным компасом, несмотря на обилие автоматизированных и «объективных» расчётов. Нужно лишь не поддаваться искушению смешивать одно с другим.

Читайте ранее в этом сюжете: Вдохнут ли социальные посредники новую жизнь в массовую политику?