Эта статья была первоначально опубликована на сайте Aeon 15 мая 2020 года и переиздана по лицензии Creative Commons.
Слово «френология» звучит старомодно. Звучит так, будто ей место в учебнике истории, где-то между кровопусканием и велоцирапторами. Нам хотелось бы думать, что судить о ценности людей по размеру и форме их черепа — это практика, которая осталась далеко позади. Однако френология снова поднимает свою шишковатую голову.
В последние годы алгоритмы машинного обучения обещали правительствам и частным компаниям возможность извлекать всевозможную информацию из внешности людей. Несколько стартапов утверждают, что с помощью искусственного интеллекта (ИИ) работодатели могут определять черты характера кандидатов на работу по их мимике. В Китае правительство впервые применило камеры наблюдения, позволяющие идентифицировать и отслеживать этнические меньшинства. В то же время появились сообщения о том, что в школах устанавливаются системы камер, которые автоматически наказывают детей за невнимательность, основываясь на движениях лица и микровыражениях, таких как подергивание бровей.
Возможно, наиболее известным является тот факт, что несколько лет назад исследователи искусственного интеллекта Сяолинь Ву и Си Чжан заявили, что обучили алгоритм идентификации преступников по форме их лиц с точностью 89,5 процента. При этом они не стали поддерживать некоторые идеи о физиогномике и характере, распространенные в XIX веке, в частности, работы итальянского криминолога Чезаре Ломброзо: преступники — это недоразвитые, недочеловеческие существа, которых можно узнать по покатому лбу и ястребиному носу. Однако в недавнем исследовании, казалось бы, высокотехнологичная попытка выделить черты лица, связанные с преступностью, напрямую заимствована из «метода фотокомпозиции», разработанного викторианским мастером на все руки Фрэнсисом Гальтоном, который предполагал наложение лиц нескольких людей определенной категории, чтобы найти черты, указывающие на такие качества, как здоровье, болезнь, красота и преступность.
Технологические обозреватели назвали эти технологии распознавания лиц «буквальной френологией»; они также связали их с евгеникой — псевдонаукой об улучшении человеческой расы путем поощрения размножения людей, считающихся наиболее приспособленными. (Гальтон сам ввел термин «евгеника», описав его в 1883 году как «все влияния, которые в сколь угодно малой степени направлены на то, чтобы дать более подходящим расам или сортам крови больше шансов на быстрое преобладание над менее подходящими, чем они могли бы иметь в противном случае»).
В некоторых случаях явная цель этих технологий — отказать в возможностях тем, кого сочтут непригодными; в других случаях это может быть не целью, но предсказуемым результатом. И все же, когда мы отвергаем алгоритмы, причисляя их к френологии, на какую именно проблему мы пытаемся указать? Говорим ли мы, что эти методы научно несовершенны и что они на самом деле не работают, или же мы утверждаем, что использовать их независимо от этого морально неправильно?
Существует долгая и запутанная история использования слова «френология» в качестве язвительного оскорбления. Философская и научная критика этого явления всегда была взаимосвязана, хотя с течением времени их переплетение менялось. В XIX веке недоброжелатели френологии возражали против того, что френология пыталась определить расположение различных психических функций в разных частях мозга, что считалось ересью, поскольку ставило под сомнение христианские представления о единстве души. Интересно, однако, что попытка определить характер и интеллект человека по размеру и форме его головы не воспринималась как серьезная моральная проблема. Сегодня, напротив, идея локализации психических функций не вызывает сомнений. Возможно, ученые больше не считают, что деструктивность находится над правым ухом, но представление о том, что когнитивные функции могут быть локализованы в определенных мозговых цепях, является стандартным предположением в основной нейронауке.
В XIX веке френология также подвергалась эмпирической критике. Бушевали споры о том, какие функции где располагаются и являются ли измерения черепа надежным способом определения того, что происходит в мозге. Однако наиболее влиятельной эмпирической критикой старой френологии стали исследования французского врача Жана Пьера Флуренса, основанные на повреждении мозга кроликов и голубей, из которых он сделал вывод, что психические функции распределены, а не локализованы. (Позднее эти результаты были опровергнуты.) Тот факт, что френология была отвергнута по причинам, которые большинство современных наблюдателей уже не приняли бы, еще больше усложняет понимание того, на что мы ориентируемся, когда используем «френологию» в качестве ругательства сегодня.
И «старая», и «новая» френология подвергались критике за небрежность методов. В недавнем исследовании преступности, проведенном с помощью искусственного интеллекта, данные были взяты из двух совершенно разных источников: фотографии осужденных и фотографии с рабочих сайтов людей, не являющихся осужденными. Уже один этот факт может объяснить способность алгоритма обнаружить разницу между группами. В новом предисловии к работе исследователи также признали, что принятие судебных приговоров за синоним преступности было «серьезным упущением». Однако приравнивание обвинительных приговоров к преступности, по мнению авторов, в основном является эмпирическим недостатком: использование мугшотов осужденных преступников, но не тех, кто избежал наказания, влечет за собой статистическую погрешность. Авторы заявили, что они «глубоко озадачены» общественным возмущением в ответ на статью, которая предназначалась «для чисто академических дискуссий».
Примечательно, что исследователи не комментируют тот факт, что сам приговор зависит от впечатлений, которые полиция, судьи и присяжные формируют о подозреваемом, что делает «криминальную» внешность человека сбивающей с толку переменной. Они также не упоминают о том, как интенсивная полицейская деятельность в определенных сообществах и неравенство в доступе к юридическому представительству искажают данные. Отвечая на критику, авторы не отказываются от предположения, что «для того, чтобы стать преступником, необходимо обладать множеством аномальных (из ряда вон выходящих) личностных качеств». Действительно, их формулировка предполагает, что преступность — это врожденная характеристика, а не реакция на социальные условия, такие как бедность или жестокое обращение. Отчасти эмпирические данные вызывают сомнения в том, что те, кто получает ярлык «преступник», вряд ли нейтральны с точки зрения ценностей.
Одно из самых сильных моральных возражений против использования распознавания лиц для выявления преступлений заключается в том, что это клеймит позором людей, которых и так слишком много в полиции. Авторы утверждают, что их инструмент не должен использоваться в правоохранительных органах, но приводят лишь статистические аргументы в пользу того, почему его нельзя применять. Они отмечают, что процент ложноположительных результатов (50 %) будет очень высоким, но не обращают внимания на то, что это означает с человеческой точки зрения. Ложноположительными будут люди, чьи лица похожи на тех, кто был осужден в прошлом. Учитывая расовые и другие предубеждения, существующие в системе уголовного правосудия, такие алгоритмы в итоге будут переоценивать преступность среди маргинальных слоев населения.
Самый спорный вопрос, похоже, заключается в том, допустимо ли изобретать физиогномику в целях «чисто академической дискуссии». Можно возразить, опираясь на эмпирические данные: евгеники прошлого, такие как Гальтон и Ломброзо, в конечном итоге не смогли найти черты лица, предрасполагающие человека к преступности. Это потому, что таких связей не существует. Точно так же психологам, изучавшим наследуемость интеллекта, таким как Сирил Берт и Филипп Раштон, пришлось изрядно повозиться с данными, чтобы установить корреляцию между размером черепа, расой и IQ. Если бы было что обнаруживать, то, вероятно, многие люди, которые пытались это сделать на протяжении многих лет, не остались бы безрезультатными.
Проблема с изобретением физиогномики заключается не только в том, что ее уже безуспешно пытались использовать. Исследователи, которые продолжают искать холодный термоядерный синтез после того, как научный консенсус отошел на второй план, также подвергаются критике за погоню за единорогами, но неодобрение холодного термоядерного синтеза далеко не всегда доходит до осуждения. В худшем случае они считают, что зря тратят время. Разница в том, что потенциальный вред от исследований холодного термоядерного синтеза гораздо более ограничен. В отличие от этого, некоторые комментаторы утверждают, что распознавание лиц должно регулироваться так же жестко, как плутоний, потому что у него так мало не вредных применений. Когда тупиковый проект, который вы хотите воскресить, был изобретен с целью поддержания колониальных и классовых структур — и когда единственное, что он способен измерить, это расизм, присущий этим структурам, — трудно оправдать то, что его можно попробовать еще раз, просто ради любопытства.
Однако называть исследования по распознаванию лиц «френологией», не объясняя, о чем идет речь, вероятно, не самая эффективная стратегия, чтобы донести до людей суть жалобы. Чтобы ученые серьезно относились к своим моральным обязанностям, они должны осознавать вред, который может быть причинен в результате их исследований. Более четкое разъяснение того, что не так с работой, названной «френологией», надеюсь, окажет большее влияние, чем простое разбрасывание этого названия в качестве оскорбления.
Автор — Кэтрин Стинсон, постдоктор философии и этики искусственного интеллекта в Центре науки и мышления Боннского университета (Германия) и в Центре Леверхульма по изучению будущего интеллекта Кембриджского университета.
