15 декабря 2021 года.
Маргинальные слои населения часто страдают от непреднамеренных последствий новых технологий. Например, алгоритмы, автоматически принимающие решения о том, кто может увидеть тот или иной контент или как интерпретировать изображения, страдают от расовых и гендерных предубеждений. Люди с несколькими маргинальными идентичностями, например чернокожие и инвалиды, подвергаются еще большему риску, чем люди с одной маргинальной идентичностью.
Вот почему, когда Марк Цукерберг изложил свое видение метавселенной — сети виртуальных сред, в которых множество людей могут взаимодействовать друг с другом и цифровыми объектами, — и сказал, что это коснется каждого продукта, который создает компания, я испугалась. Как исследователь, изучающий пересечения расы, технологий и демократии, и как чернокожая женщина, я считаю, что важно тщательно проанализировать ценности, которые закладываются в интернет нового поколения.
Проблемы уже всплывают на поверхность. Аватары — графические персоны, которые люди могут создавать или покупать, чтобы представлять себя в виртуальной среде, — оцениваются по-разному в зависимости от предполагаемой расовой принадлежности аватара, а в современных иммерсивных средах до метавселенной появляются расистские и сексистские домогательства.
Для того чтобы следующая итерация интернета была инклюзивной и работала для всех, необходимо, чтобы люди из маргинализированных сообществ взяли на себя ведущую роль в ее формировании. Кроме того, для того чтобы «Большие технологии» были подотчетны общественным интересам, необходимо нормативное регулирование. Без этого метавселенная рискует унаследовать проблемы современных социальных сетей, а то и превратиться в нечто худшее.
Утопические видения против суровой реальности
Утопические представления на заре развития Интернета обычно сводились к тому, что жизнь в сети будет радикально отличаться от жизни в физическом мире. Например, люди представляли себе интернет как способ избавиться от некоторых составляющих своей идентичности, таких как расовые, гендерные и классовые различия. В реальности интернет далеко не безрасовый.
В то время как техноутопии передают желаемое видение будущего, реальность новых технологий часто не соответствует этим представлениям. На самом деле интернет принес обществу новые формы вреда, такие как автоматическое распространение пропаганды в социальных сетях и предвзятость алгоритмов, которые формируют ваш онлайн-опыт.
Цукерберг описал метавселенную как более иммерсивный, воплощенный интернет, который «откроет множество новых удивительных возможностей». Это видение не только будущего интернета, но и будущего образа жизни. Каким бы смещенным ни было это видение, метавселенная, как и более ранние версии интернета и социальных сетей, скорее всего, будет иметь широкомасштабные последствия, которые изменят то, как люди общаются, путешествуют, учатся, работают и играют.
Вопрос в том, будут ли эти последствия одинаковыми для всех? История подсказывает, что нет.
Технологии никогда не бывают нейтральными
Широко используемые технологии часто принимают личность и тело белого мужчины за стандартное. Компьютерный ученый из Массачусетского технологического института Джой Буоломвини показала, что программы распознавания лиц хуже работают с женщинами и тем более с женщинами с темным цветом лица. Это подтверждают и другие исследования.
Белизна заложена в эти технологии по умолчанию, даже при отсутствии расы как категории для алгоритмов машинного обучения. К сожалению, расизм и технологии часто идут рука об руку. Чернокожие женщины-политики и журналисты непропорционально часто становятся мишенью для оскорбительных или проблемных твитов, а чернокожие и латиноамериканские избиратели подвергались дезинформационным кампаниям в Интернете во время избирательного цикла 2020 года.
Эта историческая связь между расой и технологиями заставляет меня беспокоиться о метавселенной. Если метавселенная должна стать воплощенной версией интернета, как это описал Цукерберг, то означает ли это, что уже маргинализированные люди будут испытывать новые формы вреда?
Facebook и его отношения с чернокожими
Общие отношения между технологиями и расизмом — это только часть истории. У компании Meta плохие отношения с чернокожими пользователями своей платформы Facebook, и в частности с чернокожими женщинами.
В 2016 году репортеры ProPublica обнаружили, что рекламодатели на рекламном портале Facebook могут исключать группы людей, которые видят их рекламу, на основании расовой принадлежности пользователей, или того, что Facebook называет «этнической близостью». Эта опция вызвала много откликов, поскольку Facebook не спрашивает у своих пользователей их расовую принадлежность, что означает, что пользователям присваивается «этническая близость» на основе их активности на платформе, например, какие страницы и посты им нравятся.
Другими словами, Facebook, по сути, составлял расовый профиль своих пользователей на основе того, что они делают и любят на своей платформе, создавая возможность для рекламодателей дискриминировать людей по признаку их расы. С тех пор Facebook обновила свои категории таргетинга рекламы и больше не включает в них «этническую принадлежность».
Тем не менее, рекламодатели все еще могут нацеливаться на людей по их предполагаемой расе с помощью расовых прокси, которые используют комбинации интересов пользователей, чтобы сделать вывод о расе. Например, если рекламодатель видит в данных Facebook, что вы проявляли интерес к афроамериканской культуре и премии BET, он может сделать вывод, что вы чернокожий, и предложить вам рекламу товаров, которые он хочет продвигать среди чернокожих.
Хуже того, Facebook часто удаляет комментарии чернокожих женщин, которые выступают против расизма и сексизма. По иронии судьбы, комментарии чернокожих женщин о расизме и сексизме подвергаются цензуре — в просторечии это называется «зарубить на корню» — за якобы нарушение политики Facebook в отношении языка вражды. Это часть более широкой тенденции в рамках онлайн-платформ, когда чернокожие женщины подвергаются наказанию за высказывание своих проблем и требование справедливости в цифровом пространстве.
Согласно недавнему отчету Washington Post, Facebook знал, что его алгоритм наносит непропорционально большой ущерб чернокожим пользователям, но предпочел ничего не предпринимать.
Демократически подотчетная метавселенная
В интервью с Вишалом Шахом, вице-президентом Meta по метаверсии, ведущий National Public Radio Оди Корниш спросил: «Если вы не можете справиться с комментариями в Instagram, то как вы справитесь с футболкой, на которой написаны слова ненависти, в метавселенной? Как вы справитесь с митингом ненависти, который может произойти в метавселенной?» Аналогично, если чернокожих людей наказывают за высказывания против расизма и сексизма в сети, то как они смогут делать это в метавселенной?
Для того чтобы метавселенная была инклюзивной и способствовала распространению демократических ценностей, а не угрожала демократии, необходимо обеспечить справедливость дизайна и регулирование социальных сетей.
Справедливость в дизайне — это постановка людей, не обладающих властью в обществе, в центр процесса проектирования, чтобы избежать увековечивания существующего неравенства. Это также означает, что проектирование должно начинаться с рассмотрения ценностей и принципов.
Федеральные законы оградили компании социальных сетей от ответственности за сообщения и действия пользователей на их платформах. Это означает, что они имеют право, но не обязаны следить за порядком на своих сайтах. Регулирование деятельности «Больших технологий» крайне важно для решения проблем социальных сетей сегодня, и не менее важно до того, как они создадут и будут контролировать следующее поколение интернета.
Метавселенная и я
Я не против метавселенной. Я за демократическую подотчетность метавселенной. Но чтобы это произошло, я утверждаю, что необходимо создать более совершенную нормативную базу для интернет-компаний и более справедливые процессы проектирования, чтобы технология не продолжала коррелировать с расизмом.
В настоящее время преимущества метавселенной для меня не перевешивают ее издержки. Но так не должно оставаться.
Автор: Брейга Адейемо, докторант факультета коммуникаций Иллинойского университета в Чикаго.
