2 ноября 2021 года.
Чтобы отметить День памяти в Израиле в 2021 году, музыкальные коллективы Армии обороны Израиля сотрудничали с компанией, которая специализируется на синтетических видео, также известных как технология «deepfake», чтобы оживить фотографии израильско-арабской войны 1948 года.
Они создали видеоролик, в котором молодые певцы, одетые в старинную форму и имеющие при себе старинное оружие, поют «Хареут», культовую песню в память о солдатах, погибших в бою. Во время пения музыканты смотрят на выцветшие черно-белые фотографии, которые они держат в руках. Молодые солдаты на старых снимках моргают и улыбаются им в ответ, благодаря искусственному интеллекту.
Результат получился жутким. Прошлое оживает в стиле Гарри Поттера.
В течение последних нескольких лет мы с коллегами из Центра прикладной этики Университета Массачусетса в Бостоне изучали, как повседневное использование искусственного интеллекта меняет представления людей о себе и политике. Мы обнаружили, что ИИ способен ослабить способность людей выносить обычные суждения. Мы также обнаружили, что он подрывает роль случайности в их жизни и может заставить их усомниться в том, что они знают и во что верят в отношении прав человека.
Сейчас искусственный интеллект как никогда легко оживляет прошлое. Изменит ли это наше понимание истории и, как следствие, нас самих?
Низкий финансовый риск, высокая моральная цена
Желание оживить прошлое в ярких образах не ново. Реконструкции времен Гражданской или Революционной войны — обычное дело. В 2018 году Питер Джексон кропотливо восстановил и раскрасил кадры Первой мировой войны, чтобы создать фильм «Они не состарятся», который позволил зрителям XXI века ощутить Великую войну как никогда ранее.
Живые реконструкции и тщательно обработанные исторические кадры — дорогостоящие и трудоемкие мероприятия. Технология Deepfake демократизирует такие усилия, предлагая дешевый и широкодоступный инструмент для анимирования старых фотографий или создания убедительных поддельных видео с нуля.
Но, как и в случае с любыми другими новыми технологиями, наряду с захватывающими возможностями возникают серьезные моральные вопросы. И эти вопросы становятся еще более сложными, когда эти новые инструменты используются для углубления понимания прошлого и оживления исторических эпизодов.
Писатель и государственный деятель XVIII века Эдмунд Берк знаменито утверждал, что общество — это «партнерство не только между теми, кто живет, но и между теми, кто живет, теми, кто умер, и теми, кто должен родиться». Политическая идентичность, по его мнению, — это не просто то, что люди делают из нее. Это не просто продукт нашего собственного творчества. Скорее, быть частью сообщества — значит быть частью договора между поколениями — частью совместного предприятия, объединяющего живых, мертвых и тех, кто будет жить в будущем.
Если Бёрк прав, понимая политическую принадлежность именно так, то технология deepfake предлагает мощный способ соединить людей с прошлым и заключить этот договор между поколениями. Оживляя прошлое ярким и убедительным образом, технология оживляет «мертвое» прошлое и делает его более ярким и живым. Если эти образы вызывают сочувствие и заботу о предках, deepfakes могут сделать прошлое гораздо более значимым.
Но такая возможность сопряжена с риском. Одна из очевидных опасностей — создание фальшивых исторических эпизодов. Воображаемые, мифологизированные и фальшивые события могут спровоцировать войну: так, легендарное поражение XIV века в битве за Косово до сих пор разжигает антимусульманские настроения сербов, хотя никто не знает, действительно ли сербская коалиция проиграла османам ту битву.
Аналогичным образом, второе нападение на американские военные корабли в Тонкинском заливе 4 августа 1964 года было использовано для эскалации американского участия во Вьетнаме. Позже выяснилось, что нападения не было.
Атрофирование воображения
Раньше было сложно и дорого устраивать фальшивые события. Теперь это не так.
Представьте себе, например, что может сделать стратегически подделанная видеозапись событий 6 января в США для нагнетания политической напряженности или что может сделать фальшивое видео с заседания Центра по контролю и профилактике заболеваний, на котором, как оказалось, преуменьшается значение вакцин COVID-19, для усилий по охране общественного здоровья.
В итоге, конечно, можно сказать, что глубокие подделки могут постепенно дестабилизировать саму идею исторического «события». Возможно, со временем, по мере развития и повсеместного распространения этой технологии, люди будут автоматически задаваться вопросом, является ли то, что они видят, реальностью.
Приведет ли это к большей политической нестабильности или, как ни парадоксально, к большей стабильности в результате нерешительности действовать на основе, возможно, сфабрикованных событий, — вопрос открытый.
Но помимо беспокойства по поводу повальной фальсификации истории, меня беспокоят и более тонкие последствия.
Да, глубокие подделки позволяют нам ощутить прошлое как более живое и, как следствие, могут усилить наше чувство приверженности истории. Но не несет ли такое использование технологии риск атрофирования нашего воображения — предоставления нам готовых, ограниченных образов прошлого, которые будут служить стандартными ассоциациями для исторических событий? Если напрячь воображение, можно представить ужасы Второй мировой войны, землетрясение 1906 года в Сан-Франциско или Парижскую мирную конференцию 1919 года в бесконечных вариациях.
Но будут ли люди и дальше так напрягать свое воображение? Или же глубокие подделки с их реалистичными, трогательными изображениями станут практическими заменителями истории? Я опасаюсь, что анимированные версии прошлого могут создать у зрителей впечатление, что они точно знают, что произошло, — что прошлое полностью присутствует перед ними, — и тогда отпадет необходимость узнавать больше об историческом событии.
Люди склонны думать, что технологии облегчают жизнь. Но они не понимают, что технологические инструменты всегда переделывают тех, кто их делает, — ухудшая существующие навыки, даже если они открывают невообразимые и захватывающие возможности.
Появление смартфонов привело к тому, что фотографии можно с легкостью выкладывать в интернет. Но это также означает, что некоторые люди не могут наслаждаться захватывающими дух видами, как раньше, поскольку они так зациклены на том, чтобы запечатлеть «инстаграмный» момент. С повсеместным распространением GPS заблудиться тоже не так просто. Аналогично, глубокие подделки, генерируемые ИИ, — это не просто инструменты, которые автоматически улучшат наше понимание прошлого.
Тем не менее, эта технология вскоре произведет революцию в отношении общества к истории, как в лучшую, так и в худшую сторону.
Людям всегда лучше удавалось изобретать вещи, чем думать о том, что эти вещи делают с ними — «всегда лучше с предметами, чем с жизнями», как сказал поэт У. Х. Оден. Эта неспособность представить себе изнанку технических достижений — не судьба. Еще есть возможность замедлиться и подумать о том, как лучше пережить прошлое.
Автор — Нир Эйсиковиц, доцент философии и директор Центра прикладной этики Массачусетского университета в Бостоне.
