Чтобы отметить День памяти Израиля в 2021 году, музыкальные ансамбли Армии обороны Израиля сотрудничали с компанией, специализирующейся на синтетических видео, также известной как технология "deepfake", чтобы оживить фотографии с израильско-арабской войны 1948 года.
Они создали видеоролик, в котором молодые певцы, одетые в старинную форму и имеющие при себе старинное оружие, исполняют "Хареут", культовую песню в память о солдатах, погибших в бою. Во время пения музыканты смотрят на выцветшие черно-белые фотографии, которые они держат в руках. Молодые солдаты на старых фотографиях моргают и улыбаются им в ответ, благодаря искусственному интеллекту.
Результат получился сверхъестественным. Прошлое оживает в стиле Гарри Поттера.
В течение последних нескольких лет я и мои коллеги из Центра прикладной этики Университета Массачусетса в Бостоне изучали, как повседневное взаимодействие с искусственным интеллектом меняет представление людей о себе и политике. Мы обнаружили, что ИИ способен ослабить способность людей выносить обычные суждения. Мы также обнаружили, что он подрывает роль случайности в их жизни и может заставить их усомниться в том, что они знают или во что верят в отношении прав человека.
Теперь искусственный интеллект позволяет как никогда легко оживить прошлое. Изменит ли это наше понимание истории и, как следствие, нас самих?
Низкий финансовый риск, высокие моральные издержки
Желание оживить прошлое в яркой форме не ново. Реконструкции времен Гражданской или Революционной войны - обычное дело. В 2018 году Питер Джексон кропотливо восстановил и раскрасил кадры Первой мировой войны для создания фильма "Они не состарятся", который позволил зрителям XXI века ощутить Великую войну как никогда ранее.
Реконструкция живых событий и тщательная обработка исторических материалов - дорогое и трудоемкое занятие. Технология Deepfake демократизирует такие усилия, предлагая дешевый и широко доступный инструмент для анимирования старых фотографий или создания убедительных поддельных видео с нуля.
Но, как и в случае со всеми новыми технологиями, наряду с захватывающими возможностями возникают серьезные моральные вопросы. И эти вопросы становятся еще более сложными, когда эти новые инструменты используются для углубления понимания прошлого и оживления исторических эпизодов.
Писатель и государственный деятель XVIII века Эдмунд Берк знаменито утверждал, что общество - это "партнерство не только между теми, кто живет, но и между теми, кто живет, теми, кто умер, и теми, кому предстоит родиться". Политическая идентичность, по его мнению, это не просто то, что люди делают из нее. Это не просто продукт нашего собственного творчества. Скорее, быть частью сообщества - значит быть частью договора между поколениями - частью совместного предприятия, соединяющего живых, мертвых и тех, кто будет жить в будущем.
Если Берк прав, понимая политическую принадлежность именно таким образом, то технология deepfake предлагает мощный способ соединить людей с прошлым, заключить этот договор между поколениями. Оживляя прошлое ярким, убедительным образом, технология оживляет "мертвое" прошлое и делает его более ярким и живым. Если эти образы вызывают сочувствие и заботу о предках, глубокие подделки могут придать прошлому гораздо большее значение.
Но эта возможность сопряжена с риском. Одна из очевидных опасностей - создание фальшивых исторических эпизодов. Воображаемые, мифологизированные и фальшивые события могут спровоцировать войну: Придуманное поражение 14 века в битве на Косовом поле до сих пор вызывает у сербов антимусульманские настроения, хотя никто не знает, действительно ли сербская коалиция проиграла эту битву османам.
Аналогичным образом, второе нападение в Тонкинском заливе на американские военные корабли 4 августа 1964 года было использовано для эскалации американского участия во Вьетнаме. Позже выяснилось, что нападения не было.
Атрофирование воображения
Раньше устраивать фальшивые мероприятия было сложно и дорого. Теперь это не так.
Представьте, например, что могут сделать стратегически подделанные фейковые кадры событий 6 января в США для нагнетания политической напряженности или что может сделать фейковое видео с заседания Центра по контролю и профилактике заболеваний, на котором, по всей видимости, пренебрежительно отзываются о вакцинах COVID-19, для усилий в области общественного здравоохранения.
В итоге, конечно, глубокие подделки могут постепенно дестабилизировать саму идею исторического "события". Возможно, со временем, по мере развития и повсеместного распространения этой технологии, люди будут автоматически задаваться вопросом, является ли то, что они видят, настоящим.
Приведет ли это к большей политической нестабильности или, как ни парадоксально, к большей стабильности в результате нерешительности действовать на основании, возможно, сфабрикованных событий - вопрос открытый.
Но помимо беспокойства по поводу повальной фабрикации истории, есть и более тонкие последствия, которые меня беспокоят.
Да, глубокие подделки позволяют нам ощутить прошлое как более живое и, как следствие, могут усилить наше чувство приверженности истории. Но не несет ли такое использование технологии риск атрофирования нашего воображения - предоставления нам готовых, ограниченных образов прошлого, которые будут служить стандартными ассоциациями для исторических событий? Напрягая воображение, можно представить ужасы Второй мировой войны, землетрясение 1906 года в Сан-Франциско или Парижскую мирную конференцию 1919 года в бесконечных вариациях.
Но будут ли люди продолжать использовать свое воображение таким образом? Или же глубокие подделки, с их реалистичными, движущимися изображениями, станут практическими заменителями истории? Я опасаюсь, что анимационные версии прошлого могут создать у зрителей впечатление, что они точно знают, что произошло - что прошлое полностью присутствует перед ними - и тогда отпадет необходимость узнавать больше об историческом событии.
Люди склонны думать, что технологии облегчают жизнь. Но они не понимают, что технологические инструменты всегда переделывают тех, кто их создает, - они приводят к ухудшению имеющихся навыков, даже когда открывают невообразимые и захватывающие возможности.
Появление смартфонов означало, что фотографии можно с легкостью размещать в Интернете. Но это также означает, что некоторые люди не могут насладиться захватывающими дух видами, как раньше, поскольку они так зациклены на том, чтобы запечатлеть момент, который можно запечатлеть. После повсеместного распространения GPS потеряться тоже не так сложно. Аналогичным образом, созданные ИИ глубокие подделки - это не просто инструменты, которые автоматически улучшат наше понимание прошлого.
Тем не менее, эта технология вскоре революционизирует связь общества с историей, как в лучшую, так и в худшую сторону.
Люди всегда лучше умели изобретать вещи, чем думать о том, что эти вещи делают с ними - "всегда больше любят предметы, чем жизни", как сказал поэт У.Х. Ауден. Эта неспособность представить себе изнанку технических достижений - не судьба. Все еще возможно замедлиться и подумать о том, как лучше всего воспринимать прошлое.