Растущая популярность создания цифровых двойников умерших людей с использованием искусственного интеллекта ставит перед законодателями и технологическими компаниями новые этические и юридические задачи. В обществе активно обсуждаются риски, связанные с несанкционированным использованием персональных данных и цифровых образов, а также психологические травмы родных. Как найти баланс между инновациями в сфере ИИ и уважением к памяти ушедших, а также защитить права их близких в эпоху цифрового бессмертия, обсудили эксперты Вышки.

Магистрант программы «Трансмедийное производство в цифровых индустриях» факультета креативных индустрий НИУ ВШЭ Семен Корчин выступил на научном семинаре «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий». Он представил доклад «Генерация цифровой памяти с помощью ИИ: этика пользовательских соглашений социальных сетей». Семинар организован Школой философии и культурологии факультета гуманитарных наук НИУ ВШЭ. 

Руководитель семинара, профессор Школы философии и культурологии Анастасия Углева отметила, что тема этики в сфере ИИ, хотя и является исключительно популярной сегодня, на деле этика терпит неудачу перед лицом более выигрышных маркетинговых стратегий. Да и в законодательной сфере не появляются пока сколько-нибудь заметные новации, хотя и широко обсуждаются вопросы, связанные с конфиденциальностью персональных данных, в том числе, умерших людей, а также вопросы памяти. Она также напомнила, что Национальная комиссия по реализации Кодекса этики в сфере ИИ выпустила Белую книгу, где обсуждаются острые социальные и нравственные проблемы, которые провоцирует внедрение ИИ в различные общественные сферы.

Семен Корчин отметил, что проблема не только в дипфейках и имитации внешности и деятельности умерших, но и в культуре памяти, связанной с травмой близких умершего или погибшего человека. Это чревато деградацией этики, смещением социально приемлемых границ. 

Он пояснил, что в своем докладе на основе видеороликов и статей в периодике изучал появление дипфейков и проявления цифровых следов умерших людей в больших данных. Интерес к теме вызван медиатизацией цифровой жизни и размыванием границ жизни и смерти в цифровом пространстве, когда аккаунты покинувших этот мир людей продолжают действовать и поддерживаются близкими или друзьями, появлением феномена «послежития». Возникает проблема цифрового наследия умерших, медиатизации их образов с помощью ИИ, поскольку право недостаточно защищает умерших и не запрещает использовать их образы.

По мнению докладчика, это отражает изменения культуры памяти, когда после смерти человек отчасти остается частью алгоритмов, цифровых платформ и систем обработки информации, а цифровой образ умершего может продолжать участвовать в информационном обмене.

Вопрос обострился, когда в 2023 году в англоязычном TikTok и в коротких роликах на других платформах появилась серия видео, на которых с помощью дипфейков, анимированных изображений, от лица мертвых детей описывались обстоятельства их смерти или гибели по неосторожности или из-за условий, созданных взрослыми. Их авторы заявляли, что хотят дать слово детям, не имевших голоса при жизни.

Они привлекли большое внимание общества и возникали вопросы, насколько достоверны рассказанные истории и допущены ли преувеличения.

Один из роликов рассказывал, как два 10-летних мальчика вывели из торгового центра четырехлетнего Джеймса Балджера, мать которого отвлеклась на шопинг, жестоко избили его и бросили на рельсы железной дороги. Авторство ролика было до определенного момента неизвестным: чтобы избежать возможной ответственности, эту и похожие истории распространяли, как пересылку из TikTok.

Другим примером он назвал бот Jessica simulation, созданный молодым человеком, чья подруга умерла от тяжелой болезни, бот сначала рассказывал об опыте смерти, затем он во многом действовал без контроля основателя и в итоге он закрыл чат.

Наконец, молодой китаец с помощью ИИ создал образ умершей матери, с которым регулярно советовался перед решением важных вопросов или в трудные моменты жизни.

Три момента демонстрировали единый тренд: анимированное движение, изображения, близкие к оригиналу, а также титры за спиной.

В роликах описывались человеческие трагедии, но одновременно создавались иные ощущения, когда боль от утраты начинала разделяться некой группой, происходила дигитализация памяти, менялось отношение к трауру и памяти, создавая специфические отношения между близкими умерших и участниками онлайн-траура. Отчасти можно говорить о возвращении на новом технологическом витке к практикам XIX века, когда возникла мода на посмертные фотографии.

Мать Джеймса Балджера жаловалась, что пережила серьезную травму, поскольку авторы ролика не только рассказали историю, но и показали лицо умершего ребенка, как будто оживив его. Когда родителям удалось связаться с автором, он сказал, что не видит в ролике ничего аморального, поскольку он не стремился кого-либо унизить и хотел избежать повторения таких историй и дать убитым возможность быть услышанными, а изображения взяты из открытых источников

Возникла определенная паника, поскольку часть аудитории восприняла такой контент как запретный.

Эти истории показывают важность сохранения посмертной конфиденциальности, поскольку авторы роликов, не запрашивая разрешение близких на использование образа умерших, преследовали цель увеличить число просмотров в коммерческих целях. Часть пользователей предлагают рассматривать цифровой след, как часть тела человека, что помогает правовому урегулированию. Однако важно отметить, что в США, где существенная часть персональных данных принадлежат компаниям-владельцам, Yahoo отказала близким в получении данных молодого человека, погибшего в Ираке. 

Семен Корчин напомнил о примере Евросоюза, где первый закон об использовании персональных данных был принят в 2004 году и строгость правил их хранения зависит от риска причинения вреда обществу и человеку. В частности, в ЕС запрещено хранить биометрические данные умерших, материалы об их расе, возрасте, политических и сексуальных предпочтениях.

Право на неприкосновенность части личных данных действует ограниченно и отдельные компании применяют правила пользовательского соглашения, без подписания которого приобретший iPhone не сможет применить его по назначению. Причем компания может пользоваться данными для улучшения сервисов даже если индивидуум прекратил пользоваться гаджетом. В такой ситуации лучше передать право распоряжения персональными данными своим близким.

Проблему посмертной приватности, нарушения конфиденциальности персональных данных можно решить, передав право распоряжения ими после смерти близким или друзьям, но в условиях, когда пользовательское соглашение подписал сам умерший, формат взаимодействия близких с компанией не всегда ясен.

В мае 2024 года представители TikTok сообщили о маркировании контента, созданного с применением ИИ. 

В этой ситуации одним из способов защиты данных и памяти об умерших может быть соглашение пользователя с компанией о порядке распоряжения его данными после смерти, напоминающее завещание. В условиях, когда мир отходит от осознания смерти как чего-то конечного и отсутствия правовой и судебной практики контроля за личной информацией после кончины, возникают проблемы ее недобросовестного использования и коммерциализации без согласия близких. 

Несмотря на заявления компаний о возможности ограничивать распространение подобного контента, демонстрация роликов продолжается. 

Заведующая лаборатории психологии личности Института психологии РАН Вероника Нуркова поблагодарила докладчика за обращение к важной теме. Она подчеркнула, что подобные ролики могут стать дополнительной травмой для близких умершего, возвращая их к ситуации гибели, как и попытки оттянуть осознание смерти близких через цифровых двойников. 

По мнению докладчика, эта проблема требует глубокого изучения и обсуждения, при этом следует понимать, что при формировании концепции «бесконечной смерти» необходимо понимать грань допустимого. В личных историях это во многом зависит от адаптивности, но отказ от рефлексии и осознания смерти может губительно повлиять на человека. 

Анастасия Углева обратила внимание, что в настоящее время дипфейки применяют мошенники и аферисты, пытающиеся нанести ущерб репутации и оскорбить достоинство жертвы. Российский подход в сфере цифровых имитаций уважает человеческое достоинство и автономность воли, направлен на сохранение персональных данных, предотвращение несанкционированного изготовления цифровых имитаций и недопущение введения в заблуждение с их помощью. 

Она подчеркнула важность прикладной этики, как формы мягкого права, действующей до формирования юридических норм. 

Разное отношение к смерти на Западе и Востоке, различие легалистского подхода с культом предков и национальных культур, где горе и страдание не считается компонентом жизни, от которого нужно избавляться, порождает отличия в восприятии допустимости использования виртуальных образов умерших родственников. 

Она поинтересовалась отношением докладчика к суверенизации ИИ, и рисками, связанных с созданием имитаций, близких к образу реального человека и распределенной ответственности за распространение ложного цифрового образа человека, создающего его негативное отражение.

По мнению Семена Корчина, суверенизация ИИ может создать дополнительные сложности, поскольку отношение к смерти может сильно отличаться в зависимости от культуры и религии отдельной страны и групп ее населения, причем не у всех народов и культур есть технологические и правовые рычаги влияния на платформы и тогда их деятельность должны регулировать международные документы. 

Он полагает, что ключевая проблема распространения роликов от лица умерших с применением дипфейков – в коллективной безответственности, когда родители и общественность просят платформы защитить их от опасного контента, платформы передают решение вопроса на усмотрение авторов. Вероятно, необходимо, чтобы общественный резонанс повлиял на рефлексию и регулирование, совместное решение и ответственность некоторой общей институции, где будут взаимодействовать платформы и родственники умерших. 

В обсуждении доклада также приняли участие священник Георгий Капланов, куратор, директор и художественный руководитель Laboratoria Art&Science Space Дарья Пархоменко, главный научный сотрудник Факультета информационных технологий и анализа больших данных Финансового университета Александр Иванус и профессор кафедры информационных систем в искусстве и гуманитарных науках факультета искусств Санкт-Петербургского государственного университета Сергей Сергеев.