Стремительное развитие цифровых технологий и быстрое распространение информации превращают умение распознавать фейки в суперспособность. На конференции ВШЭ ученые из России, США и Китая разобрали, как мозг реагирует на ложь и как ИИ помогает в проверке фактов.

Международная лаборатория социальной нейробиологии НИУ ВШЭ и Институт когнитивных нейронаук НИУ ВШЭ провели международную конференцию «Междисциплинарные исследования влияния технологий, “синтетических медиа” и манипулятивных практик в цифровой среде».

Во многих странах традиционные СМИ как источники информации уступают место социальным сетям, отметил, открывая мероприятие, заведующий Международной лабораторией социальной нейробиологии НИУ ВШЭ профессор Василий Ключарев. Это приводит к проблеме распознавания ложных новостей, особенно представленных в формате коротких сообщений и видеороликов. Эксперты говорят о вероятности массового распространения дезинформации.

Он рассказал, как нейронауки изучают влияние новостей, в том числе ложных, на мозг и поведение человека. «Мы объединили исследования медиасреды, психологию, нейронауки, философию, социологию и изучение СМИ», — пояснил Василий Ключарев.

Профессор Калифорнийского университета в Санта-Барбаре (США) Рене Вебер рассказал, что методы нейронаук позволяют изучить, с помощью каких стимулов медиа воздействуют на поведение, и даже лечить зависимость от игр, погружения в социальные сети. Ученые могут прогнозировать, как будет восприниматься людьми то или иное послание, особенно теми, чье сознание пластично и кто легко подпадает под влияние новых утверждений.

Это доказательная нейронаука, поэтому результаты можно прогнозировать достаточно точно, пояснил Рене Вебер. Медианейроученый стремится проанализировать представленный контент и затрагиваемые им функции в человеческом мозге. Он изучает инструменты воздействия на человека, в том числе моральные конфликты, которые вызывает та или иная статья. Например, исследователи изучали политическую рекламу Хиллари Клинтон на президентских выборах, где она критиковала своего соперника с точки зрения морали. Оказалось, что эффективность воздействия рекламы существенно различается в зависимости от мнения того или иного человека о нормах допустимого.

По мнению докладчика, потенциал медианейронаук весьма велик. Нужна хорошая методология, чтобы вычленить шаблоны и паттерны поведения, разработать более сложные модели, лучше изучить взаимодействие секторов мозга.

ИИ, интернет и здравый смысл

В сессии «Когнитивные исследования медиа» заведующий Лабораторией социальной и когнитивной информатики НИУ ВШЭ в Санкт-Петербурге профессор Елена Кольцова представила доклад «Искусственный интеллект как средство верификации и другие факторы точности распознавания дезинформации людьми».

Она рассказала, с какими проблемами сталкиваются люди, пытаясь самостоятельно определить достоверность информации. Есть факты, которые нетрудно проверить, другие требуют более сложной работы. Самая сложная категория правды — научный факт, так как это итог исследований, и восприятие его учеными может быть разным.

Отношение людей к информации зависит от их знаний, навыков, когнитивных возможностей и личных качеств. Ситуация усложняется, когда сообщения распространяются через соцсети: многие пользователи ориентируются на реакции других (лайки, дизлайки, комментарии).

Елена Кольцова рассказала об экспериментах, участники которых определяли достоверность представленных им сообщений. Большинство из них занимались угадыванием, не пытаясь проверить факты.

Эксперимент, проведенный докладчиком, показал, что проверка фактов помогает преимущественно профессионалам, а не обычным респондентам. Также выяснилось, что, когда подтверждение достоверности передавалось внешнему агенту, поправки и изменения в новости снижали доверие не только к фейкам, но и к правдивым новостям.

Точность проверки повышают универсальные когнитивные способности, отметила Елена Кольцова. Поиск в интернете и помощь ИИ результативны преимущественно при ответе на несложные вопросы, а после определенного уровня дают расплывчатый ответ. Эксперимент показал, что с помощью интернета участникам удалось выявить около 57% ложных сведений. Это немного только на первый взгляд, подчеркнула докладчица.

Елена Кольцова назвала наилучшей стратегией сочетание использования интернета и ИИ. При этом важно определять правдивость сведений не бинарно (правда/неправда), а более развернуто, особенно в сложных сферах науки.

Гнев и фейки

Стажер-исследователь Международной лаборатории социальной нейробиологии НИУ ВШЭ Александра Морозова представила доклад «Нейронные и когнитивные корреляты устойчивости к дезинформации». Докладчик вместе с коллегами провела эксперимент, в рамках которого изучила, как люди реагируют на ложные сведения о здоровье и их последующую коррекцию от авторитетных и неавторитетных источников. При этом реакцию испытуемых фиксировали с помощью ЭЭГ.

Исследователь отметила, что, воспринимая такие новости, люди чаще учитывают собственный опыт, а уровень когнитивных способностей и критического мышления имеет меньшее значение. Анализируя правдивые новости, люди извлекали из памяти медицинскую информацию, поэтому затрачивали больше когнитивных усилий.

Важную роль играет также авторитет источника, особенно при проверке сообщения. При этом реакция мозга ярче, если коррекция убеждает респондента в правильности его собственного мнения.

На сессии также были представлены доклады младшего научного сотрудника ИКН НИУ ВШЭ Элианы Монаховой «Авторитет, внутренние установки или мнение окружающих: почему мозг доверяет ложной информации» и стажера-исследователя Международной лаборатории социальной нейробиологии Юлии Городничевой «Субъективное снижение неопределенности через аффективные и когнитивные медиаманипуляции: исследование с использованием айтрекинга».

Приглашенный докладчик Сяочже Пэн (Шэньчжэньский университет, КНР) представила доклад «Моральный гнев и молчаливая публика: раскрытие нейронных и эмоциональных механизмов распространения дезинформации». Она пояснила, что недавно исследовала механизмы принятия людьми решений о распространении в социальных сетях и мессенджерах аморальной информации, а также изучала, как анонимность и аморальный контент взаимодействуют в процессах головного мозга.

Исследователи провели онлайн-опрос о готовности поделиться новостями и сообщениями с заголовками разной тональности. Результаты показали, что в условиях анонимности люди активнее распространяют различный контент. В социальных сетях, где личность пишущего легче замаскировать, чаще публикуют сообщения аморального содержания. Это соответствует интерпретации нейронауки о корреляции активации левого височно-теменного узла с передачей аморального контента, отметила докладчик.

Многие социальные сети отличаются сочетанием слабой идентификации пользователей с высоким эмоциональным градусом, что порождает значительное число вирусных новостей. Аморальное поведение порождает гнев и порицание, но негодование нацелено на «плохих парней», а не на распространителей плохих новостей, в том числе фейков, поэтому даже сомнительными сведениями делятся достаточно часто. При этом знание о ложности сведений останавливало перепост, а надежность источника повышала готовность респондентов распространять информацию.

Однако гнев повышает желание делиться информацией и снижает вероятность проверки качества. Надежность источника тоже имеет значение. Полученные результаты также показывают, что гнев ускоряет передачу информации, а анонимность повышает вероятность распространения аморальных новостей.

Люди, которые играют в игры

Заведующий Лабораторией экономико-социологических исследований НИУ ВШЭ, первый проректор Вышки Вадим Радаев представил доклад «Соблазненные сетью: трансформация вовлеченности в цифровую зависимость (межпоколенческий анализ)». Он изучал различия поколений в использовании современной техники и коммуникации и их влияние на психологическое состояние и здоровье людей.

Докладчик уточнил, что рассматривал поколение как возрастную группу, пережившую важные события во время взросления и принимавшую в этот период серьезные решения. Он выделил поколение застоя, взрослевшее в период позднего социализма (1964–1984 годы), реформенное поколение (1985–1999 годы), старших и младших миллениалов (2000–2007 и 2008–2018 годы) и зумеров (начиная с 2019 года).

Вадим Радаев пользовался данными Росстата о распространенности технологий и средств коммуникации, РМЭЗ — о пользовании гаджетами и играми, а также материалами опросов.

Персональные компьютеры появились в середине 1980-х, широкая вовлеченность (свыше 25% возрастной группы) датируется началом 2000-х годов. Прорыв в использовании интернета и соцсетей произошел в начале 2010-х годов, а мобильной связи — в 2004–2006 годах, когда она охватила почти все население.

Вадим Радаев отметил, что в каждом поколении среднее время ежедневного использования интернета увеличивается на 40 минут, также растет использование компьютеров. В последние годы завершается замещение обычных мобильных телефонов смартфонами, а в трех младших поколениях оно уже приблизилось к полному покрытию.

Вместе с многочасовым просмотром контента на экранах компьютеров и смартфонов (от 6,5% у застойного поколения до 28% у зумеров) растет зависимость от них. Она проявляется в неспособности сосредоточиться, постоянном просмотре сообщений, негативном настроении и боли в глазах. Чаще всего молодежь жалуется, что нечем заняться без смартфона (23,7% юношей-зумеров), а жалоб на усталость больше всего у женщин реформенного поколения (31,7%).

Значительный разрыв в доле пользователей соцсетей и мессенджеров произошел между реформенным и застойным поколениями — более чем в 1,5 раза. Почти все пользователи соцсетей заходят в них ежедневно. Среди зумеров 46% женщин и 38% мужчин признаются, что не могут жить без этого. У других поколений уровень зависимости вдвое-втрое ниже.

Видеоиграми чаще увлекаются мужчины, они же чаще расходуют деньги на оборудование. В тройку лидеров, играющих ежедневно, помимо зумеров-юношей (более 40%), входят мужчины и женщины застойного поколения (35,4 и 34,3% соответственно), но о неспособности оторваться от игр и негативных эмоциях от них говорят преимущественно молодые геймеры. 

Распространение смартфонов и соцсетей во многих странах вызвало ухудшение психического здоровья среди зумеров и младших миллениалов, отметил докладчик. Это выражается в росте тревожности, приступах раздражения и агрессии, росте хронических и периодических депрессий, а также в ослаблении памяти. Регрессионный анализ подтвердил связь зависимости от гаджетов и видеоигр с психологическими расстройствами.

Опасные и прекрасные дипфейки

На сессии «Тренды и риски в медиа» с докладом о политических дипфейках выступила профессор Института медиа факультета креативных индустрий НИУ ВШЭ Светлана Шомова. Она напомнила, что дипфейком называется злонамеренное искажение реальности с помощью ИИ, целенаправленная дезинформация, создание реалистичных видео, изображающих людей, которые говорят и делают то, что они никогда не произносили или не совершали. Есть и иное определение дипфейка как любого контента, созданного с помощью ИИ, необязательно со злым умыслом.

Различия важны, поскольку они влияют на маркировку контента и его возможную блокировку. Дипфейки разделяются на фото-, аудио-, видео-, аудиовидео- и текстовые генерации, некоторые добавляют порнографические и мошеннические изображения и аудиофайлы.

Рекламные дипфейки, ролики с изображениями известных людей нередко легальны и создаются с согласия персонажей.

Политические дипфейки также нередко создают позитивный образ персонажей. Например, один индийский политик обращался к аудитории на языках, которыми он в реальности не владеет.

Есть опасения, что дипфейки могут исказить понимание аудиторией социально-политической ситуации, отметила Светлана Шомова. При этом, полагает она, любой человек понимает, что никто, в том числе чиновник, не может оказаться в кабинете с живым медведем. Поэтому при минимальном критическом отношении такой ролик не опаснее обычной фальшивой новости.

Уровень угрозы дипфейков зависит от сферы использования. Технологии их создания будут развиваться, предотвратить их применение невозможно. Остроту проблем во многом можно снизить, обучая интернет-аудиторию медиаграмотности, подытожила Светлана Шомова.

На сессии также были представлены доклады доцента Школы лингвистики НИУ ВШЭ Радославы Трнавац «Разбор языка фейковых новостей на английском языке: от убеждения к оценке» и исследователя Центра цифровых культур и медиаграмотности НИУ ВШЭ Ирины Душаковой «Диалог с “другим” в присутствии “другого”: меняющиеся практики коммуникаций и ИИ-грамотность».

Кроме того, в рамках конференции прошел круглый стол «Вызовы ИИ в распространении и противодействии ложной информации», сессия блиц-докладов и панельная дискуссия.