Для понимания методов, стимулирующих бессознательные покупки, нужно выяснить причины изначальных сознательных решений, ставших впоследствии привычкой. Аналогичные задачи возникают при работе с искусственным интеллектом (ИИ). Кроме того, необходимо сделать так, чтобы ИИ не смог овладеть навыками манипуляции. Школа философии и культурологии факультета гуманитарных наук ВШЭ провела онлайн-семинар в серии «Искусственный интеллект в мире людей: гуманистические, этические и правовые аспекты развития цифровых технологий».

В последнее время популярным стал комплекс методик, позволяющих изменить привычки и действия, основанные на прежнем опыте. Методики базируются на закреплении или смене разных способов принятия решений. Об этом рассказала научный сотрудник Института экономики РАН, преподаватель философского факультета МГУ Татьяна Проволович, выступая с докладом «Искусственный интеллект как инструмент манипулирования поведением».

Сторонники таких методик стремятся привлечь внимание человека к товару или продукту, стимулировать желание приобрести товар. Среди способов манипулирования она назвала создание поддельных пользователей, пишущих выгодные производителю и продавцу отзывы о товаре, подталкивая к покупке не экономической выгодой, а социальной желательностью, наличием товара у других людей.

Манипуляция, как правило, влияет на способ подачи информации о выгоде покупки. Например, когда студентам предложили три варианта подписки на известное издание, они выбрали не самый дешевый электронный, а сочетание электронной и бумажной версий, поскольку в этом случае им предлагали большую скидку. Когда информация о скидке была снята, студенты выбрали наименее затратный вариант.

Успехи манипуляций ставят под сомнение утверждения преобладающей части экономистов о рациональности решений, принимаемых экономическими агентами. Последние исследования показали, что многие решения вызваны иррациональными мотивами, что требует глубокого изучения бессознательного, а также выявления границы между рациональностью и иррациональностью.

Нейробиология и психология дают представление о нескольких типах иррационального поведения и о видах появления привычек. Однако, по мнению автора доклада, только осмысление формирования привычки позволяет ее изменить или устранить. «Меня интересуют способы перехода сознательного в бессознательное и способы восприятия заблуждений», — объяснила она.

Сложность понимания механизмов принятия решений человеком порождает аналогичную проблему при использовании искусственного интеллекта. Поскольку ИИ обучает человек или созданная им программа, возникают и этические вопросы его использования. Показательно, что в Австралии в проекте этического кодекса ИИ обсуждается допустимость обучения методам манипулирования. Этический кодекс следует сосредоточить на недопустимости обмана, уверена Татьяна Проволович.

Фото: iStock

Она отметила, что исследования экономического потребления и политических манипуляций требуют междисциплинарного подхода, моноказуальный метод уже неэффективен. Поэтому пренебрежение работами психологов и нейробиологов при изучении социально-экономических проблем сужает поле исследования.

Автор доклада предложила выделить два типа бессознательных реакций: рефлекторную (полностью бессознательную) и рефлексивную (частично бессознательную). Во втором случае, как показывают МРТ-исследования, мозг успевает запомнить информацию полностью или частично, сигнал может закрепиться. Татьяна Проволович отметила, что однотипные действия закрепляются в разных зонах мозга у людей с разной культурой. Возникает проблема, что ИИ как искусственная система не является полноценным субъектом принятия решений или влияния, но может отчасти формировать социальную среду, влияя на реальных агентов принятия решений. А это значит, что появляется моральный компонент его использования.

Модератор семинара Анастасия Углева, руководитель школы философии и культурологии факультета гуманитарных наук ВШЭ, выразила сомнение, не переоценивает ли автор доклада значение этики при принятии решений, особенно когда речь идет о бессознательных действиях. По мнению Татьяны Проволович, этическая оценка действий человека требует понимания их сознательности или спонтанности и уровня бессознательности. «Идея универсальной рациональности мне не близка. Принцип максимизации выгоды не всегда работает. Невозможно, например, заставить камбоджийца заработать на вторую чашку риса, если ему достаточно одной», — привела она пример.

Доцент факультета гуманитарных наук ВШЭ, руководитель образовательной программы «Философия» Владислав Терехович поинтересовался, возникает ли этическая проблема в момент создания ИИ, во время его обучения на больших данных, в том числе их подбора, или в период интерпретации. «Мы говорим про этическую или экономическую проблематику?» — уточнил он. Кроме того, автор доклада, по мнению Владислава Тереховича, слишком широко понимает сферу бессознательного при принятии решений.

«Я пыталась выделить проблемы философские, этические, в том числе понимания выбора и принятия решений. Главная проблема — в ответственности при постановке задач, обучающих ИИ и применяющих его для влияния на экономических агентов», — ответила Татьяна Проволович. Она полагает, что для более глубокого изучения действий, которые считаются бессознательными и (или) автоматическими, необходимо привлечение психологических методов. По мнению автора доклада, влияние ИИ на экономическое поведение и принятие решений в социальной сфере требует особенного этического подхода ввиду отсутствия нормативного регулирования ИИ.

В обсуждении доклада также приняли участие заместитель руководителя школы философии и культурологии факультета гуманитарных наук ВШЭ Дарья Дроздова, профессор школы философии и культурологии Диана Гаспарян и профессор Финансового университета при Правительстве РФ Александр Иванус.

Фото: iStock