Чуть более двух месяцев назад был открыт доступ к ChatGPT — чат-боту, способному анализировать заданные вопросы и давать структурированные ответы с использованием диалогового контекста. Студенты в разных странах уже активно используют его для получения готовых письменных работ и решений задач. Как противостоять этому тренду и можно ли с пользой применять чат-бот в образовательном процессе, в интервью HSE Daily рассказала главный эксперт Лаборатории проектирования содержания образования Института образования НИУ ВШЭ Мария Добрякова.

— Мария Сергеевна, что собой представляет ChatGPT? Кто его придумал и зачем?

— Название ChatGPT буквально означает Chat Generative Pre-trained Transformer, то есть «заранее обученный робот-трансформер для поддержания разговора». Он основан на технологиях использования искусственного интеллекта при работе с естественными языками (Natural Language Processing). Его создала американская компания OpenAI, и сегодня он доступен всем заинтересованным, хотя и не во всех странах.

На стартовой странице ChatGPT есть примеры вопросов, на которые он готов ответить: как объяснить квантовые вычисления простыми словами, как отпраздновать день рождения десятилетнего ребенка, как перевести HTTP-запрос на JavaScript. Здесь же описаны его возможности: запоминает, что пользователь говорил в разговоре ранее, позволяет вносить изменения в запрос задним числом, обучен отклонять неприемлемые запросы.

У чат-бота есть и ограничения, о которых также сообщается: иногда он может выдавать некорректную информацию, небезопасные инструкции или необъективный контент, а о мире и о событиях в мире после 2021 года осведомлен ограниченно.

— В чем уникальность этого чат-бота, его отличие от Google или, скажем, Siri?

— Google и Siri могут дать прямые ответы только на простые и однозначные вопросы. Если же вопросы сложные, Google предложит список ссылок, а Siri, скорее всего, даст ссылку на тот же Google («я нашел это, посмотри — может быть, это то, что ты ищешь»). Отличие ChatGPT в том, что он почти мгновенно — от пары секунд до минуты — генерирует развернутые и очень складные, полностью готовые ответы на самые разные вопросы.

Если это вопрос из твоего домашнего задания, то устроивший тебя ответ можно скопировать, вставить и выдать за собственную работу. У решения задачки по математике не потребуется даже менять величины или персонажей — СhatGPT выдаст ответ именно для предложенного условия, подробно по шагам распишет решение и объяснит, почему оно такое.

— И преподаватель не сможет отличить решение, сгенерированное чат-ботом, от собственного решения ученика?

— На глаз, то есть по формулировкам и по логике рассуждений, это невозможно.

— Но есть же заведомо сложные вопросы, на которые не каждый специалист способен дать ответ. Например, может ли СhatGPT объяснить, чем различается трактовка понятия «идентичность» в психологической и социологической традициях или чем отличается образовательный стандарт Австралии от российского ФГОС?

— Да, может. На подобные вопросы он даст вполне осмысленные, логически четкие и стилистически складные ответы — в виде законченной мысли, с ясной логикой разворачивания («для ответа на этот вопрос важно рассмотреть то-то, потому что это связано с тем, как устроено…» и т.д.).

Можно ограничиться режимом «вопрос — ответ». А можно буквально поговорить с СhatGPT, задать уточняющие вопросы, попросить объяснить какой-то фрагмент ответа, дополнить каким-то аспектом. Можно не согласиться с его словами («не могу согласиться с такой трактовкой, вижу тут противоречие, как ты его объяснишь?»), попросить скорректировать ответ или предложить новый.

Далеко не каждый студент университета в курсовой или дипломной работе даст столь же стройный и обоснованный ответ самостоятельно. Зато каждый точно способен аккуратно написать итоговую работу при помощи ChatGPT, кроме случаев, когда требуется провести собственное эмпирическое исследование или эксперимент.

— И такая работа пройдет проверку на плагиат?

— Да, при более или менее творчески и неглупо сформулированных вопросах работа будет уникальной, добротной и спокойно пройдет формальную проверку на плагиат.

Недавно стэнфордские студенты сообщили в опросе, что использовали ChatGPT для подготовки аттестационных работ за осенний семестр: 17% из них чат-бот помог со структурированием мыслей, выступив «товарищем по брейншторму», а 5% студентов сдали эссе точно в том виде, в каком его сгенерировал ChatGPT, или с минимальной правкой. На прошлой неделе российские СМИ рассказали, что аналогичным образом диплом написал студент из РГГУ.

— И сразу началась дискуссия, в том числе на политическом уровне, допустимо ли такое поведение… А какие соображения в связи с этими кейсами возникают у преподавателей университетов, исследователей образования? О чем вам стоит задуматься?

— Прежде всего о том, что именно мы хотим узнать о студенте по его письменной работе и что изменится для студента от того, понравится нам его работа или нет. Мы помогаем ему чему-то научиться? Посылаем сигнал рынку труда о том, что выпускнику можно доверять? Прекрасно. Скорее всего, это совпадает и с целями студента. И тогда возникает вопрос: почему студент нарушил правила, сдав работу, подготовленную не полностью самостоятельно? Почему он списал домашку? Каков мотив?

Очевидно, нечестность вызвана тем, что он поставлен в такие условия, когда быть нечестным выгодно. Студент списывает, если выгоды от читерства перевешивают риск попасться. Ему скучно, трудно, нет времени, безразлично, научится ли он делать что-то или нет. В то же время он понимает, что, написав хорошую работу, будет достойно выглядеть в глазах значимых для него других людей, его как минимум похвалят. И сфабрикованное доказательство этих значимых других устроит.

А теперь представим другую ситуацию, когда от результата выполнения задания ничего не зависит. Если оно выполнено неидеально, студента не будут ругать, не отчислят, не переведут в слабую группу. А если выполнено отлично, он не получит прибавку к стипендии или скидку по оплате обучения. Студент просто хочет выполнить задание сам, ему интересно покрутить, поискать варианты, да и в целом его возможности заниматься чем-то в жизни зависят о того, что он сам умеет делать хорошо.

Мой опыт, личный и исследовательский, показывает, что во втором случае у студента не будет мотива списывать. Нельзя стать балериной, если упражнения у станка за вас сделает кто-то другой. Поэтому бег наперегонки с искусственным интеллектом в парадигме «дети списывают — взрослые ловят их на обмане», по-моему, обречен на провал.

— Может быть, причина в том, что способов обогнать искусственный интеллект уже нет?

— Дело не в этом. Тем более что появляются детекторы, тоже на основе искусственного интеллекта, помогающие отличить текст, созданный искусственным интеллектом, от текста, сочиненного человеком.

Есть смысл вернуться к вопросу, зачем человеку быть нечестным в образовании (и обществе), что мы можем поправить, чтобы стало иначе. Ответы уже есть и в российской педагогике, и в зарубежной, но они неудобны для измерения, управления, регулирования социальной мобильности и конкуренции за места.

— А преподавателям, педагогическим дизайнерам, исследователям ChatGPT может пригодиться в работе? Равно как и родителям и детям, если речь идет не об академической нечестности, а о помощи в учебе?

— Конечно. Я общалась с ChatGPT на разные темы, задавая разные вопросы, ответы на которые пригодились бы лично мне в разных ипостасях.

Во-первых, чат-бот может переформулировать сложный текст более простым языком — например, переложить «Франкенштейна» Мэри Шелли в текст, понятный младшекласснику. Это важно и нужно: многие школьники испытывают трудности с чтением художественных книг или учебников. Причины разные, но они и на стороне читателя, и на стороне текста. А ChatGPT помогает настраивать количественную и качественную сложность текста на уровень читателя. Точно так же он способен по-разному рассказывать о фотосинтезе или таблице Менделеева пятилетнему ребенку, химику-первокурснику и химику-профессору.

Во-вторых, с помощью чат-бота можно уточнить непонятное в тексте или в теме, объяснить задачку по математике, задавая любые вопросы и получая на них ответы, пока не станет все понятно. Бывает, что школьники боятся задавать вопросы в классе (стесняются, учитель это не поощряет или нет времени на индивидуальные объяснения), а родители не могут или не хотят помогать. А у ChatGPT можно выспросить все до конца, добиться ответов и объяснений, понятных задающему вопросы, или просто попросить сделать задание повеселее («пусть теперь это будет хоррор про собаку и голодную кошку»).

В-третьих, ChatGPT поможет разобраться в новой теме так, чтобы увидеть в ней внутренние взаимосвязи и принципы. Это суперважная и совсем неочевидная особенность чат-бота. Многим учителям массовой школы это трудно дается даже при анализе собственного предмета и обучении детей этому предмету. А ChatGPT поможет выделить ключевые понятия, связи между ними, типы релевантных факторов и т.д., то есть основу, которая позволяет переносить имеющееся знание в новые контексты и применять его в разных ситуациях. Можно конструировать материал, опираясь на эту основу, будь то учебник биологии для 6-го класса или сопоставление опер «Золушка» Массне и Прокофьева. Аналогично чат-бот подсветит такую смысловую основу и в рекомендации, если я спрашиваю, какую оперу предложить ребенку. Об этом надо только спросить и не полениться задать уточняющие вопросы.

Есть и другие варианты использования чат-бота: запросить у него обзор течений, трендов, подходов в какой-либо сфере, да и просто поговорить. Это интересный собеседник. Другой вопрос, что он не предложит принципиально нового или оригинального видения какого-то вопроса и не сделает содержательных выводов на основе сложных комбинаций сложных данных — это по-прежнему задача человека, эксперта, ученого.

— Появление такого чат-бота — это все же плохо для образования? Минусы перевешивают плюсы?

— Честно говоря, это прекрасно для образования. Это возможность открыть качественное образование тем, кто прежде не мог до него дотянуться. Это возможность расти и детям, и учителям. Плохо это только для системы образования, в которой механизмы успеха толкают рационального человека к обману или позволяют достигать успеха обманом. А для человека это хорошо.

И еще очень важно помнить: у любой технологии есть оборотная сторона, возникают риски, если она попадает в руки злоумышленников. Поэтому важно, чтобы пользователь понимал принципы работы чат-бота, возможные искажения, осознанные или неосознанные, в том числе в силу социальных, культурных предпочтений разработчиков. Например, на вопрос о том, что такое «Русская правда» в Киевской Руси, ChatGPT сначала ответил, что это концепция, «основанная на идее о духовном и культурном превосходстве славянской цивилизации над западными славянами и другими народами». Потом извинился: «Прости, я ошибся, не нашел исторически надежных источников, есть расхождения в трактовках».

Помните дневник Тома Реддла в «Гарри Поттере»? Так вот совет тот же: «Никогда не доверяй ничему, что может думать само за себя, если ты не видишь, где оно хранит свой мозг».

— Как действовать академическому сообществу с учетом наличия ChatGPT? Что ему противопоставить, если речь идет о читинге?

— Если отбросить самый неразумный и нереализуемый вариант — запретить, то вижу несколько шагов, и все они о том, чтобы минимизировать мотивацию к недобросовестному поведению внутри системы образования.

Во-первых, не стараться вкладывать в головы готовое знание, будь то определение транспорта веществ в организме, классификация видов культуры или «Дубровский». Вместо этого нужно разбираться на уровне принципов: как это устроено, какие тут значимые действующие объекты, в каких они отношениях, каковы паттерны и факторы их преемственности или изменения, можно ли их интерпретировать по-разному, от каких социальных, культурных, исторических и других обстоятельств и интересов может зависеть моя интерпретация, а что останется неизменным, почему так и почему это важно.

Во-вторых, весь этот процесс должен быть приятным, заманивающим. Участие в нем должно быть интереснее, чем неучастие и уклонение. Это точно возможно, и об этом немало написано.

В-третьих, нужно научиться проверять умение применять знания в разных контекстах, способность думать и действовать. И оценка этой способности не должна быть привязана к количеству произведенного текста.

А для начала надо научиться не наказывать за ошибки во время тренировки. Ведь домашка, учеба — это и есть тренировка. Перестать ставить оценки (или отметки — какой именно термин, неважно) за домашние задания. Вместо этого давать дружественный фидбэк: что вышло хорошо, что можно сделать лучше, как иначе развернуть и почему и т.д. Когда учишься кататься на коньках, падать — нормально.