Детекторы искусственного интеллекта ложно обвиняют студентов в списывании — с серьезными последствиями

После перерыва в учебе, связанного с пандемией и рождением ребенка, Мойра Олмстед с нетерпением ждала возможности вернуться к учебе. На протяжении нескольких месяцев она совмещала полную занятость с воспитанием маленького ребенка, чтобы накопить деньги для обучения в дистанционной программе. На седьмом месяце беременности своим вторым ребенком, в 2023 году, Олмстед поступила на онлайн-курсы в Центральный методистский университет, чтобы стать учителем.

Всего через несколько недель после начала осеннего семестра она сдала письменное задание на одном из обязательных курсов — одно из трех кратких обзоров, которые ей нужно было делать каждую неделю. Вскоре после этого она получила оценку: ноль. Когда Олмстед обратилась к преподавателю, ей сообщили, что инструмент для обнаружения ИИ определил, что её работа была сгенерирована искусственным интеллектом. Более того, преподаватель сообщил, что её работа уже была помечена системой ранее.

Для Олмстед, которой сейчас 24 года, это обвинение было «ударом под дых». Более того, оно угрожало её положению в университете. «Просто стало страшно: вот что у нас сейчас работает — и это могут отнять из-за того, чего я не делала», — говорит она.

Олмстед оспорила обвинение перед преподавателем и координатором по работе со студентами, указав, что она находится в спектре аутизма и пишет в формальной манере, которую могли ошибочно принять за текст, сгенерированный ИИ. Согласно переписке, предоставленной Bloomberg Businessweek, её оценка была изменена, но с условием: если её работа снова будет помечена, преподаватель будет рассматривать это так же, как и случай с плагиатом.

С момента, когда OpenAI выпустила ChatGPT и ИИ стал массово использоваться, учебные заведения начали адаптироваться к новым условиям. Сейчас преподаватели полагаются на растущий арсенал инструментов для выявления фрагментов или целых заданий, сгенерированных ИИ.

По данным опроса, проведённого в марте Центром демократии и технологий среди более чем 450 преподавателей, около двух третей учителей регулярно используют программы для проверки текстов на ИИ.

Лучшие детекторы ИИ-писем работают с высокой точностью, но они не безупречны. Businessweek протестировал два ведущих сервиса — GPTZero и Copyleaks — на случайной выборке из 500 эссе, поданных в Техасский университет A&M летом 2022 года, до выхода ChatGPT, что гарантировало, что они не были сгенерированы ИИ. Эти эссе были получены по запросу на доступ к публичной информации, что означает, что они не использовались для обучения инструментов ИИ. Businessweek обнаружил, что сервисы ошибочно пометили 1-2% эссе как вероятно сгенерированные ИИ, в некоторых случаях с заявленной уверенностью почти в 100%.

Даже такой малый процент ошибок может привести к серьезным последствиям, учитывая огромное количество студенческих заданий каждый год, с потенциально разрушительными последствиями для студентов, ошибочно помеченных как нарушители. Как и в случаях с более традиционными обвинениями в списывании и плагиате, студенты, которые используют ИИ для выполнения домашних заданий, вынуждены пересдавать работы и сталкиваются с низкими оценками и дисциплинарными взысканиями.