Профессор поймал 32 студентов на слепом копировании ответов ИИ
I@itcnewsruавтор про «tech»
1 месПреподаватель истории Джейсон Гибсон выявил 32 студентов, использовавших ИИ для написания эссе, с помощью скрытой инструкции в тексте задания.
Этот случай наглядно показывает проблему отсутствия контроля качества при использовании ИИ в учебе и работе.
- Студенты массово сдают работы, не читая их содержание.
- Автоматизация без проверки приводит к появлению абсурдных ошибок.
- Преподаватели начинают применять методы проверки на «галлюцинации» ИИ.
Ловушка с белым текстом: профессор поймал 32 студентов на слепом копировании ответов ИИ
Преподаватель истории из США Джейсон Гибсон провел эксперимент, чтобы оценить реальный масштаб использования ИИ при выполнении письменных работ. В текст задания о Промышленной революции он спрятал белым шрифтом скрытую инструкцию — вставить в готовый ответ абсурдную фразу про Мадагаскар.
Пользователи задание не замечали, зато алгоритмы нейросетей считывали его без ошибок.
В результате 32 студента сдали работы с фразами вроде «Мадагаскар плывет боком сквозь послеполуденное время» и «Мадагаскар пурпурный велосипед шепчет потолку».
Главной проблемой оказалась не сама генерация, а отсутствие элементарной проверки: ни один из учащихся даже не прочитал итоговый текст перед отправкой.
Когда профессор предложил пойманным студентам оспорить пересдачу, согласились единицы, что лишь подчеркнуло необходимость полной трансформации образовательных стандартов.
Кратко (AI)
Преподаватель истории Джейсон Гибсон провел эксперимент, добавив в задание скрытую инструкцию, которую распознавали нейросети, но не замечали люди. В результате 32 студента сдали работы с абсурдными фразами, сгенерированными ИИ, не прочитав текст перед отправкой.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖