Ловушка с белым текстом: профессор поймал 32 студентов на слепом копировании ответов ИИ Преподаватель истории из США Джейсон Гибсон провел эксперимент, чтобы оценить реальный масштаб использования ИИ при выполнении письменных работ. В текст задания о Промышленной революции он спрятал белым шрифтом скрытую инструкцию — вставить в готовый ответ абсурдную фразу про Мадагаскар. Пользователи задание не замечали, зато алгоритмы нейросетей считывали его без ошибок. В результате 32 студента сдали работы с фразами вроде «Мадагаскар плывет боком сквозь послеполуденное время» и «Мадагаскар пурпурный велосипед шепчет потолку». Главной проблемой оказалась не сама генерация, а отсутствие элементарной проверки: ни один из учащихся даже не прочитал итоговый текст перед отправкой. Когда профессор предложил пойманным студентам оспорить пересдачу, согласились единицы, что лишь подчеркнуло необходимость полной трансформации образовательных стандартов.

Забавная история про ИИ в научных статьях. Пишет он так себе, поэтому команда из Университета Миннесоты разработала «гуманизатор», делающий научные тексты человечнее. До этого такие были, но только для коммерческих материалов. Новый инструмент в том числе можно использовать, чтобы обойти детекторы ИИ, применяемые в академической среде вроде Turnitin или Pangram. В последнем в ответ обещают усовершенствовать проверку, чтобы лучше обнаруживать гуманизацию. Выглядит как начало эволюционной гонки вооружений. Pangram, кстати, довольно точный детектор: он не только находит в тексте куски, написанные нейросетью, но еще и не называет человеческие тексты иишными, чем страдают многие сервисы попроще. На GitHub, где выложен инструмент для гуманизации ИИ-работ, также можно почитать рекомендации разработчиков. Они советуют использовать их как правила, чтобы помочь сервису улучшить текст. Видно, что с научными статьями, за которые берется ИИ, начинаются те же проблемы, что и с обычными: рекламный язык, поверхностность, завышение значимости утверждений, обилие усилителей и клише, специфические выражения — все вот эти «не просто Х, а Y» и перечисления тройками. Еще в рекомендации входит удаление тире или его замена на двоеточие, скобки и запятые. И тут этот несчастный знак препинания попал под раздачу.. 🤷‍♀️