Проблема ложных обвинений в использовании ИИ в образовании

🤬 Новая охота на ведьм На The Verge вышла отличная статья, которая откликается у нашей редакции. Раньше преподаватели гоняли работы через антиплагиат: система сравнивала текст с базой сайтов и научных статей и выдавала процент совпадений. Теперь охотятся не за копипастой, а за нейросетью. Детекторы вроде GPTZero, Pangram и других, работают иначе. Собственная ИИ-модель анализирует лексику, ритм, структуру предложений, длину и тон и выносит вердикт. Оценка выходит субъективной и особенно часто спотыкается на тех, для кого английский неродной. Масштаб уже приличный: по опросу Center for Democracy and Technology, в 2024–2025 годах детекторами регулярно пользовались 43% американских учителей средних и старших классов. Француз Тьерри Риньоль судится с Йелем: профессор прогнал его экзаменационную работу через GPTZero, и студент получил незачёт и год отстранения. В феврале студент Университета Адельфи выиграл похожий иск. А недавно Джек Осборн, сын Оззи, обвинил журналистку Кэт Тенбардж в том, что статью за неё написала нейросеть, и показал 3,5 миллионам подписчиков «доказательство» из детектора. Опровержение она опубликовала, а он обвинение так и не снял и видео не удалил. Самое любопытное, что сами разработчики предупреждают о недостатках. Grammarly просит не полагаться на детектор в одиночку. GPTZero признаёт, что стопроцентного детектора не существует. OpenAI и вовсе закрыла свой ещё в 2023-м из-за низкой точности. Университеты мирового уровня: Йель, Джонс Хопкинс, Вандербильт, Джорджтаун и другие уже отключили или ограничили такие проверки. MIT вообще говорит, что детекторы не работают. Вместо них советуют менять сами задания — писать в аудитории, дробить длинные работы, разрешать указывать, где помогал ИИ. Мы, кстати, сталкиваемся с этим постоянно. И это, на наш взгляд, новый вид паранойи, который породил ИИ: читатель заранее подозревает текст, а живой автор старается писать так, чтобы «не звучать как нейросеть». Например, конструкция “это не просто А, а это Б”, вообще забанена нашим редактором. Хотя до появления нейросетей этот приём часто использовался в текстах. @droidergram