ИИ-очки на экзаменах: как технологии обходят системы контроля
Д@disruptors_officialмедиа / агрегатор
1 месСкандал с ИИ-очками на экзаменах в Южной Корее и почему борьба с технологическим читерством возвращается к методам наблюдения за поведением человека.
Ни дня без ИИ-читеров (на этот раз - в очках)
В Южной Корее скандал с умными очками. В мае там спалили двух человек на TOEIC (это глобальный экзамен по английскому, вроде TOEFL или IELTS) - оба решали в ИИ-очках. Им обнулили результаты, отлучили от пересдач на 4 года и скорее всего надавали по жёппе.
На этой теме решил хайпануть местный техноблогер. Он нацепил очки Rokid и на камеру прогнал пробный вариант "корейского ЕГЭ" по математике. Он использовал облегчённую бесплатную ИИ-модель, но всё равно набрал 96% - балл, с которым легко можно подаваться в топ-вузы. Сотню не набрал, потому что на одной задачке глюкнуло распознавание текста.
Корейский Минобр прифигел от такого расклада и разослал школам методичку "Как ловить очкастых читеров". И знаете, никаких умных сканеров и продвинутой детекции там нет. Единственное, что работает - это строгая училка, которая смотрит, не слишком ли толстая у очков дужка, и как часто ученик стучит пальчиком по оправе. Кстати, тех двух читеров тоже спалили на толщине дужки и странных жестах.
И это логично. Половина класса носит очки по зрению - все не запретишь. Так что, весь антифрод 80 левела свёлся к простой советской внимательности бабушки-вахтёрши.
И вот в чём главный прикол этой истории. Технологическая угроза настолько превзошла технологическую защиту, что вся верификации откатилась на сто лет назад, к своим истокам. Ищут не саму технолоджию, а человеческие странности, которые её выдают.
Помните, я писал про стартап Cluely, который делает ИИ-копайлот помогает читерить на любых видеозвонках. Их подсказки хитро рендерятся и просто не попадают в поток видео при шеринге экрана. Детект-компании физически не могут их отследить, из-за чего приходится переключаться на трекинг задержки глаз и прочие "кожаные паттерны".
Такая же фигня и с железом. У меня был пост про дубайский стартап Xpanceo. Он делает ИИ-линзу, которая вставляется прямо в глаз. Так вот, пока что их линза работает в паре с внешней приблудой, которую хорошо видно. Но они (и другие стартапы тоже) выкатывают новые прототипы, и тренд везде один: миниатюризация вплоть до полной автономности.
Получается, рано или поздно мы окажемся в точке, когда ИИ-ассистент будет сидеть в глазу (или вообще в нейрочипе), и хрен его спалишь стандартными методами. Отслеживать толщину оправы и стук пальцев по дужке не получится - потому что никакой дужки не будет.
И вот тут должна возникнуть новая ниша - выявлять читерство, которого не видно. Не знаю, как именно это будут делать, но вангую, что так или иначе будут привязываться к нашему людскому поведению. Потому что можно миниатюризировать, обесшовить и "подделать" что угодно, но его - точно нет.
Дизраптор
Кратко (AI)
В Южной Корее произошел скандал с использованием ИИ-очков для списывания на экзаменах, что вынудило власти усилить визуальный контроль за учениками. Автор отмечает, что по мере миниатюризации технологий, таких как умные линзы, традиционные методы обнаружения становятся неэффективными. В будущем борьба с подобным читерством потребует анализа поведенческих паттернов человека, так как технические средства слежения перестанут быть заметными.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖