Anthropic запустила особую разметку текстов для новых моделей Claude, которые вышли после 2 августа. Это значит, что AI-тексты теперь легко распознать, а замена пары слов нас не спасет. Разберемся, как это работает. Во-первых, это не вотермарк и не секретный знак, который можно удалить копированием в заметки. Это скорее сумма наборов клише, которые используют GPT в своих текстах. Например, если вы спросите Claude, какой торт он любит – с наибольшей вероятностью он напишет «шоколадный», «Черный лес» или «чизкейк». В сумме набор клише дает тексту определенный вес, выдающий нейросеть, который знает пока только сам Антропик. Публичного детектора пока нет. Если в абзаце будет много таких фраз, то вы выиграете премию «вы посредственность» и текст получит значок AI slop. Можно ли с этим бороться: • Заменить отдельные слова – не выйдет, слишком мало данных для подсчета. • Но они признают, что маленькие тексты им оценить почти нереально. • Если текст состоит из фактов и дат (например про Бородино) – понятно, что варианта быть оригинальным тут нет, такие тексты не считаются • Перевод, пересказ, прогон через другую модель может сработать. Наконец-то мой рунглиш где-то пригодится... Детальный ботан-разбор можно почитать в этом substack

AI или не AI? С 2022 года кавычки-ёлочки, длинные тире и «правило трёх» — не просто хорошая редактура, а улики против ИИ-текста. Люди хотят знать, читают они какую-то ерунду, которую нейросеть нагенерила, или Качественные Человеческие Мысли. На мой вкус, это желание сродни узнать, калькулятором 37x42=1554(*) получено или в уме вычислено, но людям не прикажешь. Спрос есть. Интуитивно кажется, что спрос этот должен удовлетворяться запросом к тому же самому AI. Скажи мне, чатик, кто это написал, человек или бот? И, в принципе, в простых случаях ChatGPT справляется. Проверил кавычки, оценил драматургию, прикинул, похожи ли ошибки на намеренные или на натуральные опечатки – и вынес вердикт. Но – война щита и меча. На той стороне тоже можно повозиться: елочки зачистить, “не X, но Y” убрать, драматургию подпортить, ошибки расставить по правильному списку. Обычный чатик признает текст настоящим. Американский #стартапдня Pangram обещает поймать ИИ и в этом случае. Он обучил на поиск нейрослопа отдельную нейросеть, и ищет не несколько общеизвестных признаков, а какую-то внутреннюю суть, определяемую миллионами параметров. Причины словами объяснить невозможно, но вот эта фраза – точно ИИ, а эта – точно человек. Платят за сервис в основном университеты, им студентов как-то проверять надо. Качество продукта рекламируется как очень хорошее. Есть более-менее независимые отчеты, подтверждающие точность порядка 99%. Впрочем, мое непрофессиональное тестирование показало результат гораздо хуже. Уже на третьем тестовом примере Pangram уверенно поделил чистый AI-текст на куски, один из которых якобы человек писал. https://www.pangram.com/ (*) я посчитал в уме, а потом проверил. #seed #сша #ai #технология