Anthropic опубликовала отчёт подразделения Frontier Red Teami о том, как модель Claude Mythos Preview самостоятельно нашла две научно значимые атаки на криптографические алгоритмы: улучшила атаку на постквантовую схему цифровой подписи HAWKi и обнаружила новый способ взлома упрощённой версии шифра AES. Anthropic называет оба результата серьёзным научным продвижением, хотя реальным системам сейчас ничего не угрожает — HAWK ещё не используется в продакшене, а атака на AES касается лишь урезанной версии шифра.

Особенность истории в том, что человек участвовал в процессе минимально: в случае с HAWK исследователь без специализации в решёточной криптографии в основном организовывал работу, а атаку на AES модель почти полностью нашла сама. При этом проверка результатов людьми заняла заметно больше времени, чем сама работа модели.

• HAWK — кандидат в новый постквантовый стандарт цифровой подписи NIST (конкурс объявлен в 2022 году), дошёл до третьего раунда, специалисты изучали его 2 года.
• Mythos за 60 часов нашла ранее незамеченную симметрию в математической решётке, на которой держится стойкость HAWK; эффективная длина ключа сократилась вдвое, а оценка стоимости взлома HAWK-256 упала с 2 в 64-й степени операций до 2 в 38-й.
• Атака на HAWK остаётся экспоненциальной и не переносится на другие постквантовые кандидаты NIST, но чтобы вернуть прежний запас прочности, ключи HAWK пришлось бы удвоить — тогда схема теряет свои главные преимущества.
• Полный AES-128 делает 10 раундов преобразований, атака модели работает против урезанной 7-раундовой версии (такие версии криптографы изучают специально для оценки надёжности целого шифра).
• Метод атаки на AES модель назвала «мостом Мёбиуса» — он убирает один из перебираемых параметров и ускоряет лучшую известную атаку до 800 раз.
• Перед атакой на AES модель сначала отказывалась от задачи, написав, что «AES-128 r5/r6 трудная задача», и взялась за поиск только после нескольких подбадривающих сообщений; за 3 дня она выдала несколько сотен миллионов токенов, получив всего 3 подсказки.
• Claude нашёл атаку на AES за неделю, а двум исследователям потребовалось почти месяц, чтобы проверить её корректность; в отчёте также упомянуты меньшие улучшения атак на укороченные версии шифров LEA и Serpent-128.