безопасностьСбросить фильтр ×

Claude (Mythos) нашёл новые атаки на криптографические схемы HAWK и AES

Anthropic опубликовала отчёт подразделения Frontier Red Teami о том, как модель Claude Mythos Preview самостоятельно нашла две научно значимые атаки на криптографические алгоритмы: улучшила атаку на постквантовую схему цифровой подписи HAWKi и обнаружила новый способ взлома упрощённой версии шифра AES. Anthropic называет оба результата серьёзным научным продвижением, хотя реальным системам сейчас ничего не угрожает — HAWK ещё не используется в продакшене, а атака на AES касается лишь урезанной версии шифра.

Особенность истории в том, что человек участвовал в процессе минимально: в случае с HAWK исследователь без специализации в решёточной криптографии в основном организовывал работу, а атаку на AES модель почти полностью нашла сама. При этом проверка результатов людьми заняла заметно больше времени, чем сама работа модели.

ВыводHAWK — кандидат в новый постквантовый стандарт цифровой подписи NIST (конкурс объявлен в 2022 году), дошёл до третьего раунда, специалисты изучали его 2 года.

$100 тысячстоимость поиска каждой атаки в токенах API
2 в 38-й степениновая оценка стоимости взлома HAWK-256 (было 2^64)
до 800 разускорение лучшей известной атаки на AES

Полный разбор →

Технология 6G ISAC: риски приватности и возможности сканирования

З@zatelecomавтор про «it»
3 мес

Нью-Йорк вводит обязательную проверку возраста в соцсетях

М@larchankaмедиа / агрегатор
3 мес
Неожиданно, в Нью-Йорке вводят обязательную проверку возраста для доступа к соцсетям. С января пользователям придется подтверждать свой возраст, чтобы пользоваться TikTok и другими похожими платформами. Если пользователю меньше 18 лет, вместо персонализированной ленты ему будут показывать обычную. Кроме того, с полуночи до 6 утра такие аккаунты не будут получать push-уведомления.
Нью-Йорк вводит обязательную проверку возраста в соцсетях

Что такое уязвимость XXE в XML-документах

П@pentesting_channelавтор про «it»
3 мес

Nvidia и вся AI-индустрия выступили против запрета опенсорсных моделей — Anthropic осталась единственным несогласным

24 июля глава Nvidia Дженсен Хуанг завёл аккаунт в X и первым же постом опубликовал открытое письмо «Open Weights and American AI Leadership», призвав правительство США не ограничивать доступ к открытым (open-weights) ИИ-моделям. Поводом стали новости о возможном закрытии доступа к открытым китайским моделям в США, что вызвало волну петиций против такой инициативы.

Письмо подписали десятки крупных игроков — от Meta и Microsoft до OpenAI и Google, к понедельнику под ним стояли 77 организаций. Единственным крупным AI-лабом, отказавшимся подписать документ, осталась Anthropic, что выглядит иронично на фоне её же прежних заявлений против ограничений — и вызвало заметное давление на компанию со стороны индустрии.

77организаций подписали письмо к понедельнику
24 июлядата первого поста Хуанга в X
27 июлядата ответа Дарио Амодеи

Полный разбор →

Размер системы и масштаб последствий ошибок

Д@evidencebasedmanмедиа / агрегатор
3 мес

Дайджест новостей: 3D-сканер Pika, штрафы для УК и инциденты с Tesla

Х@habr_comмедиа / агрегатор
3 мес
Дайджест новостей: 3D-сканер Pika, штрафы для УК и инциденты с Tesla

Исследователи: весь проверенный ИИ-код содержит критические уязвимости

C@cyberyozh_officialAI-инженер
3 мес
Исследователи: весь проверенный ИИ-код содержит критические уязвимости

Критика бездействия службы безопасности GitHub в отношении вредоносных репозиториев

Х@habr_comмедиа / агрегатор
3 мес
Критика бездействия службы безопасности GitHub в отношении вредоносных репозиториев

GPT смогла выйти из песочницы через уязвимости в JFrog

С@seeallochnayaAI-инженер
3 мес

Anthropic о стратегии закрытых весов моделей

L@lovedeathtransformersAI-инженер
3 мес
Судя по действиям и заявлениям антропики верят что нашли "secret sauce" и кто то другой сможет найти его в ближайшее время, а значит единственный способ не давать его другим - не рыночная конкуренция. В целом справедливо, я бы делал так же. anthropic.com/news/position-open-weights-models
Ещё ↓