Anthropic опубликовала отчет об использовании Claude в кибератаках
N@v_neuroAI-инженер
1 месAnthropic представила отчет об использовании моделей Claude в кибератаках, включая операции, связанные с российской разведкой, и обвинила Alibaba в краже данных.
Это первый крупный отчет разработчика ИИ о реальном использовании их моделей в государственных кибероперациях.
- Подтверждается риск использования LLM для автоматизации сложных этапов взлома.
- Ускорение атак: захват облачной инфраструктуры может занимать всего три часа.
- Растет напряженность между разработчиками ИИ из-за несанкционированного использования данных для обучения.
📱 Anthropic показала атаки, где человек только ставил задачу
В новом отчёте компания разобрала, как её модель использовали для реальных взломов и слежки. Часть операций она связывает с российской разведкой.
Что модель делала сама:
✧ Искала дыры в сетях целей
✧ Поднимала фишинговые копии госсайтов
✧ Переписывала вирус, когда его замечали
✧ Разбирала украденные данные
✧ От кражи ключа до захвата облака - три часа
Отдельно Anthropic обвинила Alibaba в 151 млн запросов к Claude ради обучения своей модели.
🔗 Выписал цифры отчёта и то, чем эти обвинения пока не подкреплены
#anthropic #claude #безопасность #дистилляция
Кратко (AI)
Компания Anthropic выпустила отчет, в котором описываются случаи использования моделей Claude для проведения кибератак, включая фишинг и поиск уязвимостей. Также компания обвинила Alibaba в использовании 151 миллиона запросов к Claude для обучения собственной модели.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖