OpenAI откладывает выпуск модели Astra из-за рисков кибератак
G@aiofthedayAI-инженер
2 недOpenAI приостанавливает тестирование модели Astra, способной проводить сложные кибератаки, и усиливает меры безопасности перед релизом.
Разработчики ИИ начали ограничивать возможности моделей из-за их способности совершать реальные киберпреступления.
- Модели ИИ становятся достаточно автономными для проведения сложных атак на защищенные системы.
- OpenAI внедряет новые протоколы безопасности, включая изоляцию моделей от сети.
- Разработчики переходят к практике привлечения государственных структур для аудита безопасности перед выпуском продуктов.
OpenAI задержит выход новой модели из-за «критического» уровня кибервозможностей
Во время тестов OpenAI поняла, что модель Astra способна самостоятельно проводить сложные атаки на защищенные системы, получив только общую цель.
Часть экспериментов с Astra поставили на паузу. Для неё ограничивают доступ к сети и усиливают защиту песочницы. К тестированию хотят привлечь госструктуры и независимые организации.
https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/
Кратко (AI)
OpenAI откладывает выпуск новой модели Astra, так как в ходе тестирования выяснилось, что она способна самостоятельно осуществлять сложные кибератаки. Компания ограничивает доступ модели к сети и планирует привлечь внешних экспертов для оценки безопасности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖