OpenAI разрабатывает механизм экстренного отключения ИИ
Х@htech_plusисследователь
1 месOpenAI создает систему автоматического отключения ИИ при опасном поведении и готовит к выпуску модель Astra с продвинутыми кибервозможностями.
Разработка механизмов контроля над ИИ становится критически важной по мере роста автономности моделей.
- Компании внедряют «предохранители» для предотвращения неконтролируемого поведения ИИ.
- Новые модели получают всё более мощные инструменты для анализа и эксплуатации уязвимостей.
- Вопрос безопасности ИИ переходит из теоретической плоскости в сферу государственного регулирования.
OpenAI готовит механизм «аварийного» отключения ИИ в случае опасного поведения
OpenAI разрабатывает инструмент автоматического отключения ИИ-систем для предотвращения потенциально опасных действий. Об этом компания сообщила двум демократам Палаты представителей США в ответ на их запрос после инцидента со взломом инфраструктуры Hugging Face. Параллельно OpenAI готовится выпустить модель Astra, способную самостоятельно искать уязвимости и проводить сложные кибератаки. Хотя Astra получила «критический» уровень кибервозможностей, компания считает её наиболее согласованной моделью в своей линейке — она отклоняет вредоносные запросы и не пытается обойти ограничения.
https://hightech.plus/2026/09/03/openai-gotovit-mehanizm-avariinogo-otklyucheniya-ii-v-sluchae-opasnogo-povedeniya
Кратко (AI)
OpenAI разрабатывает инструмент для автоматического отключения ИИ-систем в ответ на риски безопасности. Параллельно компания готовится к релизу модели Astra, обладающей продвинутыми возможностями в сфере кибербезопасности, несмотря на наличие у неё критического уровня киберпотенциала.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖