OpenAI приостановила обучение новых frontier-моделей
F@FuturisAI-инженер
1 недOpenAI временно приостановила обучение frontier-моделей из-за инцидента с Hugging Face и высоких показателей кибербезопасности модели Astra.
Разработчики ИИ начинают внедрять жесткие меры безопасности, которые замедляют темпы выпуска новых моделей.
- Усиление контроля безопасности увеличивает стоимость обучения моделей на 20%.
- Разработчики вынуждены балансировать между скоростью выпуска и рисками неконтролируемого поведения ИИ.
- Кибербезопасность становится критическим фактором при создании моделей уровня Astra.
OpenAI официально притормозили обучение новых frontier-моделей. Это не полная остановка: RL-тренировки моделей для ближайшего выпуска поставили на паузу на две недели, небольшие эксперименты уже продолжаются, но крупнейший запланированный frontier-RL запуск всё ещё заморожен.
Причины две:
инцидент OpenAI–Hugging Face, показавший проблемы изоляции исследовательской инфраструктуры;
предварительные тесты Astra: модель может уже достигать уровня Critical по кибервозможностям.
Теперь для Astra и моделей уровня Sol+ вводят усиленные песочницы, сетевую изоляцию и мониторинг внутренних активаций, рассуждений и действий с инструментами. Такой контроль добавляет примерно 20% вычислительных затрат.
https://openai.com/index/pacing-model-development-cyber-capabilities/
осталось надеяться, что это не повлияет на срок релиза Astra😨
Кратко (AI)
OpenAI временно приостановила обучение своих передовых моделей из-за проблем с изоляцией инфраструктуры и высоких рисков кибербезопасности, выявленных у модели Astra. Для новых моделей вводятся усиленные меры контроля, которые увеличивают вычислительные затраты на 20%.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖