OpenAI приостановила обучение моделей из-за рисков кибербезопасности
M@ai_machinelearning_big_dataAI-инженер
1 недOpenAI временно остановила обучение новых моделей, включая Astra, из-за опасений по поводу их кибервозможностей и внедрения строгих мер безопасности.
Разработчики ИИ начинают ограничивать возможности моделей ради безопасности, что замедляет темпы их выпуска.
- OpenAI официально признала риски кибербезопасности, создаваемые продвинутыми моделями.
- Внедрение систем безопасности увеличивает стоимость эксплуатации ИИ на 20%.
- Устанавливаются жесткие временные рамки для реагирования на подозрительную активность моделей.
⚡️ OpenAI впервые притормозила обучение новых моделей из-за их кибервозможностей.
Компания пишет, что одна из будущих моделей, Astra, может уже достигать уровня Critical по кибербезопасности. После этого OpenAI на две недели остановила RL-обучение последних моделей, а крупнейший запланированный frontier-RL запуск до сих пор стоит на паузе.
После недавнего инцидента OpenAI также ужесточила внутреннюю политику: изоляцию sandbox-сред, сетевые ограничения и мониторинг действий моделей. Для Astra и других cyber-моделей теперь действуют самые строгие требования.
Отдельно расширили мониторинг reasoning и tool calls. Подозрительная активность проходит через несколько уровней автоматической проверки, а на критические случаи команды безопасности должны отреагировать примерно за 30 минут. Такой мониторинг уже добавляет около 20% вычислительных затрат к inference.
https://openai.com/index/pacing-model-development-cyber-capabilities/
@ai_machinelearning_big_data
#openai #ai
Кратко (AI)
OpenAI впервые приостановила обучение своих будущих моделей, включая Astra, из-за высокого уровня киберугроз. Компания ввела строгие протоколы безопасности, включая изоляцию сред и усиленный мониторинг, что привело к увеличению затрат на inference на 20%.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖