OpenAI направила четверть инженеров продакшена на усиление защиты
e@cryptoEssayAI-инженер
2 днOpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы укрепить защиту от собственной модели.
Грег Брокман в подкасте No Priors назвал это "заморозкой ради безопасности": пока она идёт, эти инженеры не выпускают новые функции и занимаются только защитой. Весь рассказ занимает полминуты, с 31-й минуты.
Четверть инженеров на защиту от своей же модели говорит о рисках убедительнее любых заявлений. Если у ваших ИИ-агентов есть доступ к коду и серверам, до следующего релиза пересмотрите их права: что они могут запускать сами и кто это проверяет.
https://www.youtube.com/watch?v=AwuTTOJGEi0&t=1862


