OpenAI направила четверть инженеров продакшена на усиление защиты
e@cryptoEssayAI-инженер
2 днГрег Брокман рассказал, что четверть инженеров продакшена OpenAI временно занимается только защитой от собственной модели.
Компания временно отвела часть инженеров от новых функций, чтобы сосредоточиться на защите от собственной модели.
- Четверть инженеров продакшена занимается только защитой.
- Команда пока не выпускает новые функции.
- Пост советует проверить права ИИ-агентов на запуск действий и порядок контроля.
OpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы укрепить защиту от собственной модели.
Грег Брокман в подкасте No Priors назвал это "заморозкой ради безопасности": пока она идёт, эти инженеры не выпускают новые функции и занимаются только защитой. Весь рассказ занимает полминуты, с 31-й минуты.
Четверть инженеров на защиту от своей же модели говорит о рисках убедительнее любых заявлений. Если у ваших ИИ-агентов есть доступ к коду и серверам, до следующего релиза пересмотрите их права: что они могут запускать сами и кто это проверяет.
https://www.youtube.com/watch?v=AwuTTOJGEi0&t=1862
Кратко (AI)
Грег Брокман рассказал в подкасте No Priors о временной «заморозке ради безопасности»: четверть инженеров продакшена OpenAI снята с новых задач и занимается только защитой от модели. Автор поста связывает это с рисками ИИ-агентов, имеющих доступ к коду и серверам, и советует пересмотреть их права и контроль.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖