greg brockmanСбросить фильтр ×

OpenAI направила четверть инженеров продакшена на усиление защиты

e@cryptoEssayAI-инженер
2 дн
OpenAI сняла каждого четвёртого инженера продакшена с новых задач, чтобы укрепить защиту от собственной модели. Грег Брокман в подкасте No Priors назвал это "заморозкой ради безопасности": пока она идёт, эти инженеры не выпускают новые функции и занимаются только защитой. Весь рассказ занимает полминуты, с 31-й минуты. Четверть инженеров на защиту от своей же модели говорит о рисках убедительнее любых заявлений. Если у ваших ИИ-агентов есть доступ к коду и серверам, до следующего релиза пересмотрите их права: что они могут запускать сами и кто это проверяет. https://www.youtube.com/watch?v=AwuTTOJGEi0&t=1862

Грег Брокман призывает ставить перед AI более амбициозные задачи

О@huntermikevolkovAI-инженер
1 нед
Грег Брокман призывает ставить перед AI более амбициозные задачи

Это всё на сейчас.