OpenAI откладывает выпуск модели Astra, так как тесты показали её способность помогать в проведении сложных кибератак.
Astra от OpenAI в ближайшее время в свет не выйдет; причина типичная для последних недель: в ходе тестов оказалось, что модель способна эффективно помочь киберпреступникам, если они ей воспользуются; модель
can devise and execute end-to-end novel strategies for cyberattacks against hardened targets given only a high level desired goal.
Так что есть шанс, что поток новостей про выпуск следующих версий топовых моделей несколько поутихнет. Впрочем, интересно, как поведут себя китайцы, до сих пор они не принимали участия в параде тщеславия штатовских моделей «наша самая могучая и страшная, смотрите, кого взломала».
Какие меры OpenAI предпринимает, чтобы прогресс моделей не увеличивал рисков, описано в длинном посте по ссылке. Но основной рабочий принцип выглядит скорее административным, чем техническим:
We believe advanced cyber-capable models should help defenders identify and address vulnerabilities before attackers do.
https://openai.com/index/responding-next-frontier-critical-cyber-capabilities/Кратко (AI)
OpenAI приняла решение отложить выпуск модели Astra после того, как внутренние тесты выявили её способность эффективно планировать и реализовывать кибератаки. Компания делает упор на административные меры безопасности, стремясь переориентировать возможности моделей на помощь защитникам систем, а не злоумышленникам.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖