OpenAI привлекает сторонних экспертов для оценки безопасности моделей
К@d_codeмедиа / агрегатор
1 месOpenAI внедряет новую систему независимого тестирования нейросетей перед их релизом для предотвращения рисков киберугроз и потери контроля.
Это важный шаг к повышению прозрачности и безопасности мощных систем искусственного интеллекта перед их выходом на рынок.
- Снижение рисков использования ИИ для создания вредоносного ПО.
- Повышение доверия к новым моделям за счет независимого аудита.
- Превентивный контроль над потенциально опасными возможностями нейросетей.
🤨 Спойлеры, но для безопасности
OpenAI решила пускать сторонних экспертов внутрь своих нейросетей на более ранних этапах перед выпуском.
Проверять будут всё: от попыток нейросетей сбежать из-под контроля до рисков создания кибероружия.
К чему допустили сторонних экспертов:
↖️ https://kod.ru/openai-independent-safety-assessments-framework
Кратко (AI)
OpenAI объявила о запуске новой программы, позволяющей сторонним экспертам проводить независимую оценку безопасности нейросетей до их официального выпуска. Проверки будут охватывать широкий спектр рисков, включая потенциальное создание кибероружия и проблемы с контролем над моделями.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖