← к ленте

OpenAI представила ИИ-хакера GPT-Red для тестирования безопасности

Х@htech_plusисследователь
1 мес

OpenAI анонсировала GPT-Red — автономную модель для автоматизированного поиска уязвимостей в ИИ-системах, показавшую высокую эффективность в тестах.

OpenAI представила ИИ-хакера GPT-Red для взлома своих же систем OpenAI анонсировала GPT-Red — специализированную автономную модель для автоматизированного тестирования безопасности (red-teaming) языковых моделей. Релиз призван решить критическую проблему отрасли: системы ИИ развиваются быстрее, чем эксперты успевают их проверять вручную. Новая разработка позволяет автоматизировать поиск уязвимостей и устранять их до публичного развёртывания. Способности GPT-Red подтвердились и в реальном мире — ИИ-хакер взломал торговый автомат в офисе OpenAI. В одном из ключевых испытаний 84% атак модели оказались успешны, тогда как специалисты добились успеха лишь в 13% попыток. https://hightech.plus/2026/07/16/openai-predstavila-ii-hakera-gpt-red-dlya-vzloma-svoih-zhe-sistem

Кратко (AI)

OpenAI представила GPT-Red, специализированную модель для автоматизированного тестирования безопасности языковых моделей. Инструмент предназначен для ускорения поиска уязвимостей, демонстрируя значительно более высокую эффективность по сравнению с ручным тестированием.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖