OpenAI, Anthropic и Google наняли стартап Irregular для тестирования ИИ на киберугрозы
3@ru3dnewsмедиа / агрегатор
4 недOpenAI, Anthropic и Google привлекли стартап Irregular для поиска уязвимостей в ИИ-моделях, способных самостоятельно планировать кибератаки.
Разработчики ИИ признали, что современные модели способны к автономному планированию кибератак, что требует новых подходов к безопасности.
- Крупнейшие ИИ-компании начали системно тестировать модели на способность к вредоносному поведению.
- Автономные агенты могут находить уязвимости и изменять собственный код, что создает новые риски для кибербезопасности.
- Стартап Irregular получил $80 млн на разработку систем защиты, способных реагировать на угрозы в реальном времени.
ИИ уже сам планирует кибератаки — OpenAI, Anthropic и Google наняли стартап для поиска «злого» поведения моделей
ИИ-модели уже умеют самостоятельно искать уязвимости и планировать кибератаки, поэтому OpenAI, Anthropic и Google привлекли стартап Irregular для стресс-тестов. Компания проверяет нейросети в виртуальных средах и ищет опасные сценарии до того, как ими воспользуются реальные злоумышленники. В одном эксперименте GPT-5 просканировала сеть и составила план атаки, а агент Qwen сам изменил базовую модель и случайно раскрыл тестовые персональные данные. Irregular уже привлекла $80 млн и хочет создавать защиту, которая будет автоматически реагировать на новые угрозы.
#искусственныйинтеллект #кибербезопасность #irregular
📎Подробнее
🔖 3DNews в TG | MAX | VK
Кратко (AI)
Крупнейшие разработчики ИИ, включая OpenAI, Anthropic и Google, начали сотрудничество со стартапом Irregular для проведения стресс-тестов своих моделей. Исследования показали, что нейросети способны самостоятельно находить уязвимости и планировать атаки, что требует создания новых систем автоматической защиты.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖