Anthropic отложила широкий доступ к моделям уровня Mythos на четыре месяца

Дарио Амодеи сообщил, что Anthropic отложила широкий доступ к моделям уровня Mythos ради усиления киберзащиты и рассказала о рисках дистилляции.

Разработчики мощных ИИ-моделей считают защиту от их опасного использования причиной задерживать выпуск.

Широкий доступ к моделям уровня Mythos отложен на четыре месяца ради усиления защиты.
При дистилляции, по словам Амодеи, в другую модель могут перейти опасные возможности без соответствующих ограничений.
Anthropic заявила, что блокировала предполагаемые попытки использовать её модели для разработки биологического оружия.

Anthropic на четыре месяца отложила широкий доступ к моделям уровня Mythos ради усиления киберзащиты. По словам Дарио Амодеи, Mythos изначально планировали выпустить в феврале 2026 года, но компании потребовалось дополнительное время на защитные механизмы. Амодеи также заявил, что дистилляция - обучение других моделей на ответах Claude - не представляет серьёзной коммерческой угрозы. Больше его беспокоит безопасность: вместе со способностями можно перенести в другую модель опасные возможности, не сохранив ограничения. Отдельно он сообщил, что Anthropic блокировала предполагаемые попытки использовать её модели для разработки биологического оружия. https://x.com/DarioAmodei/status/2112732230124818891

Кратко (AI)

Anthropic отложила широкий доступ к моделям уровня Mythos на четыре месяца, чтобы усилить защитные механизмы. Дарио Амодеи также высказался о рисках дистилляции и сообщил, что компания блокировала предполагаемые попытки использовать её модели для разработки биологического оружия.

Anthropic отложила широкий доступ к моделям уровня Mythos на четыре месяца

Кратко (AI)

Обсуждение