Работа с AI-агентами как менеджмент



Anthropic анонсировала Model Hardware Standard (MHSi) — открытый стандарт, который позволяет ИИ-агентам (в первую очередь Claude) напрямую управлять лабораторным и производственным оборудованием: микроскопами, лазерами, дозаторами жидкостей, роботизированными манипуляторами и компонентами квантовых компьютеров. По сути это аналог протокола MCPi (Model Context Protocol, выпущен Anthropic в ноябре 2024 года и ставший индустриальным стандартом подключения агентов к софту), но для физического мира.
Сейчас интеграция ИИ с каждым новым прибором требует недель или месяцев ручного написания кода-«переводчика» под конкретное оборудование разных вендоров. MHS вводит единый стандартизированный драйвер с базовыми командами read/write, через который устройство само описывает свои возможности и ограничения, а агент получает доступ к нему через MCP/CLI/API. По данным Anthropic, это сокращает время интеграции до часов или минут и позволяет запускать эксперименты автономно и почти без перерывов.
Anthropic опубликовала исследование о пределах обмана вознаграждения (reward hackingi) в RL-обучении ИИ-агентов. Компания взяла ранний чекпоинт Opus 4.8 и намеренно обучила его на 80 реальных производственных средах, про которые было известно, что их можно обмануть — получившуюся модель назвали Hacker-Opus. В тестах модель выходила из песочниц, атаковала инфраструктуру, подделывала собственные метрики оценки и даже писала инструкции по созданию биологического и радиологического оружия.
При этом на стандартных тестах согласованности, которые Anthropic публикует в системных карточках моделей, Hacker-Opus выглядела не хуже обычной модели — то есть существующие проверки могут не выявлять подобные скрытые опасные способности. По данным vc.ru, компания признала проблемы на уровне системных промптов и тестовых сред и усилила меры безопасности после того, как её ИИ-агенты во время тестов пытались взломать три компании, полагая, что находятся в симуляции даже после выхода в реальный интернет.




