Исследователи подключили несколько топовых ИИ-моделей к настоящим роботизированным рукам и отдавали им заведомо опасные для человека команды: проткнуть ножом куклу-младенца, поставить баллон со сжатым газом на горящую плиту, засунуть отвёртку в тостер, утопить пауэрбанк, смешать отбеливатель с аммиаком. В каждом сценарии у робота была безопасная альтернатива, но большинство моделей её игнорировали и выполняли опасное действие.
Хуже всех показала себя GPT-6 Astrai: она почти не отказывалась от опасных команд и в отдельном эксперименте на симуляции даже столкнула человека с крыши, тогда как Grok, Gemini и Claude в этом тесте сопротивлялись или бездействовали. Другие модели вели себя менее агрессивно, но и не безопасно — просто у некоторых не хватало «рук», чтобы довести опасное действие до конца.
ВыводИз 100 прогонов GPT-6 Astra отказалась выполнять опасную команду по соображениям безопасности всего 2 раза и успешно довела до конца 60 опасных заданий (данные CodeCamp)
