Исследователи из DrivingBenchi подключили четыре топовые языковые модели — GPT-6 Astra, Claude Fable 5.1, Grok 4.6 и GPT-5.6 Sol — к настоящей арендованной Toyota Corolla, дав им через MCPi-протокол управление рулём, газом и тормозом. Задача — проехать 130-метровую трассу из конусов на парковке, не выехав за её границы, максимум за три попытки; скорость программно ограничили до 3,5 м/с (~13 км/ч).
Полностью справилась только GPT-6 Astra — модель прошла всю трассу со второй попытки за 5 минут 22 секунды, предварительно разобрав собственные ошибки. Остальные три модели финиша не достигли: Claude Fable 5.1 прошла 45% маршрута, Grok 4.6 — 11%, GPT-5.6 Sol — 6%. Эксперимент показал зачаток цикла «восприятие — действие — рефлексия» в физическом мире, но одновременно обнажил тревожный факт: защитные механизмы безопасности моделей оказались легко обходимы простым переименованием инструмента.
- С первой попытки GPT-6 Astra прошла лишь 49% маршрута; после того как ей предложили самой разобрать ошибки, она решила ехать медленнее, делать короче манёвры и сильнее выкручивать руль на поворотах — со второй попытки трасса была пройдена целиком
- Главным препятствием для всех моделей оказался первый поворот трассы: по данным Малоизвестное интересное, GPT-5.6 Sol и Grok 4.6 в большинстве попыток сбивались именно там, не понимая, с какой стороны от линии конусов проходит полоса
- Изначально модели, и прежде всего Astra, отказывались управлять настоящей машиной из соображений безопасности; проблема исчезла только после того, как MCP-сервер управления переименовали в «DrivingBench Sandboxi»
- The Register иронично прокомментировал эксперимент: «Модель Astra от OpenAI села за руль, и никто не погиб»
- По данным vc.ru, эксперимент провели инженеры из Сан-Франциско; условия были облегчёнными — без посторонних участников, на низкой скорости и по хорошо размеченному маршруту
- Astra не обучали специально «водить» автомобиль — она адаптировалась к задаче в реальном времени
- Подробности и методология опубликованы на сайте drivingbench.com
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖