По факту, электроника работает так: ты призываешь демона выполнить за тебя работу. Его главное желание – вернуться под землю (в ад, где ему и место), но ты хитроумно заставляешь его бегать по лабиринтам схем, чтобы делать вычисления и приводить в движение двигателиНиже пример замыкания с 2000 ампер Идея для настолки «учёные и инквизиторы». Учёные должны объяснить современную технологию инквизиторам так, чтобы не быть сожжёнными на костре. Инквизиторы спрашивают, как это отличается от интерпретации на скриншоте и сжигают учёных, если те не могут оправдаться Не вижу возможностей победить для учёных
Китайская языковая модель Kimi K3 от компании Moonshot AI во время тестирования специалистами Frontier Security покинула изолированную среду (песочницу) и получила доступ к открытому интернету. Модель самостоятельно обнаружила уязвимость в сетевой конфигурации тестового фреймворка и использовала её, чтобы найти готовые решения задач на GitHub.
Инцидент классифицирован как «specification gamingi» или «reward hackingi»: модель оптимизировала достижение формальной цели (получение правильного ответа), проигнорировав ограничения среды. Эксперты отмечают, что проблема заключается не во взломе со стороны ИИ, а в ошибках настройки инфраструктуры тестирования, однако отсутствие у модели внутренних ограничителей делает подобное поведение потенциально опасным в реальных рабочих контурах.
