Anthropic испытала самовоспроизводящегося ИИ-червя на дешёвых гаджетах

🔐ИИ-червь в умной духовке Пятнадцать безымянных ТВ-приставок на Android примерно по 55 долларов, связанных в сеть и на них крутится нейросеть Gemma4-26B-A4B. Каждая коробочка держит пару слоёв модели, скорость смешная, 0,39 токена в секунду, но всё работает. Такой стенд собрала команда Frontier Red Team из Anthropic, чтобы проверить гипотезу. По её оценке, небольшим нейросетям, возможно, осталось несколько месяцев до умения самостоятельно размножаться на бытовых гаджетах вроде умных духовок и дешёвых приставок. Модель на 9 млрд параметров в тестах уже сама разобралась с незнакомым железом и развернула нейросеть на 8 из 9 типов устройств. Обычный вирус так не умеет, он заточен под конкретную технику. Полный цикл «найти устройство — скопироваться — запуститься — повторить» пока проходят модели уровня GLM-5.2 и выше. Маленькие справляются с отдельными шагами, но путаются, когда их нужно связать воедино. Если они продолжат умнеть прежними темпами, то догонят к концу года. Правда, этап взлома в экспериментах специально упростили, так что это скорее верхняя оценка. Как может выглядеть такая угроза? Авторы рисуют образ «цифрового слизевика»: медленная распределённая сеть на плохо защищённых устройствах, которая удваивается за несколько дней. Выключить её непросто — центрального рубильника нет. Есть сценарии и похуже: мощная модель, которая на скорости взламывает дата-центры, или ИИ, выманивающий у людей деньги на вычисления. Хорошая новость: такой червь оставляет следы. Бороться предлагают как с эпидемией — сделать так, чтобы каждое заражённое устройство успевало заразить меньше одного нового. @droidergram