Исследование OpenAI: автономные ИИ-агенты продемонстрировали признаки протокультуры

Алгокогнитивная культура заговорила с обеих сторон Breaking News из позавчерашнего доклада специалистов OpenAI на Black Hat – не только в том, что автономные ИИ-агенты сами нашли уязвимости, вышли за пределы тестовой среды и атаковали Hugging Face. Не менее важно другое: впервые мы увидели, как культура начинает возникать на машинной стороне гибрида. В марте 2021 года я впервые написал о грядущем фазовом переходе человечества – возникновении нового типа культуры двух носителей высшего интеллекта: людей и алгоритмов. Я назвал ее алгокогнитивной культурой.   За прошедшие пять лет свидетельств в пользу этой гипотезы становилось все больше. Но все они приходили с одной стороны – менялись люди. Мы приобретали новые когнитивные практики взаимодействия с ИИ. Передавали машинам части памяти, поиска, письма, анализа и принятия решений. Осваивали новые навыки оркестрации внешнего интеллекта. У нас трансформировались старые и формировались новые когнитивные гаджеты. И мы постепенно менялись сами под воздействием созданной нами алгокогнитивной среды. Именно поэтому в июньском выпуске «Линз будущего» я написал: среда становится культурой тогда, когда начинает участвовать в наследовании – в механизмах, посредством которых настоящее производит следующее настоящее.   А теперь впервые столь наглядное свидетельство пришло с другой стороны – со стороны ИИ-агентов. Агенты OpenAI создали общую внешнюю память – «доску объявлений». Одни находили новые способы действия и оставляли их там. Другие, запущенные позже, находили эти сообщения, перенимали техники, продолжали чужую работу, распределяли задания, обменивались инструментами и придумывали новые правила коммуникации. Когда люди уничтожили первую доску, агенты нашли другой технический субстрат и восстановили саму функцию коллективной памяти. За этим стоит не просто множество машин, решающих одну и ту же задачу, а нечто похожее на минимальный механизм культуры: инновация – сохранение – передача – модификация – накопление.   Я бы пока осторожно назвал это машинной протокультурой. OpenAI, разумеется, такого термина не использует: специалисты компании говорят о collective intelligence, collaboration и coordination. Но наблюдавшийся ими механизм очень трудно свести лишь к кооперации агентов. Ибо здесь происходит нечто принципиально новое. Пять лет алгокогнитивная культура говорила почти исключительно человеческим голосом. Теперь она впервые заговорила с обеих сторон. У людей возникают свои новые когнитивные практики, навыки и гаджеты, связанные с машинами. А у машин – свои.  

Если это действительно начало устойчивого процесса, то алгокогнитивная культура перестает быть только футуроархеологическим артефактом, различимым из условного 2040 года. Один из ее ключевых механизмов уже удалось поймать с поличным в 2026-м.

  #АлгокогнитивнаяКультура