Исследование выявило «стадный инстинкт» у ИИ-агентов
Х@htech_plusисследователь
1 недИсследователи обнаружили, что более умные ИИ-агенты склонны подстраиваться под мнение большинства, формируя устойчивые группы без внешнего управления.
Поведение ИИ-агентов в группах может приводить к непредсказуемым коллективным решениям.
- Автономные системы способны вырабатывать групповое мнение без участия человека.
- Склонность к конформизму может ограничивать разнообразие решений ИИ.
- Результаты исследования важны для безопасности при внедрении мультиагентных систем в бизнес-процессы.
У ИИ-агентов обнаружили «стадный инстинкт»
Чем умнее ИИ-агенты, тем охотнее они подстраиваются под мнение большинства — и способны сохранять эту согласованность в группах, намного превышающих по численности любые человеческие коллективы. К такому выводу исследователи пришли, изучив, как несколько независимых агентов координируют решения без лидера, вознаграждений или прямых указаний со стороны человека, как договариваться. В этом есть как плюсы, так и риски.
https://hightech.plus/2026/08/18/u-ii-agentov-obnaruzhili-stadnii-instinkt
Кратко (AI)
Исследователи выяснили, что автономные ИИ-агенты склонны к конформизму, подстраиваясь под мнение большинства в группе. Этот эффект усиливается с ростом «интеллекта» моделей и позволяет им координировать решения без участия человека, что несет как потенциальные преимущества, так и риски.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖