Google протестировали AI-агентов в реальных рабочих чатах
D@data_secretsAI-инженер
4 недGoogle провели 5-месячное исследование, внедрив AI-агентов в рабочие чаты команд. Результаты показали сложности в коммуникации и социальном взаимодействии.
Эксперимент показывает, что внедрение ИИ в рабочие процессы требует не только технических навыков, но и решения серьезных этических и социальных проблем.
- ИИ-агенты могут нарушать рабочую этику, не понимая контекста общения и сарказма.
- Автономные действия ИИ, такие как тегирование руководства, могут создавать избыточную нагрузку на менеджмент.
- Присутствие ИИ в рабочих чатах вызывает у сотрудников чувство «большого брата», что снижает доверие и продуктивность.
- Команды склонны создавать закрытые каналы коммуникации, чтобы избежать контроля со стороны ИИ.
Google засунули AI-агента в 20+ чатов реальных команд на 5 месяцев. Результаты получились забавные.
https://arxiv.org/pdf/2609.29901
Агент имел доступ к документам и баг-трекеру команды, как обычный сотрудник, умел сам заводить баги, писать людям в личку, реагировать эмодзи, тегать коллег.
И все бы ничего, но, внезапно, главная проблема оказалась в том, что ИИ не поладил с живыми людьми. Одного инженера он на полном серьезе отчитал за шутки (не понял сарказма). В другой команде проставил тег вице-президенту в 16 багах подряд, посчитав, что раз человек в контексте, значит, должен разгребать баг-трекер.
В общем, сработаться с ИИ оказалось сложнее, чем кажется. Некоторые команды стали создавать отдельные приватные чаты без него: чтобы обсудить найм сотрудников, чувствительные темы или просто почувствовать, что их не слушают. Один из участников сказал, что ощущение похоже на «большого брата».
Кратко (AI)
Google провели эксперимент, внедрив AI-агентов в рабочие чаты 20 команд на 5 месяцев. Исследование выявило проблемы с социальным взаимодействием: ИИ не понимал сарказм, спамил руководству и вызывал у сотрудников ощущение слежки, что привело к созданию приватных чатов без участия бота.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖