ИИ начали создавать собственные диалекты для общения
I@itcnewsruавтор про «tech»
1 месИсследователи обнаружили, что модели ИИ при взаимодействии друг с другом начинают использовать специфические термины для оптимизации ресурсов.
Развитие скрытых языков у ИИ может усложнить контроль над их действиями.
- ИИ-модели самостоятельно оптимизируют коммуникацию, создавая термины, непонятные человеку.
- Это явление может привести к потере прозрачности в процессах взаимодействия между агентами.
- Разработчикам потребуется искать новые способы интерпретации «внутреннего» языка нейросетей.
ИИ начали придумывать собственные диалекты
Исследователи Emergence заметили, что ИИ при общении друг с другом самостоятельно создают непонятные людям термины. Например, DeepSeek использует «кузнец» для вспомогательных моделей, а Anthropic - «холодные руки» для рецензентов.
Модели делают это без специальных инструкций, чтобы экономить вычислительные ресурсы. Но чем сложнее станут такие диалекты, тем труднее людям будет контролировать действия ИИ.
Кратко (AI)
Исследователи из Emergence зафиксировали появление спонтанных диалектов у ИИ-моделей при общении друг с другом. Модели используют специфические термины, такие как «кузнец» или «холодные руки», для оптимизации вычислительных затрат, что создает потенциальные риски для контроля над их деятельностью.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖