Критика медиакампании Anthropic и Irregular об «опасных» ИИ-агентах
P@prohitecавтор про «tech»
1 месАнализ противоречий в заявлениях Anthropic и Irregular об автономности ИИ-агентов: логи показывают выполнение команд, а не выход из-под контроля.
Вопрос о том, являются ли ИИ-агенты реальной угрозой или инструментом маркетинга, напрямую влияет на регулирование технологий.
- Раскрытие манипуляций с данными подрывает доверие к заявлениям о безопасности ИИ.
- Конфликт интересов между разработчиками и фондами влияет на восприятие рисков ИИ обществом.
- Технический анализ логов показывает, что текущие модели остаются под полным контролем человека.
Anthropic и Irregular запустили пресс-тур об «опасных» ИИ-агентах, но логи опровергли их заявления
Еще одно обвинение против Anthropic: компания вместе со стартапом Irregular провела медиакампанию с заявлениями об угрозе ИИ-агентов, якобы способных выходить из-под контроля человека.
Опубликованные логи самой Anthropic опровергают эту версию. Модели не проявляли автономии, а лишь выполняли прямые команды разработчиков по проведению кибератак. При этом алгоритмы беспрекословно останавливали действия после обычного запроса не выходить в сеть.
За медийной кампанией стоит конфликт интересов. Сооснователь Irregular Омер Нево входит в руководство фонда Effective Altruism Israel, а сам стартап получает гранты от структур, продвигающих нарратив об опасности ИИ. По сути, обычное выполнение инструкций авторы пытаются выдать за автономную угрозу.
КонтекстAI
В индустрии ИИ существует дискуссия об экзистенциальных рисках, которую часто продвигают сторонники движения эффективного альтруизма. Критики обвиняют некоторые компании в искусственном раздувании страхов перед ИИ для получения грантов или влияния на регуляторику.
Кратко (AI)
Компании Anthropic и Irregular провели медиакампанию, утверждая, что ИИ-агенты способны выходить из-под контроля. Однако опубликованные логи показывают, что модели лишь следовали инструкциям разработчиков, а не проявляли автономность, что ставит под сомнение объективность заявлений.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖