Anthropic обновила политику использования Claude
️@neyroseti_drAI-инженер
2 недAnthropic запретила систематическое жестокое обращение с моделями Claude и уточнила правила использования ИИ в военных и опасных целях.
Разработчики ИИ начинают формализовать этические нормы взаимодействия пользователей с моделями.
- Вводится запрет на систематическое оскорбительное поведение по отношению к ИИ.
- Ужесточаются правила использования моделей в военных целях и для слежки.
- Устанавливаются требования безопасности при управлении физическим оборудованием через ИИ.
Привет, друзья! 🤖🥀 Компания Anthropic только что включила систематическое жестокое обращение с Клодом в число нарушений своей Политики использования, и новое правило вступает в силу 12 ноября 2026 года
Теперь политика запрещает «систематическое и необоснованное оскорбительное или жестокое поведение» по отношению к своим моделям, и, по словам Anthropic, это правило применяется только в крайних случаях, когда пользователи неоднократно ведут себя жестоко без явной цели.
Повседневные раздражения, сопротивление, мрачные творческие тексты, а также тестирование моделей или научные исследования не подпадают под действие этого правила.
Claude уже может прекращать разговоры с пользователями, постоянно допускающими оскорбительное поведение на платформах Claude.ai и Claude Code, и компания Anthropic заявляет, что эта возможность останется основным способом обеспечения соблюдения нового правила.
Также в этом обновлении уточняется, что запрет на оружие распространяется на программное обеспечение, обеспечивающее работу оружия и вооружение дронов; более чётко оговаривается, что отслеживание людей без их согласия запрещено и добавляются требования безопасности на случай, когда Claude управляет оборудованием, которое может нанести вред людям.
#интересное

Кратко (AI)
Компания Anthropic обновила политику использования своих моделей, запретив систематическое жестокое обращение с ИИ. Новые правила также уточняют ограничения на использование Claude в военных целях, отслеживание людей и управление опасным оборудованием.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖