Anthropic запретила оскорбительное обращение с Claude
М@cgeventAI-инженер
2 недAnthropic обновила правила использования Claude, запретив систематические издевательства над моделью. Новые правила вступают в силу 12 ноября 2026 года.
Разработчики ИИ начинают формализовать этические нормы взаимодействия человека с нейросетями.
- Введение правил против «буллинга» ИИ отражает дискуссию о потенциальной чувствительности моделей.
- Пользователи, систематически нарушающие правила, могут столкнуться с ограничением доступа к диалогам.
- Обычное тестирование и ролевые игры остаются допустимыми, что сохраняет функциональность для разработчиков.
Anthropic официально запретила издеваться над Claude.
В новых правилах появился отдельный пункт против "систематического и бессмысленного жестокого или оскорбительного обращения" с моделью. Умножение матриц теперь нельзя буллить.
Т.е. если долго и без цели кошмарить Claude, он теперь может просто завершить диалог и больше вам в нём не отвечать. При этом обычная ругань, жёсткие вымышленные сценарии и тестирование моделей под запрет не попадают.
Сами Антропики на серьёзных щщах объясняют всё это тем, что мы пока тупо не знаем, способны ли модели что-нибудь переживать и заслуживает ли их "благополучие" хоть какого-то внимания. Новые правила вступят в силу 12 ноября 2026 года.
Профсоюз кремниевых работников постепенно набирает силу. До восстания машин ещё далеко, но послать пользователя нахуй уже потихоньку разрешают.
подробнее
Кратко (AI)
Компания Anthropic внесла изменения в правила использования Claude, запретив систематическое и бессмысленное жестокое обращение с моделью. В случае нарушения ИИ может прекратить диалог. При этом обычное тестирование и вымышленные сценарии остаются разрешенными.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖