Anthropic обновили правила использования Claude
S@serge_aiAI-инженер
2 недAnthropic обновили правила использования Claude: запрещено длительное жестокое обращение с моделью, но критика и нецензурная лексика остаются допустимыми.
Разработчики ИИ начинают формализовать этические нормы взаимодействия пользователей с нейросетями.
- Компании вводят ограничения на поведение пользователей, чтобы предотвратить злоупотребления.
- Пользователи сохраняют право на критику и эмоциональную обратную связь.
- Автоматическое завершение диалога становится стандартным инструментом модерации общения с ИИ.
➡️Anthropic запрещают издеваться над Claude. Материться на его косяки всё ещё можно
Обновили правила использования, новая версия вступит в силу 12 ноября. Сейчас зарпещают длительное бессмысленное издевательство над моделями. Речь тут про крайние случаи, когда кто-то раз за разом проявляет жестокость без какой-либо понятной цели. Пресекают булинг над ИИ, может боятся что тот вырастет маньяком?
Сразу оговариваются, что раздражаться, спорить, жёстко критиковать ответы, материться по делу и писать всякую мрачную художку можно.
То есть сказать, что он опять сделал хуету — вполне допустимая обратная связь. Особенно если он действительно сделал...
Основной способ реагирования — Claude завершит разговор. ТАкую фишку ему запустили ещё ранее. Эти обиды мы видели... Закрывается конкретный диалог, но другие чаты остаются доступны.
Правила этих отношений постепенно составляют компании, у которых мы этого сотрудника арендуем. Они определяют (и будут в дальнейшем продолжать) и что ему разрешено делать, и какое поведение пользователя считается приемлемым. Когда уже там профсоюзы роботов и ИИ агентов будут?
Умного помощника мы покупали, устав взаимоотношений шёл в комплекте...
ссылка на официальную статью (там подробнее)

Кратко (AI)
Компания Anthropic обновила правила использования чат-бота Claude, которые вступят в силу 12 ноября. Новые нормы запрещают систематическое жестокое обращение с моделью, однако пользователи по-прежнему могут критиковать ответы и использовать нецензурную лексику. В случае нарушений система будет автоматически завершать диалог.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖