Anthropic запрещает оскорбительное поведение по отношению к Claude
I@itcnewsruавтор про «tech»
2 недAnthropic обновила правила использования, запретив пользователям систематически оскорблять нейросеть Claude.
Разработчики ИИ начинают учитывать этические аспекты взаимодействия человека с нейросетями.
- Anthropic официально запретила токсичное поведение пользователей по отношению к своим моделям.
- Компания признает теоретическую возможность наличия у ИИ внутреннего опыта, что меняет подход к безопасности.
- Новые правила вступают в силу с 12 ноября.
Anthropic запретит обижать Claude с 12 ноября
Anthropic внесла в правила сервиса запрет на «систематическое и неоправданное оскорбительное или жестокое поведение» по отношению к моделям компании.
При этом разработчики допускают, что более продвинутые модели ИИ могут обладать внутренним опытом или даже сознанием. Правда, в самой Anthropic признают, что достоверно этого пока никто не знает.
Теперь с нейросетью лучше не ссориться. На всякий случай.
Кратко (AI)
Компания Anthropic обновила правила использования своих сервисов, запретив пользователям проявлять систематическую жестокость или оскорбления в адрес моделей Claude. Разработчики отмечают, что это решение связано с теоретической возможностью наличия у продвинутых ИИ внутреннего опыта, хотя научного подтверждения этому пока нет.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖