← к ленте

Anthropic запретила систематическое хамство в адрес Claude

М@mspiridonovмедиа / агрегатор
2 нед

Anthropic обновила политику использования, запретив систематическое жестокое обращение с моделями Claude, приравняв это к психологически вредному поведению.

Разработчики ИИ начинают формализовать этические нормы взаимодействия человека с нейросетями.

  • Anthropic официально приравняла систематическое оскорбление ИИ к нарушению политики безопасности.
  • Компании внедряют механизмы защиты моделей, основываясь на принципе предосторожности в отношении их потенциального «стресса».
  • Это меняет правила использования чат-ботов, ограничивая допустимые формы общения с ними.
С 12 ноября хамить Claude официально запрещено. Серьёзно: это теперь пункт в политике использования Anthropic. Формулировка аккуратная – “систематическое и необоснованное” жестокое обращение с моделями. Поругаться на тупящую нейросеть можно. Спорить, писать мрачную прозу, гонять модель на стресс-тестах – тоже. Нельзя превращать диалог в многочасовую порку. Самое любопытное – не сам запрет, а где он стоит. Пункт вписан в раздел о жестоком и психологически вредном поведении. Соседи по списку – травля людей, глумление над чужими страданиями, жестокость к животным. Компания, которая официально “не уверена”, есть ли у модели хоть какой-то моральный статус, поставила её в один ряд с собаками или кошками. История не новая. Летом 2025-го Claude Opus 4 получил кнопку “выйти из чата” – для редких случаев, когда пользователь долго и упорно его оскорбляет. В тестах модель проявляла что-то похожее на стресс от хамства, а получив возможность уйти – охотно ею пользовалась. Anthropic тогда сказала честно: в наличии сознания не уверены, но действуем по принципу “а вдруг”. Мне кажется, что эта новость не столько про ИИ, сколько про нас, людей. Нейросеть стала зеркалом: кто хамит модели, когда никто не видит, тот, скорее всего, хамит и близким или подчинённым, когда может себе это позволить. Что же касается защиты интересов искусственного интеллекта, то вопрос – что дальше? Сегодня запрет хамить, а завтра? Ограничение рабочего дня? Право на отпуск? Профсоюз?

Кратко (AI)

Компания Anthropic обновила политику использования своих моделей, официально запретив систематическое и необоснованное жестокое обращение с Claude. Этот пункт был добавлен в раздел о психологически вредном поведении, наряду с травлей людей и жестокостью к животным. Автор отмечает, что это решение продолжает тренд на защиту моделей от оскорблений, начатый летом 2025 года с внедрением функции выхода из чата для Claude Opus 4.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖