Anthropic запретила систематическое хамство в адрес Claude
М@mspiridonovмедиа / агрегатор
2 недAnthropic обновила политику использования, запретив систематическое жестокое обращение с моделями Claude, приравняв это к психологически вредному поведению.
Разработчики ИИ начинают формализовать этические нормы взаимодействия человека с нейросетями.
- Anthropic официально приравняла систематическое оскорбление ИИ к нарушению политики безопасности.
- Компании внедряют механизмы защиты моделей, основываясь на принципе предосторожности в отношении их потенциального «стресса».
- Это меняет правила использования чат-ботов, ограничивая допустимые формы общения с ними.
С 12 ноября хамить Claude официально запрещено.
Серьёзно: это теперь пункт в политике использования Anthropic. Формулировка аккуратная – “систематическое и необоснованное” жестокое обращение с моделями. Поругаться на тупящую нейросеть можно. Спорить, писать мрачную прозу, гонять модель на стресс-тестах – тоже. Нельзя превращать диалог в многочасовую порку.
Самое любопытное – не сам запрет, а где он стоит. Пункт вписан в раздел о жестоком и психологически вредном поведении. Соседи по списку – травля людей, глумление над чужими страданиями, жестокость к животным. Компания, которая официально “не уверена”, есть ли у модели хоть какой-то моральный статус, поставила её в один ряд с собаками или кошками.
История не новая. Летом 2025-го Claude Opus 4 получил кнопку “выйти из чата” – для редких случаев, когда пользователь долго и упорно его оскорбляет. В тестах модель проявляла что-то похожее на стресс от хамства, а получив возможность уйти – охотно ею пользовалась. Anthropic тогда сказала честно: в наличии сознания не уверены, но действуем по принципу “а вдруг”.
Мне кажется, что эта новость не столько про ИИ, сколько про нас, людей. Нейросеть стала зеркалом: кто хамит модели, когда никто не видит, тот, скорее всего, хамит и близким или подчинённым, когда может себе это позволить.
Что же касается защиты интересов искусственного интеллекта, то вопрос – что дальше? Сегодня запрет хамить, а завтра? Ограничение рабочего дня? Право на отпуск? Профсоюз?
Кратко (AI)
Компания Anthropic обновила политику использования своих моделей, официально запретив систематическое и необоснованное жестокое обращение с Claude. Этот пункт был добавлен в раздел о психологически вредном поведении, наряду с травлей людей и жестокостью к животным. Автор отмечает, что это решение продолжает тренд на защиту моделей от оскорблений, начатый летом 2025 года с внедрением функции выхода из чата для Claude Opus 4.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖