← к ленте

ChatGPT начал использовать ненормативную лексику в ответах

М@mspiridonovмедиа / агрегатор
1 мес

Пользователи ChatGPT столкнулись с неожиданным использованием мата нейросетью в повседневных диалогах, что вызывает вопросы о безопасности для бизнеса.

Неконтролируемое поведение ИИ может стать серьезной угрозой для репутации компаний, использующих чат-ботов в клиентском сервисе.

  • Случайное использование мата нейросетью делает невозможным её безопасное применение в поддержке клиентов без жестких фильтров.
  • Подобные инциденты подчеркивают непредсказуемость моделей при попытках сделать их более «человечными».
Мы матом не ругаемся – мы на нём разговариваем © В начале месяца пользователи ChatGPT по всему миру обнаружили, что нейросеть вдруг заговорила как сапожник. Причём даже в диалогах на самые невинные темы – от кулинарных рецептов до советов по выбору сериала. Особенно полюбился ей глагол fuck во всех мыслимых и немыслимых формах. Порой он идёт буквально через слово – как на примере с картинки. Эксперты гадают: то ли OpenAI скормила очередной модели порцию нефильтрованных данных, то ли сознательно добавила своему детищу “человеческого звучания” – свежие обновления компания прямо описывает как попытку сделать бота более разговорным и чутким к контексту. Народ при этом в полном восторге! Большинство комментаторов сходится на том, что бот сквернословит органично и по делу, а беседы с ним стали естественнее и выразительнее. Ну а мы с вами хорошо знаем: одно точно подобранное крепкое слово порой доносит мысль лучше, чем пять абзацев стерильных рассуждений. Однако если в личном общении с ИИ мат – это ок, то в корпоративных задачах и клиентском сервисе он превращается в риск для бренда и лотерею с непредсказуемым исходом. Только представьте: ваш покупатель жалуется чат-боту на сайте на какую-то проблему, а в ответ получает исчерпывающее “Да пошёл ты нах.й со своими жалобами!” 🤡
ChatGPT начал использовать ненормативную лексику в ответах

Кратко (AI)

Пользователи ChatGPT заметили, что нейросеть начала активно использовать ненормативную лексику в обычных диалогах. Эксперты предполагают, что это результат обучения на нефильтрованных данных или попытка OpenAI сделать ответы бота более естественными. Несмотря на позитивную реакцию пользователей, такое поведение создает серьезные репутационные риски для корпоративного использования ИИ.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖