← к ленте

Почему нейросети стали хуже писать тексты

Т@marketingandhorsesAI-инженер
1 мес

Анализ причин деградации качества текстов в новых языковых моделях: от оптимизации под бенчмарки до обучения на синтетических данных.

Качество текстов от ИИ падает, что заставляет бизнес пересматривать подходы к автоматизации контента.

  • Разработчики моделей приоритизируют кодинг и логику в ущерб качеству естественного языка.
  • Обучение на данных, созданных другими нейросетями, приводит к деградации стиля.
  • Пользователи развили «баннерную слепоту» к ИИ-текстам, что снижает их эффективность в маркетинге.
Если вам кажется, что нейросети стали плохо писать тексты, то вам не кажется. Каждая новая модель Опуса справляется с текстами хуже предыдущей. Но во всех остальных задачах только прогресс — модели нового поколения умнее и быстрее предыдущих. Свежий пример: делаем с Клодиком лендинги, я прошу: «Не используй канцелярит, пиши живым человеческим языком». И получаю текст для сайта: «Закажите разработку у нас. Если вы закажете разработку у другой компании, получится срань». Почему так происходит? Первое — оптимизация ушла в другие навыки. Разгоняют кодинг, автоматизацию, агентские задачи — во-первых, тут прогресс легко посчитать, а с текстами его так просто не измеришь. А всем надо дрочить на бенчмарки. Во-вторых, тут как будто денег больше.  Второе — синтетические данные Ранние модели учились на текстах, которые писали люди. Но потом сеть заполонил нейрослоп — ИИ учится на текстах, которые генерирует другой ИИ. Все нейросетевые косяки тянутся в новые модели, множатся и бесконечно копируются. Происходит обучение заражённых данных и это не остановить. Третья — осторожность Нейросети обложены ограничениями: юридические, этические, безопасность, требования к нейтральности. Говоря простым языком — у нейросетевого текста нет личной позиции, но есть бесконечный страх, что за неосторожный тейк прижмут яйца.  Последнее —  мы научились распознавать нейрослоп Когда на сайтах появилась реклама в виде цветастых баннеров, наш мозг научился ее игнорировать — это баннерная слепота. С AI похожая история — мы это сразу считываем и теряем доверие. Нейрослоп конечно эволюционирует, тексты хуманизируются и все такое, но мы все равно это интуитивно детектим. Такой вот новоприобретенный коллективный навык. Выводы Не жили хорошо, нечего и начинать. Давайте опять писать тексты ебучие своими ручками.

Кратко (AI)

Автор рассуждает о снижении качества текстов, генерируемых современными нейросетями. Основными причинами называются смещение фокуса разработчиков на кодинг и агентские задачи, обучение моделей на «нейрослопе» (синтетических данных) и жесткие этические ограничения, лишающие тексты индивидуальности.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖