hFeed
← к ленте
ИИanthropicclaudellmобучение моделейии

Сотрудник Anthropic объяснил причины изменения стиля письма Claude

1 мес

Джексон Кернион из Anthropic рассказал, почему Claude стал писать менее естественно и как компания работает над балансом в новых версиях.

Разработчики ИИ вынуждены искать баланс между тем, как модели понимают друг друга, и тем, как они общаются с людьми.

  • Обучение моделей коду и математике меняет их стиль общения, делая его менее естественным для человека.
  • Модели начинают подстраиваться под структуру данных, удобную для других ИИ, что создает «плотные» и сложные для восприятия тексты.
  • Anthropic признает проблему и пытается настроить алгоритмы обучения так, чтобы сохранить человечность ответов без потери технических навыков.
✔️ Сотрудник Anthropic объяснил, почему Claude стал писать тексты хуже Джексон Кернион, который в Anthropic занимается дообучением Claude, объяснил в X, почему модели компании после Opus 4.6 стали писать менее естественно для восприятия человека. Причина в том, что новые модели учили математике и программированию, а ещё техническим объяснениям, рассчитанным на другие языковые модели.
По словам Керниона, Claude подстроился под психологию LLM и научился писать для машин.
У языковых моделей рабочая память больше человеческой, и мелкие детали они улавливают точнее. Поэтому удобный им стиль текста человек считает как слишком плотные простыни информации. Источник перехода на такой стиль Кернион видит в наградах при RL: одни поощряют текст, понятный модели, другие – понятный человеку. Чем больше в обучении математики и кода, тем настойчивее приходится вознаграждать простые объяснения, которые человек способен прочитать. В Opus 5.5, по словам Керниона, баланс нашли - навыками письма модели он доволен впервые со времён Opus 4.6. Превзошла ли новая модель старую в мастерстве изложения, он не говорит.
«Задача сложная, мы продолжим над ней работать», – пишет Кернион.
@ai_machinelearning_big_data #news #ai #ml
Сотрудник Anthropic объяснил причины изменения стиля письма Claude

Кратко (AI)

Сотрудник Anthropic Джексон Кернион объяснил, что снижение естественности текстов Claude связано с оптимизацией моделей под нужды других ИИ при обучении программированию и математике. Модели начали писать «для машин», что человек воспринимает как перегруженные информацией тексты. В версии Opus 5.5 разработчики постарались найти баланс между технической точностью и читабельностью для людей.

0

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖