ИИнейросетиgptкопирайтингобучение моделейrlhfстильПочему нейросетевые тексты выглядят одинаковоП@neural_proseccoмедиа / агрегатор1 месПочему все нейронные тексты выглядят одинаково? 😅 Наверняка многие кто читает этот пост уже мысленно выделили для себя чек-лист, чтобы понять что текст был сгенерирован нейронкой - тире, короткие фразы, но почему это именно так? На самом деле ответ очень тупой - ее так научили сами люди, а если точнее, то они ее за это хвалили 😑 У меня есть такая гипотеза - при дообучении и валидации модели показывают несколько вариантов ответа на один и тот же вопрос, а живые люди выбирают, какой лучше. Люди - обычные ассесоры и как правило человек выбирает не самый умный ответ, а тот, который быстрее всего "выглядит умным". Модель это запоминает и начинает штамповать приемы, которые создают ощущение что это что-то умное на ровном месте. Пожалуй, лично для меня самая заметная конструкция - антитеза вида "это уже не А, а Б". Берется какая-то банальщина и к ней довольно топорно добавляется "A" и подается через контраст как откровение. Новой информации ноль, но звучит как эпично поворотный момент в тексте. Найти ее легко, если первая часть "это уже не А" легко выкидывается без потери смысла, скорее всего это такой бессмысленный бантик от нейронки для красоты. Нормальное противопоставление так не ломается - "Мы зарабатываем не на аффилятке, а на подписке" Длинные тире - та же логика. Если подумать, то это самый безопасный знак препинания, им почти невозможно ошибиться и сломать предложение. В общем случае модель избегает риска и ставит тире, вероятно, для безопасного повышения стиля письма. Я думаю, что сюда же все эти уже ныне винтажные слова времен GPT-3 - revolutionizing, pivotal и другой эпик спич типа коротких. Предложений с паузой. Вот так. Кстати, этот пост как это часто у меня бывает был вдохновлен обсуждениями в чате канала. Так что темы постов всегда можно предлагать в комментариях. А еще у нас с вами не за горами трансляция на 8 тысяч подписчиков похоже (каждые 500) 🤝 @neural_proseccoнейросетиgptкопирайтингобучение моделейrlhfстиль
ИИaillmrlhfобучение моделейавтоматизацияИспользование RLHF для автоматизации дообучения малых LLMА@AGI_and_RLAI-инженер1 месЧел показывает как потюнить ллмку рлем чтобы она тюнила маленькие ллмки рлем, прикольно https://github.com/Danau5tin/ai-trains-aiaillmrlhfобучение моделейавтоматизация