Как развивались методы post-training для LLM

Как сегодня дообучают LLM: от PPO и RLHF к DPO, GRPO и GSPO Предобучение даёт языковой модели знания, но этого не всегда достаточно, чтобы она хорошо следовала инструкциям и решала сложные задачи. В новой статье рассказываем, как устроен post-training LLM и как развивались методы дообучения с подкреплением 👨🏼‍💻 Из статьи вы узнаете: - зачем нужны SFT и RLHF и как работает алгоритм PPO; - как DPO позволяет обучать модель на предпочтениях без отдельной Reward Model; - как устроены GRPO и GSPO и почему для reasoning-моделей стали использовать автоматически проверяемые награды (RLVR). Разбираем основные идеи на простых примерах и с математикой. Читайте статью по ссылке!