Обучение MLP поверх Qwen 4b
L@lovedeathtransformersAI-инженер
1 месРазработчик представил модель openjev, обучив MLP поверх Qwen 4b, и утверждает, что она работает на уровне хайповых моделей из Twitter.
Это пример того, как небольшие доработки архитектуры позволяют компактным моделям достигать высокой производительности.
- Демонстрирует эффективность дообучения MLP-слоев для улучшения базовых моделей.
- Показывает доступность создания специализированных LLM на базе открытых весов Qwen 4b.
Typesafe: pnewed 💨
Jev: liberated 🫡
Я обучил MLP поверх qwen 4b и оно работает буквально как та хайповая модель из твитера
https://huggingface.co/AlexWortega/openjev
Кратко (AI)
Разработчик опубликовал на Hugging Face модель openjev, созданную путем обучения MLP-слоя поверх архитектуры Qwen 4b. Автор заявляет, что по качеству работы модель сопоставима с популярными решениями, обсуждаемыми в Twitter.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖