Вышло новое поколение моделей GigaEmbeddings
M@mashkka_dsAI-инженер
3 днПредставлено новое поколение моделей GigaEmbeddings для RAG-систем с улучшенной архитектурой, поддержкой vLLM и SGLang и высокой производительностью.
Обновление инструментов для поиска по документам позволяет компаниям быстрее и точнее внедрять ИИ-помощников.
- Ускорение инференса до 2 раз снижает затраты на инфраструктуру для RAG-систем.
- Улучшенное качество работы с кодом и русским языком повышает точность ответов ИИ в корпоративных базах знаний.
- Открытая лицензия MIT позволяет бесплатно использовать модели в коммерческих продуктах.
Вышло новое поколение GigaEmbeddings — моделей для поиска по документам и построения RAG-систем
Качество эмбеддингов особенно критично там, где цена ошибки высока: в поддержке клиентов, работе с юридическими и финансовыми документами и внутренними базами знаний. В новой линейке вышли три модели разного размера, которые бесплатно доступны разработчикам и бизнесу под открытой лицензией MIT.
В новом поколении GigaEmbeddings:
✔️ Увеличили объём обучающих данных в несколько раз, в том числе за счёт открытых датасетов Nemotron, F2LLM и KALM.
✔️ Усилили английский и код, не потеряв качество ответов на русском, благодаря мержингу экспертов и дистилляции.
✔️ Изменили архитектуру и добавили поддержку vLLM и SGLang — за счёт этого выросла скорость инференса: 3B ускорилась в 1,6 раза, а 10B-A1.8B — в 2 раза по сравнению с предыдущим поколением.
Результаты впечатляют:
🔘 10B-A1.8B заняла первое место в ruMTEB
🔘 3B заметно прокачала работу с кодом — прирост составил 14,5 пункта.
🔘 480M стала лучшей русскоязычной моделью среди моделей до 500 млн параметров.
Подробно про архитектуру, обучение и результаты читайте в посте команды 👈
#AI #GigaEmbeddings #RAG #embeddings #opensource
Кратко (AI)
Команда разработчиков представила обновленную линейку моделей GigaEmbeddings для работы с RAG-системами. Новые модели получили улучшенную архитектуру, поддержку библиотек vLLM и SGLang, а также показали высокие результаты в бенчмарке ruMTEB.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖