Выпуск линейки моделей GigaEmbeddings
э@ai_newzAI-инженер
3 днВышла новая линейка моделей GigaEmbeddings под лицензией MIT для RAG и семантического поиска с поддержкой vLLM и SGLang.
Появление эффективных открытых инструментов для поиска по смыслу упрощает создание умных чат-ботов и баз знаний.
- Модели распространяются бесплатно под лицензией MIT, что позволяет использовать их в коммерческих проектах.
- Поддержка vLLM и SGLang упрощает интеграцию в существующую инфраструктуру для работы с нейросетями.
- Разнообразие размеров моделей позволяет выбирать баланс между скоростью работы и точностью поиска.
Новая линейка моделей GigaEmbeddings в открытом доступе
Бесплатные модели под лицензией MIT, переводят текст в векторы для RAG-системы и поиска по смыслу. Стали сильнее на английском языке и особенно в задачах с кодом, получили поддержку vLLM и SGLang и подходят для разных требований к качеству и производительности. На выбор дали три размера — от совсем легкой 480M до флагмана на 10B.
При обучении гоняли открытые датасеты Nemotron, F2LLM и KALM, плюс использовали дистилляцию для младшей версии. В итоге 10B-A1.8B взяла первое место в ruMTEB и ускорила инференс в два раза, 3B прибавила 14,5 пункта в коде, а 480M стала лучшей на русском среди малопараметрических моделей.
@ai_newz
Кратко (AI)
Представлена новая линейка моделей GigaEmbeddings для векторизации текста, распространяемая по лицензии MIT. Модели оптимизированы для RAG-систем, поддерживают vLLM и SGLang, а также показывают улучшенные результаты в задачах с кодом и на русском языке.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖