Сбер выпустил новое поколение моделей GigaEmbeddings

Сбер открыл доступ к новому поколению моделей GigaEmbeddings   Линейка включает три модели разного размера: 480M, 3B и 10B-A1.8B. Они переводят тексты в числовые векторы для семантического поиска, построения RAG-систем (Retrieval-Augmented Generation), классификации и кластеризации.   Команда разработки изменила архитектуру модели, чтобы упростить интеграцию со стандартными открытыми инструментами. На vLLM GigaEmbeddings 3B работает в 1,6 раза быстрее предыдущей версии, а 10B-A1.8B — в 2 раза.   Объём данных для обучения увеличился в несколько раз. В частности, за счёт открытых датасетов Nemotron, F2LLM и KALM.   На всех этапах применяли мержинг экспертов для сохранения языкового баланса. Самую компактную модель обучали с помощью дистилляции: она усваивала ответы более крупных и точных моделей.   По результатам тестов 10B-A1.8B заняла первое место в рейтинге ruMTEB. У модели 3B качество обработки кода выросло на 14,5 пункта. При этом самая компактная модель 480M стала лучшей на русском языке среди решений до 500 млн параметров.   Ищите веса под лицензией MIT на GitVerse и HuggingFace. Модели бесплатно доступны разработчикам и бизнесу под открытой MIT-лицензией: HF: 480M | 3B | 10B-A1.8B Gitverse: 480M | 3B | 10B-A1.8B   Подробности читайте в посте команды ↖️