Яндекс открыл веса модели Alice AI-T5-35B-A0.6B Base
M@ai_machinelearning_big_dataAI-инженер
1 месЯндекс выложил на Hugging Face модель Alice AI-T5-35B-A0.6B Base, используемую для генерации быстрых ответов в Поиске.
Яндекс сделал доступной технологию, которая ускоряет работу ИИ-поиска при огромных нагрузках.
- Открытый доступ к модели позволяет разработчикам изучать архитектуру эффективных поисковых систем.
- Подход с использованием разреженных вычислений (sparse models) показывает, как можно достичь высокой производительности без огромных затрат на железо.
- Модель демонстрирует высокую эффективность в задачах на русском языке.
⚡️ Яндекс открыл модель, на которой работают быстрые ответы в Поиске
Яндекс выложил на Hugging Face Alice AI-T5-35B-A0.6B Base — модель, которую обучили с нуля специально для высоконагруженного Поиска. Её дообученная версия Alice AI Search используется для генерации быстрых ИИ-ответов в Поиске.
При сотнях тысяч запросов в минуту такая модель должна не только хорошо отвечать, но и делать это за считанные секунды, не сжигая лишнее. Поэтому из 35 млрд параметров на каждый токен включаются только 600 млн, а отдельная модель отбирает из найденных документов лишь нужные фрагменты — такой подход увеличил пропускную способность примерно на 40%.
В итоге модель показывает сильные результаты на русскоязычных задачах и сопоставима с гораздо более тяжёлыми моделями, оставаясь дешевле в работе.
@ai_machinelearning_big_data
#news #ai #ml
Кратко (AI)
Яндекс опубликовал на платформе Hugging Face модель Alice AI-T5-35B-A0.6B Base, специально оптимизированную для работы в высоконагруженном поиске. Архитектура модели позволяет использовать лишь 600 млн параметров на токен из общего объема в 35 млрд, что значительно повышает скорость работы и снижает затраты ресурсов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖