Опыт внедрения векторного поиска и AI-ассистента на vc.ru и DTF
Т@kontsarenkoавтор про «it»
1 месРазработчики vc.ru и DTF делятся опытом внедрения векторного поиска и AI-ассистента, а также проблемами модерации пользовательских запросов.
Внедрение AI в поисковые системы требует серьезных ресурсов на модерацию контента.
- Векторный поиск может значительно улучшить качество выдачи контента.
- AI-ассистенты сталкиваются с попытками пользователей использовать их для генерации запрещенного контента.
- Значительная часть времени разработки уходит на фильтрацию запросов, а не на улучшение качества ответов модели.
Давно недолюбливаю Elasticsearch, который мы используем на vc.ru и DTF для поиска. Уж слишком сложно выжать из него хороший результат для контентного поиска.
И тут мы в рамках эксперимента попробовали поиск по векторам — прототип получился классный. Прикрутили еще и AI-ассистента, который отвечает на какие-то осмысленные вопросы, помогая искать нужный контент. Но.
Ожидание: будешь работать над тем, как обучать модельку хорошим ответам, добавлять побольше хорошего контекста, выцеплять что-то интересное из дискуссий.
Реальность: половину времени пытаешься придумать, как фильтровать поисковые фразы пользователей, которые уже через час после релиза пытаются узнать у модели что-нибудь запрещенное про крипту, казино и прочее.
Кратко (AI)
Разработчики vc.ru и DTF поделились опытом перехода на векторный поиск и внедрения AI-ассистента. Основной проблемой после запуска стала необходимость фильтрации нежелательных пользовательских запросов, связанных с запрещенным контентом.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖