Jev: использование LLM-анкет для создания интерпретируемых векторов
С@sergiobulaevAI-инженер
4 недРазбор метода Кирана Клаассена по созданию читаемых человеком векторных представлений текста с помощью анкет Jev для сортировки почты и лент.
Этот подход делает работу нейросетей прозрачной, позволяя людям понимать, почему система приняла то или иное решение.
- Замена непрозрачных векторов на ответы по существу упрощает отладку алгоритмов.
- Позволяет гибко настраивать логику сортировки данных, просто добавляя новые вопросы в анкету.
- Метод применим для автоматизации почты и персонализации лент в социальных сетях.
Jev, часть вторая: вектор, который можно прочитать
Из анкеты Jev получается ещё и эмбеддинг. Это числовой отпечаток текста, по нему ищут похожие документы. У OpenAI он состоит из 1 536 чисел, у других моделей от сотен до тысяч, и по отдельности ни одно из них человеку ничего не говорит.
Киран Клаассен, который делает почтовый клиент Cora, предложил собирать такой вектор из ответов Jev. Каждому письму задаются вопросы: клиент? срочно? нужен ответ? Каждый ответ становится числом, и это число читается словами. Похожие письма ищутся как раньше, по близости векторов. 214 правил сортировки почты в Cora он тоже заменил вопросами Jev.
В ролике то же самое на ленте LinkedIn. У каждого поста четыре ответа, запрос «где стоит оставить комментарий» тоже вектор, и лента сортируется по похожести на него. Нужно новое измерение, добавляешь в анкету вопрос. Если выдача не нравится, видно, какой вопрос подвёл. Цифры условные.
Сергей Булаев AI 🤖 - об AI и не только
Кратко (AI)
Автор описывает метод создания интерпретируемых векторных представлений текста с помощью системы Jev. Вместо стандартных «черных ящиков» эмбеддингов, предлагается использовать ответы на конкретные вопросы, которые превращаются в числовой вектор, что позволяет лучше понимать логику сортировки почты и контента.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖