FreeLLMAPI объединяет бесплатные тарифы 34 провайдеров
Н@GreenNeuralRobotsAI-инженер
1 недFreeLLMAPI объединяет бесплатные тарифы 34 провайдеров в OpenAI-совместимый эндпоинт с умной маршрутизацией и фейловером.
FreeLLMAPI
Роутер, который складывает бесплатные тарифы десятков провайдеров в один OpenAI-совместимый эндпоинт /v1. Идея простая: по отдельности каждый фри-тир мелочь, вместе — около 7.4 млрд токенов в месяц.
• 34 провайдера и 635 бесплатных эндпоинтов, 474 семейства моделей
• Умный роутинг: на каждый запрос выбирается доступная модель
• Автоматический фейловер при лимитах, учёт расхода по каждому ключу
• Ключи хранятся в зашифрованном виде
• Поддержка не только чата, но и эмбеддингов, картинок и аудио
• Подключается к любым OpenAI-совместимым клиентам и кодинг-агентам
• Установка: десктоп для #macOS и #Windows #Docker, мобильные приложения
• Каталог моделей обновляется по подписанному фиду без git pull
• Сам роутер бесплатный, новые модели подтягивает ч5ерез 30 дней. Впрочем за $19 в год можно и сразу
Не рекомендовано для продакшена
github.com/tashfeenahmed/freellmapi
#router
MAX

Кратко (AI)
FreeLLMAPI объединяет бесплатные тарифы десятков провайдеров в один OpenAI-совместимый эндпоинт. Роутер выбирает доступную модель, переключается при достижении лимитов и поддерживает чат, эмбеддинги, изображения и аудио; авторы не рекомендуют использовать его в продакшене.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖