Тестирование Gemini 3.8 в голосовом ИИ-тренажере
Л@baldfrombrowserмедиа / агрегатор
4 недАвтор тестирует новую модель Gemini 3.8 для голосового ИИ-тренажера, отмечая высокую скорость, но критические проблемы с расходом токенов.
Новые модели ИИ могут быть быстрыми, но не всегда подходят для коммерческих продуктов из-за особенностей тарификации.
- Отсутствие кэширования контекста в Gemini 3.8 делает длинные диалоги неоправданно дорогими.
- Высокая скорость ответа модели не компенсирует неэффективное использование токенов в реальных бизнес-задачах.
- Разработчикам голосовых интерфейсов важно учитывать архитектуру передачи истории диалога при выборе модели.
Google выпустила свою улучшенную модель голоса Gemini 3.8 и я решил попробовать её на голосовом тренажере.
Помните, я писал, что сделал голосовой ИИ-тренажер для того, чтобы имитировать реальные диалоги с клиентами для менеджера по продажам.
Мой предыдущий тренажер держится на Elevenlabs — лучшей ИИ модельке для голосов. Лучшей и самой дорогой 🥲
Поэтому я все время ищу альтернативы. Попробовал Gemini и был просто в шоке от скорости. Она работает просто молниеносно. Но есть нюнс. Бляха, как всегда.
Модель каждый раз, когда мы говорим что-то "хавает весь диалог заново". Получается, такая петрушка:
Мы говорим привет. Она нам отвечает привет.
Мы говорим как дела, но модель читает "привет, + привет + как дела", то есть первая фраза из истории диалога приклеивается, чтобы модель не теряла контекст.
Но каждый токен который мы отправляем нейросети стоит денег и такой диалог становится пиздецки дорогим уже спустя три минуты диалога.
Кэширование. Есть такой прием, который позволяет закэшировать неизменную часть диалога. Она есть во всех современных нейронках. Как раз чтобы не платить за токены, которые мы постоянно отправляем в нейронку. А тут их нет.
Молниеносная скорость работы. Просто посмотрите на видео. Это реально вау. Но бессмысленно. Жаль.
Кратко (AI)
Автор протестировал модель Gemini 3.8 в своем голосовом ИИ-тренажере для менеджеров по продажам. Несмотря на высокую скорость работы, модель оказалась экономически невыгодной из-за отсутствия поддержки кэширования контекста, что приводит к избыточному расходу токенов при каждой реплике.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖