← к ленте

AI-агенты потребляют в 5 раз больше токенов, чем люди

T@Theedinorogblogавтор про «startups»
2 нед

Анализ отчета a16z: AI-агенты резко увеличили потребление токенов, опередив людей в 5 раз за полгода, несмотря на рост использования AI людьми.

AI-агенты становятся основными потребителями вычислительных ресурсов, меняя экономику использования нейросетей.

  • Автономные AI-агенты потребляют значительно больше токенов, чем пользователи-люди.
  • Использование кэшированных промптов позволяет снизить реальные затраты на работу агентов.
  • Рост инвестиций в AI-стартапы продолжает ускоряться, достигая 86% от общего объема венчурного капитала в США.
↗️ AI-агенты стали тратить в 5 раз больше токенов чем люди Самое удивительное, что такой разрыв вырос очень быстро, всего за полгода. Еще в феврале люди тратили больше токенов, а потом у AI-агентов поперло. При этом не сказать, чтобы люди стали как-то меньше пользоваться AI. У них потребление токенов выросло почти в 3 раза. А у AI-агентов — в 14 раз. Этот график из большого отчета State of Markets от фонда a16z. Советую вам позалипать в нем, там есть интересные графики. Например, про то, что в 2026-м году 86% венчурных инвестиций в США ушло в AI-стартапы. В 2025-м — 65%. Там даже про покемонов нашелся график на последней странице. Честно говоря, у меня после этого графика с токенами осталось два вопроса. Первый — почему именно в феврале пошел такой рост? Второй — почему на графике AI-агентов такие провалы в потреблении? Причем они довольно большие — до 1 трлн токенов за короткое время. К сожалению, я не смог найти ответы на эти вопросы. Но я нашел первоисточник этого графика. Его выложил Питер Волкер из OpenRouter. Этот чувак вообще-то раньше работал в финтех-сервисе Carta и делал классные графики с исследованиями на основе его данных. И я с вами несколько раз с вами делился. А в августе он перебрался в OpenRouter и там продолжил. У Волкера есть одно интересное пояснение. Хоть AI-агенты и тратят в 5 раз больше токенов, но в деньгах разрыв не такой. Он пишет, что в 70% случаев задачи AI-агентов приходятся на кэшированные промпты. А для них стоимость токенов сильно ниже. Для желающих совсем углубиться в тему — вот нашел очень подробную статью про эти кэшированные промпты. @TheEdinorogBlog — тот самый канал про стартапы🦄
AI-агенты потребляют в 5 раз больше токенов, чем люди

Кратко (AI)

Согласно отчету a16z, потребление токенов AI-агентами выросло в 14 раз за полгода, что в 5 раз превышает показатели людей. Питер Волкер из OpenRouter отмечает, что разрыв в затратах меньше из-за использования кэшированных промптов, на которые приходится 70% задач агентов.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖