Экономика инференса и влияние китайских моделей на рынок ИИ

Бен Томсом в своей регулярной колонке разбирает недавний запуск Kimi K3 с точки зрения экономики и отмечает, что теперь можно вернуться к принципам, известным из практики бизнес-курсов — если экономика софтовых сервисов позволяла практически пренебрегать стоимостью дополнительной копии, то у инференса есть ощутимая себестоимость генерации токена и эти расходы на инференс прямо пропорциональны выручке. Если генерация токенов на доллар выручки стоит 50 центов, то при выручке 100 миллионов себестоимость составит 50 миллионов. Распространённое заблуждение об открытых моделях состоит в том, что они дешевле. Бесплатность здесь относится только к затратам на исследования и разработку: скачав веса, вы экономите на R&D, но R&D — это фиксированные издержки, они одинаковы независимо от того, зарабатываете вы 100 тысяч или 100 миллионов долларов. Kimi при этом оказывается не очень дешевой — хотя стоимость токенов в ней в пять раз меньше Fable, но для решения задачи расходуется больше токенов, поэтому итоговый разрыв не так велик. Гипотеза Томсона заключается в том, что до определенного момента Anthropic и OpenAI держали высокие цены на инференс, чтобы финансировать R&D, то есть разработку и обучение новых моделей. Но в дальнейшем, при ценовом давлении китайских моделей (которые при этом за счет дистиляции сокращают разрыв с лидерами) и неуклонном росте инференса они смогут безопасно снижать цены. Фактически, это и есть довольно старый экономический закон — при росте объемов производства себестоимость одной единицы продукции падает. От себя добавлю, что в случае с интернет-сервисами себестоимость обслуживания запроса никогда не была равна нулю. Даже у показа статической страницы с сервера есть стоимость, пусть и очень малая. Но если показ страниц требует формирования ленты новостей на лету, как для социальных сетей, или поиска с ранжированием и препроцессингом запроса, как в поисковой системе, то себестоимость уже вполне заметная. Просто себестоимость инференса еще выше и плюс-минус тысяча запросов хорошо видны в счетах. https://stratechery.com/2026/whos-afraid-of-chinese-models/