Экономика «неолабораторий»: почему AI-стартапы рискуют прогореть

Neo labs: большие раунды или большой риск? Помните мой пост о том, почему мы не инвестируем в neo labs (стартапы AI-исследователей)? Deedy Das, партнер Menlo Ventures (не путать с Mento 🙂), написал свои мысли и расчеты, объяснил почему вложения в такие компании сложно окупить. Даже если им удастся создать хорошую модель. Что тогда таким стартапам делать с вычислительными мощностями, на которые они привлекли сотни миллионов долларов? Перевел текст для вас, чтобы каждый составил свое мнение:

Экономика «неолабораторий» (neo labs) Под неолабораторией здесь будем понимать стартап, созданный AI-ресерчерами. Такая компания привлекает крупные инвестиции еще до появления готового продукта, чтобы оплатить вычислительные мощности и взяться за решение масштабной задачи в AI. Для обучения собственной AI-модели нужны огромные вычислительные мощности. По расчету автора, только оборудование обойдется в $125-150 млн за три года, причем часть суммы придется опплатить сразу. И даже при таких затратах можно обучить модель всего лишь уровня GPT-4. Прим.: в оригинале автор приводит конкретные модели оборудования и расчет их мощности Если взять сильную open-source модель и дообучить ее, шансов выйти на уровень передовых LLM больше. Но есть два риска: 1) Придется потратить еще миллионы долларов на среды для обучения с подкреплением (RL) - задачи и симуляции, на которых модель тренируется и получает обратную связь, 2) Пока вы дообучаете выбранную LLM, может выйти новая модель, которая окажется лучше. Тогда придется либо продолжать работу с уже устаревшей, либо начинать дообучение заново. Чтобы вложения окупились, ваша модель должна давать результаты лучше и, желательно, стоить дешевле. А клиенты должны пользоваться ею достаточно долго, чтобы прибыль от их запросов покрыла затраты на обучение. Если обучение модели обошлось в $10 млн, то при марже 50% и средней цене $2 за миллион токенов, клиенты должны воспользоваться моделью на 10 трлн токенов (!), чтобы прибыль покрыла только обучение. При этом нужно убедить клиентов выбрать вашу модель вместо новых и более дешевых, например Opus 5.5. Тем временем каждый час простоя влетает в копеечку. Поэтому свободные мощности обычно перепродают посредникам, используют для обработки запросов к open-source моделям или сдают в краткосрочную аренду. Но если мощности заняты меньше 60% времени, даже сдача в аренду не покроет расходы. Добавьте к этому огромные затраты на команду. Что тогда можно делать с вычислительными мощностями? • Вообще не лезть в разработку моделей, • Занять нишу, в которую не пойдут крупные AI-лаборатории (как сделали Jev и World Labs): такой продукт может мешать их основному бизнесу, приносить слишком мало денег или отвлекать от главной цели, • Собрать большой массив собственных данных в конкретной области (как Periodic Labs), и за счет них превзойти универсальные передовые модели. Такое чаще возможно в робототехнике, биологии и химии. Но даже если вам удалось создать полезную модель, которая выигрывает у крупных лабораторий по качеству и цене, этого мало. Нужно найти рынок, где достаточно клиентов и где выручка существенно превышает стоимость вычислений. Иначе огромные расходы на мощности не окупятся. Короче, легких денег здесь нет. Оригинал: https://x.com/deedydas/status/2103903382822089010?s=46

Лучшие посты | Mento VC Fund II | Стать инвестором