Предел масштабирования ИИ: деньги против физики
М@theworldisnoteasyAI-инженер
1 месАнализ разрыва между ростом вычислительных мощностей для ИИ и темпами развития аппаратного обеспечения.
Текущая модель развития ИИ через простое наращивание мощностей может скоро упереться в физический потолок.
- Инвестиции в ИИ растут быстрее, чем возможности «железа» по закону Мура.
- Существует риск, что текущий прогресс — это результат «заливания» проблемы деньгами, а не фундаментальных инноваций.
- Для дальнейшего развития отрасли могут потребоваться принципиально новые архитектурные решения, а не просто больше GPU.
Когда деньги упрутся в физику
Пока деньги побеждают, мы покупаем всё больше интеллекта вычислениями. Но никто не знает, где здесь предел.
Если бы в освоение космоса вкладывали столько же, сколько сегодня вкладывают в ИИ, весьма возможно, человек уже был бы на Марсе. Но чтобы отправиться намного дальше, недостаточно просто купить ещё топлива. Деньги не отменяют уравнение Циолковского: дополнительное топливо тоже приходится разгонять - а для этого нужно ещё топливо.
И возможно, с ИИ происходит нечто похожее. Мы научились покупать всё больше интеллекта вычислениями - но пока не знаем, где закончится власть денег и начнётся власть физики.
Авторы нового интересного препринта «Как развивался искусственный интеллект за 70 лет» обращают внимание на разительный разрыв. Объёмы вычислений, используемых для обучения ИИ, сейчас ежегодно растут в 4 - 5 раз, тогда как сама аппаратная база развивается по гораздо более медленной, муровской траектории - порядка удвоения за два года.
Этот разрыв уже невозможно объяснить одним только прогрессом железа: значительная его часть покупается инвестициями.
Тогда может статься, что нынешняя революция ИИ - это не новый двигатель, а прежде всего очень много топлива.
И хотя этот путь пока работает блестяще, никто не знает, сколько ещё прогресса можно купить таким способом. Купить ещё и ещё вычислений, GPU, дата-центров и электричества можно - были бы деньги. Но физические ограничения нельзя отменить даже триллионным чеком.
Так сколько ещё интеллекта можно купить деньгами - прежде чем деньги упрутся в физику?
Полагаю, что раздумья над этим вопросом уже не дают спать не только Маску, Альтману и Амодеи, но и крупнейшим инвесторам.
Потому что от ответа зависит очень многое: продолжаем ли мы покупать всё больше интеллекта - или приближаемся к точке, где для следующего скачка понадобится уже не больше денег, а новый двигатель.
ИИгонка

Кратко (AI)
Автор рассуждает о том, что текущий прогресс в области ИИ во многом обусловлен огромными финансовыми вливаниями в вычислительные мощности, а не только технологическими прорывами. Существует риск, что экспоненциальный рост затрат на обучение моделей столкнется с физическими ограничениями аппаратного обеспечения, которые невозможно преодолеть просто увеличением бюджета.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖