← к ленте

Предел масштабирования ИИ: деньги против физики

М@theworldisnoteasyAI-инженер
1 мес

Анализ разрыва между ростом вычислительных мощностей для ИИ и темпами развития аппаратного обеспечения.

Текущая модель развития ИИ через простое наращивание мощностей может скоро упереться в физический потолок.

  • Инвестиции в ИИ растут быстрее, чем возможности «железа» по закону Мура.
  • Существует риск, что текущий прогресс — это результат «заливания» проблемы деньгами, а не фундаментальных инноваций.
  • Для дальнейшего развития отрасли могут потребоваться принципиально новые архитектурные решения, а не просто больше GPU.
Когда деньги упрутся в физику Пока деньги побеждают, мы покупаем всё больше интеллекта вычислениями. Но никто не знает, где здесь предел. Если бы в освоение космоса вкладывали столько же, сколько сегодня вкладывают в ИИ, весьма возможно, человек уже был бы на Марсе. Но чтобы отправиться намного дальше, недостаточно просто купить ещё топлива. Деньги не отменяют уравнение Циолковского: дополнительное топливо тоже приходится разгонять - а для этого нужно ещё топливо. И возможно, с ИИ происходит нечто похожее. Мы научились покупать всё больше интеллекта вычислениями - но пока не знаем, где закончится власть денег и начнётся власть физики. Авторы нового интересного препринта «Как развивался искусственный интеллект за 70 лет» обращают внимание на разительный разрыв. Объёмы вычислений, используемых для обучения ИИ, сейчас ежегодно растут в 4 - 5 раз, тогда как сама аппаратная база развивается по гораздо более медленной, муровской траектории - порядка удвоения за два года. Этот разрыв уже невозможно объяснить одним только прогрессом железа: значительная его часть покупается инвестициями. Тогда может статься, что нынешняя революция ИИ - это не новый двигатель, а прежде всего очень много топлива. И хотя этот путь пока работает блестяще, никто не знает, сколько ещё прогресса можно купить таким способом. Купить ещё и ещё вычислений, GPU, дата-центров и электричества можно - были бы деньги. Но физические ограничения нельзя отменить даже триллионным чеком. Так сколько ещё интеллекта можно купить деньгами - прежде чем деньги упрутся в физику? Полагаю, что раздумья над этим вопросом уже не дают спать не только Маску, Альтману и Амодеи, но и крупнейшим инвесторам. Потому что от ответа зависит очень многое: продолжаем ли мы покупать всё больше интеллекта - или приближаемся к точке, где для следующего скачка понадобится уже не больше денег, а новый двигатель.   ИИгонка
Предел масштабирования ИИ: деньги против физики

Кратко (AI)

Автор рассуждает о том, что текущий прогресс в области ИИ во многом обусловлен огромными финансовыми вливаниями в вычислительные мощности, а не только технологическими прорывами. Существует риск, что экспоненциальный рост затрат на обучение моделей столкнется с физическими ограничениями аппаратного обеспечения, которые невозможно преодолеть просто увеличением бюджета.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖