ИИ🔥
Влияние AI-инструментов на продуктивность разработки
Исследование NBER показывает, что рост скорости написания кода с помощью AI не конвертируется в пропорциональный рост релизов из-за человеческого фактора.
Вот вам еще одно исследование, тоже вполне себе флеймовое.
Авторы использовали серьезный набор данных — более 100 000 разработчиков GitHub плюс внутренняя телеметрия Microsoft по использованию AI-инструментов. Метод — сопоставленный событийный анализ (каждого, кто внедрил инструмент, сравнивают с близнецом-разработчиком на год раньше, чтобы отделить эффект инструмента от общей волны внедрения AI). Задача исследования — выяснить, как растет отдача по мере внедрения AI-инструментов и доходит ли эффект до конечного продукта.
На уровне написания кода прирост огромный и растёт с каждым поколением. По числу коммитов накопленный эффект:
▪️ автодополнение — +40%
▪️ + синхронные (интерактивные) агенты — +140%
▪️ + асинхронные (автономные) агенты — +180%
Но дальше по цепочке выигрыш стремительно затухает. Те же 180% по коммитам превращаются в +50% по числу проектов и всего +30% по фактическим выпускам. У синхронных агентов разрыв ещё нагляднее: +741% строк кода, +65% пул-реквестов — и лишь +20% релизов.
Основная гипотеза, что происходит — в цепочке остаётся слабое звено, то есть человек. Громадный выигрыш в разработке и генерации кода дальше упирается в живого ревьюера — code review это же очень важная стадия, как можно доверять тупой машине? — и там и пропадает.
Кстати, аналогичную картину авторы видят в приложениях в App Store, Chrome и Google Play — количество новых приложений выросло значительно, но общее использование приложений по площадкам осталось прежним. Подавляющее большинство новых приложений не смогли набрать даже минимальную аудиторию. Собственно, это полностью согласовывается с общей идеей — узкое место просто переехало в маркетинг приложения.
https://www.nber.org/papers/w35275
Кратко (AI)
Исследование на данных GitHub и Microsoft показывает, что AI значительно ускоряет написание кода, но этот эффект нивелируется на этапе ревью и выпуска продукта. Основным узким местом остается человек, так как рост количества кода не приводит к пропорциональному увеличению успешных релизов.