← к ленте

Проблема деградации кода при использовании AI-агентов

A@abstractDLAI-инженер
3 нед

Размышления о том, как ускоренная генерация кода агентами ускоряет его «гниение» и как с этим бороться с помощью системных подходов.

Автоматизация разработки требует новых подходов к контролю качества кода.

  • Высокая скорость генерации кода агентами создает риск накопления технического долга.
  • Необходимы строгие иерархии требований для управления качеством в автоматизированных системах.
  • Будущее автономной разработки зависит от способности систем поддерживать целостную модель проекта.
Борис описывает проблему, которая, на мой взгляд, является законом Лемана на стероидах (второй закон эволюции ПО):
Код будет гнить, если его гниению активно не противодействовать.
Это всегда было актуально и для человеческой разработки, особенно в больших проектах. Проблема с агентами в том, что с ними проект растёт и развивается гораздо быстрее, чем раньше, а значит, и гнить он начинает быстрее. Но я считаю, что это решаемая проблема даже на текущем уровне развития агентов и LLM. Нам с Уроборосом пришлось долго учиться противодействовать заслопливанию кода, и из этого в том числе появились принципы IMMUNE. Правильно выстроенная система адверсариального ревью тоже довольно неплохо помогает. Но ревью должно опираться на явную иерархию требований, начинающуюся с конституционных формулировок. В Уроборосе вершина этой иерархии лежит в BIBLE.md: требования важнее архитектуры, архитектура важнее реализации. На мой взгляд, ключевая проблема тут в том, что LLM нехватает длинного контекста, а основные харнессы плохо помогают им сохранять целостную ментальную модель проекта. Поэтому: 1. Я очень жду LLM с 10B контекстом. 2. Продолжаю развивать Уробороса и делать ставку на мета-системы, которые автономно улучшают и сам процесс разработки: "Improve the generator, not the generation". Мы точно не упёрлись в предел качества автономных агентов, а просто научились очень быстро генерировать код, при этом ещё плохо умеем с той же скоростью противодействовать его гниению.
Проблема деградации кода при использовании AI-агентов

Кратко (AI)

Автор рассуждает о том, что использование AI-агентов ускоряет процесс написания кода, что приводит к его более быстрому «гниению» согласно закону Лемана. Для решения этой проблемы предлагается использовать системные подходы, такие как принципы IMMUNE и иерархическое ревью, а также развивать мета-системы для автономного улучшения процесса разработки.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖