Размышления о том, как ускоренная генерация кода агентами ускоряет его «гниение» и как с этим бороться с помощью системных подходов.
Борис описывает проблему, которая, на мой взгляд, является законом Лемана на стероидах (
второй закон эволюции ПО):
Код будет гнить, если его гниению активно не противодействовать.
Это всегда было актуально и для человеческой разработки, особенно в больших проектах.
Проблема с агентами в том, что с ними проект растёт и развивается гораздо быстрее, чем раньше, а значит, и гнить он начинает быстрее.
Но я считаю, что это решаемая проблема даже на текущем уровне развития агентов и LLM. Нам с Уроборосом пришлось долго учиться противодействовать заслопливанию кода, и из этого в том числе появились принципы
IMMUNE.
Правильно выстроенная система адверсариального ревью тоже довольно неплохо помогает. Но ревью должно опираться на явную иерархию требований, начинающуюся с конституционных формулировок. В Уроборосе вершина этой иерархии лежит в
BIBLE.md: требования важнее архитектуры, архитектура важнее реализации.
На мой взгляд, ключевая проблема тут в том, что LLM нехватает длинного контекста, а основные харнессы плохо помогают им сохранять целостную ментальную модель проекта.
Поэтому:
1. Я очень жду LLM с 10B контекстом.
2. Продолжаю развивать
Уробороса и делать ставку на мета-системы, которые автономно улучшают и сам процесс разработки:
"Improve the generator, not the generation".
Мы точно не упёрлись в предел качества автономных агентов, а просто научились очень быстро генерировать код, при этом ещё плохо умеем с той же скоростью противодействовать его гниению.
Кратко (AI)
Автор рассуждает о том, что использование AI-агентов ускоряет процесс написания кода, что приводит к его более быстрому «гниению» согласно закону Лемана. Для решения этой проблемы предлагается использовать системные подходы, такие как принципы IMMUNE и иерархическое ревью, а также развивать мета-системы для автономного улучшения процесса разработки.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖