Борис описывает проблему, которая, на мой взгляд, является законом Лемана на стероидах (
второй закон эволюции ПО):
Код будет гнить, если его гниению активно не противодействовать.
Это всегда было актуально и для человеческой разработки, особенно в больших проектах.
Проблема с агентами в том, что с ними проект растёт и развивается гораздо быстрее, чем раньше, а значит, и гнить он начинает быстрее.
Но я считаю, что это решаемая проблема даже на текущем уровне развития агентов и LLM. Нам с Уроборосом пришлось долго учиться противодействовать заслопливанию кода, и из этого в том числе появились принципы
IMMUNE.
Правильно выстроенная система адверсариального ревью тоже довольно неплохо помогает. Но ревью должно опираться на явную иерархию требований, начинающуюся с конституционных формулировок. В Уроборосе вершина этой иерархии лежит в
BIBLE.md: требования важнее архитектуры, архитектура важнее реализации.
На мой взгляд, ключевая проблема тут в том, что LLM нехватает длинного контекста, а основные харнессы плохо помогают им сохранять целостную ментальную модель проекта.
Поэтому:
1. Я очень жду LLM с 10B контекстом.
2. Продолжаю развивать
Уробороса и делать ставку на мета-системы, которые автономно улучшают и сам процесс разработки:
"Improve the generator, not the generation".
Мы точно не упёрлись в предел качества автономных агентов, а просто научились очень быстро генерировать код, при этом ещё плохо умеем с той же скоростью противодействовать его гниению.
