Реализация агентных архитектур по мотивам OpenAI Dev Days
L@llm_under_hoodAI-инженер
3 недАвтор делится опытом внедрения агентных систем в собственные проекты, вдохновившись докладом OpenAI Dev Days и используя Firecracker VM.
Использование технологий изоляции позволяет безопасно масштабировать работу множества ИИ-агентов.
- Применение Firecracker VM позволяет запускать тысячи агентов без риска падения серверов.
- Использование визуальных досок как внешней памяти для агентов улучшает контроль над их действиями.
- Копирование архитектурных подходов крупных компаний помогает быстрее внедрять сложные системы в личные проекты.
Самая классная фишка современности - многие достижения других можно копировать.
Пару дней назад утром я посмотрел сам OpenAI Dev Days Keynote (чего и вам советовал). Они там, помимо всяких продуктовых фич, упоминают все те космические технологии, которые у них используются в разработке. Коллаборация с агентами, долгие исследования, самостоятельность.
А у меня пока только есть мой Codex с персональным ассистентом в виде Obsidian реп c markdown файламив гите. Ну и приложение-клон миро.
Но так было до просмотра OpenAI Dev Days. Но в тот же день на одном вдохновении после просмотре получилось дать Марку/Кодексу возможность ходить и одновременно со мной работать над досками (мой эквивалент Miro). Если что-то меняем одновременно, то конфликт ловит он)) Для этого сделал API в приложении и к нему допилил CLI по принципам, на которых работают CLI инструменты в BitGN
А потом отправил исследовать проблему запуска тысяч агентов для BitGN ECOM2. Отправная точка - Firecracker VM с COW memory snapshotting и отслеживанием дель на базе dirty pages от базового образа.
Агент ведет исследования в Codex, параллельно загружая на доску свои эксперименты, графики и выводы. Эта доска помогает мне быть в курсе и заодно служит ему структурированной памятью, которую я могу менять.
Если интересно - могу скинуть скриншоты досок в комментарии.
В итоге этих эуспериментов получается уже интересная концепция песочницы для ECOM2, где я могу не переживать, что у меня запустят параллельно 100000 агентов и уронят все сервера (запускать столько можно, а уронить уже будет сложнее). И заодно становится проще демонстрировать принципы построения агентных архитектур для бизнеса.
Но самый главный посыл - можно внимательно смотреть на достижения топовых компаний и копировать их фишки у себя.
Ваш, @llm_under_hood 🤗
Кратко (AI)
Автор рассказывает, как после просмотра OpenAI Dev Days внедрил агентные технологии в свои проекты. Он реализовал систему, где ИИ-агент работает с досками в стиле Miro и исследует запуск тысяч агентов с использованием Firecracker VM для изоляции ресурсов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖