← к ленте

Реализация агентных архитектур по мотивам OpenAI Dev Days

L@llm_under_hoodAI-инженер
3 нед

Автор делится опытом внедрения агентных систем в собственные проекты, вдохновившись докладом OpenAI Dev Days и используя Firecracker VM.

Использование технологий изоляции позволяет безопасно масштабировать работу множества ИИ-агентов.

  • Применение Firecracker VM позволяет запускать тысячи агентов без риска падения серверов.
  • Использование визуальных досок как внешней памяти для агентов улучшает контроль над их действиями.
  • Копирование архитектурных подходов крупных компаний помогает быстрее внедрять сложные системы в личные проекты.
Самая классная фишка современности - многие достижения других можно копировать. Пару дней назад утром я посмотрел сам OpenAI Dev Days Keynote (чего и вам советовал). Они там, помимо всяких продуктовых фич, упоминают все те космические технологии, которые у них используются в разработке. Коллаборация с агентами, долгие исследования, самостоятельность. А у меня пока только есть мой Codex с персональным ассистентом в виде Obsidian реп c markdown файламив гите. Ну и приложение-клон миро. Но так было до просмотра OpenAI Dev Days. Но в тот же день на одном вдохновении после просмотре получилось дать Марку/Кодексу возможность ходить и одновременно со мной работать над досками (мой эквивалент Miro). Если что-то меняем одновременно, то конфликт ловит он)) Для этого сделал API в приложении и к нему допилил CLI по принципам, на которых работают CLI инструменты в BitGN А потом отправил исследовать проблему запуска тысяч агентов для BitGN ECOM2. Отправная точка - Firecracker VM с COW memory snapshotting и отслеживанием дель на базе dirty pages от базового образа. Агент ведет исследования в Codex, параллельно загружая на доску свои эксперименты, графики и выводы. Эта доска помогает мне быть в курсе и заодно служит ему структурированной памятью, которую я могу менять. Если интересно - могу скинуть скриншоты досок в комментарии. В итоге этих эуспериментов получается уже интересная концепция песочницы для ECOM2, где я могу не переживать, что у меня запустят параллельно 100000 агентов и уронят все сервера (запускать столько можно, а уронить уже будет сложнее). И заодно становится проще демонстрировать принципы построения агентных архитектур для бизнеса. Но самый главный посыл - можно внимательно смотреть на достижения топовых компаний и копировать их фишки у себя. Ваш, @llm_under_hood 🤗

Кратко (AI)

Автор рассказывает, как после просмотра OpenAI Dev Days внедрил агентные технологии в свои проекты. Он реализовал систему, где ИИ-агент работает с досками в стиле Miro и исследует запуск тысяч агентов с использованием Firecracker VM для изоляции ресурсов.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖