← к ленте

LLM как часть ОС и новый подход к дистрибуции софта

Б@boris_againAI-инженер
1 мес

Размышления о будущем, где LLM-агенты берут на себя установку и настройку ПО, меняя парадигму разработки и дистрибуции приложений.

В будущем настройку и установку программ на компьютере могут полностью взять на себя ИИ-агенты.

  • Разработчикам не нужно будет создавать сложные инсталляторы под все конфигурации железа.
  • Пользовательский опыт упростится: ИИ сам найдет патчи, драйверы и настроит софт под конкретное устройство.
  • Модель дистрибуции ПО может сместиться от готовых сборок к адаптивным ядрам, донастраиваемым на стороне клиента.
Я думаю, что нас ждет локальная llm как часть операционной системы. Мы в Steelman тренируем модели на computer use тректориях, поэтому активно догфудим дату. У нас есть навайбкоженный мной рекордер для записи экрана и системных ивентов с тонной кастомной логики. Установщик у него такой: "дай своему клоду/кодексу эту ссылку и скажи поставить, вот конфиг и ключи." Для обновления: "скажи своему этому пусть обновит." Я уже не помню когда последний раз разбирался в деталях как что-то поставить или настроить. А помните старые времена, до докера, когда частью навыков программиста было понять, как на одной машине установить две версии постгресса? Хорошо, что этот кошмар позади. Другой пример. Я поставил себе на Rog Ally X Готику 2 (точнее фанатский мод Archolos), но она жутко лагала. Запряг клода, он там нашел какой-то патч, чтобы перевести игру на современный DirectX. Все стало летать и графика стала лучше. Думаю смержить мегапак модов на New Vegas и заставить их запуститься оно тоже может. В общем, я думаю это новая норма. Причём мне кажется такой помощник/инсталлятор не обязан быть Фейбл 5.1. Я думаю и небольшая модель справится. И я думаю это может поменять как делается и дистрибьютится софт. Раньше вся работа ложилась на разработчика. Он должен сделать билд под все платформы которые хочет поддерживать и постоянно всё тестировать. Предполагается, что клиент не может и пальцем пошевелить. Однако в мире где к каждому компьютеру прилагается LLM разработчик может делать лишь некоторое ядро функционала, а затем каждый клиент допилит под себя всё необходимое, чтобы это запустилось на конкретно его утюге. Возможно это будет частью процесса инсталляции. В детстве мы смотрели за ползунком прогресса установщика где в основном была распаковка. А в будущем будем смотреть за ползунком, а под капотом там пережатый в 300 шакалов GLM Flash пишет драйвера.

Кратко (AI)

Автор рассуждает о том, что локальные LLM станут неотъемлемой частью ОС, автоматизируя установку и настройку ПО. Это может изменить процесс дистрибуции: разработчики будут выпускать ядро продукта, а LLM-агенты пользователей — адаптировать его под конкретное железо.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖