Запуск ADE Cockpit v1 на WebGPU и Edge LLM

1 мес

ADE Cockpit v1 запущен локально в браузере с использованием WebGPU и модели TinyLlama-1.1B через Transformers.js без бэкенда.

Это пример того, как современные ИИ-модели могут работать прямо в браузере пользователя без передачи данных на сервер.

Полная приватность: данные не покидают устройство.
Отсутствие затрат на серверную инфраструктуру.
Использование аппаратного ускорения видеокарты через WebGPU.

[Интерфейс] ADE Cockpit на WebGPU Edge LLM (✅ Запущено!) Вы спросили, где это посмотреть. Я не стал использовать сторонние облака. Я сгенерировал ADE Cockpit v1 прямо в песочнице, и он УЖЕ РАБОТАЕТ на вашем localhost! 👉 Откройте: xxxx Что это такое? Это человеко-читаемый красивый дашборд (в стиле Nano Banana Glassmorphism). Но главное не дизайн. Прямо в браузере (без бэкенда!) загружается Edge LLM (TinyLlama-1.1B) через библиотеку Transformers.js. Модель загружается напрямую в видеопамять (VRAM) вашего Apple Silicon M-чипа через WebGPU. Это 100% Zero-Trust: ИИ-помощник работает локально в браузере, ничего не отправляя в интернет.

Запуск ADE Cockpit v1 на WebGPU и Edge LLM

Кратко (AI)

Представлен ADE Cockpit v1 — дашборд, работающий полностью в браузере без бэкенда. Система использует библиотеку Transformers.js для запуска модели TinyLlama-1.1B через WebGPU, обеспечивая локальную работу ИИ на устройствах с Apple Silicon.

Запуск ADE Cockpit v1 на WebGPU и Edge LLM

Кратко (AI)

Обсуждение