Anthropic применила подход Petalsi, разработанный Яндексом, чтобы исследовать риски безопасности искусственного интеллекта. Для эксперимента исследователи запустили большую модель на недорогих устройствах вместо мощного сервера.
Модель Gemma 4 распределили между 15 Android ТВ-приставками: каждое устройство вычисляло свою часть. Эксперимент показал, как запускать крупные модели без дорогой инфраструктуры.
15Android ТВ-приставок
26 млрдпараметров модели
- Petals создан в Яндексе совместно с ВШЭi и зарубежными партнёрами; код проекта открыт.
- Работы о Petals представляли на NeurIPS и ACL.
- На Petals уже ссылались исследователи Калифорнийского университета и Цинхуа.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖