Anthropic запустила Gemma 4 на 15 Android ТВ-приставках с помощью Petals
C@campcodeAI-инженер
1 недИсследователи Anthropic воспроизвели подход Petals и запустили Gemma 4 на 15 Android ТВ-приставках.
Большие ИИ-модели можно запускать на множестве недорогих устройств, а не только на мощных серверах.
- Gemma 4 распределили между 15 Android ТВ-приставками.
- Каждое устройство обрабатывало свою часть модели.
- Подход может снизить требования к инфраструктуре для лабораторий и стартапов.
Anthropic изучила безопасность ИИ с помощью разработки Яндекса — исследователи воспроизвели подход Petals, придуманный в компании, и запустили нейросеть на 26 млрд параметров на 15 ТВ-приставках 😎
Создатели Claude хотели понять, как защищаться от потенциальных рисков при использовании ИИ. Для эксперимента большую модель нужно было запустить на слабом железе, и тут пригодился Petals. Модель делится на части, каждую считает своё устройство, а мощный сервер не нужен. Gemma 4 разложили на 15 Android ТВ-приставок, и она заработала.
Petals сделали в Яндексе вместе с ВШЭ и зарубежными партнёрами. С ним большие модели могут запускать даже лабы и стартапы без дорогой инфраструктуры. Код открыт, работы представляли на NeurIPS и ACL, а ссылались на Petals уже в Калифорнийском университете и Цинхуа.
Вот это я понимаю, бюджетный дата-центр ☕️
Кратко (AI)
Исследователи Anthropic воспроизвели подход Petals: модель Gemma 4 разделили между 15 Android ТВ-приставками, чтобы запустить её без мощного сервера. В посте говорится, что Petals разработали в Яндексе совместно с ВШЭ и зарубежными партнёрами.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖