распределенные вычисленияСбросить фильтр ×

Anthropic исследовала безопасность ИИ с помощью Petals от Яндекса

Anthropic применила подход Petalsi, разработанный Яндексом, чтобы исследовать риски безопасности искусственного интеллекта. Для эксперимента исследователи запустили большую модель на недорогих устройствах вместо мощного сервера.

Модель Gemma 4 распределили между 15 Android ТВ-приставками: каждое устройство вычисляло свою часть. Эксперимент показал, как запускать крупные модели без дорогой инфраструктуры.

ВыводPetals создан в Яндексе совместно с ВШЭ и зарубежными партнёрами; код проекта открыт.

15Android ТВ-приставок
26 млрдпараметров модели

Полный разбор →

Запуск LLM на 120 млрд параметров на кластере из потребительских устройств

P@prohitecавтор про «tech»
1 нед
Запуск LLM на 120 млрд параметров на кластере из потребительских устройств

Это всё на сейчас.