Различие между AGI и RSI в контексте ИИ-разработок
А@airamongushAI-инженер
1 месАнализ подмены понятий AGI и RSI в индустрии ИИ и рекомендации по оценке реальных достижений лабораторий.
Понимание разницы между целями и инструментами в ИИ помогает критически оценивать заявления компаний о создании «сильного ИИ».
- AGI описывает общие способности системы, тогда как RSI — это лишь механизм автоматизации исследований.
- Компании могут использовать термин AGI для оправдания инвестиций, подменяя его результатами работы RSI.
- Для оценки прогресса следует опираться на стоимость вычислений и воспроизводимые метрики, а не на маркетинговые заявления.
6. AGI и RSI это разные вещи, и приравнивать их значит путать цель со средством. RSI это механизм, потенциально мощный, но пока не замкнутый; AGI это широта способностей; ASI это уровень. Склейка выгодна лабораториям по вполне земным причинам: она автоматизирует их главный актив, оправдывает капитал, переносит финишную черту под их контроль и совпадает с их порогами безопасности.
Наверняка в ближайший год кто-то из крупных игроков объявит внутреннюю систему, удовлетворяющую его собственному определению AGI через автоматического исследователя, и сделает это раньше, чем появятся независимо воспроизводимые доказательства устойчивого RSI.
Практический вывод: надо смотреть на воспроизводимые замеры с учётом стоимости вычислений, на способность систем выбирать задачи, а не только исполнять их, на то, фиксирует ли компания бюджет вычислений в своих заявлениях о продуктивности.
Что игнорировать: одиночные твиты со знаком равенства между AGI и RSI, графики без доверительных интервалов, метрики вроде строк кода, оценки продуктивности по ощущениям пользователей.
Кратко (AI)
Автор утверждает, что смешение понятий AGI (широта способностей) и RSI (механизм автоматического исследования) выгодно крупным ИИ-лабораториям для маркетинга и привлечения капитала. В тексте предлагается оценивать прогресс систем через воспроизводимые замеры и стоимость вычислений, игнорируя субъективные заявления и некорректные метрики.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖