Команда, написавшая резонансный прогностический сценарий AI-2027i (описывавший гонку к сверхразуму и риск катастрофы), опубликовала продолжение — AI-2040 «Plan A» на сайте ai-2040.com. Новый текст описывает не апокалипсис, а «наименее плохой», хоть и неидеальный путь, по которому человечество может дойти до сверхразума, не уничтожив себя.
Авторы говорят, что «Plan A» — это не прогноз, а рекомендация и инструмент для стресс-теста политики: они настаивают на международном соглашении о полной прозрачности ИИ-разработок между странами, чтобы избежать тайной гонки. При этом сами дальнейшие последствия реализации плана в сценарии подаются уже как прогноз, а не просто пожелание.
- Сценарий основан на беседах с экспертами ведущих американских AI-компаний, опыте работы одного из авторов в OpenAI, а также на дискуссиях с законодателями и специалистами по нацбезопасности.
- «Plan A» противопоставляется четырём альтернативным сценариям — B, C, D и S, отражающим разные варианты реакции США на вызов сверхразума.
- По пересказу e/acc, таймлайн сценария включает: 2028 — политический шок и соглашение США и Китая; 2029 — договор о вычислительных мощностях («компьюте») по аналогии с ядерными соглашениями; 2030 — создание регулирующего ИИ консорциума при ООН и полностью открытый R&D; 2031 — диффузия технологий и доступ к моделям для всех, а не для 2-3 олигополий; 2032 — «контролируемый индустриальный взрыв»; 2033 — лимиты на выпуск роботов; 2034 — дивиденды от ИИ и роботов гражданам и «MAD для компьютаi»; 2035 — пауза в тренировке топовых моделей; 2036 — «эпистемический шок» и автоматизация большей части экономики; 2038 — alignment становится доминирующей наукой; 2039 — передача власти ИИ; 2040 — «пенсия человечества».
- По данным Сиолошной, основные участники сценария — только США и Китай, остальные страны почти не влияют на события; ключевой поворотный момент — 2029 год, когда AI-исследования становятся почти полностью автоматизированы.
- Сиолошная отмечает, что темпы развития ИИ до 2030 года в новом сценарии остаются близкими к прогнозам начала 2026-го (чуть медленнее оригинального AI-2027), и подчёркивает, что «2040» в названии не означает переноса даты достижения сверхинтеллекта — это распространённое заблуждение читателей.
- TechSparks критикует проект как «манипулятивную технику»: внешние атрибуты научности (ссылки, цитаты, интерактивные графики, детальные таймлайны) создают иллюзию весомости выводов, хотя текст, по его мнению, является беллетристикой; эпилог называется «Epilogue: Life after ASIi» и описывает предсказуемое будущее без подлинной новизны.
- Авторы сами признают сложность точного сценарного прогнозирования, но считают его полезным: «Мы считаем, что дискуссия улучшилась бы, если бы больше предложений по политике в области ИИ подвергались сценарному анализу».
Читатели могут пройти интерактивный сценарий на ai-2040.com (в частности по ссылке с параметром choices=plan-a-root), а также изучить дополнительные материалы, объём которых, по словам Сиолошной, превышает основной текст. Дискуссия вокруг проекта продолжается: сторонники относятся к нему как к серьёзному инструменту для дебатов об ИИ-политике, критики — как к «научной фантастике» с претензией на аналитику.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖