Обзор сценария AI-2040: позитивный путь развития ИИ

У меня был четырехчасовой перелет и я прочитал AI-2040 почти полностью Есть много мыслей, которыми я хочу поделиться. Но сначала стоит рассказать, о чем это вообще. ai-2040.com – развитие нашумевшего ai-2027.com. ai2027 я комментировал тут, он про довольно страшный (и реалистичный) сценарий выхода суперинтеллекта из под контроля. Если вы не читали, то решительно советую, было очень интересно погрузиться в почти sci-fi прогноз. Если в ai2027 разбирают в основном стремительные катастрофические варианты развития событий, то в ai2040 почти полностью посвящен позитивному сценарию (описание почти на 70 страниц). Авторы признают его маловероятным, но одним из немногих, при котором миру будет хорошо от развития искусственного интеллекта. Сам сценарий - Plan A В этом сценарии Америка и Китай в 2029 году осознают экзистенциальную опасность гонки вооружений. Америка боится самого ИИ, Китай боится, что Америка сделает более сильный ИИ и страны решают придти к соглашению – заморозить исследования, пока не решится, что с этим делать. Исследования замораживают на год, в это время страны решают - сделать весь AI research публичным и открытым - веса моделей, наоборот, сделать закрытыми - все будущие датацентры строить на прокси-территориях, на которых США и Китай смогут взаимно уничтожить весь компьют - вычисления на всех GPU или специальных чипов контроллировать специальной комиссией Звучит невероятно? Да. Сами авторы говорят, что в этот вариант они верят меньше, чем в вариант взаимного уничтожения. Но тем не менее стараются обосновать, почему рациональные игроки в теории игр могут быть склонны именно к таким мерам. И я считаю, что самое интересное в ai2040 – именно анализ отдельных факторов, подкрепленный довольно трудоемкими исследованиям. О некоторых интересных деталях я и расскажу в следующих постах. Можете поставить побольше лайков, если хотите, чтобы я описал побольше факторов)