Вообще, если думать в позитивных сценариях пост-asi экономики (asi — artificial superintelligence), то очевидно, что единственным уникальным ресурсом для владения останется 1) земля и то, что в ней. 2) моря и то, что в них Причем claim на землю практически разобран. Марс далеко и не нужно (лучше уж Антарктида) Значит следующим будет claim на воду Плавучие города-государства, вот это все. При этом если посмотреть еще шире, то любые вопросы владения ресурсами моментально упираются в то, что право обеспечивается только силой. А значит первоочередной вопрос который мы должны задать — не какая будет экономика при asi, а кто будет владеть оружием в достаточном объеме, чтобы защитить сувернинитет, может ли это право быть монополизированным, и смогут ли люди им управлять. От этого следует любая будущая картина мира.

Astra по индексу Epoch.ai (ECI - 50 наборов топовых тестов и статистически сводит их в одну шкалу) уже обгоняет прогнозы проекта AI-2027 Напомню, что согласно модели - в ноябре 2027 появляется AI-кодер который почти без человеческой помощи может автоматизировать работу над ИИ-рисерчем для достижения ASI - в конце 2028 появляется ASI - то есть ИИ, у которого разрыв в способностях с лучшими людьми в 2 раза больше, чем разрыв между лучшими людьми и медианным профессионалом практически во всех когнитивных задачах. Прошлый перформанс не гарантия будущего, но пока что за последние 3 года реальный прогресс оказывался куда быстрее, чем большинство оптимистичных прогнозов.

В итоге, я думаю, что «ASI системы», которые окажутся в руках общественности через несколько лет смогут доказывать или опровергать гипотезу Римана (в зависимости от верности), но все также останутся на уровне человека с средним интеллектом в вопросе того как захватить мир. И не потому что мы не будем знать как создать ИИ, способный захватить мир. А потому что нам повезло, что мы можем создать очень мощные системы, которые способны автоматизировать почти все, но все еще не будут сверхчеловеческими в плане метагентности**. С небезопасными в этом плане системами мы будем работать совершенно иначе, если вообще решим их создавать. Последнее что я здесь адресую: традиционное возражение про скрепки. Представим, что та самая модель из будущего захватывает мир, чтобы собрать ресурсы для доказательства гипотезы Римана. Мой ответ здесь довольно простой: мы довольно быстро увидим такое опасное поведение на меньшем скейле. ИИ предпримет еще не одну попытку сделать нечто странное. Но так как он по дефолту стратегически слеп, мы его попытки лезть туда куда не надо будем каждый раз палить и вводить нужные ограничения для поддержания адекватного уровня безопасности. И всегда помните про «ошибку выжившего». *История Финеаса Гейджа, которому лом проломил голову является от начала и до конца фейком. У него не было никакого снижения самоконтроля. Тем не менее поражение лобных долей может давать именно такую симптоматику. **Метагентность как явление выражается в том, что когнитивный агент способен не просто составить и реализовать план решения конкретной задачи, но и может полноценно осознать последствия реализации построенного им плана для себя и окружающего мира, а затем выбрать лучшую стратегию, которая эти последствия учитывает наилучшим образом.