Манифест Марка Цукерберга о будущем сверхинтеллекта

📝 Манифест Марка Цукерберга про AI: как нам жить в эпоху сверхинтеллекта Основатель Meta* Марк Цукерберг опубликовал огромный манифест о том, каким может быть будущее с искусственным сверхинтеллектом. Там и про контроль над ним, и про лидерство, и про благо для каждого. Постараюсь вам кратко пересказать.

«Сверхинтеллект станет одной из важнейших технологий в истории, поэтому его возможности и вызовы, вероятно, будут масштабнее, чем любые другие, с которыми мы сталкивались за свою жизнь. Мы должны отнестись к этому очень серьезно»

Цукерберг топит за то, что сверхинтеллект нельзя ограничивать. Он не должен принадлежать ни правительствам, ни конкретным компаниям. Сверхинтеллект должен быть опенсорсным и доступ к нему должен быть у каждого человека. У каждого свое представление об идеальном мире. И если доступ будет у всех, то это будет уравновешивать силы. Что нас ждет, по мнению Цукерберга: ➖ У каждого будет свой личный AI-агент, который займется здоровьем, карьерой, финансами, ведением домашнего хозяйства, хобби и многим другим. А у нас освободится время для того, что нам нравится. При этом общение с агентом будет конфиденциально, даже компания-разработчик не будет иметь доступ. ➖ У каждого появятся невероятные инструменты для творчества, чтобы выражать свои идеи. ➖ У каждого будут мощные инструменты для создания новых предприятий, и экономика станет более предпринимательской. И это приведет к экономическому росты, а еще к росту занятости, а не сокращению, считает Цукерберг. ➖ У каждого будет персональный репетитор, чтобы можно было учиться новым навыкам, языкам, хобби и так далее. ➖ Еще стоит ждать персональных методов лечения. А риски? Например, в сфере кибербезопасности или вдруг кто-то захочет новое биооружие создать. Цукерберг считает, что доступ всех к сверхинтеллекту даст больше возможностей, чтобы противостоять этому.

«Ключ к позитивному будущему для всех — это достижение баланса сил, благоприятствующего отдельным личностям. Решение состоит в том, чтобы обеспечить широкое распространение сверхинтеллекта для расширения возможностей людей»

А что для этого нужно? Нужно меньше ограничений и барьеров для AI-компаний (американских), чтобы они могли добиваться лидерства и удерживать его. Нужно строить дата-центры, потому что в Китае их строят быстро, а в США нет. И Meta даже готова платить городам, чтобы они разрешали строить рядом. Нужно не ограничивать доступ к данным и зарубежным AI, чтобы можно было быстро обучаться. Это если прям очень-очень кратко. Манифест Цукерберга, конечно, столкнулся с критикой. Например, есть мнение, что это все больше похоже на рекламу Meta. Компании нужны дата-центры. И она даже запустила фонд на $1 млрд, чтобы донатить городам, где эти дата-центры будут стоять. И вот Цукерберг расписал светлое будущее с AI — типа не мешайте и помогайте, чтобы этого будущего достичь. Еще есть вопросы к «доступности для всех». Цукерберг пишет, что для всех будут доступны бесплатные версии. А если кому-то нужно больше мощностей, то сможете заплатить по модели аукциона. То есть для всех будет некая базовая версия сверхинтеллекта от Meta. А если хочется больше, то за деньги. И тут тоже возникает риск того, что будет перекос с доступом: больше денег — больше возможностей. А еще есть интересное мнение, что Цукерберг неправильно ставит вопрос о контроле. Он за равный доступ всех к сверхинтеллекту. Но может стоит сначала поставить вопрос, а безопасно ли давать доступ каждому? В том смысле, что не приведет ли это к необратимым негативным последствиям? И если нет, то тогда давайте уже думать о том, как избежать концентрации в руках правительств и крупных компаний. Но почитать манифест Цукерберга все равно рекомендую. Как минимум, в плане расширения кругозора. *Meta запрещена и признана экстремистской в России @TheEdinorogBlog — тот самый канал про стартапы🦄