Разбор эссе OpenAI: роль интеллекта и физического мира

В мире с миллиардом Эйнштейнов кому-то всё равно придётся строить лаборатории, вести бухгалтерию и таскать материалы…

Кажется, это все нам придется делать:(

На сайте OpenAI вышло авторское эссе The Eternal Complement. И там есть хороший вопрос: 👉🏼 насколько быстрее вообще сможет развиваться цивилизация, если интеллект перестанет быть дефицитом? Вот Галилею, чтобы посмотреть дальше в космос, понадобились две линзы и трубка. А чтобы человечество посмотрело ещё дальше с помощью James Webb, понадобились около $10 млрд, сотни организаций, десятки стран, сложнейшее производство, логистика и годы координации. То есть проблема была уже не только в том, чтобы придумать хороший телескоп. Нужно было ещё как-то построить его в физическом мире, найти финансирование, продать идею и потом все это скоординировать. Есть исследование Nicholas Bloom и соавторов: чтобы поддерживать темп роста плотности транзисторов, сегодня требуется больше чем в 18 раз больше исследователей, чем в начале 1970-х. Похожие тенденции они нашли в сельском хозяйстве и медицине. То есть прогресс не становился проще, но мы просто бросали на него всё больше людей, денег и инфраструктуры. А теперь представим, что интеллект стал почти бесплатным. AI может: - придумать лекарство; - предложить новый материал; - спроектировать двигатель. Но лекарство всё равно нужно испытать, материал - произвести, двигатель собрать и проверить. И природе, короче, вообще всё равно, насколько умный у вас AI 😁 Авторы предлагают два возможных сценария. Первый : «цивилизация глубины». AI становится настолько хорош в моделировании мира, что нам нужно всё меньше физических экспериментов. Он просто гораздо точнее понимает, что действительно стоит проверять. Второй - «цивилизация ширины». AI производит настолько много хороших идей, что узким местом становятся уже лаборатории, заводы, энергия, производство и логистика. Чем дешевле становится интеллект, тем ценнее может становиться исполнение. Потому что между: «Я придумал гениальную штуку» и «Эта штука реально существует» может лежать десять лет стройки, производства, согласований и тысячи очень скучных действий. Возможно, мы представляем сверхинтеллект немного неправильно. Мы ждём миллиард Эйнштейнов, которые будут бесконечно совершать великие открытия. А потом окажется, что 999 миллионов из них заняты тем, чтобы открытия первого миллиона вообще доехали до реального мира 😁 Само эссе: https://openai.com/index/the-eternal-complement/