На сайте OpenAI опубликовано авторское эссе «The Eternal Complementi», которое задаётся вопросом: насколько быстрее сможет развиваться цивилизация, если интеллект перестанет быть дефицитом. Авторы утверждают, что даже «мир с миллиардом Эйнштейнов» не избавит от необходимости строить лаборатории, финансировать проекты, производить материалы и вести логистику — физический мир и исполнение идей остаются узким местом прогресса.
Эссе важно как рамка для обсуждения последствий AGI/сверхразума: простое наличие избыточного интеллекта не гарантирует ускорения прогресса, если его невозможно быстро превратить в реальные эксперименты, производство и инфраструктуру.
более чем в 18 разрост числа исследователей для сохранения темпа прогресса с 1970-х
$10 млрдоценочная стоимость создания James Webb
- Авторы ссылаются на исследование Nicholas Bloom и соавторов: для поддержания темпа роста плотности транзисторов сегодня требуется более чем в 18 раз больше исследователей, чем в начале 1970-х; похожие тенденции снижения отдачи от исследований найдены в сельском хозяйстве и медицине
- Пример контраста масштабов: Галилею для наблюдения за космосом хватило двух линз и трубки, а для телескопа James Webb потребовались (по данным источника 2) около $10 млрд, сотни организаций, десятки стран, сложное производство и годы координации
- Авторы выделяют два возможных сценария развития цивилизации: «цивилизация глубиныi» — сверхразум точнее моделирует мир и требует всё меньше физических экспериментов, и «цивилизация шириныi» — AI производит так много идей, что узким местом становятся лаборатории, заводы, энергия и логистика
- Даже если AI способен придумать лекарство, новый материал или спроектировать двигатель, лекарство всё равно нужно испытать, материал — произвести, а двигатель — собрать и проверить в физическом мире
- Сегодня AI даёт одному человеку возможности команды, из-за чего растёт важность «вкуса» — понимания, какие вопросы и задачи вообще стоит решать
- Авторы отмечают, что интеллект и возможности исполнения усиливают друг друга: хорошая гипотеза делает телескоп полезнее, а хороший телескоп повышает ценность гипотезы; сюда же относятся финансирование, законы и логистика
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖