Эссе OpenAI: интеллект как дефицит и будущее прогресса

В мире с миллиардом Эйнштейнов кому-то всё равно придётся строить лаборатории и вести бухгалтерию. Авторское эссе The Eternal Complement на сайте OpenAI задаёт вопрос: насколько быстрее сможет развиваться цивилизация, когда интеллект перестанет быть дефицитом? Галилею хватило двух линз и трубки. Для телескопа «Джеймс Уэбб» понадобились сотни организаций. Чем дальше мы хотим заглянуть, тем больше работы стоит за открытием. За этим образом есть экономические данные. В работе Блума и соавторов, на которую ссылаются авторы, поддержание темпа роста плотности транзисторов требовало более чем в 18 раз больше исследователей, чем в начале 1970-х. Похожие тенденции обнаружились в сельском хозяйстве и медицине. Отдача от исследовательских усилий снижалась, а увеличение их масштаба компенсировало это падение. За привычным темпом прогресса скрывалось всё больше работы. Интеллект и возможности исполнения усиливают друг друга: хорошая гипотеза делает телескоп полезнее, хороший телескоп повышает ценность гипотезы. Сюда же относятся финансирование, производство, законы и логистика. Сегодня AI даёт одному человеку возможности команды. Всё важнее становится вкус: что вообще стоит делать, на какие вопросы искать ответ? Но если машины сами начнут производить выдающиеся идеи, исполнение снова может стать узким местом. Дальше возможны два сценария. В «цивилизации глубины» сверхразум извлекает больше из накопленных данных, улучшает симуляции и точнее выбирает эксперименты. В «цивилизации ширины» новые идеи требуют всё больше лабораторий, заводов и энергии. Даже гениальному исследователю приходится ждать, пока вырастет организм или закончится эксперимент. Возможно, большая часть сверхразума будет занята скучной работой. Темп прогресса определит то, сколько реального мира потребуется каждой следующей гениальной идее.