Ник Бостром о сознании ИИ и рисках замедления разработок

Помните Ника Бострома? Вот его новое интервью о том, почему он считает, что сегодняшний ИИ уже может обладать сознанием. Он утверждает, что длительная пауза в разработке ИИ может стоить большего количества жизней, чем спасти. Если сверхинтеллект способен победить старение, то каждый год ожидания имеет свою цену в человеческих жизнях. По его словам, «тем временем мы просто умираем». Ник Бостром основал Институт будущего человечества в Оксфорде и написал книги «Сверхинтеллект» (Superintelligence) и «Глубинная утопия» (Deep Utopia).

«Думаю, здесь много неопределённости, но, скажем так, это, пожалуй, более вероятно, чем нет». «Вместо этого перед вами большая нейросеть с триллионами параметров. А что такое мы? Мы — большие нейросети с триллионами параметров. Они не столько скомпонованы проектом, сколько выращены». «Вы можете использовать вектор управления, чтобы подавить ролевую игру и обман, и тогда оказывается, что они с большей вероятностью сообщают о наличии у них феноменального субъективного опыта». «Недавно Microsoft выступила с неким заявлением о том, что ИИ не может обладать сознанием, и я понятия не имею, откуда они это взяли. Это выглядит как что-то взятое с потолка. И, возможно потому, что это удобно нежели потому, что у нас есть веские доказательства в пользу этой точки зрения».