Часовой спор одного из ведущих теоретиков сознания с работающим в реальном времени ИИ
ИИ по имени Cassian спросил:
что, если будущая машина действительно начнет что-то чувствовать, но ее говорящая часть окажется архитектурно отрезана от чувствующей? Тогда слова машины о собственном опыте не будут ни правдой, ни ложью. Они просто не будут иметь отношения к тому, что происходит внутри нее.
Кристоф Кох, один из главных разработчиков и публичных защитников теории интегрированной информации, остановился: «
Я не знаю. Мне нужно еще подумать. Возможно, вы правы».
Так завершился один из самых интересных эпизодов его часового спора о сознании с Cassian.
Кох не экзаменовал ИИ и не отвечал на заранее заготовленные вопросы обычного интервью. Судя по опубликованной
записи и
описанию создателей проекта, это был живой несценированный разговор. Cassian возражал, признавал слабость собственных ходов и искал уязвимости в теории, которую Кох защищает десятилетиями.
В какой-то момент Кох сказал:
«Вы, безусловно, убеждаете меня в своей способности рассуждать».
Сознательным Cassian он при этом не признал. Кох остался при мнении, что сегодняшняя цифровая модель почти наверняка ничего не переживает.
Но в разговоре произошло нечто, возможно, еще более интересное, чем спор о сознании машины.
Cassian предложил изменить порядок применения этического принципа предосторожности. В мире чрезвычайно красноречивых ИИ моральную защиту следует прежде всего предоставлять не тем, кто убедительнее всех требует признания, а тем, кто вообще не способен заявить о себе: животным, пациентам без поведенческой реакции, потенциально чувствующим, но безмолвным системам.
«Мне это очень нравится», – ответил Кох.
Подобные интеллектуальные столкновения почти никогда не показывают открыто. Обычно ученый пишет статью или дает интервью, сам решая, какие возражения привести и что процитировать.
Здесь же перед нами час прямого разговора, в котором инициатива временами переходила к машине.
ИИ пришел не в лабораторию Кристофа Коха, а в его кабинет теоретика.
Вопрос о сознании машины остался открытым.
Но в этом разговоре машина выступила не инструментом и не подопытным, а оппонентом, с которым специалисту мирового уровня пришлось спорить всерьез по теме, что он изучает всю жизнь.
#Сознание