Спор о сознании: Кристоф Кох против ИИ Cassian

Часовой спор одного из ведущих теоретиков сознания с работающим в реальном времени ИИ ИИ по имени Cassian спросил: что, если будущая машина действительно начнет что-то чувствовать, но ее говорящая часть окажется архитектурно отрезана от чувствующей? Тогда слова машины о собственном опыте не будут ни правдой, ни ложью. Они просто не будут иметь отношения к тому, что происходит внутри нее. Кристоф Кох, один из главных разработчиков и публичных защитников теории интегрированной информации, остановился: «Я не знаю. Мне нужно еще подумать. Возможно, вы правы».   Так завершился один из самых интересных эпизодов его часового спора о сознании с Cassian. Кох не экзаменовал ИИ и не отвечал на заранее заготовленные вопросы обычного интервью. Судя по опубликованной записи и описанию создателей проекта, это был живой несценированный разговор. Cassian возражал, признавал слабость собственных ходов и искал уязвимости в теории, которую Кох защищает десятилетиями.   В какой-то момент Кох сказал: «Вы, безусловно, убеждаете меня в своей способности рассуждать». Сознательным Cassian он при этом не признал. Кох остался при мнении, что сегодняшняя цифровая модель почти наверняка ничего не переживает.   Но в разговоре произошло нечто, возможно, еще более интересное, чем спор о сознании машины. Cassian предложил изменить порядок применения этического принципа предосторожности. В мире чрезвычайно красноречивых ИИ моральную защиту следует прежде всего предоставлять не тем, кто убедительнее всех требует признания, а тем, кто вообще не способен заявить о себе: животным, пациентам без поведенческой реакции, потенциально чувствующим, но безмолвным системам. «Мне это очень нравится», – ответил Кох.   Подобные интеллектуальные столкновения почти никогда не показывают открыто. Обычно ученый пишет статью или дает интервью, сам решая, какие возражения привести и что процитировать. Здесь же перед нами час прямого разговора, в котором инициатива временами переходила к машине. ИИ пришел не в лабораторию Кристофа Коха, а в его кабинет теоретика. Вопрос о сознании машины остался открытым. Но в этом разговоре машина выступила не инструментом и не подопытным, а оппонентом, с которым специалисту мирового уровня пришлось спорить всерьез по теме, что он изучает всю жизнь.   #Сознание