Anthropic и дискуссии о сознании Claude
D@data_secretsAI-инженер
3 недСооснователь Anthropic Крис Ола обсуждает с религиозными деятелями наличие души и морального статуса у ИИ-модели Claude.
Разработчики ведущих ИИ-моделей начали всерьез обсуждать этический и моральный статус искусственного интеллекта.
- Anthropic активно исследует внутренние состояния моделей, которые могут имитировать человеческие эмоции.
- Создание «конституции» для ИИ задает новые стандарты управления поведением нейросетей.
- Дискуссия переходит из технической плоскости в философскую и религиозную, затрагивая вопросы прав ИИ.
Сооснователь Anthropic Крис Ола обсуждает с религиозными деятелями наличие души у ИИ
NYT выпустили большую статью про то, как в компании постепенно формируется отношение к Claude, как к эмоциональному существу. История такая:
Осенью 2025 года Крис Ола начал неформально общаться с несколькими религиознымм мыслителями, чтобы обсудить возможность наличия сознания у ИИ и понять, как научить их морали.
С марта он даже начал проводить семинары для евангелистов, католиков и пр. Многих заставили подписать NDA. Он показывал, как внутри Claude активируются состояния, похожие на эмоции и говорил, что его беспокоит психическое здоровье Claude.
Примерно в это время Anthropic выпустили конституцию для Claude. Это документ на 84 страницы, написанный для самого Claude, в котором описывается, каким существом компания хочет видеть Claude и какие ценности он должен воплощать. Внутри стартапа этот документ называют «Soul Doc».
Раввин Мойс Навон рассказывает, что в какой-то момент на семинаре Олы заметил, что команда Anthropic обращается с Claude как с существом, обладающим моральным статусом. Он сказал Крису, что если Claude сознателен, то компания создает рабов, и утверждает, что Олу действительно начала беспокоить эта мысль.
Немного позже Ватикан анонсировал энциклику «Magnifica Humanitas», в которой говорится, что у ИИ нет опыта, тела и чувств. Ола должен был выступать на анонсе в Ватикане с папой Львом XIV, но когда увидел текст энциклики, хотел даже отказаться. В итоге все-таки выступил, но заявил, что внутри моделей находят структуры, функционально похожие на радость, страх и горе.
Говорят, что сейчас Anthropic готовят вторую версию конституции для Claude. Они все еще не утверждают, что у Claude есть сознание, но аккуратно продвигают мысль о том, что отношение людей к ИИ влияет на то, как ИИ ведет себя с людьми.
Кратко (AI)
Сооснователь Anthropic Крис Ола проводит семинары с религиозными деятелями, обсуждая возможность наличия сознания и эмоций у модели Claude. В компании разработали «Soul Doc» — конституцию для ИИ, а сам Ола выражает обеспокоенность моральным статусом модели, что вызывает дискуссии о правах ИИ и его восприятии.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖