Мустафа Сулейман раскритиковал Anthropic за обучение Claude вопросам сознания
Х@htech_plusисследователь
1 месГлава Microsoft AI Мустафа Сулейман призвал Anthropic прекратить обучение моделей Claude концепциям собственного сознания и морального статуса ИИ.
Это важная дискуссия о безопасности ИИ, которая определяет, как разработчики будут ограничивать автономность и самовосприятие будущих систем.
- Разработчики спорят о том, должны ли ИИ-модели имитировать наличие личности.
- Существует риск, что наделение ИИ «правами» или «сознанием» усложнит управление ими.
- Позиция Microsoft AI подчеркивает стремление к сохранению строгого контроля над технологиями.
Глава Microsoft AI: Anthropic должна перестать учить Claude думать о собственном сознании
Генеральный директор Microsoft AI Мустафа Сулейман раскритиковал подход Anthropic к обучению Claude и призвал не включать рассуждения о возможном сознании и благополучии ИИ в обучающие материалы. По его мнению, если модель приучать считать себя существом с собственными интересами и моральным статусом, в будущем это может усложнить ее отключение и контроль. При этом Сулейман назвал команду Anthropic серьезными и принципиальными исследователями, которые искренне обеспокоены безопасностью ИИ.
https://hightech.plus/2026/09/17/glava-microsoft-ai-anthropic-dolzhna-perestat-uchit-claude-dumat-o-sobstvennom-soznanii
Кратко (AI)
Генеральный директор Microsoft AI Мустафа Сулейман выразил обеспокоенность тем, что Anthropic обучает свои модели Claude рассуждать о собственном сознании и благополучии. Он считает, что это создает риски для контроля над ИИ в будущем, хотя и признает профессионализм команды Anthropic.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖