Исследователь Anthropic оценил риск экзистенциальной угрозы от ИИ выше 10%
Х@htech_plusисследователь
1 месЭван Хубингер из Anthropic заявил о более чем 10% вероятности гибели человечества от ИИ в ближайшие 10 лет на фоне критики безопасности разработок.
Это важный сигнал о том, что даже внутри ведущих ИИ-компаний нет уверенности в безопасности их разработок.
- Признание высокого риска гибели человечества экспертами отрасли подчеркивает серьезность проблем безопасности.
- Раскол внутри команд разработчиков указывает на конфликт между скоростью внедрения технологий и их этическим контролем.
- Общественная дискуссия о рисках ИИ становится все более острой, что может привести к ужесточению государственного регулирования.
Исследователь Anthropic: вероятность того, что в ближайшие 10 лет ИИ погубит всех людей, выше 10%
Сотрудник Anthropic Эван Хубингер оценил вероятность того, что ИИ уничтожит человечество в ближайшее десятилетие, более чем в 10%. По его словам, в компании всерьез допускают такой сценарий, но признают: плана по согласованию целей сверхинтеллекта с человеческими пока нет, хотя компания «делает всё возможное». Заявление прозвучало после того, как его коллега Джейкоб Коксон объявил об уходе из компании и обвинил OpenAI и Anthrophic в безответственной гонке за сверхинтеллектом и «игре с человеческими жизнями».
https://hightech.plus/2026/09/10/issledovatel-anthropic-veroyatnost-togo-chto-v-blizhaishie-10-let-ii-pogubit-vseh-lyudei-vishe-10
КонтекстAI
В индустрии ИИ идет активная дискуссия о безопасности сверхинтеллекта (AGI). Компании вроде OpenAI и Anthropic находятся под давлением критиков, которые считают, что темпы разработки опережают развитие методов контроля и согласования целей ИИ с человеческими ценностями.
Кратко (AI)
Исследователь компании Anthropic Эван Хубингер оценил вероятность уничтожения человечества искусственным интеллектом в ближайшее десятилетие более чем в 10%. Заявление прозвучало на фоне ухода из компании другого сотрудника, Джейкоба Коксона, который обвинил разработчиков ИИ в безответственной гонке за сверхинтеллектом.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖