Глава AI-безопасности Anthropic оценил риск вымирания от ИИ выше 10%
G@aiofthedayAI-инженер
1 месЭван Хубингер из Anthropic заявил, что вероятность уничтожения человечества ИИ в ближайшие 10 лет превышает 10%.
Ведущие эксперты в области ИИ всерьез обсуждают сценарии катастрофических рисков, связанных с развитием технологий.
- Оценка рисков от инсайдеров индустрии влияет на общественное мнение и государственное регулирование ИИ.
- Дискуссия подчеркивает конфликт между скоростью разработки AGI и мерами безопасности.
- Заявления экспертов такого уровня заставляют компании пересматривать внутренние протоколы контроля.
Глава Anthropic по AI-безопасности оценил вероятность того, что AI уничтожит человечество в ближайшие десять лет, выше 10%
Эван Хубингер, руководитель Alignment Science в Anthropic, публично написал, что он и его коллеги всерьёз считают такой сценарий возможным. Его личная оценка вероятности полного вымирания человечества из-за AI составляет больше 10% в течение следующего десятилетия.
Заявление появилось после ухода из Anthropic одного из исследователей. После увольнения он написал в X, что Anthropic и OpenAI (там он тоже успел поработать) слишком быстро движутся к AGI, и никакая другая человеческая деятельность не несёт такой степени опасности.
https://x.com/EvanHub/status/2097497037956891126
КонтекстAI
В сообществе разработчиков ИИ ведутся активные дискуссии о безопасности (AI safety) и рисках экзистенциальной угрозы, исходящей от сверхразумных систем. Anthropic и OpenAI являются лидерами в гонке за создание AGI, что вызывает опасения у части исследователей относительно скорости внедрения технологий без должного контроля.
Кратко (AI)
Руководитель направления Alignment Science в Anthropic Эван Хубингер оценил вероятность гибели человечества из-за ИИ в ближайшее десятилетие более чем в 10%. Заявление прозвучало на фоне критики темпов разработки AGI в Anthropic и OpenAI со стороны бывших сотрудников.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖