Джейкоб здесь прав - мы действительно искренне верим, что ИИ может убить всех людей! Лично я считаю, что вероятность того, что это случится в течение следующего десятилетия – >10%. Я считаю, что Anthropic старается изо всех сил, но у нас еще нет плана по решению проблемы суперинтеллекта, и мы явно не на пути к этому.🙂🙂🙂
Лид по элайменту Anthropic о рисках суперинтеллекта
D@data_secretsAI-инженер
1 месЛид по элайменту из Anthropic подтверждает серьезность рисков ИИ, оценивая вероятность катастрофического сценария в ближайшее десятилетие выше 10%.
Один из ведущих экспертов по безопасности ИИ признает, что отрасль пока не знает, как контролировать суперинтеллект.
- Признание высокого уровня риска (более 10%) от эксперта внутри индустрии.
- Отсутствие у ведущих лабораторий четкого плана по предотвращению неконтролируемого поведения ИИ.
- Подтверждение того, что проблема безопасности остается нерешенной, несмотря на быстрый прогресс моделей.
Внимание, реакция на этот тред лида по элайменту из Anthropic
КонтекстAI
Дискуссия об экзистенциальных рисках ИИ (AI safety/alignment) является центральной темой в среде разработчиков передовых моделей. Anthropic позиционирует себя как компанию, сфокусированную на безопасности, однако признание сотрудником высокого уровня риска и отсутствия решений подчеркивает сложность контроля над будущими системами суперинтеллекта.
Кратко (AI)
Сотрудник Anthropic, отвечающий за элаймент, подтвердил, что компания серьезно относится к экзистенциальным рискам ИИ. Он оценил вероятность того, что ИИ может привести к гибели человечества в ближайшие 10 лет, как более 10%, и признал отсутствие готового плана решения проблемы суперинтеллекта.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖