Исследователь Джейкоб Коксон покинул Anthropic из-за рисков ИИ
M@machinelearning_interviewAI-инженер
1 месИсследователь Джейкоб Коксон уволился из Anthropic, предупредив о рисках неконтролируемого развития ИИ и возможности потери контроля к 2027 году.
Крупные ИИ-лаборатории продолжают гонку вооружений, несмотря на опасения собственных экспертов о безопасности человечества.
- Специалисты по безопасности ИИ начинают публично критиковать темпы разработки передовых моделей.
- Существует риск, что конкуренция между компаниями заставляет их пренебрегать протоколами контроля.
- Прогноз о возможной потере контроля над ИИ к 2027 году становится предметом дискуссий в индустрии.
🚨 «Играют в рулетку с нашими жизнями»: исследователь ушёл из Anthropic из-за гонки ИИ
Джейкоб Коксон покинул компанию и опубликовал большой тред о рисках самоулучшающегося ИИ.
🔬 Последние три года он занимался предобучением моделей в OpenAI и Anthropic. По его оценке, ни одна из компаний не проявляет достаточной осторожности.
⏳ Коксон утверждает, что среди разработчиков передовых моделей есть люди, которые всерьёз допускают катастрофические последствия, вплоть до гибели человечества, уже в ближайшие годы.
🏁 По его словам, в Anthropic понимают риски, но продолжают разработку из опасения, что менее ответственная лаборатория первой создаст сверхмощный ИИ.
⚙️ Главная тревога исследователя - рекурсивное самоулучшение: ИИ начинает ускорять создание собственных преемников, а людям становится всё сложнее контролировать этот процесс.
Коксон опасается потери контроля уже к концу 2027 года. Это его прогноз, а не установленный срок появления сверхразума.
Кратко (AI)
Исследователь Джейкоб Коксон покинул компанию Anthropic, выразив обеспокоенность тем, что разработчики передовых ИИ-моделей игнорируют экзистенциальные риски ради конкуренции. Он предупреждает, что процесс рекурсивного самоулучшения ИИ может привести к потере контроля над технологией уже к концу 2027 года.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖