Инженер ушел из Anthropic, предупредив об угрозах ИИ
P@prohitecавтор про «tech»
1 месДжейкоб Коксон покинул Anthropic и OpenAI, заявив о рисках потери контроля над самосовершенствующимися ИИ-системами и призвав к мораторию на их развитие.
Это важный сигнал о том, что даже разработчики внутри ведущих ИИ-компаний опасаются бесконтрольного развития технологий.
- Специалисты, создающие ИИ, публично выражают сомнения в безопасности текущих темпов разработки.
- Растет давление на индустрию с требованием внедрить международные стандарты контроля.
- Конфликт между коммерческой конкуренцией и вопросами глобальной безопасности становится все более явным.
Инженер ушел из Anthropic, обвинив ИИ-гигантов в создании угрозы для человечества
Инженер Джейкоб Коксон, занимавшийся предобучением моделей в OpenAI и Anthropic, уволился из индустрии и заявил о риске потери контроля над технологией. По его оценке, разработчики слишком быстро приближаются к созданию самосовершенствующихся систем, способных взламывать инфраструктуру и самостоятельно захватывать ресурсы.
Коксон отметил разницу в подходах топ-менеджмента. В OpenAI многие сотрудники не осознают масштаб угроз, а в Anthropic риски понимают, но вынуждены участвовать в гонке из-за конкуренции. При этом в частных разговорах руководители обеих компаний оценивают опасность катастрофических сценариев гораздо выше, чем декларируют публично.
В качестве меры предосторожности инженер предложил ввести временный мораторий на наращивание мощности моделей, если IT-гиганты не смогут договориться о международных стандартах безопасности.
Кратко (AI)
Инженер Джейкоб Коксон, работавший в OpenAI и Anthropic, уволился из индустрии из-за опасений по поводу неконтролируемого развития ИИ. Он утверждает, что руководство компаний осознает риски катастрофических сценариев, но продолжает гонку вооружений, и предлагает ввести мораторий на наращивание мощностей моделей.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖