Последние три года я занимался исследованиями предобучения как в OpenAI, так и в Anthropic. Ни одна из компаний не действует ответственно. Они несутся напролом к самоулучшающемуся сверхразуму и играют в рулетку нашими жизнями.Не думаю, что его увольнение на что-то повлияет, но... он принципиальный, молодец.
Джейкоб Коксон уволился из Anthropic из-за опасений по поводу безопасности ИИ
М@larchankaмедиа / агрегатор
1 месИсследователь Джейкоб Коксон покинул Anthropic, обвинив OpenAI и Anthropic в безответственной гонке за созданием сверхразумного ИИ.
Критика безопасности ИИ от инсайдеров указывает на серьезные внутренние разногласия в ведущих лабораториях.
- Увольнение подчеркивает конфликт между скоростью разработки ИИ и мерами безопасности.
- Публичные заявления бывших сотрудников усиливают давление на регуляторов и компании.
- Растет обеспокоенность тем, что гонка за сверхразумом игнорирует долгосрочные риски для общества.
Джейкоб Коксон из Anthropic объявил об увольнении из-за опасений выхода искусственного интеллекта из-под контроля.
Кратко (AI)
Исследователь Джейкоб Коксон объявил об уходе из компании Anthropic. Он заявил, что ни Anthropic, ни OpenAI не обеспечивают должный уровень безопасности при разработке сверхразумного ИИ, подвергая человечество неоправданному риску.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖