Новый член совета OpenAI Пол Кристиано предупреждает о рисках экзистенциальной угрозы ИИ

«Большинство людей может умереть из-за ИИ», — так считает новый член совета OpenAI Пол Кристиано 👀 Кристиано — один из известных исследователей, которого сегодня назначили в совет OpenAI Foundation и комитет по безопасности компании. И да, именно он считает, что при создании суперинтеллекта человечество не на шутку рискует потерять над ним контроль. При этом нынешних мер безопасности, по его мнению, недостаточно ни у OpenAI, ни у других лабораторий. А главное, что никто даже не встает на путь «снижения этой угрозы». Звучит обнадёживающе, да? Самое жуткое, что он не один разгоняет этот устрашающий нарратив: — На днях другой исследователь ушёл из Anthropic, сказав, что ИИ может уничтожить человечество уже к концу десятилетия. — Его поддержали сразу несколько коллег, заявив, что разработку нужно замедлить. — А глава направления Alignment Science в Anthropic вообще оценил вероятность того, что ИИ уничтожит человечество в ближайшие 10 лет, более чем в 10%. 🚬🚬🚬