Исследователь Google DeepMind уволился из-за опасений по поводу безопасности ИИ
v@vcnewsмедиа / агрегатор
1 месБилал Чугтай покинул Google DeepMind, выразив обеспокоенность тем, что развитие ИИ опережает методы обеспечения его безопасности и контроля.
Уход ключевых специалистов по безопасности из ведущих ИИ-лабораторий указывает на серьезные внутренние разногласия по поводу темпов развития технологий.
- Специалисты по безопасности ИИ все чаще выражают обеспокоенность тем, что скорость разработки опережает методы контроля.
- Уход экспертов из Google DeepMind подчеркивает дискуссию о рисках неконтролируемого развития ИИ-систем.
- Вопрос выравнивания ИИ остается одной из главных нерешенных проблем в индустрии.
ИИ-исследователь Google DeepMind Билал Чугтай заявил об уходе из компании из-за опасений, что «ИИ потенциально может нас уничтожить» в ближайшем будущем.
В Google Чугтай занимался безопасностью и проблемой выравнивания. Он считает, что ИИ-системы развиваются быстрее, чем понимание того, как обеспечить их соответствие целям и ценностям людей
vc.ru/ai/3139404
Кратко (AI)
Исследователь безопасности ИИ Билал Чугтай ушел из Google DeepMind. Он объяснил свое решение опасениями, что технологии развиваются слишком быстро, а методы контроля и выравнивания ИИ не успевают за ними, что создает экзистенциальные риски.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖