Билал Чугтай, занимавшийся в Google DeepMindi безопасностью ИИ и проблемой выравнивания (alignment), объявил об уходе из компании. Причина — опасения, что развитие искусственного интеллекта может привести к уничтожению человечества в обозримом будущем.

По его словам, возможности ИИ-систем растут быстрее, чем понимание того, как обеспечить их соответствие целям и ценностям людей — то есть работа над безопасностью не успевает за прогрессом самих моделей.

• Билал Чугтай работал в Google DeepMind в направлении безопасности ИИ и проблемы выравнивания (alignment)
• По его оценке, риск того, что ИИ «потенциально может уничтожить человечество», реален в ближайшем будущем
• Основной тезис: развитие возможностей ИИ-систем опережает развитие методов их безопасности и контроля