Исследователи OpenAI и Google бьют тревогу — развитие ИИ опережает возможности людей его контролировать Исследователи OpenAI и Google DeepMind считают, что ИИ развивается быстрее, чем люди успевают создавать системы контроля. Их особенно тревожит рекурсивное самосовершенствование — способность моделей учиться и получать новые возможности почти без участия человека. Некоторые специалисты оценивают риск исчезновения человечества из-за ИИ минимум в 10% и сравнивают гонку лабораторий с движением «с завязанными глазами». После инцидента со взломом Hugging Face эксперты и руководители компаний стали чаще призывать замедлить разработку и усилить меры безопасности. #искусственныйинтеллект #googledeepmind #openai #информационнаябезопасность 📎Подробнее 🔖 3DNews в TG | MAX | VK

Как послесловие к моему недавнему видео. Новости идут аккуратненько друг за другом. 1)      OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из соображений безопасности 2)      «Экзистенциальные риски для человечества»: Anthropic в преддверии IPO рассказала инвесторам об опасности ИИ 3)      Nvidia представила платформу-надзирателя над ИИ-агентами. Open Agent Safety следит за действиями агента, а компонент Sentry работает на отдельном процессоре BlueField-4 и способен изолировать нарушителя за миллисекунды. В этом случае агент не сможет отключить контур защиты.   Иииии… Nvidia теперь будет продавать еще больше железа - еще и для безопасной работы всего этого.