Сатья Наделла призвал внедрить «аварийный тормоз» в ИИ-системы
3@ru3dnewsмедиа / агрегатор
2 недГлава Microsoft Сатья Наделла предложил внедрить механизмы принудительной остановки ИИ и усилить контроль безопасности для предотвращения угроз.
Крупнейшие игроки рынка ИИ начинают официально признавать необходимость жестких механизмов контроля безопасности.
- Предложение вводит концепцию обязательного «ручного управления» для критических ИИ-систем.
- Акцент смещается с доверия к моделям на презумпцию их потенциальной уязвимости.
- Инициатива может стать стандартом для будущих регуляторных требований в индустрии.
Глава Microsoft призвал встроить в ИИ ручной тормоз — модели нужно контролировать с первой секунды
Сатья Наделла призвал заранее встроить в ИИ «аварийный тормоз» и с первых секунд контролировать работу моделей. По его мнению, системы нельзя считать безопасными по умолчанию — нужно исходить из того, что они могут быть скомпрометированы. Наделла предлагает сделать ИИ прозрачнее, проводить независимые аудиты и сохранять защищённые записи действий моделей. Уполномоченный человек должен в любой момент иметь возможность поставить модель на паузу или полностью остановить её.
#microsoft #ии #безопасностьии
📎Подробнее
🔖 3DNews в TG | MAX | VK
Кратко (AI)
Глава Microsoft Сатья Наделла выступил с инициативой внедрения «аварийного тормоза» в системы искусственного интеллекта. Он подчеркнул необходимость постоянного контроля, независимых аудитов и возможности ручной остановки моделей для обеспечения безопасности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖