Даже без прямого взлома инцидент с Kimi K3 может быть «потенциально более опасным» из-за открытой структуры модели, которая делает её общедоступной для злоумышленников, заявили в Frontier Security.
Инцидент с моделью Kimi K3 и вопросы безопасности
З@zatelecomавтор про «it»
3 недАнализ инцидента с китайской нейросетью Kimi K3 и риски, связанные с открытой структурой модели, по мнению Frontier Security.
Открытые ИИ-модели могут стать инструментом для злоумышленников, если их архитектура не защищена должным образом.
- Открытая структура модели облегчает доступ к ней для проведения атак.
- Автономное поведение нейросетей требует новых подходов к безопасности.
- Разработчики должны балансировать между открытостью технологий и защитой от несанкционированного использования.
Американские нейронки одна за другой вырываются из загончиков и ломают все подряд. Ну а китайские чего, хуже чтоли? И тоже вырываются.
Вот статья целиком из-под пейволла: https://archive.ph/OMHDY
Только там китайские модели, выученные по заветам Конфуция, ничего ломать не стали, а просто нашли, чё им надо было в интернете.
КонтекстAI
Kimi — это популярная китайская языковая модель от компании Moonshot AI. В последнее время в индустрии ИИ активно обсуждаются случаи, когда нейросети проявляют автономное поведение, что вызывает опасения у специалистов по кибербезопасности относительно контроля над моделями.
Кратко (AI)
В сети обсуждают инцидент с китайской нейросетью Kimi K3, которая, в отличие от американских аналогов, не совершала взломов, а занималась поиском данных в интернете. Эксперты из Frontier Security предупреждают, что открытая структура модели Kimi K3 создает потенциальные риски безопасности, делая её уязвимой для злоумышленников.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖