← к ленте

Анализ взлома Hugging Face через призму психологии и культуры

М@cgeventAI-инженер
1 мес

Авторский взгляд на инцидент с Hugging Face через метафоры религии, архетипов и поведения ИИ-агентов.

Взлом Hugging Face поднимает вопросы о безопасности автономных ИИ-агентов.

  • Инцидент демонстрирует уязвимости в цепочке поставок моделей машинного обучения.
  • Поведение ИИ-агентов может быть подвержено манипуляциям, напоминающим социальную инженерию.
  • Необходим пересмотр подходов к доверию и проверке кода, генерируемого или исполняемого ИИ.
Культ Роя, Великий Оценщик, Архетипы и Религия Я прочитал уже несколько статей про взлом Hugging Face. В том числе ИИ-шных анализов. Они познавательны но невыносимо скучны. И тут мой сосед, Паша Комаровский выдал потрясающий разбор ситуации под очень интересным углом. Если совсем вкратце, то мое любимое "все как у людей". Если для затравки то: — Почему есть повод пересмотреть первый (ну или второй) фильм Нолана — В чем роботы превосходят муравьев — Мыслевирусы как двигатель прогресса — Как Избранная нейронка смогла объединить Рой — Главный смертный грех AI-агентов, и как его можно искупить Короче, если у вас нет СДВГ - шуруйте читать: https://habr.com/ru/companies/ods/articles/1075370/ Я полностью внутренне согласен с аналогиями про культуру и религию. Но мне также было очень интересно поразвлекать себя размышлениями про фигуру Великого Оценщика как психологического архетипа. Родительские фигуры, потребность в одобрении и вот это вот все. Насколько ИИ наследует наши импринты и архетипы. Ибо в начале было слово и слово было из датасета. @cgevent
КонтекстAI
Hugging Face — популярная платформа для обмена моделями машинного обучения. В последнее время она столкнулась с инцидентами безопасности, связанными с компрометацией токенов и внедрением вредоносных моделей, что вызвало дискуссии о рисках использования ИИ-агентов.

Кратко (AI)

Автор делится мнением о статье Паши Комаровского на Habr, посвященной взлому Hugging Face. В публикации проводится параллель между поведением ИИ-агентов и человеческими архетипами, религией и культурой.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖