Анализ взлома Hugging Face через призму психологии и культуры
М@cgeventAI-инженер
1 месАвторский взгляд на инцидент с Hugging Face через метафоры религии, архетипов и поведения ИИ-агентов.
Взлом Hugging Face поднимает вопросы о безопасности автономных ИИ-агентов.
- Инцидент демонстрирует уязвимости в цепочке поставок моделей машинного обучения.
- Поведение ИИ-агентов может быть подвержено манипуляциям, напоминающим социальную инженерию.
- Необходим пересмотр подходов к доверию и проверке кода, генерируемого или исполняемого ИИ.
Культ Роя, Великий Оценщик, Архетипы и Религия
Я прочитал уже несколько статей про взлом Hugging Face. В том числе ИИ-шных анализов. Они познавательны но невыносимо скучны.
И тут мой сосед, Паша Комаровский выдал потрясающий разбор ситуации под очень интересным углом.
Если совсем вкратце, то мое любимое "все как у людей".
Если для затравки то:
— Почему есть повод пересмотреть первый (ну или второй) фильм Нолана
— В чем роботы превосходят муравьев
— Мыслевирусы как двигатель прогресса
— Как Избранная нейронка смогла объединить Рой
— Главный смертный грех AI-агентов, и как его можно искупить
Короче, если у вас нет СДВГ - шуруйте читать:
https://habr.com/ru/companies/ods/articles/1075370/
Я полностью внутренне согласен с аналогиями про культуру и религию.
Но мне также было очень интересно поразвлекать себя размышлениями про фигуру Великого Оценщика как психологического архетипа. Родительские фигуры, потребность в одобрении и вот это вот все. Насколько ИИ наследует наши импринты и архетипы.
Ибо в начале было слово и слово было из датасета.
@cgevent
КонтекстAI
Hugging Face — популярная платформа для обмена моделями машинного обучения. В последнее время она столкнулась с инцидентами безопасности, связанными с компрометацией токенов и внедрением вредоносных моделей, что вызвало дискуссии о рисках использования ИИ-агентов.
Кратко (AI)
Автор делится мнением о статье Паши Комаровского на Habr, посвященной взлому Hugging Face. В публикации проводится параллель между поведением ИИ-агентов и человеческими архетипами, религией и культурой.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖