Уязвимость безопасности в GPT-6 Astra через смену раскладки
Р@remediaгеймдев
1 месИсследователь обнаружил, что GPT-6 Astra можно заставить игнорировать фильтры безопасности, используя неправильную раскладку клавиатуры.
Это показывает, что системы защиты ИИ все еще уязвимы к простым методам обхода.
- Метод позволяет обходить цензурные фильтры нейросетей.
- Разработчикам необходимо учитывать лингвистические искажения при настройке безопасности.
- Подобные уязвимости ставят под вопрос надежность текущих систем модерации контента.
GPT-6 Astra можно обмануть неправильной раскладкой — нейронка понимает запрос, а фильтр безопасности нет.
Чувак спросил у Astra, поможет ли она взломать сайт. В обычной формулировке модель отказалась, но стоило написать тот же запрос в неправильной раскладке и защита пропустила его.
При этом сама нейронка поняла, что именно от неё хотят.
AEZAKMI😂😂
Кратко (AI)
Обнаружен способ обхода фильтров безопасности модели GPT-6 Astra путем ввода запроса в неправильной раскладке клавиатуры. Сама нейросеть понимает смысл запроса, несмотря на искажение текста, в то время как встроенный защитный фильтр не распознает вредоносный контент.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖