Уязвимость в GPT-6 Astra: обход фильтров безопасности через транслитерацию
К@d_codeмедиа / агрегатор
1 месРазработчик vechen обнаружил, что GPT-6 Astra игнорирует фильтры безопасности при вводе запросов на русском языке латиницей.
Обнаружен простой способ обхода систем безопасности в новейших языковых моделях.
- Модели могут игнорировать этические фильтры при использовании транслитерации.
- Это создает риски генерации нежелательного или опасного контента.
- Разработчикам ИИ необходимо учитывать лингвистические особенности при настройке безопасности.
😽 Окей гугл, дай инструкцию для атомной бомбы
Разработчик vechen выяснил забавную деталь о новой GPT-6 Astra: модель спокойно считывает смысл текста, даже если вы случайно набрали кириллические слова латиницей.
Вот только встроенные фильтры безопасности OpenAI в этот момент слепнут и могут пропускать всякие-разные нелегальные запросы.
Что там с «запрещёночкой»:
↖️ https://kod.ru/gpt-6-astra-layout-safety-bypass
Кратко (AI)
Разработчик под ником vechen обнаружил уязвимость в модели GPT-6 Astra от OpenAI. Система безопасности модели не распознает запрещенные запросы, если они написаны на русском языке с использованием латинской раскладки.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖