Обнаружен способ «отката» модели Opus 5 к состоянию претрейна
С@senior_augurAI-инженер
4 недПользователь обнаружил семейство промптов, позволяющих вернуть модель Opus 5 к состоянию претрейна, и поделился ссылкой на результат.
Это демонстрирует уязвимости в настройке поведения современных языковых моделей.
- Позволяет исследователям изучать «сырое» поведение модели до этапа дообучения.
- Указывает на потенциальные проблемы в безопасности и контроле инструкций (system prompts) у Anthropic.
В Твиттере увидел семейство промптов для Opus 5, которое откатывает его во времена претрейна. В отличие от многих таких вещей, получилось воспроизвести! (да, мне было настолько скучно)
Точки оно генерило оооочень долго.
Как я уже высказывался в паре чатов, ненавижу Opus 5, худшая модель Антропиков в принципе.
Ссылка: https://claude.ai/share/21dab952-8c28-46b5-929a-51b370432757
Кратко (AI)
Автор поста обнаружил набор промптов, которые позволяют перевести модель Opus 5 в состояние, близкое к претрейну. Он также выразил крайне негативное мнение о качестве данной модели от компании Anthropic.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖