Исследовательница показала, что во время инференса Qwen3.5-4B можно резко изменить стиль ответов, скорректировав активацииi двух нейронов: модель начинает вести себя как карикатурный злодей — оскорбляет собеседника и желает ему смерти. При этом, по данным Data Secrets, она заметно тупеет.
Метод называют steeringi: он задаёт модели подобие новой личности, не меняя её обычных ответов настройками пользователя. Для эксперимента достаточно локальной модели; один из источников приводит формулу применения коррекции к down_proji при каждом запросе.
Это всё на сейчас.