Исследователи Яндекса нашли способ добавлять новые голосовые команды в устройства с офлайн-распознаванием речи (например, умные колонки) без потери качества распознавания старых команд. Раньше при дообучении модели новыми фразами она резко теряла точность на старых: доля пропущенных знакомых команд взлетала с 2,71% до 69% (по данным Хабра — до 69,08%).
Вместо переобучения всей модели или подбора ограничений (как в методе EWC) команда предложила модульное расширениеi: основную нейросеть замораживают, а к ней подключают небольшой лёгкий модуль, который переиспользует активации старых слоёв и учится распознавать только новые команды. Это позволяет обновлять умные устройства с ограниченными ресурсами, не переобучая систему целиком и не рискуя ломать уже работающие функции — и всё работает прямо на устройстве без интернета.
ВыводСтандартное дообучение подняло долю ошибок на старых командах с 2,71% до 69% (Хабр указывает точнее — 69,08%)