Авторисёрч и тезис о конце SAE

1 нед

Автор утверждает, что результаты Авторисёрча ставят под вопрос необходимость SAE: нейроны якобы уже распутаны, а исследователи не находили нужный угол.

Полисемантичность всё? Авторисёрч забил последний гвоздь в гроб SAE. Нейроны уже распутаны, мы просто не под тем углом смотрели, и руки у мясных исследователей кривые в отличие от агентов. https://already-clean.goodfire.com/

КонтекстAI

SAE — метод, обсуждаемый в исследованиях интерпретируемости нейросетей. Пост ссылается на материал Goodfire, но не приводит его результатов или подробностей.

Кратко (AI)

Пост заявляет, что Авторисёрч поставил под вопрос ценность SAE: нейроны, по утверждению автора, уже распутаны, но исследователи смотрели на них под неверным углом. Ссылка ведёт на сайт Goodfire, однако сам пост не объясняет, какие именно результаты лежат в основе этого вывода.

Обсуждение

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖