Гипотеза о харнессах как автокодировщиках
К@quant_prune_distillAI-инженер
2 недРазмышления о том, что харнесс в архитектурах моделей можно рассматривать как автокодировщик, с упоминанием Darwin Godel Machine и Ouroboros.
Недавний блогпост от Alex Zhang, навеял мысль, что харнесс можно рассматривать как автокодировщик.
Харнесс задает то, как обратывается вход, а также выходное распределение.
Он может быть замороженным, а может и оптимизируемым (Darwin Godel Machine, Ouroboros).
Harness are AutoEncoders - хорошее название для статейки, чтобы набрать классов в твиттере...
Кратко (AI)
Автор рассуждает о концепции, согласно которой харнесс в нейронных сетях выполняет функцию автокодировщика, определяя обработку входа и выходное распределение. Упоминаются подходы с замороженными и оптимизируемыми параметрами, такие как Darwin Godel Machine и Ouroboros.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖