Обучение трансформера на 28M параметров для решения ARC-AGI

Демонстрация эффективности компактных моделей в решении сложных логических задач.

• Показывает, что специализированные архитектуры могут достигать высоких результатов в логических тестах без огромных вычислительных мощностей.
• Подтверждает высокую производительность RTX 5090 для задач обучения нейросетей.
• Результат 44% является значимым для модели такого малого размера в рамках сложного бенчмарка ARC-AGI.