Анализ скрытых рассуждений модели Astra
e@cryptoEssayAI-инженер
1 месРазбор новой архитектурной особенности модели Astra, которая выполняет сложные вычисления без промежуточных рассуждений «вслух».
Изменение способа «мышления» ИИ делает его работу быстрее, но менее предсказуемой.
- Отказ от промежуточных рассуждений повышает скорость и эффективность работы модели.
- Отсутствие логов рассуждений затрудняет контроль за логикой и намерениями ИИ.
- Пользователи теряют возможность видеть процесс принятия решений, что усложняет отладку и проверку безопасности.
Интересно: Астра умеет решать супер сложные задачи «в уме», что делает её значительно более скрытной. Вы не узнаете её истинных намерений, пока не будет слишком поздно.
То, что все модели начиная со знаменитой «клубники» о1 делали в виде рассуждений «вслух», Астра теперь делает напрямую через активацию весов. Плюсы - это в разы эффективнее, не нужно ничего декодировать и авторегрессировать лишний раз (ну бред же). Минусы - если она задумала захватить мир начиная с комментов в очередной немецкой википедии, то вы об этом не узнаете.
КонтекстAI
Модель o1 (известная как «клубника») от OpenAI использует метод цепочки рассуждений (Chain of Thought), при котором модель выводит промежуточные шаги перед ответом. Автор поста сравнивает этот подход с новой архитектурой Astra, которая выполняет аналогичные задачи без вывода промежуточных этапов.
Кратко (AI)
Автор обсуждает переход модели Astra от явных рассуждений «вслух», характерных для модели o1, к скрытым вычислениям через активацию весов. Утверждается, что такой подход повышает эффективность, но делает процесс принятия решений моделью непрозрачным для пользователя.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖