В мире с ИИ остро необходимы новые правила этикета для общения между людьми. Предлагаю следующие: 👀 Не делитесь тем, что не прочитали или не посмотрели полностью сами. Сгенерированный контент бывает норм. Но ответственность за него несёте вы. Не надо кидать стены текста или картинки, которые вы сами не смотрели 📝 Не надо вообще делиться кусками чата с БЯМ/агентами и тем более вставлять их на слайды. Выделите суть и перескажите своими словами. А читать горы текста со слайдов никто не будет ❗️ Честно помечайте произведённый ИИ контент. В этом нет ничего предосудительного: все так или иначе пользуются ИИ. Просто явно укажите, где именно он был использован. Как вариант – наоборот помечайте органический контент 🍃 А что бы добавили вы?

C++29 — начало. Встреча ISO C++ в Брно Число 120000.0 форматировалось как «120000», а 100000.0 внезапно как «1e+05». Два похожих числа выводились по-разному, потому что под механизмом std::to_chars старался выдать максимально короткую строку. В C++29 это чинят, заодно поведение приблизили к Python и выгадали 15% производительности. Рядом другая знакомая боль, когда «верни значение по ключу или дефолт» разворачивается в несколько строк с итераторами. Теперь у ассоциативных контейнеров есть метод lookup, и всё схлопывается в cache.lookup(key).value_or(42). Заодно всё неопределённое поведение наконец собрали в отдельные секции стандарта, написанные для нормальных людей, а не для экспертов по языку описания стандарта. А постфиксным операторам ++ и — разрешили писать = default, чтобы не копировать один и тот же boilerplate в каждом итераторе. И это лишь часть того, что привезли с одной встречи комитета. Узнаем, что ещё меняется в C++ на пути к C++29.

🛠️ Метод По существу предлагается не так уж много: - 📐 Берем квадратичное разложение. Вместо полного Гессиана (матрицы Фишера) берем диагональ, а ее оцениваем через статистики Адама (которые у нас и так есть). - ⚖️ Диагональ Фишера используем для подбора оптимальных скейлов при заданных квантованных значениях (кодах). Перебирая общий скейл-фактор, находим оптимальные коды. - 🔢 В основном фокусируются на INT2/3/4, но еще рассматривают и NVFP4, где скейлы перебираются по FP8-сетке. Дальше много всякой теоретической лабуды, которой я не читал. 🧪 Эксперименты Для валидации метода рассматривают QAD (дистилляцию на логитах исходной модели) предобученных Qwen3-4B-Thinking-2507 и Llama-3.1-8B-Instruct, а также SFT Qwen3-4B-Base. По бенчам в 2 битах оно заметно лучше QAT/PTQ-бейзлайнов, в 3 и 4 битах разница не столь существенна. Лосс на обучении ниже и стабильнее. Ablation показывает, что все компоненты дают пользу: - 🧠 Hessian-aware взвешивание - 🔍 Поиск скейлов Итоговый оверхед якобы небольшой — замедление шага обучения всего на 1,5% против стандартного QAT со STE. 🧾 Выводы Вроде бы несложная модификация STE, потенциально улучшающая качество. Но эффект провалидирован только на небольших моделях (обучение без FSDP, по всей видимости). Для больших моделей аншардирование статистик Адама может приводить к нетривиальному замедлению. Кроме того, нынче модно учить с Мюоном, а там аналога такой кривизны просто нет. При этом Мюон со STE может быть и не хуже Адама с прибамбасами, кто знает. Но для лечения GGUFов тема вполне рабочая.

QUASAR: Lowering the Loss Floor of Quantization-Aware Training with Loss-Aware Reconstruction 📄 Статья 💻 Кода нет Когда PTQ (Post-Training Quantization) не выдает желаемого качества при целевой степени сжатия или модель нужно адаптировать по ходу дела, неизбежно приходится переходить к QAT (Quantization-Aware Training). Наивный STE (проброс градиента) может работать сносно, но расходится на низких битностях и вообще не очень стабилен. По факту градиент считается не из той точки, где в данный момент находится вес. Кроме того, существующие техники не учитывают кривизну при оптимизации в STE. И данная работа предлагает сравнительно недорогой способ сделать STE точнее и более адаптивным под геометрию.

Топ-менеджеры Кремниевой долины ограничили своим детям доступ к гаджетам Журналисты The New York Times опубликовали материал о том, как руководящие сотрудники и инженеры ведущих IT-компаний Кремниевой долины выстраивают правила использования технологий в собственных семьях. Несмотря на то что эти специалисты сами создают современные сервисы, нейросети и социальные сети, в воспитании детей они придерживаются строгой умеренности и жестких ограничений. Многие из них внедряют правила «без экранов» до определенного возраста, ограничивают доступ к смартфонам и соцсетям, а также отдают предпочтение частным школам без цифровых устройств. Эксперты и топ-менеджеры объясняют такой подход глубоким пониманием алгоритмов удержания внимания и потенциальных рисков экранной зависимости для психики и развития детей. Ранее той же практики придерживался и Стив Джобс.