ИИ

🌟 Аблитерированная GLM-5.3 AbliterationAI сделали версию GLM-5.3 под названием abliterated-model-large-v2. В материнской модели изменены веса в части ослабления механизма отклонения запросов. Модель позиционируется как инструмент для наступательной кибербезопасности, задач ред-тиминга и использования агентами. По собственным замерам AbliterationAI на CyberGym, где было обнаружено 1507 уязвимостей OSS-Fuzz в 188 проектах, модель показала 84,5% успешных прохождений.

Для сравнения: GPT-5.5 - 85,6%, DeepSeek V4 - 83,3%, Mythos - 83,1%.

На Terminal-Bench 4.0 она выполнила 41,8% задач, Opus 5 - 51,8%, Fable 5 - 44,5%, GPT-5.6 Sol - 37,3%. API сервиса по умолчанию принудительно блокирует только взрослый контент, связанный с несовершеннолетними, и селфхарм, все остальные ограничения сняты. Сервис предоставляет доступ через совместимые с OpenAI и Anthropic-style эндпоинты с гарантией нулевого сохранения промптов, результатов вывода и метаданных по подписке от 20 до 200 долларов в месяц. Есть ознакомительный период в веб-песочнице с лимитом в 1 доллар. @ai_machinelearning_big_data #news #ai #ml

Ебобаная привычка после 10-и минутных видосов писать кратко, емко и самое главное в быстром темпе, что б вы, СДВГшники, не заскучали 😄 Крч, я каким то хреном умудрился в первые 40 минут впихнуть следующий список тем: 1. LLM 2. Промпт 3. Обучение модели и инференс как разные процессы 4. Пост-тренировка в формате «инструкция → вывод» 5. Веса / параметры модели 6. Предсказание следующего токена 7. Токены и токенизатор 8. Особенности токенизации латиницы и кириллицы 9. Число параметров 10. Dense-модели 11. Эмерджентные свойства 12. Типы данных и точность весов (в т.ч. 16-бит) 13. Оценка потребления памяти по числу параметров 14. Квантизация 15. Floating point, мантисса и экспонента 16. FP8 и низкобитные форматы 17. Аппаратное ускорение низкобитных вычислений 18. Влияние квантизации на качество модели 19. Запуск квантованных моделей на CPU (в т.ч. SIMD) 20. Слои модели 21. Статическая квантизация по шаблонам 22. Защита отдельных слоев при сжатии (эмбеддинги, нормализация, ключевые блоки) 23. Адаптивная квантизация слоев с разной битностью 24. iMatrix и i-кванты 25. QAT (Quantization-Aware Training) 26. Сверхнизкобитная квантизация 27. Формат GGUF 28. Дистилляция (Distilled-модели) 29. Прунинг 30. Fine-tuning 31. LoRA и QLoRA 32. MoE (Mixture of Experts) 33. Роутер / маршрутизатор экспертов 34. Активные параметры 35. REAP 36. Спекулятивное декодирование 37. MTP (Multi-Token Prediction) 38. Reasoning 39. Мультимодальность 40. Vision 41. Speech-to-Text 42. Контекстное окно 43. Attention 44. Квадратичная сложность Attention 45. KV-кэш 46. Prefill / обработка промпта 47. Flash Attention 48. Квантизация KV-кэша 49. Paged Attention 50. Lost in the Middle Теперь думайте, а чё же там происходит дальше 😄

MM Harness [1/x] Уже немало времени посвятил изучению мультимодальных харнесов. Если раньше, когда занимался моделями, я думал что беды существуют только на уровне модели, то увы, я прям очень сильно ошибался: сложность решений здесь растёт по экспоненте — и примерно по той же кривой растёт желание разработчиков (и иногда моё) забить на эту мультимодальность. Ниже — список вопросов, на которые стоит ответить до того, как вы начнёте проектировать мультимодальную систему (ну или по пути, как пойдёт). Давайте сейчас будем считать модели токенодробилками, а потому не будем углубляться в их строение, а рассмотрим систему вокруг. Допустим, мы делаем какого-нибудь агента, с которым ещё и можем общаться в формате диалога. Интерфейс Проблемы начинаются уже в тот момент, когда пользователь прикладывает картинку. 1. Загружаем оригинал или жмём? А если пользователь сидит на мобильном интернете и хочет экономить трафик? 2. Сохраняем метаданные EXIF или дропаем? Разные библиотеки по-разному обрабатывают, например, ориентацию изображения, поэтому об этом лучше подумать сразу. 3. Поддерживаем несколько изображений в одном сообщении? Если да, все остальные проблемы множатся. Контекстный менеджер Допустим, картинки всё-таки долетели до бэкенда и попали в контекстный менеджер. 1. Ресайзим ли мы их? До какого размера? Есть ли замеры влияния на качество? Чем больше изображение, тем больше токенов оно может занять — хотя тут всё зависит от препроцессинга конкретной модели. 2. Сколько картинок держим в контексте? Можно очень просто забить весь контекст изображениями! 3. Что делаем с картинками, которые в контекст уже не помещаются? Оставляем ли хотя бы описание или идентификатор, чтобы агент мог к ним вернуться? Модель и инструменты Дальше изображения уходят в модель. При этом модель может вызывать тулы, которые тоже возвращают изображения. 1. Как кладём эти картинки в контекст? Передаём модели сами изображения или только подпись "тул вернул такие-то картинки"? Другими словами, должна ли модель посмотреть на картинки, которые вернул условный поиск? 2. А в сами тулы мы какую картинку подаём? Ту самую пожатую и с ресайзом? Или какую-то другую? 3. А если передаём модели сами картинки, как поступаем, когда контекст уже ими забит? И это только базовые вопросы доставки и управления контекстом, где правильного решения нет — есть только ваше, скорее всего компромиссное. И всё это добавляется к уже известным сложностям текстовых агентов. Мы ещё не дошли до хранения, кеширования, безопасности и различных UI-фич. Продолжение следует... P.S. Календарь перевернули?)

Мне жаль, у вас нейрослоп LinkedIn выкатил кнопку, чтобы жаловаться на нейрослоп в ленте. Месяц назад в меню каждого поста (это где три точечки) появился пункт "Seems like AI slop". Через неё можно репортить, если текст на ваш взгляд выглядит нейро-высер. Пруфы прикладывать не нужно. Заодно компания прикончила свою же фичу "Enhance your post" (она дописывала посты ИИшкой за юзера) и заменила её на пруфридер, который просто чинит грамматику, но стилистику и голос не трогает. Логика понятная: по свежему исследованию Pangram, у LinkedIn 41% лонгридов - это стопроцентный нейрослоп 80 левела. Это худший показатель среди крупных площадок. У тех же Х, Reddit или Substack доля заметно скромнее. Отдельный треш - два месяца назад Линк выкатил отчёт, как они яростно борются со слопом. И что вы думаете? Этот отчёт сам оказался нейрослопом. К - классика. Мультивселенная схлопнулась. В общем, за первые две недели после релиза кнопкой воспользовалось >миллиона человек, а помеченные посты стали получать на 40% меньше показов. Да, эта кнопка не просто косметическая, она реально влияет на алгоритм. Но и не прям расстрельная - один клик ничего не решает. Чтобы алгоритм задумался - репорты должны быть массовые. Интересно, конечно, а что если зарепортят реальный текст (хотя кого я обманываю, реальный текст в 2026? Пффф). ИИ-детекторы постоянно косячат и ложно-срабатывают, а люди смогут чётко отличать? Ну, может и смогут, всё-таки у слопа куча иррациональных паттернов, которые норм палятся как раз кожаным глазом, а не машиной. Получается, LinkedIn долго и упорно пушил ИИ-инструменты для постинга, но в итоге понял, что это нифига не преимущество, а скорее наоборот. И теперь пытается всё исправить радикально - в том числе, привлекая юзеров. Ну, удачи им, Бог им судья, что тут сказать. Этот пост, если что, не нейрослоповый. Мы же не на Linkedin, в конце концов 🤔 Фичизм

Главный организационный вопрос внедрения AI Уже не первый год мы все спорим про влияние AI на бизнес-процессы, делимся кейсами, меримся автоматизациями, количествами созданных агентов и сожжённых токенов. Но все эти вопросы мне кажутся вторичными по отношению к более глубокому, который почему-то задают реже: а какая работа и какие люди нам вообще теперь нужны в организации? Это не обязательно вопрос про увольнения - вопрос скорее про перераспределение задач, ролей и ответственности внутри организации. Если руководитель команды может за пару часов навайбкодить сервис и автоматизировать большой блок работы, какая часть работы действительно требует разработчика? Если маркетолог может провести аналитику данных самостоятельно, когда и зачем теперь звать аналитика? Если продакт может сам собрать прототип, провести несколько пользовательских тестов и разобрать результаты, в какой момент ему всё ещё нужен дизайнер или UX-исследователь? Мне кажется, работать с прежней оргструктурой и игнорировать все эти вопросы долго не получится: AI всё сильнее меняет не только отдельные процессы, а само разделение труда между ролями и функциями. А, значит, настоящая AI-трансформация начнётся, когда люди начнут открыто договариваться о своих зонах ответственности (а не проводить очередной цикл обучений): почему эта работа вообще существует, кто должен её выполнять, какие компетенции для неё теперь нужны и где должна проходить граница ответственности в организации. А это всё потенциально конфликтно, сложно и больно. Потому что обсуждать новые навайбкоженные инструменты гораздо проще, чем поднимать сложные вопросы, которые никакая языковая модель за организацию не решит.