ИИ

Крипто карты от Nvidia начали использовать для инференса Ещё в 2021 году Nvidia наклепала для майнинга гору очень сильно урезанных карт CMP HX170, на основе чипа от А100. Номинально у них было по 8 или по 10 гигабайт и урезанные в 32 раза вычислительные мощности, но при этом полная пропускная способность памяти, которая и нужна для майнинга. После того как Ethereum перешёл на proof of stake алгоритм, все они превратились тыкву. Так бы они и оставились тыквами, но в конце июня появился пейпер, в котором описывалось снятие части ограничений через уязвимость в новых драйверах Nvidia. Кода авторы не опубликовали, но через несколько недель уязвимость удалось независимо реплицировать, так появился cmpunlocker. Карты на 10 гигабайт стали картами на 40(или даже 80) гигов, а карты на 8 гигов — картами на 64 гига. Дело в том, что убрать HBM чипы без урезания пропускной способности было нельзя, так что Nvidia просто заблокировали 80% памяти через софт. Хакерам удалось ещё и убрать ограничение на вычисления. Главная оставшаяся проблема — PCIe ограничен версией 2.0 и физически только x4, но ребята с паяльниками уже пытаются это починить. В итоге, счастливчики, которые смогли купить карту до роста цен, за 100-200 долларов, получили уже чуть менее урезанную А100 за очень дёшево, особенно с учётом текущего кризиса. А сейчас цена выросла и за цену в 5-10 раз выше брать их уже вряд-ли стоит. А есть ли владельцы таких карт среди подписчиков канала? Как впечатления? cmpunlocker @ai_newz

✔️ Фильтр Anthropic по биоугрозам был недоступен почти год С мая 2025 по апрель 2026 года блокирующие классификаторы Anthropic не применялись к трафику внешних подрядчиков - тех, кто собирает обратную связь от людей для обучения моделей.

Эти классификаторы нужны, чтобы модель не выдавала опасных сведений о химическом и биологическом оружии.

За это время около 50 тысяч человек провели с моделями примерно 133 млн чатов. Благонадежность этих людей проверяли только сами подрядчики, а их процедуры, как признает Anthropic, часто были недостаточными. Внутреннее расследование доказательств злоупотребления не нашло. Требования к подрядчикам компания после этого ужесточила. О пробеле стало известно из свежего отчета о рисках. (стр. 148) Сам отчет оценил катастрофические риски моделей Anthropic как низкие по всем категориям, но написан заметно осторожнее предыдущего: почти везде оценки либо подняты, либо идут с оговоркой о возросшей неопределенности - из-за недавних инцидентов и ранних признаков ускорения ИИ-прогресса.

Дарио Амодеи ранее называл разработку химического и биологического оружия с помощью ИИ более серьезной угрозой, чем кибератаки.

@ai_machinelearning_big_data #news #ai #ml

Voice Mode в ChatGPT — это лучший коуч по английскому У меня есть задача научиться классно выступать и говорить на английском. Я долго и занудно искал себе коуча, проводил собеседования, знакомился, платил денюшки. А теперь ChatGPT делает то же самое за ту подписку, которую я уже ей плачу. И делает это на удивление хорошо. Сегодня я гулял с собакой [нашему сладкому пирожочку уже скоро год] и за час нейронка помогла мне найти и начать менять коммуникативные паттерны: • привычка к длинным переусложнённым предложениям • монотонный ритм внутри предложения с ростом или падением интонации к концу • отсутствие гибкости в ритме и интонациях То есть эта шайтан-машина слышит интонацию и ритм! Она перебивает, корректирует по ходу, гибко подстраивается под запрос и контекст. Почему лучший коуч? Потому что доступен сразу и входит в твою подписку. Не требует определённого времени. И можно просить его вайбкодить тебе тетради для практики и может давать обратную связь на тексты. Прикиньте! Я не знаю зачем нужны скайенги и преподаватели по английскому. Я абсолютно mindblown 🤯

Нобелевский лауреат Аджемоглу: причина споров об ИИ — общий кризис либеральной демократии Нобелевский лауреат по экономике Дарон Аджемоглу раскритиковал обе крайности в дискуссии об искусственном интеллекте — безоговорочный оптимизм и отрицание реальных возможностей ИИ. По его мнению, поляризация вокруг технологии отражает более глубокую проблему: кризис либеральной демократии, которая утратила способность вырабатывать компромиссы и обеспечивать широкое участие людей в экономическом развитии. Аджемоглу считает, что ИИ необходимо развивать так, чтобы он дополнял труд и создавал новые возможности для работников, а не заменял их. https://hightech.plus/2026/08/17/nobelevskii-laureat-adzhemoglu-prichina-sporov-ob-ii--obshii-krizis-liberalnoi-demokratii

MCP → CLI Я только собирался написать, почему CLI сосут, и на что их заменять, как понял, что у меня даже нет поста, почему сосут MCP (от которых мы и ушли к CLI). Исправляю! Сначала напомню в двух словах зачем эти ребята нам вообще нужны:

агент сам по себе мало что умеет в мире, где наши данные разбросаны по десяткам веб-приложений, начиная от почты и календаря, заканчивая транскрибаторами звонков, джирами и сервисами электронного документооборота

Нужно его к ним как-то коннектить. И на заре агентных систем ребята придумали подсовывать ему новые инструменты как tools (то, что агент может вызывать в цикле перед тем как дать итоговый ответ). Назвали это MCP (model-context-protocol) У стандарта MCP было много исторических болячек: невнятная аутентификация, загромождение контекста всеми методами всех mcp'шек, , отсутствие строгого следования схеме, stateful логика 🥴 Сейчас они по большей части вылечены. Но есть одна главная проблема – это все еще лишний слой абстракции поверх обычного API. И он требует модель возвращать вызов инструмента в перегруженном JSON формате. То есть, вместо вместо того, чтобы сразу дернуть API нашего условного гитхаба, обвязка нашего агента (она выполняет роль MCP клиента) отправляет это в какой-то MCP сервер (в случае с гитхаб он удаленный, но может быть и локальным), а он уже отправляет это в API Любой агент, у которого есть вызов терминала может либо написать скрипт, который будет обращаться к API напрямую, либо просто вызвать уже сто лет существующую команду gh с нужными параметрами. Всё! И вот какие у этого плюсы: 1. Жрет меньше токенов (потому что не verbose json) 2. Можно стакать вызовы команд в любой последовательности 3. Не обязательно засирать контекст модели всем выводом. Перенаправляем и фильтруем вывод терминальной команды как душе угодно 4. Обычно сильно больше комбинаций параметров 5. Если какой-то функции или параметра нет, агент все так же может написать кастомный скрипт, который сходит в API и сделает то, что нужно Но надо признать, кое-где MCP все-таки нужны – когда у вас есть эфимерная сессия + нужна авторизация. Короче, во всех облачных чатах и коворках. CLI там не подходит по одной причине – авторизация происходит внутри сэндбокса и на каждый новый чат придется делать ее заново Пример: gh отлично работает у вас на ноуте, но в ChatGPT Work вы задолбаетесь каждый раз проходить авторизацию, а вот GitHub MCP подключите один раз и он будет работать всегда В разговорах слышал еще такие аргументы за MCP (но мне они не нравятся): 1. Проще раскатывать на команду и обновлять (хз, автообновление cli делается тривиально) 2. MCP сразу поддерживает инструкции, а про CLI тул агент еще должен как-то узнать (скиллы наш бро) 3. В MCP есть функции, которых нет в API (это вообще извращение, не делайте так. но если пользуетесь чужим сервисом таким, то да, тут придется страдать) А у вас в команде используют MCP? Почему? (напоминаю, что скоро будет пост о том, почему CLI тоже не самый лучший выбор) @ai_grably

#обзор_статьи Давно здесь не было обзоров статей. Но несмотря на вайбкодинг я не разучился читать. Сегодня у нас впервые за долгое время заявка на смену парадигмы в генеративном DL! # Explorative Modeling: Unlocking a Third Pretraining Axis and End-to-End Generation https://explorative-modeling.github.io/ Авторы предлагают учить генеративные модели другим лоссом который имеет теоретические основания и одновременно улучшает эффективность использования компьюта, качество и скейлинг с параметрами. Ключевая идея: мы учим генеративные модели одним образом, а инферим их совсем иначе. Например, авторегрессионные модели генерируют один токен за раз, но при инференсе мы требуем от них тысяч токенов на выходе. Диффузионные модели в трейне денойзят один шаг, а при инференсе должны делать готовую картинку. При этом, например, у диффузионной модели часто нет возможности по вектору шума понять в какую именно сторону его надо денойзить, но мы её штрафуем как будто это однозначно определено. Так сложилось потому что генеративные модели пытаются учить мультимодальные распределения. Условно где много гауссиан намешано: в одной части латентного пространства собаки, а в другой кошки и надо научиться генерировать фото обоих. Если пытаться генерировать за один шаг, то модель не может сделать ничего лучше, чем выдать нечто среднее. Пошаговая генерация это хак, который позволяет семплировать не из p(данные), а из p(данные|мы уже начали генерировать собаку), и таким образом дают модели возможность выбрать одну из мод распределения и фокусироваться на ней. Хаки это плохо, потому что разные процедуры обучения и инференса гарантируют сдвиг входов. И вообще надо, чтобы всё было end-to-end. Предлагают простое решение: во время обучения делать несколько попыток генерации, а бекпропать только самую близкую к данным. Утверждается, что такая постановка позволяет модели поисследовать разные моды распределения, а не натягивать любую сову на один глобус. На примере диффузии работает так. Для каждого примера: 1. Семплируем K разных способов его зашумить. 2. Для каждого из K делаем предикт моделью, чтобы уменьшить шум и считаем обычный диффузионный лосс. 3. Бекпропаем только наименьший из полученных лоссов. Так же предлагают процедуру как учить такую Exploration Model с нуля. Если всё как авторы утверждают, то это имеет потенциал улучшить весь генеративный DL повсеместно, от LLM до генераторов порно до VLA которыми мы занимаемся в Steelman

Открытая MoE-видеомодель MAGI-2 Preview от Sand.ai Разработчики из Sand.ai выложили в открытый доступ веса и код инференса MAGI-2 Preview. Модель построена на single-stream архитектуре и генерирует 10-секундные ролики сразу вместе с синхронной аудиодорожкой. Внутри применили редкий для таких моделей fine-grained MoE. При суммарном объеме в 114B параметров на каждый токен активируется всего 6B. По объему вычислений на шаг это в разы легче плотного MiniMax H3 (33B), благодаря чему стоимость инференса упала в ~10 раз, а модель заскочила на 6 место в лидерборде Artificial Analysis. Сам пайплайн генерации двухстадийный. Сначала базовая модель генерирует видео в низком разрешении, а затем refiner апскейлит результат до 1080p. Пока это не конкурент MiniMax H3 в плане локальной доступности. Квантованный H3 влезает в одну карту на 24GB (RTX 3090/4090), тогда как для MAGI-2 нужно заметно больше ресурсов. Зато у облачных провайдеров за счет всего 6B активных параметров инференс по API будет значительно дешевле dense моделей, да и у такой архитектуры хороший потенциал для скейлинга. Техрепорт Код Веса @ai_newz

ComfyUI Image Conveyor Кастом пак - конвейер картинок Суть: когда генеришь серию изображений - например, референсы персонажа - руками перетаскивать их между нодами и следить, что куда пошло, муторно. Эта нода держит очередь картинок и отдельную полку постоянных референсов. • Очередь Conveyor - картинки прокручиваются через генерации одна за другой • Полка Persistent Reference Shelf - до 8 референсов, которые не тратятся и держат персонажа стабильным между кадрами • Библиотеки персонажей - свой набор картинок на каждого героя, грузишь нужные в один клик • Папка как библиотека - подпапки, перенос, удаление файлов, драг-н-дроп между папками и полкой • До 8 постоянных референсов • Галереи виртуализированы - почти без нагрузки на карту • В v1.4 допилено под MiniMax H3, где мульти-референс стал важен для консистентности #referencing #minimaxH3 #comfyui VK | MAX

Ключевое за 3 дня ⚡ Главное • OpenAI представила Ultrafast-режим для GPT-5.6 Sol — До 750 токенов/с, в 14 раз быстрее, на базе Cerebras. • Meta выпустила open-weight 30B модель — Работает локально на потребительском GPU, выполняет многошаговые задачи. • Nvidia привлекает $500 млрд — Партнерство с Apollo, BlackRock, Goldman Sachs для дата-центров. • Stripe покупает OpenRouter за $7 млрд — Сделка завершена, цена может измениться. 📈 Рост и Оптимизация • Расходы на ИИ растут, но неравномерно — Топ-1% компаний тратят $7,400 на сотрудника в месяц, медианная — $11.95. • Corgi использует AI для вызова BlackRock — Corgi Invest запустила 197 ETF с декабря, планирует обогнать BlackRock. • Wonder перестраивает рестораны с роботами — Роботы делают 500 мисок в час, утроение выработки, оценка $9 млрд. • Nvidia — крупнейшая финтех-компания в мире — Nvidia подписала меморандумы с шестью крупнейшими игроками капитала на $500 млрд. • Великое разъединение потребительского финтеха — AI-агенты ослабят традиционную модель, открывая возможности для нейтральных AI-платформ. • Пол Остерман: 35% работников уже «одноразовые» — Профессор MIT утверждает, что проблема не в ИИ, а в поведении работодателей. • Оценка AI-агентов как продуктов — Три задачи для оценки эффективности. 🤖 Промпты и Практика • Управление «личностью» ИИ — Прописывайте в промпте «будь скептичнее» или «поддерживай», чтобы менять стиль ответа. • Как создать ИИ-агента — Простое руководство от Microsoft. 🛠 Инструменты • Google DeepMind WeatherNext предсказал ураган на 24 часа раньше — Дал Ямайке критическое дополнительное время. • Tesla показала Cybercab со Starlink — Спутниковая связь для будущего роботакси. • Agility заявляет о работе Digit V5 без ограждений — Гуманоид может работать рядом с людьми. • BYD представила гуманоида Xiao Di — Рост 1,6 м, в шоурумах Шэньчжэня и Шанхая. • Spotify вводит AI Persona badge — Помечает профили, где личность артиста может быть нереальной. • Xirp — память для ИИ-кодинга — Автоматически связывает сессии кодинга с кодом и документацией. • Reglyph — перевод PDF без потери вёрстки — Переводит сканы и image-only PDF, сохраняя таблицы и подписи.