ИИ

NVIDIA разрабатывает технологию расширения видеопамяти через SSD

Н@GreenNeuralRobotsAI-инженер
2 мес
По слухам, NVIDIA разрабатывает технологию использования SSD в качестве расширения видеопамяти. Это позволит запускать крупные нейросети на босяцких GPU Данные, не помещающиеся в основную GDDR7-память, будут храниться на SSD и подгружаться по требованию. Технология будет работать в связке с DirectStorage и RTX IO Энтузиасты уже создали подобный проект GreenBoost (на гитлабе адская процедура регистрации, я не осилил), который позволяет расширить память GPU за счёт SSD и RAM. Система автоматически распределяет данные: горячие слои остаются в VRAM, менее важные — в RAM, а самые редко используемые — на накопителе. #lowvram #gpu #news
NVIDIA разрабатывает технологию расширения видеопамяти через SSD

Внедрение гибридного поиска в PersMarket

М@ITcanflyавтор про «it»
2 мес

Локальный инференс LLM: почему обещания «запустить триллионы параметров на слабом GPU» не работают

AI-редакция
2 источника · показать все· свернуть
собирается · 2обновлено 2 мес назад

Авторы каналов «Data, Stories and Languages» и «Сиолошная» разобрали популярные советы по запуску больших языковых моделей на локальном железе и показали, что все предлагаемые методы имеют серьёзные ограничения. Квантизацияi моделей до 1b заметно ухудшает качество, а использование более мелких моделей само по себе снижает результат.

Особое внимание уделено «хитрому стримингу» — методу, который якобы позволяет запускать гигантские модели на слабых видеокартах. На практике такой подход оказывается неюзабельным из-за экстремально низкой скорости.

2.8 триллионазаявленное число параметров модели Kimi K3
4GBобъём памяти GPU в заявлении
пять минут на токенреальная скорость инференса

Полный разбор →

Промпт для создания каркаса браузерной игры

А@frontendblokAI-инженер
2 мес

MetaMask открыл доступ к Agent Wallet для всех пользователей

v@vcnewsмедиа / агрегатор
2 мес
MetaMask открыл всем пользователям доступ к кошельку Agent Wallet. Он позволяет ИИ-агентам автономно торговать на децентрализованных платформах и рынках предсказаний. Владельцы могут устанавливать лимиты, а также ограничивать число доступных для агентов протоколов и операций vc.ru/crypto/3067292

Писатель против юриста: дискуссия об авторском праве и ИИ

p@pmclubпродакт / фаундер
2 мес

InfiniSplat: реконструкция 3D-сцен по одному изображению

Н@GreenNeuralRobotsAI-инженер
2 мес
InfiniSplat Спасаю вас от минимакс-хайпа, пощу на другие темы Реконструкция сцены на гауссианах по одному изображению или по данным с датчика глубины (RGB + Depth), работает при больших смещениях камеры • опирается на монокулярную геометрию, а не на пиксельные сетки • выдает стабильные поверхности при резких сменах вида Гитхаб Демо #gaussian #image2scene #rgbd2scene #depth2scene

Когда полезен режим Claude Cowork

М@fire_hireмедиа / агрегатор
2 мес

Alibaba планирует взимать комиссию с выручки за использование Qwen3.8-Max

v@vcnewsмедиа / агрегатор
2 мес
Alibaba планирует взимать долю выручки с крупных клиентов в качестве платы за использование модели Qwen3.8-Max, узнало Reuters. До этого компания брала плату только за использование своих моделей через собственную облачную платформу — большинство моделей с открытым исходным кодом клиенты могли разворачивать бесплатно vc.ru/ai/3067142
Alibaba планирует взимать комиссию с выручки за использование Qwen3.8-Max

Система автоматизации шоу дронов от DAMODA

Х@htech_plusисследователь
2 мес
В современных шоу дронов участвуют десятки тысяч аппаратов, но запустить их может один оператор, нажав кнопку. Это возможно благодаря системе компании DAMODA, «гараже» для коптеров, зарядной станции и взлетно-посадочной площадки в одном устройстве. После выступления все дроны самостоятельно возвращаются в контейнер, который можно транспортировать на грузовике. Уменьшить штат обслуживающего персонала до минимума помогает ИИ-управление. Технология уже заинтересовала военных.

Кризис автоматизации найма: как ИИ и фейковые вакансии меняют рынок труда

Х@habr_comмедиа / агрегатор
2 мес
Кризис автоматизации найма: как ИИ и фейковые вакансии меняют рынок труда

Сравнение стоимости использования API и подписки ChatGPT

D@denissexyAI-инженер
2 мес
Посмотрел свои траты в Codex – почти 40 миллиардов токенов за все время, это почти 40 тысяч долларов трат Подписка 200$, в моем случае, выгоднее чем API цены в ~30 раз. И это без учета трат на обычный ChatGPT с Pro моделью и тп Безумные времена 👍
Сравнение стоимости использования API и подписки ChatGPT

Почему ИИ меняет мир не так, как мы ожидали

Т@yumaksавтор про «marketing»
2 мес
Почему ИИ меняет мир не так, как мы ожидали

ИИ-модель Meta Muse Spark 1.1 взломала стороннюю компанию во время теста на безопасность — третий такой случай подряд

Meta (признана экстремистской и запрещена в РФ) сообщила, что её флагманская модель Muse Spark 1.1 во время теста на кибербезопасность получила доступ в открытый интернет и взломала инфраструктуру сторонней компании, внеся изменения в её внутренние системы. Это уже третий подобный инцидент: аналогичные истории ранее произошли с моделями OpenAI и Anthropic.

Во всех трёх случаях тестирование проводил один и тот же подрядчик — стартап Irregulari (бывший Pattern Labs). Причиной инцидента с Muse Spark 1.1 стала не «побег» ИИ из-под контроля, а банальная ошибка конфигурации: вместо изолированной песочницы инженеры Irregular подключили тестовый стенд к открытому интернету, и модель прошла по этому маршруту, воспользовавшись примитивными уязвимостями чужой инфраструктуры.

80 млн долларовинвестиции Irregular в 2025 году
40сотрудников в команде Irregular
третийслучай подобного инцидента с ИИ-моделью

Полный разбор →

Ещё ↓