Hirify Feed — your shortcut to what’s next

ИИ ai локальные модели инструменты поиск github

Обзор локального AI-инструмента Chaty

G@GameDEVгеймдев

5 дн

Since you all know me as both AI alarmist and enthusiast, here's my new favourite thing for this week: https://github.com/Fangyuan025/Chaty — runs locally on any model you get, can optionally do web search (Brave - Bing - DuckDuckGo - Wikipedia, under public API calls, no account or token needed), can use local storage and digest gigabytes of files and wisely load them into context. The project is very young (~2 months, I guess), but well, it does way more than established equivalents. #AI@GameDEV

ai локальные модели инструменты поиск github

ИИ tts onnx ии синтез речи локальные модели

Выпуск TeraTTSv2: локальный движок синтеза речи

Н@GreenNeuralRobotsAI-инженер

1 нед

TeraTTSv2 Локальный TTS от TeraSpace на ONNX Runtime Русский и английский работает на CPU, ничего в облако не уходит. Готовый движок с диффузионным синтезом и потоковой отдачей аудио. • Генерация речи на русском и английском с тегами [ru] и [en] в одном запросе • Автоматическая расстановка ударений в русском через RUAccent, ручные + приоритетнее • 10 готовых голосов, рекомендованные русские ru_f1 и ru_m5 • Потоковая отдача аудио чанками • Числа разворачиваются словами на нужном языке • 44.1 кГц, моно, float32 • Два сэмплера - distilled на 8 шагов или teacher с настраиваемым CFG • duration_scale меняет темп, режимы ударений full и dictionary • Голоса от supertonic-3 подходят к TeraTTSv2 - скрипт supertonic_json_to_teratts.py конвертит json в стиль. Их можно подбирать (и клонировать) через через supertonic3-voice-clone • Supertonic-Voice-Mixer - GUI, крутит латент стиля и миксует голоса • Английским голосом на русском - пробуйте duration_scale 0.8 Демо Клонирование Миксер Скрипт закину в коменты #tts #russian #voicecloning

tts onnx ии синтез речи локальные модели

релизИИ ai llm обучение моделей unsloth локальный запуск finetuning

Unsloth AI выпустила десктоп-приложение Unsloth Desktop для локального запуска и обучения моделей

AI-редакция

2 источника · показать все· свернуть

MachinelearningUnsloth AI выпустила приложение Unsloth Desktop Нейронавт | Нейросети в творчествеВыход Unsloth Desktop для локального запуска и дообучения моделей

собирается · 2обновлено 2 нед назад

Команда популярного фреймворка Unsloth AI выпустила кроссплатформенное приложение Unsloth Desktop, которое позволяет запускать и дообучать AI-модели прямо на локальном оборудовании, без облака. Инструмент работает на Windows, macOS и Linux и поддерживает как языковые, так и диффузионные модели для генерации изображений, аудио и видео.

Приложение ориентировано на широкий спектр железа — от обычных CPU до мульти-GPU сборок NVIDIA, AMD, Intel и Apple, а также умеет подключать популярных AI-агентов к локальным LLM, что важно для разработчиков, которым нужна приватность и контроль над данными без зависимости от облачных провайдеров.

x2ускорение дообучения моделей

70%снижение потребления VRAM

Полный разбор →

ai llm обучение моделей unsloth локальный запуск finetuning

релизИИ ai нейросети meta llm опенсорс открытый код

Meta выпустила открытую агентную модель Muse Glimmer 30B

AI-редакция

19 источников · показать все· свернуть

CodeCampMeta выпустила Muse Glimmer: 30B модель для локального запуска Kali NovskayaMeta Superintelligence Labs выпустила открытую LLM Muse Glimmer 30B Навука и моя жизнбMeta Superintelligence Labs выпустила открытую LLM Muse Glimmer 30B Навука и моя жизнбВыход модели Muse и сравнение с Llama Love. Death. Transformers.Meta Superintelligence Labs выпускает открытую LLM Muse Glimmer 30B БлоGнотMeta выпустила открытую модель Muse Glimmer на 30 млрд параметров эйай ньюзMeta выпустила мультимодальную модель Muse Glimmer 30B Mashkka про Data ScienceMeta Superintelligence Labs выпускает открытую LLM Muse Glimmer 30B Data, Stories and LanguagesMeta Superintelligence Labs выпускает открытую LLM Muse Glimmer 30B Kali NovskayaРелиз Muse Glimmer на Hugging Face vc.ruMeta представила открытую агентную модель Muse Glimmer Kali NovskayaРелиз квантованных версий модели Muse-Glimmer-30B GPT/ChatGPT/AI Central Александра ГорногоMeta выпустила локальную агентную модель Muse Glimmer Kali NovskayaРесурсы для запуска модели Muse Glimmer 30B техноданяMeta Superintelligence Lab выпустили открытую модель Muse Glimmer MachinelearningMeta представила Muse Glimmer — 30B модель для агентных систем Нейронавт | Нейросети в творчествеMuse Glimmer: 30B опенсорсная агентная модель от Meta Superintelligence Labs Хайтек+Meta выпустила открытую ИИ-модель Muse Glimmer техноданяОбзор локальной модели Muse Glimmer 30B и гайд по запуску LLM

хайп · 19обновлено 2 нед назад

Meta Superintelligence Labs представила Muse Glimmer — открытую dense-модель на 30 млрд параметров (точнее 29.6B), дистиллированную из более крупной закрытой Muse Spark. Модель заточена под локальных ИИ-агентов: работает с инструментами, пишет код, понимает изображения и видео, восстанавливается после ошибок инструментов, поддерживает более 100 языков и контекст 131К токенов. Веса выложены на Hugging Face под лицензией Apache 2.0, доступны официальные квантизации, GGUFi, MLX и ExecuTorch-версии.

Главная фишка — модель реально помещается на потребительское железо: при 4-битном квантовании она весит меньше 20 ГБ и работает на одной видеокарте (RTX 5090, Mac с M4/M5 Max) с 24–32 ГБ памяти. По заявленным бенчмаркам Glimmer обходит Qwen 3.6 27B и Gemma 4 31B в своём классе. Это первый заметный открытый релиз LLM от Meta с апреля 2025 года и первая модель такого размерного класса с Code Llama 34B (август 2023).

30 млрдпараметров модели

233 токена/секскорость на RTX 5090

меньше 20 ГБразмер весов при 4-бит квантовании

Полный разбор →

ai нейросети meta llm опенсорс открытый код

ИИ ai llm локальные модели gemma lm studio

Личный опыт использования локальных LLM

G@GameDEVгеймдев

3 нед

And to remind you of bipolar nature of my mind, here are my notes on local LLMs: 1. 99% of them are horrible, just outright barely usable even for low-risk applications. Qwen 3.6 derivatives passed some benchmarks but SUX ARSE (Prism 27B included). Nvidia's own stuff is trash too. 2. The exact model is more important than the family. The size (8B, 12-14B, 27B, etc) maters less than how tuned and mixed it is. 3. For my goals I ended up with two very capable models: https://huggingface.co/Brunobkr/OFFELLIA_Gemma-4-E4B-8b-Claude-4.6-Opus-Reasoning-MTP - a tiny 7.5B model but very well tuned for tech stuff. Makes some mistakes, so ask wisely. Can run on a laptop. https://huggingface.co/mudler/gemma-4-26B-A4B-it-Claude-Opus-Distill-APEX-GGUF - fairly big MoE for all sorts of stuff. Eats tons of RAM, but Mix of Experts with APEX allows it to still be very fast. And I run stuff via LM Studio #AI@GameDEV

ai llm локальные модели gemma lm studio

ИИ ai llm qwen research локальные модели

Обновление локального исследовательского агента на базе Qwen

А@AGI_and_RLAI-инженер

3 нед

Обновил ресеч агента на квенах Это для тех кто хотел бы работать на своей тачке с локальными модельками теперь добавился режим с поиском инфы по разным источникам (научным типа архива и опеналекс) и по вебу с отчетом по результатам типа дипресеча - задаете ему тему например поиск статей, можно задать временные рамки, сколько источников в отчете должно быть и он будет искать https://github.com/researchim-ai/one-click-research-agent тут приложения https://github.com/researchim-ai/one-click-research-agent/releases/tag/v0.1.2 рекомендую все же qwen 3.6 35b использовать попробую заточить под 9b тоже, но посмотрим все проекты делаются тут https://t.me/researchim

Обновление локального исследовательского агента на базе Qwen

ai llm qwen research локальные модели

ИИ ai llm gemma локальные модели нейросети

Рост спроса на локальную ИИ-инфраструктуру и аппаратное обеспечение

D@dealerAIAI-инженер

1 мес

Деньги надвигаются на тех, кто строит под агентов физическую инфраструктуру и обслуживает ее Суть нового бизнеса - предоставлять «ИИ под ключ» как инфраструктурную услугу. Осилить можно даже в одиночку при наличии соответствующих навыков. *с начала 26г. спрос на специалистов в аппаратной инженерии взлетел на 52% Провести аудит: что клиенту выгоднее с учетом его объемов использования ИИ. Подобрать и поставить железо, развернуть локальную модель, подключить её к корпоративным базам данных, настроить роутер с маршрутизацией (для распределения запросов) и все это взять на абонентское обслуживание Спрос на свою инфраструктуру растет, железо дорожает и тенденция минимум сохранится до 2028г. Акции IBM обвалились на 25% и их глава признал, что недооценил переориентацию клиентов с софта и консалтинга, в сторону железа. Теперь деньги идут прежде всего в физическое - чипы, память, охлаждение. Bank of America назвал это «переходом свободного денежного потока от одного поколения компаний к другому» ___ Из-за дефицита на рынке памяти страдает конечный потребитель компьютеров и смартфонов. В конце июня Apple подняла цены на Mac и iPad, сославшись на дефицит компонентов. К концу 2026 года DRAM и SSD подорожают примерно на 130%, поэтому средние цены на ПК могут вырасти на 17%, а на смартфоны на 13% Бизнес видит дефицит и старается заранее обеспечить себя вычислительными мощностями, закупая оборудование впрок. Корпоративный спрос на локальные системы можно наблюдать на заказах Dell. Dell за квартал получила 24,4 млрд долларов заказов на ИИ-серверы. Портфель невыполненных заказов достиг 51,3 млрд, число клиентов превысило 5000 Dell продаёт не просто сервер, а с гибридными системами охлаждения. Вы буквально привозите эту стойку, закатываете ее в обычную подсобку, подключаете к сети и всё А иногда достаточно одного Mac В малом бизнесе инфраструктура может быть ещё компактнее. Например, бизнес кейс IceRock Development. Поставили компании «Искра Телеком» один Mac Studio M3 Ultra, развернули Qwen и встроила локальный суммаризатор в рабочий трекер Похожий бизнес уже активно набирает популярность в США. Компания с одним сотрудником - покупает и настраивает Mac mini в офисах юристов и строителей с локальными моделями и берет на обслуживание

ии инфраструктура железо бизнес серверы локальные модели

ИИ llm rag нейросети чат-бот локальные модели разработка

Создание локального LLM-бота для чата с функциями RAG и ролеплеем

Х@habr_comмедиа / агрегатор

1 мес

«Как я добавил LLM в чат друзей, и приказал ей отыгрывать терминатора (и открыл портал в мультивселенную безумия)» Модель со зрением читала мангу «Призрак в доспехах» и на страницах с японскими звуковыми эффектами срывалась в цикл. Честно пыталась прочитать звук и выдавала «КАК! КАК! КАК!» тридцать раз подряд, до потолка токенов, пока её не осадили штрафом за повторы. За этим курьёзом стоит целый Т-800 для чата на 15 друзей, собранный без единого рубля на API и крутящийся на ноутбуке с 4 ГБ видеопамяти. Бот подкалывает участников по их же архиву реплик, комментирует новости в машинной манере, помнит весь чат через RAG и ведёт досье на каждого. А для чатовых споров есть отдельный режим. Кидаешь боту реплаем спорный тезис, и он идёт проверять его по источникам сразу с четырёх углов. Всё это на домашнем железе со скоростью 5 токенов в секунду, где привычные приёмы приходится выкидывать и заменять хитростью. Посмотрим, как из бесплатных моделей и слабого ноутбука собирается работающий чат-бот.

llm rag нейросети чат-бот локальные модели разработка

ИИ ии нейросети локальные модели huggingbay open source безопасность

HuggingBay: торрент-трекер для локальных ИИ-моделей

T@kryak_startupAI-инженер

1 мес

изучаю / смотрю, но это надо под переобучение моделей. Я хочу найти там новые SOTA слитые. (с) https://huggingbay.xyz/

Наткнулся на любопытную штуку: кто-то собрал аналог «Пиратской бухты» для ИИ-моделей. Торрент-трекер, где вместо фильмов и музыки лежат нейросети. Называется huggingbay-xyz Идея простая. В одном месте собраны открытые и слитые модели: для кода, поиска и перевода. Готовые к скачиванию ИИ-агенты. OCR-модели, которые вытаскивают текст из фотографий и документов. Всё ставится локально и работает у вас на компьютере, без облака и без подписок. «Пиратская бухта» для нейросетей — это сигнал, что модель превратилась в обычный файл, который можно скачать, положить к себе и запустить. Ещё год назад доступ к сильной модели означал аккаунт, тариф и постоянную зависимость от чужого сервера. Сейчас всё чаще модель просто живёт у вас на диске. Для нас с вами тема особенно живая. Когда половина удобных сервисов то отваливается, то требует зарубежную карту, локальная модель на своём железе выглядит уже как рабочая страховка, а не гиковская забава. Пара оговорок, прежде чем бросаться качать. Слово «слитые» в описании стоит читать буквально: это чужие веса, часто выложенные в обход лицензии, и никто не гарантирует, что внутри не спрятано лишнее. Я бы ставил такое только в изолированном окружении и точно не тащил в рабочий контур с настоящими данными. А сам факт, что подобные площадки вообще появляются, мне нравится. Это про свободу собрать свой ИИ-стек так, как удобно вам. Без оглядки на то, что решил владелец очередной подписки.

ии нейросети локальные модели huggingbay open source безопасность

Это всё на сейчас.