🔥 Полный гайд по локальному запуску DeepSeek на русском: от домашнего ПК до сервера с 8 GPU В открытом доступе появился репозиторий с руководством из 18 частей о том, как запустить DeepSeek V4, R1 и дистилляты у себя, без облака и интернета. Бесплатно, приватно и офлайн. Внутри весь путь: выбор модели и расчёт железа, установка и настройка Ollama, llama.cpp, LM Studio, Open WebUI, vLLM и SGLang, работа через API и Python, подключение к IDE. Дальше промптинг, ускорение, RAG, агенты и fine-tuning, а в конце топ-30 приёмов, разбор ошибок, FAQ и готовые конфиги. Для домашнего ПК основной вариант это R1-дистилляты от 1.5B до 70B. Запуск одной командой: ollama run deepseek-r1:8b. По таблицам гайда в кванте Q4 модель на 8B занимает 5-6 ГБ памяти, на 14B около 9-10 ГБ, на 32B около 20 ГБ, на 70B около 43 ГБ. Старшие модели уже про серверное железо. DeepSeek-V4-Flash на 284B параметров, из них 13B активных, с контекстом 1M требует около 103 ГБ в 3-битном кванте. DeepSeek-V4-Pro на 1.6T параметров с 49B активными нужны 800 ГБ и больше, то есть сервер с 8 GPU. Несколько практичных советов из гайда. Для русского языка брать модели от 14B, на меньших дистиллятах качество заметно проседает. Квант Q4_K_M считается стандартным выбором, а большая модель в низком кванте обычно лучше маленькой в высоком. Температура около 0.6 для R1 и 1.0 для V4. Проверять через ollama ps, что модель целиком на GPU. И не открывать порт Ollama 11434 в интернет: у API нет пароля. Репозиторий: https://github.com/justxor/deepseek-local-guide-ru

Если интересно, я вот так со своим ИИ Агентом общаюсь / агентской системой:

[founder-mode](slashCommand;founder-mode) обнови implementation plan и перепроверь как у нас все работает (наши fractal mas, спекулятивные роутеры, ральф лупы и другие архитектуры и агентские системы из 09_Management/_auto_orchestration + 09_Management/_auto_work + 09_Management/ralph_loop_research Ты ничего не упустил в рамках того как гипотезы проверяешь / продумываешь и тд и тп? не получится ли так, что модель слишкам слабая и глупая? ей нужен кто-то из моделей старше и ты можешь параллельно обрабатывая гипотезы, параллельно работать и через Ollama и через обычные модели из спекулятивного роутинга. + добавь наконец Ollama в 09_Management/_CLI_AI_APIs/MODEL_REGISTRY.md + 09_Management/_CLI_AI_APIs/scripts -> чтобы там был понятный .py агент/скрипт для работы с Ollama и думать где Ollama может эффективно / быстро / точно заменять другие модели дешевые. + изучи / думай какая пропускная способность в токенах у Ollama и какая у других моделей, на сколько дольше будет работать и хуже? То есть, на время тестов, пока все будет работать, тебе нужно тестировать Ollama с другими альтернативами и вариантами, чтобы обнаружить деградацию + нужно логи писать по тому как Ollama справляется / работает / отвечает и как эффективно вообще новая версия overnight_curiosity_evolve_daemon.py будет работать. Давай первый прогон сделаем тестовый, что ты будет каждую 1 минуту писать вместо 5 для телеметрии, и вместо раз в 20 минут запускать логику - запускай ее раз в 4 минуты. И мы за 10 минут сможем 2 полный круга прогнать и понять как это все работает. думай / изучай как правильно вообще логи собирать и чтобы они все место у меня на диске не заняли и как их потом искать быстро и осозновать инсайты через 16_AI_graph_brain думай / работай через [founder-perplexity-model-council-reasoning](slashCommand;founder-perplexity-model-council-reasoning) [founder-fractal-mas](slashCommand;founder-fractal-mas) R=3 + [founder-evolve-ouroboros](slashCommand;founder-evolve-ouroboros) [founder-dreaming](slashCommand;founder-dreaming) + [founder-self-healing](slashCommand;founder-self-healing) И обнови implementation plan, чтобы была кнопка proceed и я проверю план и запущу цикл на 20 минут

После выхода наделавшего шума Deepseek V4 Flash, вспомнил, что у меня есть подписка за $20 на ollama. Иногда гоняю там cloud-модели. Запустил на Flash несколько тестовых задач, чтобы посмотреть, на что модель вообще способна. Он оказался достаточно хорош в пространственном мышлении и даже сделал мне что-то вроде "Angry Birds" в 3D. Ещё и через специфический харнесс от paperclip. Особенно меня впечатлило то, как на Ollama он ест лимиты на подписке за $20. 2307 запросов заняли меньше 10% недельных лимитов. Возможно, есть некоторое смещение восприятия, вызванное GPT-5.6-Sol, съедающим недельные лимиты за сутки, если чуть отпустить вожжи. Или даже Cursor, который в прошлом году за $20 давал всего 500 запросов в месяц к "не-auto" моделям.