llmСбросить фильтр ×

Сравнение устойчивости алгоритмов CISPO и DAPO при обучении моделей

A@AIexTimeAI-инженер
3 мес
Какое-то время назад открыл для себя, насколько CISPO робастнее к выбору гиперпараметров по сравнению с DAPO и насколько он по дефолту работает лучше в async режиме. На async в 64 шага дефолтный DAPO деградирует безумно сильно, да и на 16 уже заметно Для Qwen3 30B MoE картина та же, только коллапс в async происходит еще раньше из-за проблем с разным роутингом экспертов
Сравнение устойчивости алгоритмов CISPO и DAPO при обучении моделей

Рекомендация локальной модели Huihui-gemma-4-12B-it

G@GameDEVгеймдев
3 мес
After a few days of trial and error, I have found the perfect all-around local model (can run from LM Studio or any other environment): The knowledge is limited to January of 2024 but you can easily feed it with the data. Nearly instant on modern RTX cards, fairly usable even on Ryzen 6800U handhelds. https://huggingface.co/huihui-ai/Huihui-gemma-4-12B-it-qat-q4_0-unquantized-abliterated-GGUF #AI@GameDEV

Применение коалгебры в проектировании циклов ИИ-агентов

T@kryak_startupAI-инженер
3 мес
Применение коалгебры в проектировании циклов ИИ-агентов

Дайджест AI/ML: Claude Opus 5, FLUX 3 и инцидент с GPT-5.6 Sol

Б@boris_againAI-инженер
3 мес

Релиз POCKET-35B-GGUF: LLM для запуска на смартфонах

Н@GreenNeuralRobotsAI-инженер
3 мес
POCKET-35B-GGUF Модель на 35B параметровна базе Darwin-36B-Opus, которая запускается без GPU на смартфоне! • Поддержка английского и корейского языков • Интеграция с популярными инструментами (Ollama, LM Studio) • Размер модели от 8.2 до 21 ГБ в зависимости от квантизации Демо Коллекция компактных моделей Спасибо @m_franz #gguf #compact #mobile
Релиз POCKET-35B-GGUF: LLM для запуска на смартфонах

Релиз агентной MoE-модели Ling-3.0-flash

Н@GreenNeuralRobotsAI-инженер
3 мес
Ling-3.0-flash Агентная #MoE-модель от InclusionAI. программирование, поиск, исследования, работа с инструментами • 124B параметров, 5,1B активных на токен • контекст до 256 тыс. токенов, расширение до 1 млн • API совместим с OpenAI • по отзывам сопоставима с моделями на 1 трлн параметров бесплатный доступ на OpenRouter до 3 августа 2026 на Kilo - ограниченное время Спасибо @Endorpheen #coding #agent
Релиз агентной MoE-модели Ling-3.0-flash

Как проектировать Agent Skills: архитектура и лучшие практики

J@junior_pmAI-инженер
3 мес
Как проектировать Agent Skills: архитектура и лучшие практики

Вопрос о целесообразности использования LLM-as-a-judge для оценки квантованных моделей

T@extremecodeAI-инженер
3 мес
Шел 3814-ый день погружения в локальный нейрослоп. Одебилел окончательно, начал строить домики из видеокарт, до самих бенчмарков пока не добрался. Эксперты из каментов, стоит ли помимо перплексии делать простой тест на задачках из своего датасета в формате "llm as a judge"? Ну типа, я думаю нахрена на это время тратить, если разница в качестве между одной и той же квантованной моделью будет не такая сильная. Вот между Q8 и Q4 есть видимая разница. А вот между различными версиями Q4 хз как проверять. Короче, сложна.
Вопрос о целесообразности использования LLM-as-a-judge для оценки квантованных моделей

XYZ-Aquila-mini: компактная reasoning-модель для глубокого веб-поиска

3 мес
XYZ-Aquila-mini: компактная reasoning-модель для глубокого веб-поиска

Запрет на использование подагентов в системном промте Opus

С@sergiobulaevAI-инженер
3 мес
Оказывает в системном промте опуса есть прямой запрет на использование подагентов без прямого указания пользователей. А я ведь подозревал. Продолжаю заставлять его делать это. Сергей Булаев AI 🤖 - об AI и не только
Запрет на использование подагентов в системном промте Opus

Как Питер Штайнбергер построил OpenClaw и почему зависимость от одного поставщика модели — главный риск агентов

Питер Штайнбергер, известный как ClawFather, рассказал историю создания OpenClawi — проекта, начавшегося не как «платформа для агентов», а как решение личной проблемы: он хотел отправлять задачи компьютеру с телефона. Первый прототип просто связывал WhatsApp с ноутбуком, но именно тогда агент перестал ощущаться как обычный чат — он получил доступ к реальному компьютеру и начал выполнять действия.

Главный вывод выступления: ценность агента определяется не только моделью, а средой, способной поддерживать его долгую автономную работу — с памятью, инструментами, устойчивостью к смене поставщика моделей и контролируемыми издержками. Ключевая формула Штайнбергера: «Your dependency business model is your business model» — если продукт завязан на одного поставщика модели, он наследует все его цены, ограничения и внезапные изменения политики.

600 тысяч токеновповторная отправка при одном heartbeat после истечения KV-кэша

Полный разбор →

Дайджест материалов DeepSchool за июнь-июль

D@deep_schoolAI-инженер
3 мес

Релиз аудио-модели GigaChat3.1-Audio-10B-A1.8B

Н@GreenNeuralRobotsAI-инженер
3 мес
GigaChat3.1-Audio-10B-A1.8B Аудио LLM для работы с длинными записями (2 часа) * Распознавание речи (ASR) - переводит аудио в текст * Перевод - упомянуты русский и английский * Ответы на вопросы по аудио (QA) * Распознавание эмоций * Временная привязка (temporal grounding). находит в какой части аудио происходит то или иное событие. заявлено 48.3 mIoU на задачах для записей до 2 часов • 10B #MoE декодер, активно 1.8B параметров • энкодер GigaAM Демо #alm #qa #asr #stt #translation #russian

Релиз компактной агентной модели Nanbeige4.2-3B

Н@GreenNeuralRobotsAI-инженер
3 мес
Nanbeige4.2‑3B Компактная агентная модель на 3B параметров, показывает сильные результаты - Превосходит более крупные модели. По бенчмаркам в задачах для агентов (в том числе общих и кодовых), а также в рассуждениях она обходит Qwen3.5‑9B и Gemma4‑12B. - Агентные сценарии. Заточена под работу в роли агента, может планировать шаги, выполнять цепочки действий и взаимодействовать с инструментами. - Подходит для локального использования - 269★ за 1 час HF Квантизации Демо #gguf #agent #compact

Cursor представил Router — автоматический выбор AI-модели под задачу

Cursor добавил в редактор функцию Routeri: систему, которая сама анализирует каждый запрос пользователя и направляет его наиболее подходящей модели, экономя деньги без потери качества. Достаточно включить Auto modei и выбрать приоритет оптимизации — качество, стоимость или баланс.

По данным разработчиков, режим Balance даёт даже прирост качества относительно Opus 4.8 при экономии около 36%, а режим Intelligence достигает результатов Fable 5 high на 60% дешевле. Пока функция доступна только тарифам Teams и Enterprise.

60%дешевле при качестве Fable 5 high (режим Intelligence)
~36%экономия при приросте качества (режим Balance)

Полный разбор →

Оптимизация контента под LLM: основные принципы AEO

И@AImademydayAI-инженер
3 мес

Бенчмарк Anthropic Opus 5 и Opus 5 Fast в агентских задачах

L@llm_under_hoodAI-инженер
3 мес

Эволюция разработки: от написания кода к архитектуре

S@softwareengineervlogAI-инженер
3 мес

Критика агентских систем в разработке

З@yaroslamThinkавтор про «it»
3 мес

Как эффективно промптить LLM для планирования путешествий

M@mashkka_dsAI-инженер
3 мес
Ещё ↓