ИИ

Автоматизация поиска контента с помощью AI-агента

П@badTechProjectкарьера / HR
2 дн
Мои подписчики часто спрашивают: «А как ты находишь все эти классные статьи»? Никто не спрашивает! И раз уж вам интересно, всем пофиг, то в chatGPT есть функция «дейли/викли обзоров», просто попросите его и все. У меня чуть сложнее: я сделал отдельного агента, который до обучается по моим ответам и каждое утро присылает мне на почту списочек с новыми статьями и «важными твитами уважаемых в индустрии людей».

Опыт использования браузера Comet от Perplexity: почему я возвращаюсь на Chrome

N@NGI_ruAI-инженер
2 дн

Обзор ключевых трендов и проблем в развитии GenAI

E@ProductsAndStartupsAI-инженер
2 дн

Вышел бесплатный видеоредактор Palmier Pro с ИИ-агентами

N@notboring_techAI-инженер
2 дн

Исследование Anthropic: проблемы координации в мультиагентных системах

Э@etechleadAI-инженер
2 дн

MAS vs SAS: проблемы координации и конфликтов ИИ-агентов

Э@etechleadAI-инженер
2 дн

Перенос KV-кэша между разными LLM: независимая проверка идеи NVIDIA (Cache-2-Cache)

NVIDIA опубликовала статью о переносе KV-кэшiа между разными моделями: маленькая модель делает префилл (читает промпт), большая отвечает, используя её кэш через линейный маппинг — без повторного прогона промпта дорогой моделью. Идея развивает более раннюю концепцию Cache-2-Cache, где обучаемый fuser-модуль передавал в KV-кэш target-модели знания из source-модели; NVIDIA предложила упрощение — обучаемый (в большинстве случаев линейный) проектор, подбирающий наиболее полезные слои source-модели для target-модели.

У статьи NVIDIA не было ни кода, ни анонса — только цифры на 8x H100. Автор одного из телеграм-каналов решил проверить подход на практике: собрал реализацию внутри vLLM на паре Qwen3 0.6B и 1.7B на двух видеокартах 3090 и подтвердил, что метод действительно работает и даёт прирост скорости, хотя и меньший, чем заявляли авторы оригинальной статьи на топовом оборудовании.

ВыводНезависимая реализация: собственный KV-коннектор для vLLM, перенос кэша через /dev/shm, ridge-маппер с решением в замкнутой форме, обучение — 15 минут на датасете FineWeb

x2.22ускорение TTFT в независимом тесте
17-25xзаявленное NVIDIA ускорение на 14B/32B с NVLink
94%сохранённое качество по HellaSwag

Полный разбор →

Интервью с главой Codex/ChatGPT в OpenAI о будущем агентов

D@data_secretsAI-инженер
2 дн

Критика оценок TAM для Anthropic

С@ask_vcавтор про «startups»
2 дн
У меня опять рябит в глазах от постов про Anthropic в моей ленте. На этот раз обсуждают $30Т TAM. Сначала хотел подробный пост написать, почему это bullshit, но потом стало жалко свое время тратить на разъяснение очередной выходки их пиар-отдела. Скорее бы они уже на IPO вышли. Может успокоятся наконец и перестанут насиловать мой мозг. P.S.: Картинка не моя. Нашел в очередном посте в Ln.
Критика оценок TAM для Anthropic

Метод переноса признаков между слоями LLM

К@quant_prune_distillAI-инженер
2 дн

Патель о триллионных инвестициях ИИ-лабораторий и первой прибыли Anthropic

e@cryptoEssayAI-инженер
2 дн

Метод отжига для борьбы с зацикливанием AI-агентов

D@dealerAIAI-инженер
2 дн

Дайджест технологических обновлений: OpenAI, Apple, Google и новые AI-инструменты

И@AImademydayAI-инженер
2 дн

Обзор ИИ-инструментов и ключевых новостей индустрии

И@AImademydayAI-инженер
2 дн

Дайджест ИИ-инструментов и технологических обновлений

И@AImademydayAI-инженер
2 дн
Ещё ↓