ИИ

Задумался, какой самый полезный AI юзкейс у нас появился за последнее время. И ответ неожиданный - Claude Tag, интеграция Claude в Slack. Штука простая: подключаешь тулы которые есть в организации, у Claude своя память для каждого канала, и опционально можно задать кастомный промпт. Например, у нас есть канал куда падают алерты, когда что-то ломается. Часть из них - false alarms: трафик дернулся, провайдер прилег. Раньше кто-то из команды шел разбираться руками. Сейчас Claude сам проверяет статус-страницы, смотрит последние коммиты и за секунды говорит - реальная проблема или флейк. Но самое крутое оказалось с фидбеком. У нас есть канал куда из саппорта прилетают жалобы пользователей. Раньше большинство таких тикетов разбирали только когда их накапливалось много. Сейчас Claude берет user_id, идет проверяет логи, смотрит сессии на телефоне во время тьюторинга и сразу определяет - это наш баг или у чувака например были проблемы с интернетом. И если наш баг - сразу драфтит PR и дает разработчику на ревью. За месяц мы так уменьшили количество жалоб в два раза 😮 Я давно хотел такое запилить сам, еще когда настраивал нашу систему саппорта, но все руки не доходили. А тут Anthropic выпустили Claude Tag и оно сразу залетело! Поделитесь, где у вас ИИ-шка давала пользу за последнее время?

Сегодня был в Lighthaven, отеле-пространстве-сообществе (довольно приличном, кстати, не сквот), общался с автором gwern.net — очень интересный мужик, прям красиво рассказывает. И делает интересный проект, с целью дать каждому человеку персональный, не принадлежащий лабам, постоянно обучающийся и управляемый тобой ИИ "ангела". Проект амбициозный, стадия максимально ранняя, но сегодня этого достаточно чтобы поднять жалкие 20-30 млн чисто "на поиграться". Параллельно в том же пространстве проходила конфа на тему алаймента и ИИ безопасности. Средний таймлайн участников такой, что после 2028 вряд ли останется место в экономике, а после 2030 вряд ли останется место для белковой формы жизни. Но там в основном студенты были, и у меня не было времени поговорить с ними и понять детально аргументы. А вообще, одна из главных проблем с ИИ не в том что он умеет или как быстро развивается, а в том, что большинство людей вне индустрии почти не следит и не представляет себе что происходит. Да, можно надышаться копиумом из разряда «если вы читаете этот канал или у вас локальный инференс + оркестрация 500 агентов каждую ночь, то вы входите в топ 1% людей», но реальность такова, что если вы работаете в одной из топ лаб в департаменте, который занимается рисерчем или стратегией, то вряд ли имеете реальное представление или возможность его получить. Пропасть колоссальная, но любая идея из серии выбрать свою любимую маргинальную точку зрения и с пеной у рта её доказывать — заранее провальна. Полезнее же пытаться смотреть на первые принципы, менять свои priors и, конечно, звучать самопротиворечиво для тех, кто не делает то же самое. В реальности логическая цепочка от "GPT взломал Huggingface" до "все и каждый представителей человечества уничтожены" примерно такая же длинная и бессвязная как от "мой кривой и косой промт в ллм не смог мне создать чертеж по госту" до "ии не является главным драйвером экономики".

Запись второй части нашего стрима про сбегающих AI-агентов. Посмотреть на YouTube можно здесь. Таймкоды: 0:00:00 — Приветствие и обсуждение планов на стрим 0:02:13 — Архитектура проекта SECS и схема пайплайна 0:06:42 — Интеграция навыков для кодовых AI-агентов 0:10:00 — Локальный запуск модели Qwen и vLLM 0:18:05 — Ускорение инференса через спекулятивное декодирование 0:28:20 — Воспоминания о культовых играх и компьютерах 0:33:45 — Настройка контекстного окна и параметров модели 0:44:00 — Сравнение видеокарт для инференса нейросетей 0:50:40 — Обсуждение генерации музыки в нейросетях 1:08:05 — Тестирование AI-агента на тестовой виртуальной машине 1:23:45 — Автоматизированный анализ и поиск путей эскалации 1:54:30 — Подведение итогов стрима и завершение трансляции Каналы участников стрима, чтобы подписаться: Павел Рыков Константин Доронин

короче, я постепенно покоряю world of atoms при помощи агентов и это ужасно захватывающее и интересно! не секрет, что агенты обязаны иметь возможность проверять результаты своей работы. агенты без обратной связи - полный ад. и одно дело - твой комп, полностью цифровая среда, где ты можешь обложить приложение тестами вдоль и поперёк, а на крайний случай - агент посмотрит на экран, покликает мышкой, и поймёт что к чему. юнит тесты, интеграционные, e2e, визуальные, что угодно. другое дело - физическое устройство в реальном мире. как организовать автономное тестирование, так, чтобы агент мог всё проверять сам? как проверить, что девайс правда воспроизвел звук? как проверить, что девайс правда моргнул светодиодом правильного цвета? как подать звук так, чтобы микрофон девайса его услышал? это люто интересная инжинерия - создавать циклы обратной связи буквально в физическом мире. когда ты запускаешь ./test.sh full, и у тебя в картонной коробке в шкафу что-то начинает шипеть, пердеть, светиться разными цветами, а в консольке бежит PASS 1, PASS 2, PASS 3, ... :) дополнительный сюр - использовать это как test runner в GitHub CI - тогда это всё шоу происходит на каждый отправленный PR, а дома начинает формироваться маленькая лаборатория с тестовыми стендами для разных устройств. P.S. на видео жутковатый пример того, как выглядит дебаггинг проблемы - девайс стал проигрывать аудио-стримы в 2-3 раза медленнее, чем должен был, из-за чего TTS-голоса стали звучать как демоны из ада. в итоге агент сам нашёл проблему - забивалась RTOS очередь, из-за чего процессору не хватало мощности на realtime playback, и всё тротлилось и тупило (и аудио игралось с замедлением)

На прошлой неделе Coca-Cola опубликовали вакансию с очень красивым описанием и названием — Senior Director, Capability Acceleration (полное описание выложил в комментариях). Это такой фантастический человек, который на пересечении strategy, learning и transformation должен помогать компании building world‑class capabilities that enable our people and our system to grow, adapt, and perform at their best. Так вот, и пример 37signals, и эта вакансия в Coca-Cola, как будто бы показывают, что запрос к менеджменту смещается в сторону enablement-функции. Потому что значительная часть того, что раньше оправдывало существование «контролирующего» менеджмента, постепенно дешевеет. Статусы, распределение задач, координация, отчётность, бюджетирование — всё это AI сделает значительно лучше человека. Но автоматизация этих процессов сама по себе не делает организацию умнее. Наоборот, скорее всего мы вот-вот придём к эпохе автоматизированной бюрократии. Удобной, но не менее бессмысленной. В такой среде конкурентное преимущество будет возникать из способности замечать большие возможности, пересобираться и менять подходы. Не на уровне вдохновляющих заявлений — а на уровне ежедневных практик и процессов. То есть если раньше менеджмент отвечал в первую очередь за то, что люди делают (результаты). Теперь будет отвечать за то, что люди умеют делать (способности). И если попробовать представить, из чего такая enablement-функция могла бы сложиться, то у меня получилось 5 направлений: 1. Способности Кто-то должен понимать, что компания умеет сегодня и что ей понадобится уметь завтра, и держать этот разрыв в поле зрения постоянно. 2. Способы работы Инструменты, методы, подходы, работа с ограничениями. Всё, благодаря чему команда может сделать шаг вперёд. 3. Коммуникация Насколько эффективно устроен обмен контекстом — кто с кем о чём разговаривает, на каких встречах, в каком виде, доходит ли сказанное туда, где от него что-то зависит. 4. Кросс-функциональное взаимодействие Как команды делятся тем, что у них получилось, подключают друг друга к задачам и объединяют экспертизу. 5. Развитие Культура, стандарты, рефлексия, перформанс-ревью, обратная связь, коучинг. То есть функция, которая системно создаёт людям возможность делать значимую работу.

🔥 Kimi K3 на 2,78 ТРИЛЛИОНА параметров запустили на CPU с 8 ГБ RAM. Без GPU, BLAS и фреймворков Проект kimi-k3-in-c реализует inference Kimi K3 практически с нуля на portable C99. Чекпоинт модели занимает 1,56 ТБ, но пик RAM при запуске составил всего 8,24 ГБ. Фокус в MoE и стриминге весов. Из 896 экспертов на токен выбираются только 16, а остальные веса не обязаны постоянно лежать в оперативной памяти. Огромная часть модели читается прямо с диска, поверх этого работает LRU-кэш экспертов. Цена такого трюка очевидна: скорость. При 8 ГБ RAM автор получил около 26,5 секунды на токен, при 64 ГБ уже 19,8 секунды, а на машине с 128+ ГБ, где нужные данные помещаются в память, около 5,6 секунды. Получается любопытная смена ограничения: гигантскую MoE уже можно заставить работать без серверной фермы. Вопрос теперь скорее в том, сколько диска и времени на токен вы готовы отдать за такой inference. github.com/FareedKhan-dev/kimi-k3-in-c #AI #Kimi #LLM #C #LocalAI

​​Talk: breaking into machine learning - recording Пару дне назад я уже писал, что я буду делать доклад для пакистанских студентов. В общем получилось так, что на него зарегистрировалось 450+ человек, несмотря на то, что это был праздник - день независимости. Встреча была в google meets, но там лимит в 100 человек, так что все желащие не влезли. В результате делали трансляцию в linkedin, запись можно посмотреть тут https://www.linkedin.com/events/liveaugust147494045235434594306/ Вопросы были в основном про карьеру - как её начинать, что делать в текущей ситуации с засилием AI, как вкатываться в сферу и так далее. Думаю, скоро напишу блогпост про это, чтобы мысли были не только в записи. Сам доклад шёл 40 минут, потом я ещё 40 минут отвечал на вопросы. #career #ai #datascience

Что с рынком труда в ИТ в 2026: глобально и по регионам Посидела в свежих отчётах и собрала картину по регионам: по продактам, и по ИТ в целом. Спойлер: картина, скорее, позитивная. Глобально. - Рынок продактов на подъёме: 26 900+ открытых PM-ролей, в 2.3 раза больше, чем в 2023. - Главный драйвер AI: 61% вакансий требуют AI-опыта, премия за него 15-30%. - По ИТ в целом та же картина. Единственное, что растёт без оговорок, это всё вокруг AI: у крупных компаний таких вакансий на 50-100% больше, чем год назад. Быстрее всех набирают финтех и security, есть компании, почти удвоившие штат за два года. США. - Найм растёт: вакансии разработчиков за год в плюсе, топ-компании нанимают на 20% больше, чем год назад. - Но рынок жёстко расслоился. AI-продакты получают ~$245k против ~$123k у традиционных PM. В два раза! - География концентрируется: 23% всех открытых PM-ролей в Bay Area. Европа. - Самый противоречивый регион. По разработчикам вакансии выросли только в Британии, Германия и Франция в минусе. Нанимают в основном компании с американскими штабами. - У продактов вакансий больше (+33% г/г), но фактический найм упал на 14%. То есть постят много, нанимают долго и придирчиво. - Своим при этом повышают зарплаты активнее любой другой функции (+5,2%): дешевле удержать, чем искать. - Ориентиры мидла: UK £67k, Германия €71,5k, Нидерланды €70,3k, Франция €63,7k, Испания €54k. Россия. - Рост ниже инфляции. По данным Хабр Карьеры (45 000+ реальных окладов, июль 2026) медиана по ИТ 191к ₽, +4% за полугодие при инфляции 4,5-5,5%. - Продактам не досталось совсем: зарплаты в менеджменте показали ноль роста за год, премия ушла смежным ролям (техподдержка +10%, маркетинг +9%). - Ориентиры: менеджеры в ИТ получают 260к ₽ в Москве, 200к в Питере, 152к в регионах. Индия и Канада самые горячие. Индия +42% г/г по продактам, причём рост тянут не стартапы, а мид-сайз и корпорации. Канада +67% г/г. Удалёнка. Глобально remote-ролей +43% г/г, но США выбиваются: только 7% AI-продактовых ролей там полностью удалённые. В Европе гибрид 2-3 дня в офисе стал дефолтом. Вывод: везде плюс/минус одно с разными акцентами. Рынок награждает специализацию, AI-навыки и senior-опыт. А где не награждает, как в России, там стагнация для всех. Генералистам тяжелее всех, в любом регионе и в любой роли. В следующем посте расскажу, что вижу сама на практике, как обстоят дела у менти и как конвертятся мои отклики. #PG_education

✔️ Mistral обновила OCR-модель до версии 4.1 Главный упор сделали на обработку перегруженных страницы, где текст, изображения и подписи идут плотно и наслаиваются друг на друга. По данным Mistral, модель точнее определяет границы каждого элемента - рамки не съезжают, изображения не наезжают одно в другое по ошибке. На нагруженных технических диаграммах модель реже теряет блоки, а текстовые выноски считывает как самостоятельные объекты, а не сливает в один массив. Отдельно заявлена работа с многоколоночными документами, OCR 4.1 сохраняет исходную структуру страницы и отдает каждую колонку отдельной областью текста. В настроенных процессах тем, кто пользуется моделью, менять ничего не нужно. Алиас mistral-ocr-latest уже переводит существующие интеграции на новую версию. Руками модель можно попробовать в Mistral Studio. @ai_machinelearning_big_data #news #ai #ml