ИИ

По сообщениям, OpenAI нашла новые оптимизации инференса, которые снизили стоимость запуска моделей больше чем в два раза. По данным The Information, инженеры в этом месяце рассказывали коллегам, что эти техники в какой-то момент позволили обслуживать ChatGPT для посетителей без бесплатных или платных аккаунтов всего на нескольких сотнях GPU Nvidia. Точный метод пока не раскрыт. Это может быть квантизация, KV caching, batching, маршрутизация простых запросов на более дешёвые модели или комбинация всех этих подходов. OpenAI закончила Q1 с gross margin 39% и хочет выйти на 52% к концу года. Более дешёвый инференс даёт компании пространство: улучшать маржу, поднимать лимиты ChatGPT или снижать ценовое давление API для разработчиков. Moat OpenAI всё сильнее смещается в сторону инференса и преимущества по стоимости, особенно на фоне Anthropic. https://www.theinformation.com/newsletters/ai-agenda/openai-discovers-new-way-cut-inference-costs-half

Исследователь из Microsoft доказал, что у ИИ нет чувств с помощью козлов из Age of Empires II. Он использовал внутриигровых животных, чтобы сделать простейшую нейросеть — если козёл забежал на дорожку из травы, то бит равен 0. Если на дорожку из камня — бит равен 1 После выполнения операции козлы умирают (🧱), а на выходе появляется новый козёл, который переносит результат уже в следующий элемент схемы. При желании таким образом можно собрать аналог ChatGPT — просто потребуется очень много козлов Но цель не в этом — исследователь хотел показать, что мы зачем-то очеловечиваем ChatGPT и Claude, у которых под капотом практически те же самые козлы 😳

Главное в работе с ИИ ваши данные и Claude вновь об этом напомнил На выходных другу в России закрыли аккаунт Claude. Не за нарушение правил, а просто прилетела проверка, а пройти её из РФ невозможно. Я пошёл искать в чат ИИ энтузиастов, и действительно та же история у нескольких человек: Claude блокирует доступ. Причина системная и Anthropic с 8 июля закрепляет в политике то, что уже работает выборочно, просят паспорт и живое селфи. Один из триггеров - вход из неподдерживаемой страны. Касается это всех тарифов Free, Pro и Max. То есть платишь за Pro, а в любой момент может прилететь запрос на ID, который ты физически не пройдёшь. Будучи в РФ, к этому стоит относиться трезво: рано или поздно доступ к остальным американским моделям может закрыться (NotebookLM/Gemini уже давно это показал). Паниковать тут не из-за чего - это просто вводная, с которой надо жить. Я давно про это пишу: не привязывайся к одному инструменту. Самое ценное это данные. Контекст, база знаний, наработанные промпты/скиллы и инструкции агентов. Если всё это принадлежит тебе, сменить модель не катастрофа. Благо выбор есть, китайские модели за последний год показали, что могут дать достойный отпор фронтиру - несмотря на санкции, дефицит видеокарт и скромные бюджеты. Об одной такой, которая прямо сейчас рвёт чаты, расскажу в следующем посте.

Если вы пользуетесь Claude, может быть пригодятся советы от ИИ-евангелиста Egor Rudometkin. Хаки - в приложенной картинке, общее описание ниже: 1. Установка Claude Desktop (хаки 1–10) ☑️ Скачай десктоп-приложение. Не браузер. ☑️ Создай папку на компе — CLAUDE. ☑️ 4 подпапки: «О себе», «Проект», «Шаблоны», «Output». ☑️ Загрузи anti-AI-промпт — он убивает роботизированный голос. 2. Выбери модель (хаки 11–20) ☑️ Opus 4.6 + Extended Thinking — для сложных задач. ☑️ Sonnet — быстрые правки. Haiku — сканирование файлов. ☑️ Модель решает меньше, чем промпт. ☑️ Плохой промпт на Opus < хороший промпт на Haiku. 3. Промптинг (хаки 21–30) ☑️ Хватит писать длинные промпты. Файлы > промптов. ☑️ Одна задача — один промпт. Одна. Не пять. ☑️ Скажи «НЕ должно звучать как…» — убьёт AI-голос. ☑️ Давай задачу, а не метод. Пусть сам найдёт путь. 4. AskUserQuestion (хаки 31–40) ☑️ «Начни с AskUserQuestion» — в каждом первом промпте. ☑️ Claude соберёт кликабельную форму. Жмёшь — отвечаешь. ☑️ Он сам задаёт правильные вопросы. Ты не думаешь. ☑️ Идёт не туда — скажи. Перестроит. 5. Коннекторы (хаки 41–50) ☑️ Settings → Connectors → Browse → Add. ☑️ Slack, Google Drive, Notion, Gmail. 50+ инструментов. ☑️ Claude читает реальные файлы. Без копипаста. ☑️ Бесплатно на всех планах. 6. Плагины и Skills (хаки 51–60) ☑️ Claude → Customize → Browse → Install. ☑️ Маркетинг, юристы, продажи, аналитика — выбери роль. ☑️ Жми / — мгновенный вызов любой команды. ☑️ Кастомизируй под свою компанию и тон. 7. Claude в Excel (хаки 61–70) ☑️ Поставь «Claude by Anthropic» из Microsoft Marketplace. ☑️ Читает каждый лист. Объясняет формулы по-человечески. ☑️ Кинь PDF — сам вытащит таблицы. ☑️ Никаких макросов. Подсвечивает что трогает. 8. Projects и команды (хаки 71–80) ☑️ Один Project = один deliverable. Не один клиент. ☑️ Загрузи отличный пример — стандарт подтянется автоматом. ☑️ Сначала конвертируй одного человека. Потом масштабируй. ☑️ 15 минут демо. Покажи, не рассказывай. 9. Artifacts (хаки 81–90) ☑️ Графики, дашборды, трекеры — прямо в чате. ☑️ Работают автоматически. ☑️ Превью до экспорта. Правишь вживую. Копируешь. ☑️ Делишься с не-юзерами Claude как HTML. 10. Продвинутый уровень (хаки 91–100) ☑️ Файлы — до 200 строк. Короче — лучше. ☑️ 80% твоего файла — про то, кем ты НЕ являешься. ☑️ Проверяй output. Особенно финансы. ☑️ Claude делает 80% рутины. Ты — оставшиеся 20%. #ai