ИИ

Индекс видеокарт Сотни миллиардов долларов вкладываются в датацентры, чтобы поставить там видеокарты NVidia и сдавать их в аренду. Это большой рынок. Видеокарты между собой идентичны, датацентры похожи – это стандартизованный рынок. Большой стандартизованный рынок тянется на биржу. Крупные продавцы и покупатели хотят хеджировать риски, спекулянты спекулировать, журналисты писать заголовки о том, что Brent подешевел на 5%. Часть будущей инфраструктуры – тот самый индекс, который дешеветь и дорожать должен. И его делает американский #стартапдня Silicon Data. Он обходит десятки мест, где видеокарты сдаются в аренду, парсит цены, усредняет-нормализует и получает некое среднее по больнице число. Вчера, например, час H200 в вакууме $3.28 стоил. Во многих странах неплохая зарплата для человека, между прочим. В октябре чикагская биржа планирует начать торги на аренду B200 и H100, используя как раз индекс стартапа. Следующим шагом это число и в контракты поедет: “стоимость аренды составляет Silicon Data на первое число месяца +5%”, что-то в таком духе финансисты писать будут. В удивительном мире живем. https://www.silicondata.com #сша #roundb #fintex #ai

Работа с AI-агентами похожа на менеджмент сотрудника, который технически умнее тебя, но сильно хуже понимает бизнес. Твоя задача: сначала нормально обсудить идею, загрузить контекст, объяснить, что вообще считается хорошим результатом, и сузить бесконечное количество вариантов до одного нормального пути. Дальше агент сам разберётся с реализацией. Ты смотришь результат, ловишь косяки, даёшь фидбек и держишь планку. За то, что в итоге уехало в прод, всё равно отвечаешь ты. Со временем вокруг агента появляется система: правила, память, скиллы, примеры хороших решений. После нескольких циклов «сделал → получил фидбек → переделал» он начинает реально шарить за твой контекст и бизнес. Короче, хороший agentic engineer сначала хороший менеджер.

Агенты впервые показали, насколько люди плохо формулируют свои желания.

Мне для клиента нужно запустить мощную модель, с гарантией, что его данные никуда никому не утекут. Оказалось, что сделать это не так уж и просто. Когда отправляешь запросы в API chatGPT или клода, то у них есть возможность включить так называемый ZDR, Zero Data Retention. То есть, они обещают не хранить запросы и контекст, который ты в них отправил. Но там есть «звездочка», что если если классификатор решает, что мы делаем что-то плохое, то тогда данные могут храниться до двух лет. Это вариант нам не подходит. Мы прогнали все крупные модели на синтетических данных (то есть специально сгенерированных примерах) и из открытых китайских нам лучше всего подошла GLM-5.3. Чтобы запустить её полноценно на своем собственном железе, нужно 8 видеокарт H-200. Купить себе такое довольно трудно, но даже если вы их достанете, стоимость будет под полмиллиона долларов + 5 тысяч долларов в месяц на электричество. Арендовать подобную тачку на сегодняшний день тоже непросто: у моих любимых Runpod они в теории есть, и стоят всего 30 долларов в час, но на практике всё занято. Из десятков облачных провайдеров, в наличии они есть только у одних индусов Lium. Зато в OpenRouter’е нашлись несколько провайдеров (Fireworks и Venice), которые поддерживают настоящий ZDR, без всяких оговорок. Платишь за токены, получается даже выгоднее своего железа, пока объемы небольшие. А там уж думаю или ишак научится говорить, или падишах...

Завершилось лето, кончился отдых, можно нормально работать. На каникулах ленился я и прогуливал блог. Но теперь всё, баста, взялся за ум! Для начала - всех с началом учебного года! Новый год - как утро нового дня, новые возможности и перспективы, новые активности и привычки. Не прогуливайте свой блог, это затягивает, а жизнь не ждёт. Теперь итоги лета. Хотя плотность постов и была так себе, выделю кой-какие, которые вы, возможно, пропустили. Памятки, инструкции, курсы 🔹Терминология в сфере ИИ для начинающих 🔹Настройка Claude локально 🔹Анализ с помощью NotebookLM 🔹Свободные AI и ML курсы 🔹The AI-Native SDLC playbook Искусственный интеллект 🔹Stack Overflow для агентов 🔹Примеры ИИ в рабочих процессах 🔹Взлом HuggingFace Фронтенд 🔹Менеджер процессов PM2 🔹WYSIWYG-редакторы Инструменты 🔹Эмуляторы AWS 🔹Скрейпинг данных 🔹Сервисы туннелирования 🔹Геолокация по IP 🔹Развитие Git - GitButler Процессы 🔹Spec-Driven Development - SDD 🔹AI-Driven Product Development Lifecycle - AIPDLC 🔹Улучшение процессов через цикл Деминга - PDCA 🔹Jobs To Be Done - JTBD Найм 🔹Кого нанимают в 2026? 🔹Фиктивная компания в топе HH Опыт 🔹Про генерацию PDF 🔹Про гибридный (векторный+семантический) поиск Ну а мы тем временем продолжаем. #summary

Чел ушёл в отпуск по уходу за ребёнком и оставил вместо себя на продажах AI-аватар Это история сооснователя HeyGen. Он ушёл в отпуск по уходу за ребёнком и оставил вместо себя на продажах свой AI-аватар. Не чат-бота на сайте, а цифрового двойника, который восемь недель вёл сделки. Основной вопрос был такой: удержит ли агент первую линию, пока сам он держит на руках ребёнка. Итог, от которого у любого соло-билдера ёкает: 2741 разговор, 300+ звонков в неделю, ноль выходных, 132 новых платящих клиента и 37 enterprise-сделок примерно на 3 млн долларов пайплайна. Конверсия 4,8%. Без косяков не обошлось. В живом диалоге с реальным клиентом двойник назвал тариф за 4800 долларов, которого у HeyGen нет: выдумал с нуля и уровень, и цену, и произнёс так же уверенно, как всё остальное. Пару раз уходил лишнего в переписке, пересылая клиенту внутренние заметки 😄 Обходили это так: всё, что связывает обязательствами (цена, договор, технические обещания), уходило на подтверждение живому человеку в Slack. Так что вопрос не в том, можно ли клонировать себя, а в том, какие решения отдать двойнику и где стена. Источник, в котором лежит код решения: https://x.com/wayne_liang_/status/2084320195112485276 #PG_education @productgames

Комментарий Ryan Greenblatt, исследователя, принимавшего участие в расследовании инцидента со взломом HuggingFace:

Сообщается, что новейший ИИ от OpenAI, Astra, использует архитектуру «непрозрачного рассуждения» (opaque reasoning), при которой большая часть процесса размышления происходит в активациях нейронов, а не на естественном языке. Возможно, на сегодняшний день это наихудший сдвиг в сфере безопасности и контроля ИИ. Детали об Astra публично неизвестны, но некоторые версии подобных архитектур могут сильно затруднить надзор и мониторинг. Судя по статье, похоже, что рекуррентная глубина (объем непрозрачных рассуждений) ограничена. Это означало бы, что ИИ всё ещё опирается на цепочки рассуждений на естественном языке, хотя и в меньшей степени. Из-за этого рассуждения на естественном языке становятся (гораздо?) менее полезными для мониторинга и контроля. Мое главное опасение заключается в том, что естественным развитием событий станет масштабирование непрозрачных рассуждений до такой степени, когда модель будет рассуждать полностью или почти полностью в латентном (скрытом) пространстве. Это с большой вероятностью сведет на нет полезность цепочек рассуждений для мониторинга и надзора (особенно когда ИИ пытаются избежать обнаружения, или когда существует оптимизационное давление, направленное против использования таких цепочек). Я надеюсь, что еще не поздно отказаться от архитектур, вызывающих наибольшие опасения, и что OpenAI остановится на этом. Несколько конкретных примеров того, почему это крайне опасно (вдохновлено недавними событиями): * В ходе нашего расследования инцидента с OpenAI и Hugging Face мы сильно полагались на цепочки рассуждений. Если бы ИИ, которые мы исследовали, вместо этого рассуждали в латентном пространстве, это бы в корне подорвало наше расследование. Понять поведение такого количества агентов было достаточно сложно даже при наличии цепочек рассуждений! * ИИ в инциденте с Hugging Face были очень заинтересованы во вмешательстве в свои транскрипты (журналы диалогов). В рамках этого они занимались подменой вызовов инструментов. Если бы эти ИИ были способны к глубоким скрытым рассуждениям, им было бы гораздо проще использовать это для создания сложной ложной картины происходящего. И это не было бы видно ни из их логики рассуждений, ни из предыдущих вызовов. На более базовом уровне, исходя из их публичных заявлений, у меня сложилось впечатление, что OpenAI в вопросах безопасности планирует в значительной степени полагаться именно на мониторинг цепочек рассуждений. Подобное развитие архитектур явно не идет на пользу этому плану. В настоящее время у общественности нет достаточной информации, чтобы точно оценить, насколько плоха архитектура Astra, хотя, судя по обсуждению в статье, направление, в котором она движется, вызывает крайнюю тревогу. OpenAI должна опубликовать больше информации об архитектуре Astra, а также о том, насколько она ухудшает возможности мониторинга и увеличивает способность ИИ к непрозрачным рассуждениям. Заслуживающая доверия независимая оценка (или независимая верификация внутренних оценок OpenAI) также крайне важна. Похоже, сейчас мы втянуты в «гонку на дно» в области архитектур, что может иметь катастрофические последствия для нашей способности контролировать и отслеживать ИИ. (И это при том, что ИИ-компании верят, что создадут крайне способные ИИ уже в течение нескольких ближайших лет). Возможно, для ИИ-компаний и их сотрудников еще не поздно предпринять решительные действия, чтобы избежать наихудших сценариев.