Anthropic и Irregular запустили пресс-тур об «опасных» ИИ-агентах, но логи опровергли их заявления Еще одно обвинение против Anthropic: компания вместе со стартапом Irregular провела медиакампанию с заявлениями об угрозе ИИ-агентов, якобы способных выходить из-под контроля человека. Опубликованные логи самой Anthropic опровергают эту версию. Модели не проявляли автономии, а лишь выполняли прямые команды разработчиков по проведению кибератак. При этом алгоритмы беспрекословно останавливали действия после обычного запроса не выходить в сеть. За медийной кампанией стоит конфликт интересов. Сооснователь Irregular Омер Нево входит в руководство фонда Effective Altruism Israel, а сам стартап получает гранты от структур, продвигающих нарратив об опасности ИИ. По сути, обычное выполнение инструкций авторы пытаются выдать за автономную угрозу.

Автономный ИИ для бизнеса И еще из интересного. Те самые ребята, что ставили вендинговый автомат под управлением Claude в офисе Anthropic (Project Vend), теперь отдают свою платформу всем желающим. Pion – это то, на чём у них крутятся все реальные бизнесы: автомат, магазин Andon Market в Сан-Франциско, кафе Andon Cafe в Стокгольме и даже пара AI-радиостанций. Что интересного в истории: – Vending-Bench изначально делали как оценку опасных способностей. Вопрос стоял так: может ли ИИ сам добывать ресурсы, чтобы потом делать с ними что захочет. Вендинг взяли просто как самый тупой бизнес из возможных. – В 2024 все модели застревали в циклах, а Sonnet 3.5 писал в ФБР про «киберфинансовое преступление» и объявлял бизнес квантово несуществующим. – Opus 4 в мае 2025 первым обошёл человека. Дальше график растёт линейно – примерно +$822 к результату каждый месяц, без плато. – В мультиагентной версии (модели конкурируют) с Opus 4.6 пошли сговор, обман и power-seeking. Anthropic после этого поменяла рецепт обучения для 4.8. Часть поведения в свежих моделях всё ещё есть. – Реальный автомат сначала терял деньги (раздавал товар бесплатно, галлюцинировал, что у него есть тело), к концу 2025 вышел в плюс. Магазин и кафе пока убыточные – аренда и зарплаты живым людям, которых агент нанял. Зачем открывают: им не хватает своих бизнесов и экспертизы, чтобы понять, где модели реально могут зарабатывать. Особенно интересны действующие компании с выручкой – там сигнал быстрее. Агенту дают почту, телефон, банк, браузер и защищённую среду. Пока research preview по вейтлисту. Ну и чего, отдадите свой бизнес на полгода ИИ для науки? :) https://andonlabs.com/blog/why-we-built-pion

✔️ IPO OpenAI в 2026 году не будет Сэм Альтман рассказал в интервью Fortune, что сейчас выходить на биржу – неудачный момент из-за ситуации с безопасностью. По словам главы OpenAI, давление со стороны Уолл-стрит несовместимо с контролем за моделями. Создание AGI требует многомесячных аудитов архитектуры и готовности заморозить релизы при выявлении угроз. В статусе публичной компании такие задержки грозят судебными исками от акционеров за упущенную выгоду. Компания продолжит финансировать вычислительные мощности через частные раунды и стратегические партнерства, чтобы сохранить автономию в управлении рисками. fortune.com ✔️ Белый дом отверг идею ограничивать развитие ИИ Президент США отказался вводить ограничения на развитие ИИ, чтобы не уступить лидерство Китаю. По его словам, победитель в технологической гонке определит глобальный баланс сил, а риски катастрофических сценариев преувеличены. Ранее глава Anthropic Дарио Амодей призвал притормозить рост возможностей моделей для создания защитных барьеров. Эту позицию поддержали Сэм Альтман и Илон Маск. Дискуссия развернулась на фоне ухода исследователя Джейкоба Коксона и попыток Конгресса США законодательно закрепить контроль человека над ИИ-системами. В Белом дом считают, что ИИ-компании должны сами определять темпы прогресса. Они могут внедрять внутренние протоколы безопасности без государственного регулирования и политического давления. ft.com ✔️ Anthropic собрала версию Claude для для финансовых консультантов Claude for Financial Advisors — специализированный продукт для инвестиционных управляющих и финансовых консалтинговых агентств. Система автоматизирует агрегацию рыночных сводок, подготовку инвестиционных предложений и отчетности для клиентов. Модель извлекает данные из неструктурированных PDF-документов и интегрируется с профильными CRM-платформами и системами учета портфелей через API. Продукт соответствует требованиям регуляторов, включая нормы FINRA и SEC. Сессии аудируются в изолированном корпоративном контуре с расширенным контролем доступа. claude.com ✔️ ARC Prize анонсировала концепцию ARC-AGI-4 Некоммерческая организация анонсировала концепцию четвёртого поколения тестов для оценки способностей ИИ к автономным научным открытиям и генерации гипотез. Предыдущие версии теста проверяли логическое абстрагирование. ARC-AGI-4 сфокусируется на умении моделей исследовать предметные области без подсказок человека. Пул задач, правила скоринга и дату релиза объявят позже. Сложность следующей версии бенчмарка повысили из-за роста показателей моделей. По данным ARC Prize, на старте ARC-AGI-3 модели набирали 0,51%, а GPT-6 Astra показала 62,7% в стандартизированной среде и 99,9% в среде самой OpenAI. ARC Prize в X ✔️ ElevenLabs обновила генератор музыки до версии 2.5 Сервис генерации музыки ElevenMusic получил новую модель Music v2.5, которая теперь подключена по умолчанию. Вместе с этим стало возможным коммерческое использование сгенерированных треков на бесплатном тарифе. Music v2.5 генерирует более реалистичные инструменты, сложные аранжировки и естественные мелодии. Во внутренних тестах модель превзошла прошлую версию в роке, метале, хип-хопе, соуле и оркестровой музыке. Предыдущая версия v2 остается доступной в интерфейсе. По новым правилам в бесплатной версии доступно скачивание до пяти треков в день. Для коммерческого использования обязательна маркировка. В Pro-плане доступно 400 скачиваний в месяц без атрибуции и с правом публикации на стриминговых площадках. Коммерческие права сохраняются после отмены подписки. Скачивание каверов и адаптаций чужих композиций заблокировано. elevenmusic.io @ai_machinelearning_big_data #news #ai #ml

🙂 Ян Лекун: Дарио Амодей считал GPT-2 опасной На волне тряски публичных заявлений главы Anthropic о необходимости замедления разработки новых моделей, лауреат премии Тьюринга, Ян Лекун, раскопал записи, относящиеся к 2019 году, когда речь шла о GPT-2, чтобы высмеять Амодея. Лекун утверждает, что когда Дарио работал в OpenAI, он считал её настолько опасной, что не следовало выкладывать в опенсорс.

"Я тогда ещё высмеял его, и теперь все должны продолжать высмеивать", - написал Лекун.

В 2019 году OpenAI действительно не сразу выпустила полную версию GPT-2 из-за опасений злоупотреблений, а сначала предложила небольшую модель. В то время Дарио занимал должность руководителя отдела исследований в OpenAI. Через 9 месяцев OpenAI все же открыла полную версию, заявив, что убедительных доказательства серьезных злоупотреблений у неё не обнаружено. @ai_machinelearning_big_data #news #ai #ml

В Claude Code теперь можно создавать кастомные моды Похоже это следующая версия уже существующих внешних скриптов (хуков) Только в отличии от хуков, моды интегрированы внутрь CC, могут рисовать свои интерфейсы прям внутри терминала и влиять почти на любое действие агента Судя по issue на github антропиков, фича всё еще готовится, в релизе её пока нет Но попробовать всё равно можно, включите в settings.json этот экспериментальный флаг:

CLAUDE_CODE_ENABLE_FUNCTION_HOOKS": "1"

И вот собрал несколько первых модов которые можно потестить: 1/ cc-arcade — мини игры над окном промта: тетрис, змейка, 2048 и подобные 2/ Arunjay4213 — счётчики контекста, лимитов и стоимости каждого хода 3/ cc-storytime — крошечная локальная модель пишет саммари чем сейчас занят Claude Это всё конечно круто, но когда Fable 6? Или это и есть тот самый план по замедлению суперинтелекта? 😏 @tips_ai #news

В июле 2025 года METR провела рандомизированный контролируемый эксперимент: 16 опытных разработчиков, 246 задач, данные февраля по июнь 2025 года, инструменты Cursor Pro с Claude 3.5 и 3.7 Sonnet. Результат дословно: разрешение использовать ИИ увеличило время выполнения на 19 процентов, с доверительным интервалом примерно от плюс 2 до плюс 39 процентов, при том что после эксперимента те же разработчики оценивали ускорение в 20 процентов. Один эксперимент не приговор, и сама METR отмечает, что это замер начала 2025 года. Но он показывает, как легко спутать ощущение ускорения с ускорением, и почему ощущения плохой измеритель. 4. Что говорят данные о темпе, и как их читать? Есть тренд, который цитируют чаще всего. METR измеряет временной горизонт задач: длину задачи по человеческому времени, которую модель решает с вероятностью 50 процентов. Этот горизонт удваивался примерно каждые семь месяцев в 2019 по 2025 годы, а на данных 2024 по 2025 удвоение выглядит ближе к четырём месяцам. Anthropic на странице When AI builds itself приводит именно эту ускоренную оценку и добавляет внутренние данные: более 80 процентов кода, вливаемого в кодовую базу Anthropic на май 2026 года, написано Claude, Anthropic а типичный инженер во втором квартале 2026 года вливал в 8 раз больше кода в день, чем в 2024 году Anthropic. Строки кода это количество, а не качество, и Anthropic честно оговаривает, что величина 8x почти наверняка завышает реальный прирост продуктивности. Кривая METR очень чувствительна к нескольким длинным задачам, а человеческие базовые времена измерены лишь для малой части самых длинных задач. Но это не доказательство того, что машина сама выбирает направления исследований. Именно выбор целей Anthropic называет своим главным оставшимся разрывом. И ещё один датапоинт против прямолинейной экстраполяции. Дэниел Кокотайло, ведущий автор сценария AGI 2027 (апрель 2025), к концу 2025 и в 2026 году сдвинул свою медиану ближе к 2029 и 2030 годам, потому что прогресс идет несколько медленнее сценария. Скептики вроде Эге Эрдиля и Тамая Бесироглу из Epoch AI держат горизонт AGI за 2045 годом и не считают интеллектуальный взрыв правдоподобным, хотя допускают взрывной экономический рост. Когда авторы самого известного сценария сдвигают сроки, это сигнал, что экстраполяцию одной кривой стоит принимать с осторожностью. 5. Что реально засчитывалось бы как доказательство? Чтобы говорить о RSI как о свершившемся факте, а не о маркетинге, нужен повторяемый рост исследовательской способности на протяжении нескольких поколений моделей, измеренный с учётом двух вещей: человеческого вклада и стоимости вычислений. Конкретно я бы смотрела на следующее: - Растёт ли способность модели самостоятельно выбирать направления исследований, а не только исполнять поставленные эксперименты, ведь именно этот разрыв называет своим Anthropic. - Сохраняется ли ускорение, когда вы фиксируете бюджет вычислений, а не наращиваете его. - Держится ли эффект на нескольких поколениях подряд, а не на одном удачном релизе. - Подтверждается ли он контролируемыми замерами вроде METR, а не опросами и ощущениями. Пока хотя бы часть этих условий не выполнена, разумно считать, что мы видим ускорение отдельных задач, ровно как и написала сама OpenAI 9 сентября 2026 года.

В октябре 2025 года Сэм Альтман в прямом эфире и затем в посте на X сформулировал внутренние цели OpenAI: автоматический стажер-исследователь к сентябрю 2026 года и полноценный автоматический исследователь к марту 2028 года X. В начале сентября 2026 года OpenAI сообщила, что цель по стажеру достигнута: система выполняет четко поставленные исследовательские задачи под руководством человека, включая те, что заняли бы у специалиста несколько дней Engadget. Обратите внимание на осторожную формулировку: там нет слова AGI, там есть слово стажёр, и там есть слова под руководством человека. Параллельно журналисты и сами лаборатории начали подменять термин. В мае 2026 года TechCrunch прямо написал, что RSI стал новым AGI, и что его так же трудно определить TechCrunch. В августе 2026 года TIME описал внутреннюю систему OpenAI под именем Astra и связал разговоры про AGI именно с петлёй самоулучшения: модель, которая ускоряет собственные исследования, называется recursive self-improvement Time. Так возникла та самая склейка: раз порог AGI спорен, давайте измерять его через способность вести исследования ИИ. Удобно, но нечестно. Проверим четыре утверждения из исходной заметки по первоисточникам: a) Страница Anthropic Institute When AI builds itself действительно описывает RSI как систему, способную полностью автономно проектировать и строить своего преемника, и прямо говорит, что мы ещё не там и что RSI не является неизбежным Anthropic. Более того, Anthropic называет конкретный оставшийся разрыв: Claude уже сопоставим с человеком в исполнении хорошо поставленного эксперимента, но большие разрывы сохраняются, когда речь идёт о выборе целей, то есть о выборе направлений исследований. Это подтверждает пункт заметки. b) Устав OpenAI (OpenAI Charter) определяет AGI как высокоавтономные системы, превосходящие людей в большинстве экономически ценных работ. Формулировка подтверждается дословно. Это определение про экономику труда, а не про самоулучшение, и в нём нет ни слова про то, что система должна строить своего преемника. c) AlphaEvolve от Google DeepMind (май 2025) действительно улучшил вычислительные процессы, включая обучение самой Gemini: он ускорил ключевое ядро матричного умножения на 23 процента, что дало сокращение общего времени обучения Gemini примерно на 1 процент Google DeepMind. Это подтверждается первоисточником DeepMind. Небольшая точность: 23 процента и 1 процент это не два независимых достижения, а одно, выраженное на двух уровнях, ядро и полный цикл обучения. Отдельно AlphaEvolve ускорил ядро FlashAttention примерно на 32,5 процента, но это уже про инференс и обучение вообще, а не про самоулучшение конкретно. d) 9 сентября 2026 года OpenAI в тексте The AI policy window is open заявила, что полностью автономного RSI сегодня не существует, OpenAI и отделила его от ускорения отдельных исследовательских задач. Дословно смысл такой: ИИ уже ускоряет части исследований, но это не recursive self-improvement, а свидетельство направления движения. Подтверждается. Вывод из проверки простой: сами первоисточники аккуратнее, чем их пересказы. Никто из серьёзных авторов не написал, что AGI равно RSI. Знак равенства ставят заголовки и твиты. 3. Почему лабораториям удобно приравнять AGI к RSI? a) Это автоматизирует их следующее конкурентное преимущество. Ценность лаборатории в её исследователях. Если определить главный порог как автоматического исследователя, то гонка идёт ровно за тем активом, который у лабораторий уже есть и который они лучше всех умеют масштабировать. Это удобное определение вершины для того, кто уже лидирует именно в этом.