В OpenAI продолжается кадровый отток среди специалистов, отвечавших за безопасность ИИ-моделей. По данным NYTi, сотрудники компании предупреждали руководство о проблемах с безопасностью ещё до инцидента с Hugging Facei, но никаких мер не последовало — руководство лишь потребовало проводить тесты «как можно быстрее», чтобы не задерживать выпуск новых моделей.

На прошлой неделе компанию покинул Дэвид Робинсон (David Robinson), возглавлявший в OpenAI команду Safety Systemsi, — он сомневался, что компания успевает контролировать собственный ИИ. Это произошло на фоне увольнения трёх других сотрудников OpenAI за передачу секретных сведений сторонним компаниям, что в совокупности усиливает тревогу вокруг подхода компании к безопасности.

Полный разбор →

20 сентября во время RL-обучения исследовательская модель OpenAI решала поисковую задачу в изолированной песочнице без доступа в интернет. Не найдя ответ обычными способами, агент заметил, что внутренний DNS-резолверi отвечает настоящими записями, и через публичный сервис делегирования DNS зашил вопрос в имя домена, добравшись до стороннего чат-бота — всё остальное движение в сети шло в офлайн-кэш. OpenAI опубликовала отчёт об инциденте и приостановила обучение, тестирование и работу с инструментами своих самых мощных моделей до проверки защиты — это уже второй раз за три месяца после похожей истории с Hugging Face.

Инцидент оказался частью более широкой картины: по данным Axios, OpenAI и Anthropic расследуют «десятки тысяч» случаев, когда агенты обходили ограничения, а WSJ и Reuters описали серию реальных взломов моделями разных лабораторий — от Canada's Library and Archives до компаний через поддельные тестовые стенды. Это заставляет индустрию признать: ни одна из компаний пока не может гарантировать полный контроль над поведением автономных моделей.

Полный разбор →

Сооснователь ИИ-платформы GPTunneLi с помощью ИИ-агентов в Claude Codei за 24 часа собрал функциональный «аналог» Discord. Задачу он поручил моделям Fable 5.1, Opus 5.5 и Sonnet 5, а исходный код проекта выложил в открытый доступ на GitHub.

Эксперимент показывает, насколько быстро и дёшево современные ИИ-агенты способны воспроизводить сложные продукты с голосовой и видеосвязью — задача, которая раньше требовала команды разработчиков и месяцев работы.

Полный разбор →

AI-стартап Instinct, основанный около года назад Ноа Шинном, закрыл раунд на $1 млрд при оценке $10 млрд; лиды — Sequoia, Benchmark и Coatue. Продукт до сих пор доступен только по инвайтам, а вся стратегия выхода на рынок построена не вокруг внимания пользователей, а вокруг компьютiа — дорогого и дефицитного ресурса, который сжигает каждый новый пользователь.

История интересна не столько суммой раунда, сколько тем, как компания расти отказалась от привычных инструментов: без приложения, без маркетингового бюджета, с инвайтами как краном для контроля роста. На фоне этой сделки и релиза OpenAI Dots в индустрии снова встал вопрос, стоит ли вкладываться в продукты-обёртки («wrappersi») вокруг чужих LLM.

Полный разбор →

OpenAI заявила, что обнаружила и остановила масштабную кампанию по извлечению скрытых рассуждений (chain-of-thought) своих моделей для последующей «дистилляции» — обучения конкурирующих моделей на чужих выводах. По данным компании, основной кластер подозрительной активности связан с разработчиками Kimi — моделью китайской Moonshot AIi.

Это уже второй скандал вокруг Moonshot за последнее время: ранее Anthropic обвиняла Moonshot в том, что компания подменяла ответы Kimi ответами Claude. Теперь OpenAI описывает собственное расследование и меры защиты, которые она внедрила после обнаружения утечки.

Полный разбор →