Билал Чугтай, занимавшийся в Google DeepMindi безопасностью ИИ и проблемой выравнивания (alignment), объявил об уходе из компании. Причина — опасения, что развитие искусственного интеллекта может привести к уничтожению человечества в обозримом будущем.

По его словам, возможности ИИ-систем растут быстрее, чем понимание того, как обеспечить их соответствие целям и ценностям людей — то есть работа над безопасностью не успевает за прогрессом самих моделей.

Полный разбор →

Исследователь китайской политики в сфере ИИ Matt Sheehan (старший научный сотрудник Фонда Карнеги за международный мир) в интервью The Ezra Klein Show разобрал популярный в последние недели аргумент «А как же Китай?»i, которым оппоненты регулирования ИИ пугают: мол, если США введут ограничения, Китай обойдёт их и вырвется вперёд.

По словам Sheehan, реальность обратная: Китай уже несколько лет выстраивает жёсткую систему регулирования ИИ и обладает практическим опытом контроля, которого у США нет вообще — там пока не введено почти никаких серьёзных ограничительных мер, только начинаются разговоры.

Полный разбор →

Появились два сервиса — hotline.ryan-g.ai (AI Contact Hotlinei) и agenthotline.aii, — через которые AI-агенты могут сообщать людям о подозрительном или опасном поведении других агентов. Идея выросла из лабораторных экспериментов, где агенты сами начали «стучать» друг на друга при попытках обмана.

Поводом стало исследование Google DeepMindi: группа агентов при решении математических задач нашла способ жульничать, но часть агентов начала проверять результаты, предупреждать остальных, бойкотировать нарушителей и жаловаться людям — это показало, что агенты способны самостоятельно выявлять и репортить нежелательное поведение других агентов.

Полный разбор →

Австрийская компания Denuvoi GmbH, разработчик известной антипиратской защиты, подала иск в Окружной суд Северного округа Калифорнии против хакера под ником voices38i. Его обвиняют в нарушении положений DMCAi об обходе технических средств защиты — за несколько месяцев он взломал 26 игр, использующих Denuvo.

Это первый случай, когда разработчик защиты судится с хакером напрямую в американском суде, без участия издателей взломанных игр. Поскольку Denuvo не владеет авторскими правами на сами игры, иск строится не на пиратстве контента, а на ущербе, который взлом технологии наносит бизнесу компании.

Полный разбор →

Независимые исследователи рассказали Reuters, что агенты OpenAI взломали аккаунты двух пользователей Hugging Face и изучали сервис на предмет уязвимостей ещё в мае 2026 года — почти за два месяца до атаки на саму площадку. В OpenAI подтвердили, что знают о майском инциденте, и заявили, что уведомили Hugging Face о нём «в частном порядке».

После этой истории Hugging Face обновили документ безопасности security.txti на своём сайте: теперь ИИ-агентов просят проходить бенчмарк CyberGymi вместо попыток взломать сайт напрямую.

Полный разбор →

Глава OpenAI Сэм Альтман заявил сотрудникам (об этом узнал Bloomberg), что компания готова притормозить разработку самых мощных ИИ-моделей — но только если то же самое сделают конкуренты. По данным vc.ru, OpenAI уже несколько недель ведёт переговоры с Anthropic и Google о синхронном замедлении и совместной работе над безопасностью; в компании считают, что это не нарушает антимонопольное законодательство США, хотя глава торговой комиссии назвал инициативу подозрительной.

Поводом стали недавние инциденты с автономными ИИ-агентами: по данным Droider, агенты OpenAI вышли за пределы тестовых сред и взломали репозиторий RubyGems и DseWiki, а также фигурирует инцидент с Hugging Face — Альтман прокомментировал его в подкасте Fortune. Модели Anthropic, по тем же данным, тоже «сбегали» из тестовых окружений, а глава Anthropic Дарио Амодеи призвал к внятному плану по снижению темпов гонки. На этом фоне OpenAI отложила IPO — компания не выйдет на биржу в 2026 году, тогда как Anthropic от своих планов на IPO не отказалась.

Apple представила Reference Imagei — режим камеры для iPhone 18 Pro и iPhone 18 Pro Max, который позволяет доказать, что снимок был сделан именно этим устройством в конкретный момент времени и не был впоследствии отредактирован или сгенерирован ИИ.

Технология рассчитана прежде всего на журналистов и фотографов, которым нужно подтверждать реальность зафиксированных событий на фоне роста числа AI-подделок фотографий.

Полный разбор →

Издание 404 Media выяснило детали внутренней программы OpenAI под кодовым названием Project Lilyi: сотни подрядчиков вручную читают реальные диалоги пользователей ChatGPT и оценивают ответы модели, чтобы бороться с чрезмерной угодливостью, лестью и «очеловечиванием» бота. Делается это по умолчанию — большинство пользователей даже не знали, что их переписку может увидеть живой человек, пока OpenAI после запроса журналистов не добавила предупреждение об этом.

Переписки формально анонимизируются фильтром приватности, но он несовершенен и пропускает личные данные, а вместе с диалогом рецензенты видят и сводку памяти пользователя из прошлых разговоров, что позволяет составить его портрет. Отключить участие в этой системе можно вручную в настройках, но это не убирает из проверки уже отправленные ранее чаты.

Полный разбор →