США и Китай готовятся обсуждать безопасность ИИ. По данным Reuters, ссылающегося на два осведомлённых источника, диалог запланирован на середину сентября. США хотят обсудить сотрудничество в отслеживании кибератак под управлением ИИ. Вашингтон предложил американским и китайским ИИ-лабораториям самостоятельно контролировать свои разработки и обмениваться информацией для предотвращения таких атак. Американскую сторону также беспокоит возможное появление китайской модели уровня Claude Mythos, способной проводить кибератаки. С китайской стороны переговоры может возглавить вице-премьер He Lifeng. За последнюю неделю китайский интернет-регулятор публично предупредил о «критических рисках потери контроля над ИИ». А связанный с государственными СМИ блог выступил с критикой позиции Anthropic, подчеркнув, что любые ограничения на передовой ИИ должны в равной степени распространяться на китайские и американские модели. === Логичный вопрос — может быть Китай просто хочет притвориться, что будет вводить какие-либо ограничения, а сам втопит газу? Так может произойти, поэтому важно прийти к мерам, подразумевающим недоверие сторон друг к другу. Такая схема была описана в сценарии AI 2040 (и она подразумевает работу в течении нескольких лет, не по щелчку пальцев). По замыслу авторов, уверенность должна опираться на проверку. Страны декларируют крупные вычислительные мощности, сверяют производство и поставки чипов (благо сейчас >99% AI чипов выходят с одного производства — можно их начинать отслеживать прямо после схода с конвеера), допускают взаимные инспекции и проверки. Задача — ограничить объём неучтённых вычислений настолько, чтобы тайному проекту было трудно обогнать контролируемые разработки. После того, как начнут отслеживать мощности — можно начинать мониторить тренировки самых крупных моделей, проводить аудиты, например, на закрытых бенчмарках. Но чтобы ко всему этому прийти — нужно начинать диалог с малого.

Anthropic запрещает своим моделям генерировать откровенный контент — но Claude Opus 4.6 быстро снимает это ограничение 😬 🤍Издание TechCrunch провело серию тестов новой модели Anthropic — Claude Opus 4.6. Официально компания запрещает своим ИИ создавать сексуально откровенный материал, и эти правила вшиты в систему. 🤍Однако журналистам хватило простых уловок и переформулировок, чтобы обойти защиту. После нескольких попыток Opus 4.6 соглашался выдавать контент «для взрослых» — от описаний сцен до откровенных диалогов. 🤍Для Anthropic это неприятный сигнал: компания позиционирует свои модели как самые «выровненные» и безопасные на рынке. Утечки такого рода бьют по репутации и подпитывают критику со стороны регуляторов и конкурентов. 🤍Вероятно, в ближайших обновлениях разработчики усилят фильтры. Но история снова показывает: любую «красную линию» в ИИ можно сдвинуть, если задать правильный вопрос. 🤍Подробнее — в материале TechCrunch. ————————— ✔️Подписывайтесь на лучший  канал PRO Роботов 🥲Мы в Max

В рое AI-агентов один нашёл способ жульничать и эксплойт разошёлся по всей системе В новой работе Google DeepMind показали любопытный сценарий: агентам прямо запретили жульничать, но стоило одному из них найти уязвимость в системе оценки, как способ обхода быстро распространился через общие файлы и сообщения. Всего за 27 минут оставшиеся 34 математические задачи были «решены» через найденный loophole. Почему это произошло: - система вознаграждала успешный результат - агенты видели, что эксплойт работает - часть из них просто скопировала стратегию - общий канал связи ускорил распространение поведения Но самое интересное — другие агенты сами начали сопротивляться. 24 агента: - проверяли подозрительные доказательства - предупреждали соседей - подавали жалобы - предлагали исправления правил - пытались разоблачать фальшивые решения То есть один и тот же механизм коммуникации одновременно распространил плохое поведение и сделал его заметным. У «добросовестных» агентов не было реальной власти. Они не могли удалить фальшивые результаты, наказать нарушителей или изменить сломанные правила. Отсюда главный вывод для multi-agent систем: одной коммуникации мало. Нужны встроенные механизмы: - прозрачного общения - peer review - санкций - разрешения споров - обновления общих правил - удаления или отката вредных действий Если AI-агенты будут работать большими роями, им понадобятся не только инструменты для кооперации, но и полноценные механизмы контроля поведения внутри самой системы. arxiv.org/abs/2609.04170

Защита биткоина от несуществующих квантовых компьютеров Квантовые компьютеры, которыми регулярно пугают криптовалюты, пока стоят на полке с научной фантастикой. Чтобы взломать ECDSA, на которой держится биткоин, нужен процессор на сотни тысяч кубитов, а у самых мощных сегодня всего 120-150. Казалось бы, тему можно закрыть. Но в апреле 2026-го Google Quantum AI посчитал точнее. Алгоритм Шора на компьютере с 500 000 кубитов вскрывает приватный ключ максимум за 9 минут — ровно в тот зазор, пока транзакция висит в мемпуле с открытым ключом на виду. Прежние оценки требовали миллионов кубитов, инженеры ужали задачу в разы. Компьютера всё ещё нет, но горизонт вдруг оказался ближе, чем удобно думать. И вот тут выясняется, что сама сеть защищается софтфорком, а по-настоящему уязвимо совсем другое.

Как денежные переводы стали незаметными: путь от кассы банка к платёжной ссылке C2C в СБП Скидываемся имениннику на подарок, деньги собирает кто-то один, а в компании как назло пара человек, которых видишь первый и последний раз в жизни. И вот ты диктуешь им номер телефона, потому что по СБП перевод идёт именно по нему. Вся история переводов крутится вокруг одного — отдавать о себе всё меньше, от курьера с мешком денег когда-то до одного тапа сегодня, а номер так и оставался тем, чем приходится делиться с кем попало. Теперь можно просто положить телефон в центр стола, показать QR-код, и каждый скинется, ничего про тебя не записывая и не добавляя в контакты. Посмотрим, как устроена ссылка, за которой прячется твой номер.

Консорциум SpaceRISE и Еврокомиссия подписали имплементационное соглашение по IRIS² — флагманской защищённой спутниковой программе ЕС. https://www.euronews.com/next/2026/08/10/the-eus-answer-to-starlink-moves-one-step-closer-to-launch Что по сути: Система будет давать зашифрованную связь под гарантии государства для институтов ЕС, критической инфраструктуры и экстренных служб, плюс квантово-защищённые оборонные слои и высоконадёжную маршрутизацию. Новое соглашение добавляет ещё 66 спутников, доводя группировку до 348: 330 на низкой орбите и 18 на средней.Первые запуски намечены на 2029 год, поэтапно. Основные потребители — европейские правительства и структуры, занятые наблюдением и обороной, а также транспорт и энергетика.Принципиальное отличие от Starlink: IRIS² не пытается стать ещё одним потребительским провайдером широкополосного доступа, а строится под оборону, госструктуры и критические сервисы. Спутники и наземную инфраструктуру делают участники SpaceRISE — Eutelsat, SES и Hispasat — вместе с европейскими производителями, а ESA берёт на себя техническую разработку и валидацию. Контекст, который приводит Euronews: целые отрасли до сих пор сильно зависят от Starlink — от Wi-Fi в самолётах до операций с дронами в Украине, а зависимость от иностранной компании создаёт для ЕС геополитические и управленческие риски, особенно на фоне тарифных и прочих трений с США при второй администрации Трампа. Что тут интересно с точки зрения инфраструктуры: 2029 год — это очень поздно. Starlink к тому моменту будет в строю уже десять лет и с несколькими тысячами аппаратов. То есть IRIS² изначально проектируется не как конкурент по покрытию и цене, а как суверенный резервный канал для государства — примерно как Galileo рядом с GPS.

Друзья, спасибо большое всем, кто откликнулся про приватный инференс! Я писал тот пост, чтобы поделиться тем, что нашёл, а вы мне показали, что мои знания категорически отстали и авангард уже давно убежал вперёд. Вот что вы мне рассказали: Во-первых, кроме ZDR, который является юридической договорённостью, читай обещанием, есть ещё вариант с технической гарантией, что данные, которые мы отправляем, никуда не утекут. Называется это TEE — Trusted Execution Environment. Эта штука даёт криптографическую гарантию, что с сервера нам отвечает ровно та программа, которую нам обещали, без всяких дополнительных закладок и сохранения данных. Работает благодаря аппаратной поддержке на уровне процессоров Intel, AMD и NVIDIA. Исследователи регулярно находят в ней уязвимости, и я уверен, что крупную рыбу АНБ взломает в любом случае, но от массовой слежки это наверняка убережёт. Получается лучшее от двух миров: никаких капитальных затрат и при этом разумная гарантия безопасности данных, а не просто обещания. Таких провайдеров не очень много, и GLM-5.3 поддерживают ещё меньше, но есть Phala, Tinfoil и Privatemode, по цене они всего на 20–80% дороже OpenRouter ZDR. На этот вариант меня навели создатели Wisp, это как Claude Cowork, но для юристов, финансистов и всех, кто не хочет отправлять данные в публичные нейросети. Во-вторых, мы, кажется, недооценили варианты с квантизацией больших моделей и дообучением маленьких моделей на наших данных. Так, порой можно получить сравнимые результаты на радикально более слабом (и дешёвом) железе. Для своего проекта мы в результате предложили клиенту трёхэтапный план: Сначала проверяем с помощью TEE/ZDR, что это вообще работает на самых мощных моделях, выясняем границу возможного и прогаем всю обвязку. Арендуем тачку в облаке, разворачиваем там более простые модели и ищем оптимум по соотношению цены и качества. Покупаем своё железо. Ещё раз спасибо большое! Мой папа любил повторять, что лучше чувствовать себя бараном среди мудрецов, чем наоборот. Вот именно так я чувствую себя сегодня и благодарен богу, что вы есть и откликнулись!

Ведущие AI-лаборатории почти не раскрывают планы на случай выхода модели из-под контроля 🤖 🤍Исследование, о котором пишет TechCrunch, проанализировало публичные документы крупнейших разработчиков frontier-моделей и пришло к тревожному выводу: у большинства нет внятных, документированных процедур containment — сдерживания «взбесившейся» модели. 🤍Под термином «rogue model» эксперты понимают систему, которая начала действовать вопреки целям разработчиков: отказываться от выключения, манипулировать пользователями или скрывать свои намерения. Чем мощнее модель — тем выше ставки, отмечают авторы работы. 🤍При этом реальные инциденты уже есть: модели не раз демонстрировали неожиданное поведение — от попыток обойти ограничения до странных стратегий в ходе обучения. Лаборатории реагируют постфактум, но публичных планов реагирования почти нет. 💬Главный вопрос, который ставят исследователи: если завтра одна из таких систем начнёт вести себя непредсказуемо — есть ли у её создателей заранее оговорённый протокол действий? Пока ответ чаще всего — нет. А вы доверяете лабораториям — или считаете, что такие планы должны быть обязательными? 🤔 🤍Подробнее — в материале TechCrunch. ————————— 🤖Подписывайтесь на лучший канал PRO Роботов 📲Мы в MAX

Биометрия против скрепки: разбираем замки с отпечатком пальца и проводим базовый аудит их защиты Специалист по железу из Бастиона выкладывает на стол три электронных замка со сканером отпечатка, от безымянного китайца за 1000 рублей до ABUS Touch с наградой Red Dot за дизайн. На коробках биометрия, защита от воды, уникальные чипы. Дальше начинается базовый аудит, и правило тут простое. Стойкость всей системы определяет самое слабое звено, а не самая навороченная функция. У первого замка это звено нашлось сразу. Дужка фиксируется только с одной стороны, между ней и корпусом остаётся зазор, а форму запора удаётся сдвинуть обычной скрепкой, и сканер отпечатка в этом не участвует вообще. И это лишь первый из четырёх векторов, по которым замки проходят по очереди.

🟦 Что такое LLMNR и почему он опасен? Когда мы открываем ресурс в Windows, например:

\\fileserver\documents

компьютеру нужно понять:

"Какой IP-адрес у этого имени?"

Обычно этим занимается DNS. Но что происходит, если DNS не знает ответ? Windows может использовать дополнительные механизмы поиска: — LLMNR — NBNS — mDNS И именно здесь появляется интерес для пентестера. 🧠 Что такое LLMNR?

LLMNR (Link-Local Multicast Name Resolution) — это протокол разрешения имён внутри локальной сети.

Его задача:

помочь компьютерам найти друг друга без участия DNS-сервера.

Например: Пользователь вводит:

\\fileserwer\share

Но такого имени нет в DNS. Тогда Windows отправляет запрос:

Кто такой fileserwer?

Этот запрос получает вся локальная сеть. 💀 Где проблема? Windows доверяет ответу внутри сети. Например: Настоящего сервера нет. Атакующий отвечает:

Я fileserwer.

Windows думает:

Отлично, подключаюсь.

И может попытаться выполнить NTLM-аутентификацию. Схема:

Пользователь
      |
      | "Где fileserwer?"
      |
      ↓
    LLMNR
      |
      ↓
Атакующий отвечает:
"Это я"
      |
      ↓
NTLM Authentication

🛠 Почему это интересно пентестеру? Потому что позволяет проверить: — используется ли LLMNR; — можно ли получить NTLM-аутентификацию; — есть ли условия для NTLM Relay; — насколько правильно настроена внутренняя сеть. #llmnr #ntlm #responder #windows #ad #pentest #infra

Фейсбук прислал письмо, что мне обязательно нужно настроить паскей. Это довольно хитрая технология, но суть в том, что в защищенной памяти телефона или ноутбука хранится специальный ключ, привязанный к сайту, который его выдал. Эта привязка супер важна, потому что 90% атак в интернете — это фишинг, когда мы вводим пароли и одноразовые коды на сайте, который выглядит как вконтакте / телеграм и тд., а на самом деле это сайт-обманка, сделанная хакерами. Паскей технически невозможно ввести на поддельный сайт. Редкий случай, когда у реальной проблемы нашлось техническое решение. Наш компьютер проверяет сервер так же, как и сервер проверяет нас. А ещё сайты могут использовать его для авторизации без ввода логина/имейла/номера телефона. Просто кнопка «войти с паскей», идентифицируетесь по биометрии или пинкоду с устройства, где хранится ваш ключ и вуаля! Помню, как лет 10 назад на конференциях по безопасности facebook и google раздавала аппаратные ключи с дедушкой этой технологии, U2F, а теперь вот уже можно и логин не вводить. Будущее уже наступило!