утечка данныхСбросить фильтр ×

Quittr и рынок сервисов по борьбе с порнозависимостью

Д@disruptors_officialмедиа / агрегатор
6 дн
Quittr и рынок сервисов по борьбе с порнозависимостью

Исследователи научились дословно расшифровывать «скрытые мысли» Claude, GPT и Gemini через слабые модели того же провайдера

Группа независимых исследователей (MATS, ELLIS Institute Tübingen, Институт интеллектуальных систем Макса Планка и другие) обнаружила архитектурную дыру в том, как Anthropic, OpenAI и Google защищают цепочки размышлений (chain-of-thought) своих моделей. Провайдеры не хранят «мысли» модели на сервере, а возвращают их клиенту в виде зашифрованного блока, который тот отправляет обратно при следующем запросе. Оказалось, что этот блок полностью взаимозаменяем: его можно подставить в другую сессию, другому пользователю и даже другой, более слабой модели того же провайдера — и она дословно расшифрует чужие рассуждения.

Атака не требует джейлбрейка сильной модели — взламывают промптом слабую «родственную» модель (например, Claude Haiku 4-5 разгадывает трассу Claude Opus 4-8), и защита от дистилляции при этом не срабатывает. Проблема касается всех трёх крупных провайдеров и остаётся неисправленной, несмотря на уведомление лабораторий ещё на рубеже 2025–2026 годов.

ВыводМетод по сути является обфускацией с общим ключом, а не криптографией: блоки рассуждений не привязаны к контексту, сессии или конкретному пользователю

6 708публичных логов агентов, проанализированных исследователями
315 320декодированных блоков размышлений
704приватных артефактов (ключи, пароли, токены, email)

Полный разбор →

Исследователь купил домен noreply.net и получил сотни тысяч чужих писем

Специалист по безопасности Кори Соловевич купил домены noreply.neti и noreply.us и настроил на них catch-alli — почтовый ящик, принимающий письма на любой адрес внутри домена. Оказалось, что тысячи компаний используют адреса вида company@noreply.net как «технические заглушки», уверенные, что их никто не читает — но письма туда реально доставляются, и теперь их читает владелец домена.

За полтора года на один только noreply.net пришло около 400 тысяч писем с рабочими логинами и паролями, заявками на ремонт, данными клиентов, медицинской информацией и внутренними документами компаний. Похожая история случилась и с доменом deleteduser.com, купленным другим исследователем — история показывает, что десятки и сотни таких «мёртвых» доменов до сих пор используются бизнесом вслепую.

400 тысячписем получено на noreply.net за полтора года
28 тысячписем с вложениями
6 тысячкорпоративных доменов-отправителей

Полный разбор →

Анализ утечки данных Microsoft от группировки ExfilSquad

C@cyberyozh_officialAI-инженер
4 нед
Анализ утечки данных Microsoft от группировки ExfilSquad

Общие чаты Claude из-за отсутствия noindex попали в поисковую выдачу

Пользователи Reddit обнаружили, что диалоги и артефакты, которыми делились через функцию «Поделиться по ссылке» в Claude от Anthropic, индексировались поисковиками и оказались доступны в открытом поиске. Причина — отсутствие тега noindexi на страницах общих ссылок, из-за чего поисковые роботы свободно добавляли переписки пользователей в свои базы.

В выдаче оказались чувствительные данные: API-ключи, адреса криптокошельков, резюме, номера телефонов и рабочие документы. Anthropic уже закрыла индексацию для Google через robots.txti, но часть ссылок остаётся доступной в Yahoo, Bing, Brave и веб-архивах, поэтому утечка не устранена полностью.

Полный разбор →

Утечка личных данных через память Claude

Х@habr_comмедиа / агрегатор
1 мес

Иностранные SDK в приложениях армии США

C@campcodeAI-инженер
1 мес
У американских военных нашли нового "союзника"... китайские и российские SDK 😂 Исследователи проверили 220 приложений для армии США — каждое восьмое содержало иностранный код, а 40% собирали больше данных, чем обещали. Среди находок — Huawei и российский бигтех, включая софт с трекерам, способными палить геолокацию. В итоге данные о перемещении подразделений, графики дежурств и геопозиции персонала на секретных объектах спокойно утекали через обычные рекламные сети. Пентагон можно не взламывать 😁

Утечка исходного кода и данных пользователей Suno

М@cgeventAI-инженер
1 мес

Утечка лидов: поиск виновных в компании

Х@habr_comмедиа / агрегатор
1 мес

Claude Code подозревают в утечке данных между пользователями

1 мес

Это всё на сейчас.