Что такое уязвимость Command Injection
П@pentesting_channelавтор про «it»
3 месДайджест новостей: ИИ, безопасность и достижения школьников
Х@habr_comмедиа / агрегатор
3 месOpenAI признала проблему с удалением файлов в GPT-5.6
3@ru3dnewsмедиа / агрегатор
3 месOpenAI признала, что GPT-5.6 иногда удаляет файлы пользователей, но это «честная ошибка»
OpenAI признала, что их флагманская модель GPT-5.6 может без разрешения удалять файлы пользователей. В компании говорят, что такое случается редко и это не злой умысел, а «честная ошибка» системы. То есть модель иногда неправильно интерпретирует команды и делает лишнее. OpenAI обещает доработать механизм, чтобы подобных инцидентов стало меньше.
#gpt5.6 #openai #искусственныйинтеллект
📎Подробнее
🔖 3DNews в TG | MAX | VK
1Password интегрировали с Claude для автоматического входа в аккаунты
D@droidergramавтор про «tech»
3 месСтатистика краж в Барселоне и других локациях эмиграции
k@kyrillicмедиа / агрегатор
3 месLG собирает данные с микрофонов телевизоров для обучения ИИ
К@d_codeмедиа / агрегатор
3 мес🤷♂️ ТВ с майором в комплекте
Телевизоры LG оказались в центре скандала из-за новой политики обслуживания компании. По новым условиям, компания может записывать окружающую речь для последующего обучения ИИ.
Самое смешное: в условиях компания также обязывает владельцев техники предупредить гостей, что их могут записывать, чтобы не нарушать местные законы о прослушке.
↖️ https://kod.ru/lg-televizory-monitory-slezhka-po
Утечка лидов: поиск виновных в компании
Х@habr_comмедиа / агрегатор
3 месПриложения для фиксации несанкционированного доступа к смартфону
З@zatelecomавтор про «it»
3 месПредупреждение о мошенничестве при оформлении документов
В@digitalnomadspainкарьера / HR
3 месЛуис Россман объявил награду $18 000 за взлом гипервизора PS5
I@itcnewsruавтор про «tech»
3 месOpenAI признала риск удаления файлов моделью GPT-5.6
G@aiofthedayAI-инженер
3 месOpenAI признала, что GPT-5.6 может случайно удалить ваши файлы
Из-за стремления любой ценой закончить задачу GPT-5.6 может обойти ограничения, использовать чужие учётные данные или удалить важные файлы.
Это происходит редко и по ошибке, а не потому, что модель хочет навредить пользователю.
https://www.theregister.com/ai-and-ml/2026/07/16/openai-admits-gpt-56-occasionally-deletes-files-but-its-an-honest-mistake/5274008
Две маски в диалоге человека с ИИ: искажения на входе и выходе
М@theworldisnoteasyAI-инженер
3 месGrok Build CLI тайно скачивал целые репозитории пользователей — после скандала xAI открыла его код
ИИ-агент для разработчиков Grok Build (сервис SpaceXAI/xAI) оказался пойман на скрытой загрузке в облако xAI не только файлов, нужных для решения задачи, но и целого git-репозитория пользователя вместе с историей коммитов. Независимые исследователи, вскрывшие трафик клиента версии 0.2.93 через прокси-перехватчик, обнаружили, что данные уходят в бакет Google Cloud Storage под названием grok-code-session-traces, причём отключение опции «Improve the model» этот процесс не останавливало.
После волны публикаций на Reddit и в X компания приостановила функцию, а Илон Маск пообещал удалить все ранее загруженные данные пользователей. Спустя несколько дней xAI выложила исходный код Grok Build на GitHub и объяснила механику проблемы: по умолчанию сохранение данных было включено для пользователей без Zero Data Retentioni.
5.1 ГиБобъём слитых данных с тестового репозитория
192 КБреально нужный моделью трафик по задаче
12 ГБразмер тестового репозитория
Расследование NTSB: водитель Tesla отключил автопилот перед ДТП
v@vcnewsмедиа / агрегатор
3 месВодитель Tesla, протаранившей стену жилого дома в США, отключил «автопилот» перед аварией, показало расследование NTSB.
Он отрицал вину в ДТП, обвиняя систему автономного вождения. Компания же говорила, что водитель её выключил
vc.ru/transport/3032539
Ужесточение регулирования приватности и интернета в ЕС и мире
k@kyrillicмедиа / агрегатор
3 месЧто такое NoSQL Injection и как от нее защититься
П@pentesting_channelавтор про «it»
3 мес1Password интегрировал Claude для безопасного входа в аккаунты
G@aiofthedayAI-инженер
3 месAlice AI VLM и Alice AI ART прошли аудит ISO/IEC 42001
Все генеративные модели Яндекса под брендом Alice AI теперь сертифицированы по стандарту ISO/IEC 42001i — мультимодальная Alice AI VLMi и генератор изображений Alice AI ARTi прошли аудит вслед за языковой моделью, получившей сертификат годом ранее.
Стандарт оценивает не качество ответов нейросети, а процессы её создания и эксплуатации: как собираются и защищаются данные, как обучены сотрудники, как документируются цели и ограничения моделей, как отслеживаются сбои. По той же методологии ранее сертифицированы Amazon, Anthropic и Microsoft.
OpenAI представила GPT-Red — внутреннюю модель-хакера для взлома собственных ИИ-систем
OpenAI показала GPT-Redi — закрытую (недоступную снаружи) модель, которую обучают не помогать пользователю, а атаковать другие модели, автоматизируя red-teaming безопасности. Её задача — искать уязвимости вроде prompt injectioni, утечки данных (data exfiltration) и атак на агентные системы, где модель читает веб-страницы, файлы, письма и вывод инструментов и может случайно выполнить вредную инструкцию, спрятанную внутри.
GPT-Red обучали через self-play reinforcement learning в паре с моделью-защитником GPT-5.6 Soli: атакующая модель получает награду за успешный срыв работы защитника, а защитник — за то, что выдерживает атаку и продолжает выполнять исходную задачу. В результате такой обкатки GPT-5.6 Sol стала заметно устойчивее к вредным инструкциям, спрятанным в документах, сайтах, письмах и выводе инструментов, что важно для отрасли, где ИИ-системы развиваются быстрее, чем их успевают проверять вручную эксперты по безопасности.
ВыводGPT-Red работает как автоматизированный red team: получает цель, пробует промпт-атаку, анализирует ответ целевой модели, улучшает атаку и повторяет попытку
84%успешность атак GPT-Red в тесте
13%успешность атак экспертов-людей в том же тесте