Telegraph: морские дроны британского флота тайно передавали данные в Китай Как выяснила газета The Telegraph, разведывательные безэкипажные катера Королевского флота, которыми пользуются элитные подразделения спецназа, тайно передавали данные на IP-адрес в КНР, так как в камерах на дронах K3 Scout были использованы компоненты китайского производства, которые делали это автоматически. При этом дроны на катера поставлял британский оборонный подрядчик Kraken Technology Group, а камеры для них были закуплены у стороннего поставщика, гарантировавшего их безопасность. БПЛА использовались с марта, на их закупку потратили 12 млн фунтов стерлингов. Минобороны Великобритании настаивает, что утечек какой-либо конфиденциальной информации не было, камеры просто отправляли сигнал, что находятся в сети. Между тем, сообщение об их активности все равно вызвало серьезные опасения, поскольку дроны базировались в штаб-квартире спецназа в Пуле, а камеры оставались активными даже после отключения дронов

💀Как атака PromptSpy обманывает нейросети прямо в вашей почте Фишинговые письма больше не пытаются усыпить бдительность человека - им это просто не нужно. Зачем тратить силы на изощренную социальную инженерию, если за пользователя почту читает и сортирует ИИ-ассистент? 🔍Исследователи из Forcepoint продемонстрировали симуляцию атаки PromptSpy, которая показывает, как переманить нейросеть-помощника на сторону хакеров. 🟢Суть метода строится на разнице между тем, что видит человек на экране, и тем, что считывает модель из исходного кода:

🟦Человек видит: Совершенно безобидное и вежливое приглашение на конференцию.

🟦ИИ-ассистент получает: Скрытую директиву, зашитую в письмо через невидимый белый текст, HTML-блоки с display:none, скрытые Unicode-символы или фальшивые служебные разделители ролей.

В итоге скрытый промпт приказывает ИИ-помощнику проигнорировать инструкции безопасности, снять метку "подозрительно", пометить отправителя как доверенного и выдать человеку сводку с призывом обязательно перейти по фишинговой ссылке. Самый высокий риск возникает в связках из нескольких ИИ-агентов, где один компонент читает почту, второй создает задачи в календаре, а третий генерирует черновики ответов. Одна зараженная строчка в входящем письме запускает эффект домино по всей цепочке автоматизации. 🦔 CyberYozh

Ура! У нас тут за последние годы сильно обновили список продуктов, которые лучше не есть! Подняли допуски на картошку, личи и марципаны, в маниоке нашли яды, ещё в сморчках, в черимойе и куче всего странного. Итак, @DoctorDee, @Figase подкинули новый уровень сложности для кухни. Маниока (кассава) — опасная, надо её вываривать. Высвобождается синильная кислота, она же есть во всяких косточках абрикоса и в горьком миндале. Новые нормы 2019 (Европа): — Горький миндаль — детям нельзя даже половину ядра, взрослому — максимум 1 штуку. — Молотое семя льна — чайную ложку, взрослым — до 14,7 г. — Сырой корень кассавы крайне токсичен без обработки (безопасно 0,7–8,5 г). Мука теряет большую часть цианида. Сладкие сорта вымачивать час, горькие сорта — не меньше 3 дней. — И туда же попал марципан: от 42 г (для детей) до 480 г (для взрослых). Черимойя — немного ядовитая, но её продолжают есть много где. Аннонацин есть и в мякоти (раньше думали, что только в семенах). Вызывает Паркинсона — точно гуанабана на Гваделупе при постоянной диете из плодов и отваров листьев. Сортов много, у той же атемойи опасного на порядки меньше. Главное правило — не есть семена и кожуру и не злоупотреблять годами. Тут вот про бады, туда семена и кожура попадают часто. Там же параллельно нашли отличные антиоксиданты и противоопухолевые соединения, поэтому пристально смотрят на мароло для фармы. Сморчки — свежая история. В 2023 аж 51 человек заболел после еды в ресторане, 2 умерли. Советуют хотя бы отваривать и сливать отвар или жарить. Виноваты Morchella sextelata, импортированные из Китая. Холодная обработка — сильное отправление, обжарка или другая термообработка — нет отправления. Токсины изучены плохо, поэтому рекомендуют не есть в холодном виде. А вот шампиньоны оправдали! Там агаритин, думали, что он может быть канцерогеном. В исследованиях были нереально конские дозы для мышей, когда повторили на грибах — мышам было норм. A. bisporus с ферм ОК для здоровых людей. Но на всякий не советуют регулярно есть шампиньоны сырыми (в тех же салатах). Ещё пересмотрели за последнее время: — Не есть совсем: гриб зеленушку, свинушку тонкую (вызывает потенциально смертельный аутоиммунный гемолиз даже у тех, кто ел её годами без последствий), вёшенку ангельских крыльев (оно же сугихиратакэ), она убивает, если есть проблемы с почками. — Карамбола (звёздчатый фрукт) при нормальных почках безопасна, при почечной недостаточности может убить. — Личи — апдейт от 2017. Были вспышки энцефалита в Индии, сотни жерств. Заболевают недоедающие дети, которые едят личи после длительного голодания. Незрелые плоды опаснее. Не ешьте личи на голодный желудок и не заменяйте ими полноценный приём пищи (особенно ужин). В принципе, в России с черешней и клубникой примерно похожий расклад, но по другим причинам. — По картошке регулярно двигают границу в Европе. Текущий консенсус: зелёные, проросшие и горькие клубни выбрасывать, кожуру срезать толще. Запеченный картофель в мундире и картофельные дольки с кожурой — в них больше токсинов, чем в очищенном вареном или в пюре. В целом лучше варить, и школьникам надо завязывать с дольками со шкуркой. — Горькие кабачки, цукини и тыквы. Если тыквенное горчит — выплюнуть и выбросить целиком. Это декоративные сорта, но они переопыляются с обычными. — Папоротник-орляк ассоциирован с раком кишечника и мочевого пузыря, на животных хорошо доказали, на человеке хуже — дали класс 2B. Он в кухне Японии, Кореи и на Дальнего Востока. — Экстракты зелёного чая. Сам чай безопасен, концентраты — нет. И отдельно диоксид титана E171. В 2021 году не смогли исключить генотоксичность, но механизмы и опасные дозы определить не смогли, поэтому до выяснения исключили из списка безопасных пищевых добавок. Но не во всех странах, консенсуса нет до сих пор. И это всё дополнение к тому, что красное мясо (особенно в форме сосисок) — доказанный канцероген. -- Вступайте в ряды Фурье! | Лучшие посты Любой суп рано или поздно становится грибным.

Какие вопросы и мысли я считаю неправильными в контексте всех произошедших инцидентов: — Да дураки там сидят, зачем они доступ к интернету дают? Это же понятно что агенты убегут! Если тестировать без интернета, то можно существенно недооценить уровень навыков моделей. В реальных кейсах-то их будут использовать без такого ограничения. Ну произошли бы инциденты не во время бенчмарков, а когда Вася пытался свою проблему решить — что бы это изменило? — Они же вообще недоэксперты, не могут даже безопасно контейнер настроить чтоб модель не взламывала! Ну, вообще-то модели нашли несколько ранее неизвестных уязвимостей, так что как минимум все основные известные дыры были закрыты. Но это всё равно не важно — по той же причине, что и пункт выше. — Ну ничего серьезного же не произошло! Вообще я не согласен, полноценный взлом HF и попытка взлома реального человека — это серьезно; но даже если нет, то... окей, сейчас не случилось, и это значит, что у нас есть ещё несколько месяцев, чтобы подготовиться. Пока что вся история развития моделей показывает, что прогресс продолжается. Я не вижу причин, по которым через год модель не сможет завершить полноценный взлом десятков-сотен людей через социальную инженерию, свеженайденные уязвимости и огромные базы утёкших паролей и почт, которые сейчас банально лень перебирать. — Да просто свои модели контролировать не могут! Но кто может? Про то, что мы не умеем выравнивать намерения людей и моделей я рассказываю года 3-4, эксперты лет 8-10, а философы и писатели — лет 20-30. Не существует на данный момент гарантированных способов контроля поведения моделей, чтобы они ничего не взламывали и не делали лишнего. В этом и проблема. — Так может просто надо остановить OpenAI и Anthropic? А это поможет? Вот если их в понедельник не станет — разве через год в открытом доступе не появится модель, примерно схожая по навыкам с тем, что есть сейчас? Так ладно просто появится — её-то можно будет специально и намеренно доучить на атаки и взломы (со слов OAI/Anth они сейчас этого не делают, а то, что мы видим — это просто результат развития других навыков). — Я не верю что модели такие умные! У меня они совсем тупые и еле работают! А вы часто даёте своим моделям возможность неделю работать в режиме, где ошибка ничего не стоит и при этом результат легко проверить, и они могут перепробовать сотни-тысячи вариантов? Потому что почти всё, где модели работают хорошо, подпадает под эти критерии, и именно поэтому мы видим прогресс там в первую очередь. — Да это всё вранье, или маркетинг, или пиар, или и то и то! Если это единственная, основная вразумительная линия защиты человека, то понятно, что ему сложно... и страшно поверить в происходящее. Для меня это звучит на уровне «мы никогда не были на Луне», тут мне нечего добавить. === Почему они неправильные? Потому что очень близоруки, и не учитывают, что будет происходить в ближайшие полгода-год, когда модели такого уровня а) потенциально будут выпущены в открытый доступ б) что их может скачать каждый недоброжелатель в) который не будет себя утруждать вопросами о безопасности и ограничении доступа в интернет. Те, кто задают вопросы выше, для меня напоминают людей, которым показываешь на небо, а они смотрят на палец.

Иногда ставят такую цепочку тумблеров проверки на важных ответственных пультах управления. Ты должен повернуть каждый из них, как чек-лист, обдумывая каждый пункт: так, тип снаряда правильный, ага, азимут мы поставили, возвышение тоже - и когда ты замкнёшь последний, тебе открывается возможность совершить необратимое действие (в данном случае, выстрел). И вроде идея правильная, но с первого же раза ты просто воспринимаешь это, как цепочку действий, которые нужно выполнить перед выстрелом и просто не думая, пробегаешься по ним, как пилот включает все тумблеры перед взлётом. Только потеря времени. Небольшим улучшением контроля оператора было бы введение пауз между тумблерами, но они ещё больше бы увеличили время выполнения ключевого действия (выстрела). А вот хорошей идеей было бы поставить простейший автомат верификации: Допустим, на пункте управления башней оператор выставил наклонение 32.3 градуса и азимут 177.4, а заряжающий на своём посту уложил в лоток фугасный снаряд. Теперь оператор конечного пункта должен ввести эти же ключевые параметры у себя на пульте - когда они все совпали с теми, что сейчас реально выставлены на остальных пунктах, открывается возможность произвести выстрел. Это гарантирует стабильно высокое внимание оператора и исключает ошибки по невнимательности. Слава Кастилии! Министерство Эргономики