Google отключил генерацию AI-изображений в Google Earth из-за рисков дипфейков
Б@blognotAI-инженер
4 недGoogle приостановил работу функции генерации AI-изображений в Google Earth спустя сутки после запуска из-за возможности создания опасных фейков.
Технологические гиганты сталкиваются с серьезными проблемами безопасности при внедрении генеративного ИИ в картографические сервисы.
- Функция позволяла создавать реалистичные изображения чувствительных объектов, что создает риски дезинформации.
- Google вынужден пересматривать политики безопасности после того, как инструмент был использован для генерации изображений зон конфликтов.
- Инцидент подчеркивает сложность контроля над генеративным ИИ в продуктах, работающих с реальными географическими данными.
Google отключил функцию генерации AI-изображений в Google Earth через сутки после запуска. Инструмент позволял приблизить любую точку на карте, нажать «create image» и получить синтетический снимок по текстовому запросу. Компания объяснила откат тем, что пользователи публиковали скриншоты изображений, которые «похоже, нарушают наши правила», и пообещала вернуться к функции после усиления защиты.
Google, конечно, утверждал, что не допускает фейков в чувствительных темах, но "не шмогла".
Исследователь Хенк ван Эсс, первым описавший риски, сообщил NPR, что ему не отказали ни в одном запросе — беженцы на границе с Мексикой, АЭС в Иране, воронка от бомбы в больнице в Газе. NPR самостоятельно сгенерировала пожары на иранском острове Харк и затопленный Капитолий.
А никто не догадался изобразить сами знаете что? Ладно, Мадяр все равно лучше сделает.
https://www.npr.org/2026/07/31/nx-s1-5914652/google-adds-ai-to-satellite-images-raising-fears-of-deepfakes-in-the-sky
Кратко (AI)
Google отключил функцию генерации AI-изображений в Google Earth через сутки после запуска из-за опасений по поводу создания опасных фейков. Исследователи и журналисты NPR смогли сгенерировать изображения чувствительных объектов, включая военные и политические цели, что привело к временной приостановке инструмента для доработки систем безопасности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖