Google отключил генерацию изображений в Google Earth из-за злоупотреблений
C@campcodeAI-инженер
4 недGoogle отключил новую ИИ-функцию в Google Earth спустя сутки после запуска из-за генерации пользователями фейковых катастроф и взрывов.
Этот случай демонстрирует риски безопасности при внедрении генеративного ИИ в публичные сервисы.
- Разработчики сталкиваются с проблемой модерации контента в реальном времени.
- Пользователи склонны использовать инструменты генерации для создания деструктивного или фейкового контента.
- Компании вынуждены ограничивать функциональность продуктов для защиты репутации и безопасности.
Всё плохо: Google выпустил ИИ-фичу, которая не прожила и суток 😐
В Google Earth добавили генерацию изображений. По задумке — это позволило бы смотреть на одно и то же место в разных веках и обстоятельствах. Но пользователи сразу начали создавать фейковые авиакатастрофы, взрывы и природные катаклизмы. Так что Google уже на следующий день функцию просто отключили.
Кто бы мог подумать, что люди будут генерировать всякое 🤷♂️
Кратко (AI)
Google добавил функцию генерации изображений в Google Earth, позволяющую визуализировать локации в разных исторических контекстах. Однако из-за того, что пользователи начали массово создавать изображения катастроф и взрывов, компания была вынуждена отключить функцию на следующий день после релиза.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖