Google отключил ИИ-функцию в Google Earth из-за злоупотреблений
Ч@honestmarketingмедиа / агрегатор
3 недGoogle отключил новую ИИ-функцию в Google Earth после того, как пользователи начали использовать её для создания фейковых изображений катастроф.
Этот случай показывает риски бесконтрольного внедрения генеративного ИИ в публичные сервисы.
- Разработчики недооценили креативность пользователей в использовании ИИ для создания дезинформации.
- Даже крупные компании сталкиваются с проблемами модерации контента при запуске ИИ-функций.
- Безопасность и этические фильтры становятся критическим этапом перед релизом любого ИИ-продукта.
Урок для всех AI First-компаний
Вчера разработчики Google Earth добавили в сервис ИИ. На сайте появилась функция, которая позволяла генерировать различные события и менять внешний вид реальных зданий и локаций с помощью нейросетей
Наивные менеджеры Google ожидали, что пользователи будут переносить свои дома и районы в другие эпохи, но вместо этого они устроили 11 сентября и разбомбили Исландию 👀
ИИ-функция из Google Earth оказалась идеальным инструментов для создания фейков. В Google быстро осознали свою ошибку и отключили фичу
Кратко (AI)
Google добавил в сервис Google Earth функцию генерации изображений с помощью ИИ, позволяющую менять вид зданий и локаций. Пользователи начали массово использовать инструмент для создания фейковых изображений катастроф, после чего компания была вынуждена оперативно отключить эту возможность.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖