Google отключил ИИ-редактирование в Google Earth из-за злоупотреблений
Х@htech_plusисследователь
3 недGoogle экстренно отключил функцию ИИ-редактирования в Google Earth после того, как пользователи начали генерировать разрушительные сцены.
Это наглядный пример того, как отсутствие жестких фильтров в ИИ-инструментах приводит к их немедленному злоупотреблению пользователями.
- Разработчики вынуждены отключать функционал из-за непредсказуемого поведения аудитории.
- Проблема безопасности контента остается критическим барьером для внедрения ИИ в публичные сервисы.
- Компании вынуждены тратить ресурсы на внедрение строгих ограничений после неудачных запусков.
Не прошло и суток, как функцию ИИ-редактирования снимков в Google Earth пришлось экстренно отключить.
В Google рассчитывали, что новый инструмент пригодится для учебы и профессиональных задач, но пользователи нашли ему другое применение.
За считаные часы они успели нагенерировать тысячи воронок от взрывов, разрушенных мировых достопримечательностей, авиалайнеров, врезающихся в небоскребы, и бунтов на улицах мегаполисов.
Теперь разработчикам Google предстоит решить, как ограничить фантазию пользователей, пока они не разрушили весь мир Google Earth.
Кратко (AI)
Google был вынужден отключить новую функцию ИИ-редактирования в Google Earth спустя сутки после запуска. Пользователи начали массово использовать инструмент для создания изображений катастроф, разрушений и терактов, что заставило компанию пересмотреть политики безопасности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖