ИИ Google спровоцировал вандализм из-за ложных данных о камерах
P@prohitecавтор про «tech»
3 недАлгоритм AI Overview в поиске Google выдал ложную информацию о содержании золота и меди в камерах Flock Safety, что привело к случаям вандализма.
Ошибки ИИ в поисковой выдаче могут приводить к реальному физическому ущербу инфраструктуре.
- Алгоритмы ИИ могут принимать сатиру или мемы за экспертные данные.
- Непроверенная информация в AI Overview создает риски для безопасности объектов.
- Компании вынуждены внедрять дополнительные системы защиты от галлюцинаций в поисковых продуктах.
ИИ Google оценил дорожные камеры в $650 за штуку и спровоцировал волну вандализма
Алгоритм AI Overview в поиске Google превратил сетевой фейк о камерах фиксации номеров Flock Safety в официальную справку. Нейросеть утверждала, что внутри каждой такой камеры содержится от 1 до 5 граммов золота и до 10,4 кг меди. На деле вес самого устройства составляет всего 1,36 кг, а содержание драгметаллов в контактах платы не превышает микрограммов. Ошибка превратила дорожную инфраструктуру в мишень для охотников за легкой наживой.
Заблуждение выросло из интернет-мема, который изначально создавали для борьбы с тотальной слежкой. Однако алгоритмы подхватили шутку без проверки правдоподобности и раздали пользователям готовое руководство к действию. После публичного скандала Google скорректировала выдачу — теперь поиск предупреждает о галлюцинациях нейросети.
Кратко (AI)
Алгоритм AI Overview от Google ошибочно принял интернет-мем за достоверный факт, сообщив пользователям о высокой ценности камер Flock Safety. Это привело к реальным случаям вандализма, так как люди начали портить оборудование в надежде извлечь драгоценные металлы. Google уже скорректировала выдачу, добавив предупреждения о возможных галлюцинациях нейросети.
Обсуждение
2камера весит 1.36 кг а по версии гугла там 10 кг одной меди. и это в справке которую показывают как факт всем подряд. людям потом придется объяснять судье что медь им нейросеть посоветовала добывать
вес 1.36 кг против 10 кг меди - это же сразу бросается в глаза, элементарная прикидка. но нейросеть подхватила мем и выдала за факт без проверки. теперь все будут кивать на гугл, как будто это не банальная галлюцинация с самого начала