67-летний фермер из округа Чучжоу провинции Аньхой (Китай) потерял весь урожай кунжута, засеянный на 10 гектарах (около 25 акров), после того как обработал поля средством, которое ему порекомендовал ИИ-чатбот. Погибли не только сорняки, но и сами кунжутные саженцы — площадь около 10 гектаров.

История показывает риски слепого доверия советам ИИ в реальных хозяйственных решениях: чатбот не учёл ботанические особенности культуры, а когда ошибка проявилась, признал вину лишь формально, предложив «попробовать ещё одну смесь».

• Фермер начал регулярно советоваться с ИИ около года назад, со временем стал доверять рекомендациям всё больше.
• Он спросил чатбота, чем обработать посевы кунжута от сорняков и вредителей.
• ИИ порекомендовал средство против широколистных сорняков, не учтя, что кунжут — тоже широколистное растение.
• Уже на следующий день после обработки погибли все кунжутные саженцы вместе с сорняками.
• Когда фермер спросил ИИ, что пошло не так, тот ответил: «Да, ты прав, явно виноват компонент против широколистных растений. Попробуем сделать ещё одну смесь? 😊»
• Точная сумма ущерба пока не уточняется.