Статистика AI-галлюцинаций в судебных делах: рост в 12 раз

🧑‍⚖️ AI-галлюцинации в судебных делах — статистика год спустя Про Дамьена Шарлотина я вам рассказывал чуть больше года назад. Он собирает случаи с AI-косяками в судебных делах разных стран. И тогда я удивлялся, что подобных кейсов больше сотни. Это казалось много. Спустя год коллекция Шарлотина выросла в 12(!) раз. Что значит AI-галлюцинация в суде? Например, AI добавляет в документы несуществующие цитаты или ссылается на дела, которых вообще никогда не было. И вот Шарлотин ищет такие кейсы и собирает у себя на сайте. Голубая линия на графике — это суммарное количество случаев с зафиксированными AI-галлюцинациями. В июне 2025, когда я писал первый пост, их было 138. По итогам второго квартала 2026-го, таких кейсов было уже 1720. Рост в 12 раз. Фиолетовая линия на графике — число кейсов по кварталам. И там есть любопытная тенденция. Количество выявленных AI-галлюцинаций стало уменьшаться. Правда, только в последнем квартале. Почему так может быть? Например, стали меньше использовать AI, что вряд ли. Или судьи стали пропускать галлюцинации, что тоже так себе объяснение. Вероятнее всего, AI прокачался или участники стали лучше проверять материалы. Или просто еще не все решения, принятые в том квартале, опубликованы. Кстати, по статистике Шарлотина, сильно чаще AI-галлюцинации встречаются в делах, где люди представляют сами себя — не привлекают юристов. Соотношение сейчас — 71,4% против 21,4%. В кейсах, где известно, каким конкретно AI пользовались, больше всего косяков у ChatGPT (115). Но, вероятно, это просто объясняется популярностью ChatGPT. У остальных инструментов примерно поровну — по 10-15 кейсов. @TheEdinorogBlog — тот самый канал про стартапы🦄