🧠 Что делать юристам с нейросетями? Почему ИИ выдумывает факты и как это распознать Да, ИИ ошибается. У этого явления даже есть название - галлюцинации. И происходит это не потому, что модель «злая» или «глупая». А потому что она работает совсем не так, как человек. Поэтому неплохо с азов разобраться что же конкретно делает ИИ (или LLM - большая языковая модель). Слова для нейросети - это не буквы и не смыслы. Это координаты на огромной многомерной карте. 📍«Привет» - точка с одними координатами (1.0) 📍«Здравствуй» - точка где-то рядом (0.9) 📍«Солнце» - точка далеко (0.001) Когда вы пишете сообщение, модель не «понимает» его. Она считает вероятности и выбирает следующее слово, которое статистически лучше всего продолжает текст. То, что для нас выглядит ложью, для ИИ - просто наиболее вероятное продолжение. Плюс модель специально добавляет немного случайности, чтобы ответы не были слишком сухими и предсказуемыми. И каждый раз при пересчете вероятностей - по сути "кидает кости" Поэтому ИИ может: - сослаться на несуществующую книгу; - придумать судебное решение или закон; - выдать исследование, которого никогда не было; - нарисовать совершенно разные картинки по одному и тому же промпту. Кароче, Склифосовский - и что с этим делать юристу? Глупо отказываться от продуктивности. Мы можем только относиться к ИИ как к неопытному, но способному джуну. 😅 Ставить максимально четкие задачи. Всегда перепроверять факты, ссылки и логику. То есть использовать ИИ для черновиков, структуры, первичного анализа - а не как финальный источник истины. Гораздо быстрее прочитать сгенерированный меморандум и поправить явные косяки (левые НПА, выдуманную практику, кривую логику), чем писать все с нуля. А может ли это сделать не юрист? Конечно нет. Потому что он просто не будет знать, куда смотреть и что именно проверять. Для этого как минимум нужно было прослушать пару курсов теории государства и права Елагина 🤣 Так победим 🤝😎

ИИ Google оценил дорожные камеры в $650 за штуку и спровоцировал волну вандализма Алгоритм AI Overview в поиске Google превратил сетевой фейк о камерах фиксации номеров Flock Safety в официальную справку. Нейросеть утверждала, что внутри каждой такой камеры содержится от 1 до 5 граммов золота и до 10,4 кг меди. На деле вес самого устройства составляет всего 1,36 кг, а содержание драгметаллов в контактах платы не превышает микрограммов. Ошибка превратила дорожную инфраструктуру в мишень для охотников за легкой наживой. Заблуждение выросло из интернет-мема, который изначально создавали для борьбы с тотальной слежкой. Однако алгоритмы подхватили шутку без проверки правдоподобности и раздали пользователям готовое руководство к действию. После публичного скандала Google скорректировала выдачу — теперь поиск предупреждает о галлюцинациях нейросети.

Одна и та же ложь может по-разному влиять на LLM в зависимости от тона, уверенности и грамматической формы. В EoBench собрали около 66 тысяч ложных утверждений в 19 стилях и проверили 18 моделей Gemma, Llama и Qwen. Для теста оставили только те факты, которые модель изначально знала правильно. Лучше всего модели убеждали: * приказы; * формальный язык; * обращение как к ребёнку; * ссылки на авторитет; * уверенная подача. Хуже всего работали слабые формулировки и контрфактические утверждения. Крупные модели реже принимали ложный контекст, а instruction tuning обычно дополнительно повышал устойчивость. Вывод: оценивать LLM нужно с учётом формы запроса. Небольшое изменение формулировки может заметно изменить ответ модели. Статья: *It’s Not What You Say, It’s How You Say It: Evaluating LLM Responses to Expressions of Belief* arxiv.org/abs/2607.18232

🧑‍⚖️ AI-галлюцинации в судебных делах — статистика год спустя Про Дамьена Шарлотина я вам рассказывал чуть больше года назад. Он собирает случаи с AI-косяками в судебных делах разных стран. И тогда я удивлялся, что подобных кейсов больше сотни. Это казалось много. Спустя год коллекция Шарлотина выросла в 12(!) раз. Что значит AI-галлюцинация в суде? Например, AI добавляет в документы несуществующие цитаты или ссылается на дела, которых вообще никогда не было. И вот Шарлотин ищет такие кейсы и собирает у себя на сайте. Голубая линия на графике — это суммарное количество случаев с зафиксированными AI-галлюцинациями. В июне 2025, когда я писал первый пост, их было 138. По итогам второго квартала 2026-го, таких кейсов было уже 1720. Рост в 12 раз. Фиолетовая линия на графике — число кейсов по кварталам. И там есть любопытная тенденция. Количество выявленных AI-галлюцинаций стало уменьшаться. Правда, только в последнем квартале. Почему так может быть? Например, стали меньше использовать AI, что вряд ли. Или судьи стали пропускать галлюцинации, что тоже так себе объяснение. Вероятнее всего, AI прокачался или участники стали лучше проверять материалы. Или просто еще не все решения, принятые в том квартале, опубликованы. Кстати, по статистике Шарлотина, сильно чаще AI-галлюцинации встречаются в делах, где люди представляют сами себя — не привлекают юристов. Соотношение сейчас — 71,4% против 21,4%. В кейсах, где известно, каким конкретно AI пользовались, больше всего косяков у ChatGPT (115). Но, вероятно, это просто объясняется популярностью ChatGPT. У остальных инструментов примерно поровну — по 10-15 кейсов. @TheEdinorogBlog — тот самый канал про стартапы🦄