Почему ИИ галлюцинирует и как юристам работать с нейросетями

🧠 Что делать юристам с нейросетями? Почему ИИ выдумывает факты и как это распознать Да, ИИ ошибается. У этого явления даже есть название - галлюцинации. И происходит это не потому, что модель «злая» или «глупая». А потому что она работает совсем не так, как человек. Поэтому неплохо с азов разобраться что же конкретно делает ИИ (или LLM - большая языковая модель). Слова для нейросети - это не буквы и не смыслы. Это координаты на огромной многомерной карте. 📍«Привет» - точка с одними координатами (1.0) 📍«Здравствуй» - точка где-то рядом (0.9) 📍«Солнце» - точка далеко (0.001) Когда вы пишете сообщение, модель не «понимает» его. Она считает вероятности и выбирает следующее слово, которое статистически лучше всего продолжает текст. То, что для нас выглядит ложью, для ИИ - просто наиболее вероятное продолжение. Плюс модель специально добавляет немного случайности, чтобы ответы не были слишком сухими и предсказуемыми. И каждый раз при пересчете вероятностей - по сути "кидает кости" Поэтому ИИ может: - сослаться на несуществующую книгу; - придумать судебное решение или закон; - выдать исследование, которого никогда не было; - нарисовать совершенно разные картинки по одному и тому же промпту. Кароче, Склифосовский - и что с этим делать юристу? Глупо отказываться от продуктивности. Мы можем только относиться к ИИ как к неопытному, но способному джуну. 😅 Ставить максимально четкие задачи. Всегда перепроверять факты, ссылки и логику. То есть использовать ИИ для черновиков, структуры, первичного анализа - а не как финальный источник истины. Гораздо быстрее прочитать сгенерированный меморандум и поправить явные косяки (левые НПА, выдуманную практику, кривую логику), чем писать все с нуля. А может ли это сделать не юрист? Конечно нет. Потому что он просто не будет знать, куда смотреть и что именно проверять. Для этого как минимум нужно было прослушать пару курсов теории государства и права Елагина 🤣 Так победим 🤝😎