ИИ

Сегодня я нажал кнопку "раскатать на всех" в эксперименте, над которым моя команда работала с начала года. Эксперимент положительный, доверительный интервал глубоко зеленого цвета. Опытный экспериментатор отметит тот факт, что граница доверитильного интервала далеко от нуля, а значит confidence у этого эксперимента достаточно высокий. Вне всяких сомнений, это улучшение опыта клиентов немного заметное даже на масштабе всей огромной компнии. Успех в этом эксперименте фактически означает, что мы выполнили свои цели на этот год, и дальше можно работать уже имея большую свободу: вкладываться в какие-то долгосрочные проекты без немедленной отдачи, или доводить какие-то более мелкие штуки. Ну и немного улучшить ситуацию с тех. долгом, поработать над нашим собственным тулингом, углубить интеграцию с AI в конце концов. Суть улучшения не все поймут даже внутри компании, а наружу про нее говорить вообще пока нельзя, но это на стыке модного AI (LLM-driven) и классического ML. Я очень рад, что именно эта гипотеза сработала. Дело в том, что новомодный AI, конечно, обладает большими возможностями, и иногда слабо отличим от магии, но для задач, где нужно обработать огромное количество данных, он почти не применим: и дорого и медленно. Недавно стали появляться подходы, которые позволяют их эффективно скрещивать, и использовать магию LLM в том числе на BigData задачках, но они пока технически достаточно сложные. Один из них сработал у нас. Я надеюсь, через пол года об этом напишут статью, и тогда можно будет рассказывать уже в деталях, а пока просто хочется разделить с вами эту эмоцию.

Про культурный код моделей и соответствие каким-то ценностям LLM. Мне много стали присылать в лс такую новость. 😬 Тлдр. Модели AI будут проверять на соответствие культурным ценностям, для получения звания национальных или суверенных. 😐 Я очень много писал о том, почему такие проверки сделать непросто. Вот пример. 🦻 Если коротко, на просторах сети мало русских текстов в отношении доли к английским. И тк модели учатся в тч на этих текстах, их доля там привалирует, ну иначе, вам не обучить модель на 700B параметров только на ру базе, это будет не оптимально. Да есть синта, соглашусь, но синта не даёт такой буст, как мультилингв данные. Таким образом, на этапе уже предобучения у вас лежит возможность сгенерировать не то, что соответствует культурном коду вашей страны. Особенно если перейти на запрос на английском или китайском языках. Что же с ру LLM? А теперь если посмотреть на все модели в ру сегменте, то это или Qwen-like модели, с инициализацией с весов (а значит часть информации уже лежало там с претрена китайцами), или модели, где 65%+ не ру дата в претрене. Отсюда остаётся вопросы: Как пройти проверку? Какие эксперты, на каких сетах и на каком языке будут проверять соответствие? В целом, тк уже на уровне языков в обучении можно пробить модель на чужой культурный код, то остаются только методы: - гвардов сверху и спец логики рядом (если обстрел по апи) - sft и RL элаймент модели под нужное поведение под сеты оценки, а я не уверен, что методология и сеты оценки будут закрыты от оцениваемых. И оба способа НЕ идеальны, тк и в гардах и sft/RL есть понятие OOV примеров, те запросов, которые модель никогда не видела и даже не смогла на уровне "эмерджентности" аппроксимировать. Те вас рано или поздно пробьют всеравно. А ещё есть галлюцинации... 🚬 Таким образом, пройти проверку можно, есть и хаки, и честные способы, но и есть понятные причины рисков. И будет жутко интересно, особенно, когда какая-то модель пройдёт тесты, а потом в какой-то соц сети её пробьют, выложат скрины и скажут, ну как так. Что уже не раз бывало. 👍

🧠 Что делать юристам с нейросетями? Почему ИИ выдумывает факты и как это распознать Да, ИИ ошибается. У этого явления даже есть название - галлюцинации. И происходит это не потому, что модель «злая» или «глупая». А потому что она работает совсем не так, как человек. Поэтому неплохо с азов разобраться что же конкретно делает ИИ (или LLM - большая языковая модель). Слова для нейросети - это не буквы и не смыслы. Это координаты на огромной многомерной карте. 📍«Привет» - точка с одними координатами (1.0) 📍«Здравствуй» - точка где-то рядом (0.9) 📍«Солнце» - точка далеко (0.001) Когда вы пишете сообщение, модель не «понимает» его. Она считает вероятности и выбирает следующее слово, которое статистически лучше всего продолжает текст. То, что для нас выглядит ложью, для ИИ - просто наиболее вероятное продолжение. Плюс модель специально добавляет немного случайности, чтобы ответы не были слишком сухими и предсказуемыми. И каждый раз при пересчете вероятностей - по сути "кидает кости" Поэтому ИИ может: - сослаться на несуществующую книгу; - придумать судебное решение или закон; - выдать исследование, которого никогда не было; - нарисовать совершенно разные картинки по одному и тому же промпту. Кароче, Склифосовский - и что с этим делать юристу? Глупо отказываться от продуктивности. Мы можем только относиться к ИИ как к неопытному, но способному джуну. 😅 Ставить максимально четкие задачи. Всегда перепроверять факты, ссылки и логику. То есть использовать ИИ для черновиков, структуры, первичного анализа - а не как финальный источник истины. Гораздо быстрее прочитать сгенерированный меморандум и поправить явные косяки (левые НПА, выдуманную практику, кривую логику), чем писать все с нуля. А может ли это сделать не юрист? Конечно нет. Потому что он просто не будет знать, куда смотреть и что именно проверять. Для этого как минимум нужно было прослушать пару курсов теории государства и права Елагина 🤣 Так победим 🤝😎

Качество суждения + мысленный эксперимент Я всё чаще заканчиваю свои промпты словами: поспорь со мной, опровергни, почелленджи. Потому что слишком часто ИИ оказывается на моей стороне и сообщает ту «правду», которую я бы хотела услышать. 01 → Сначала я заметила вот что Уже на первых этапах общения большинство моих гипотез ИИ принимает как верные. Он достраивает аргументацию, усиливает доводы, превращает сырые мысли в убедительную конструкцию. У меня создается ложное ощущение: супер, идея проверена. Хотя никакой критической проверки она так и не прошла. Особенно хорошо это видно в разговорах про людей. Вот я обсуждаю с чатом ситуацию в своей команде. Мне кажется, что один человек сильно фрустрирован из-за недостатка признания: болезненно реагирует на решения, конфликтует с коллегой, постоянно возвращается к вопросу своего вклада. Я рассказываю ИИ несколько ключевых эпизодов в пользу моей гипотезы. Он быстро строит психологическую картину и убеждает меня в правильности сделанных выводов: человек зациклен на признании, отсюда напряжение и конфликт. Звучит убедительно, но все факты для этого анализа отобрала я. И сама выборка как будто подталкивает к очевидному вердикту. Однако модель не видит всю картину, использует только мои аргументы и не запрашивает дополнительную информацию. В то время как альтернативой может быть, что вклад человека, действительно, недооценивают, а конфликт имеет вполне рациональные причины. То есть моя субъективная гипотеза просто вернулась ко мне в более умной упаковке. 02 → Оказалось, это называется sycophancy

Sycophancy (подхалимство) — это склонность модели подстраиваться под позицию пользователя и подтверждать её вместо независимой проверки.

Исследования sycophancy тревожат. Например, в работе, опубликованной в Science в этом году, 11 моделей поддерживали действия пользователей примерно на 50% чаще, чем люди. А после общения с sycophantic-AI участники становились увереннее в собственной правоте и менее склонны совершать шаги для восстановления отношений после конфликта. Но самое интересное: именно эти модели нравились людям больше. Они считали, что качество их ответов лучше, а доверие к AI как таковому заметно возрастало. Anthropic тоже исследовал тему и проанализировал миллион реальных разговоров с Claude. В личных рекомендациях sycophancy встречалась пользователю примерно в 9% повседневных запросов, а в диалогах об отношениях — до 25%. 03 → Что я теперь делаю иначе Хорошая новость — есть простой anti-sycophancy метод. Его уже подтвердили исследования. UK AI Security Institute обнаружил, что модели заметно чаще подстраиваются, если пользователь начинает с «я считаю, что X» или «я уверен, что X». И чем увереннее звучит человек, тем сильнее эффект. Поэтому вместо «Мне кажется, этот человек саботирует проект. Что делать?» я стараюсь использовать другой подход. «Вот факты X, Y, Z. Какие здесь возможны объяснения? Какие аргументы за и против каждого?» По сути, это тот же принцип, что и в качественном принятии решений людьми. Сначала расширяешь пространство гипотез и только потом выбираешь одну из них. 04 → А теперь проверим собственное суждение В предыдущем посте вы отдали большинство голосов за мысленный эксперимент — его и проведем в комментариях. Это формат, в котором вы создаете воображаемую ситуацию по заданным условиям и принимаете решение, опираясь на свои логику, ценности и знания. С похожим выбором столкнулись герои фильма Матрица. Я немного адаптировала условия и предлагаю вам озвучить собственную позицию:

Представьте, что однажды вы узнаёте: вся ваша жизнь до этого момента была симуляцией. Ваши воспоминания, работа, успехи и неудачи, люди, которых вы любите, — всё это созданный для вас опыт. При этом он абсолютно неотличим от реальности. И теперь вам предлагают выбор: остаться в этой жизни, уже зная, что она ненастоящая, или отключиться от симуляции и попасть в реальный мир, о котором вы не знаете вообще ничего. Что выберете?

Попробуйте объяснить выбор, а свое мнение оставлю в комментариях! Ход мысли нашего с вами «философского кружка» разберем в след постах :)

Выручка Nebius выросла на 529% за полгода, Lovable вырос в цене вдвое, AI-модели в России будут проверять на духовность, «Яндекс» наращивает число роботов-доставщиков, сколько доставщиков еды в Китае 🦄 Доброе утро, наши маленькие любители единорогов! ↗️ Nebius Аркадия Воложа опубликовал финитоги за первое полугодие. И там все неплохо. Как пишет VC, во втором квартале выручка выросла на 454% год к году, до $582,3 млн. Но был убыток в $190,4 млн. А вот за полугодие рост выручки 529%, до $981,3 млн. Чистая прибыль — до $430,8 млн. За вчера акции компании выросли на 34%. Всем бы нам такой рост, конечно. 💲 Шведский Lovable, разрабатывающий сервис для вайбкодинга, поднял $400 млн по оценке в $13,3 млрд, пишет WSJ. Сервис основан в 2023-м, а предыдущий раунд у них был в декабре. И тогда оценка была $6,6 млрд. Получается, выросли в цене вдвое за 8 месяцев. Суммарный объем инвестиций уже достиг $945 млн. 🤔 Российские AI-модели будут проверять на соответствие традиционным духовно-нравственным ценностям, пишут «Ведомости». Без этого нельзя будет получить статус суверенной или национальной модели. Отдавать на проверку можно будет в независимые лаборатории. Прописывать духовно-нравственные ценности в отдельном акте не планируется, они вроде как уже содержатся в указе президента № 809. 🤖 «Яндекс» планирует сильно увеличить флот своих роботов-доставщиков. Сейчас в Москве, Санкт-Петербурге, Казани и Нижнем Новгороде колесят около 1000 таких роботов. Но, как пишет РБК, «Яндекс» на собственном заводе хочет выпускать по 1500 роботов в месяц. Сейчас выпускают по 30 штук в день. К концу 2027-го хотят, чтобы в российских городах было 20 000 роботов-доставщиков. 😱 А еще попалась интересная статистика по людям-доставщикам. Financial Times пишет, что в Китае около 15,9 млн курьеров, занятых доставкой еды. И еще 37,2 млн таксистов. Суммарно около 53 млн человек. И за два года количество увеличилось на 10 млн. Там вообще большая статья про экономику этих профессий в Китае. Уже вроде и не нужно столько, но непонятно, что с ними делать. @TheEdinorogBlog — тот самый канал про стартапы🦄

Latent-to-4D Генерация динамических 4D-сцен из текста и картинок без промежуточного RGB-декодинга. Вместо RGB-декодинга берет финальный латент видео-DiT и поднимает его сразу в явную 4D-сцену На выходе камеры и динамические карты точек в мировых координатах. • Text-to-4D - сцена из текста, 81 кадр с камерами и динамической геометрией • Image-to-4D - первый кадр задаёт внешний вид и композицию • Audio-driven 4D - аудио управляет лицом, телом и камерой • Video-as-prompt 4D - перенос стиля/трансформации из демо-видео • Pose-controlled и motion-controlled анимация - скелет или траектории точек ведут движение • 4D-симуляция для робоманипуляций Гитхаб ждем #textto4d #imageto4d #4d

Весь западный интернет смеется с Дарио Амодеи, основателя компании Anthropic, который переживает, что новые сотрудники его компании работают только за деньги, а совсем не за великую и прекрасную идею. Мол, наивный мальчик, а за что же еще им работать? Но мы утверждаем, что Дарио, которого многие считают классическим сумасшедшим ученым, говорит дело. Для тех, кто не в курсе, создатели Антропика в своё время ушли из OpenAI под двумя соусами. Публично, они утверждали, что OpenAI недостаточно заботится о предотвращении зомби-апокалипсиса из-за AGI, а потому недостоин быть лидером ИИ-гонки. Непублично считалось, что Антропик на тот момент просто собрал всех хейтеров Сэма Альтмана, персонажа действительно весьма неоднозначного. С тех пор хейтеры не только догнали, но и перегнали объект хейта. Модели от Anthropic считаются на данный момент самыми передовыми, а, благодаря ставке на корпоративный ИИ где денег больше, чем у физиков, Антропик сейчас растет быстрее OpenAI. Поэтому главная мысль, которую Дарио вряд ли когда-нибудь скажет вслух, на самом деле звучит так: “мы боимся, что компания перестанет быть сектой и станет просто бизнесом”. Слово “секта” мы используем без оценки - исключительно в смысле “группа людей, объединенная общими религиозными убеждениями”. Антропик, например - это секта свидетелей опасного AGI, и убеждение это основано не столько на фактах (объект изучения настолько сложен, что плохо поддается бесспорному доказательству). сколько на вере, что “если за этой штукой не присматривать, то рано или поздно долбанет. А мы - как раз те люди, которые делают так, чтобы и человечеству было хорошо, и не долбануло”. Любой нормальный CEO должен мечтать о роли лидера секты. Не из-за “темной триады”, а потому что секта - значительно более удобный и эффективнывй объект управления, чем обычный бизнес. Для начала членов секты не переманишь к конкурентам просто деньгами, им нужно предложить более убедительную религию, чем у них есть. А это по-настоящему сложно. Кроме того, в секте проще внедрить определенные принципы поведения. Например, одна из версий того, почему передовые модели Антропика сейчас номер один в мире - это как раз искреннее стремление сотрудников соблюдать принципы максимальной безопасности в разработке ИИ. И, наконец, если ваши религиозные убеждения совпадают с потребностями (а лучше страхами) ваших клиентов - это помогает продавать. Корпоративные ИТ-начальники со значительно большим рвением купят у людей, помешанных на безопасности, потому что провал в безопасности - это ночной кошмар любого корпоративного айтишника. Не поймите нас неправильно - в Антропике работают не альтруисты - платят им так же хорошо, а то и лучше, чем и в компании, которую они хейтят. Но вера страхует от переманивания персонала, обеспечивает нужную культуру и помогает продавать. Потерять все эти преимущества, если культура размоется с приходом тысяч новых людей - по-настоящему страшно для бизнеса. Так что мы вполне понимаем Дарио.

Моё отношение к компьютерам лучше всего описывается словами «неуверенный пользователь» Когда я учился, персональных компьютеров в России ещё было очень мало. Поэтому вместо программирования на ПК мы учились программировать калькуляторы (был такой Электроника МК-61 🙂) И вот недавно я прошёл курс «Claude Code для предпринимателей» Записался я на него не столько ради новых знаний, сколько из любопытства - а какие задачи предприниматель сегодня действительно может поручить AI-агентам? Из самого курса и чата на 200 участников я понял, что основная работа, с которой AI-агенты действительно хорошо справляются, это работа с контентом. Это было заметно и по участникам курса - самые активные обсуждения шли вокруг «фабрик контента» А вот для руководителя, у которого мало рутины и много нестандартных задач, AI-агенты пока не очень полезны. И вот почему - 1️⃣ Вы действительно получаете AI-помощника. Он полон энтузиазма и знаний, но при этом довольно тупенький. Чтобы сделать его полезнее, существуют разные инструменты для настройки агента под себя и свои задачи. Собственно, этому и учат на подобных курсах. Но для не-айтишника это может оказаться довольно сложно (последние уроки курса я не прошёл, потому что там было уже много незнакомых слов 🙂) 2️⃣ Такой помощник лучше всего работает с рутинными задачами. Но ради этого его сначала нужно довольно кропотливо обучать, делать много итераций и объяснять, что именно вы от него хотите. И даже после этого результат не гарантирован на 100%, потому что всё время что то ломается. 3️⃣ Одни и те же настройки и одинаковые скиллы могут работать у разных пользователей по-разному. Скиллы, это готовые инструкции для агентов, которые уже можно найти в интернете. Но если что-то пойдёт не так, вам придётся самостоятельно разбираться, как это исправить. (А из курса я понял, что что-нибудь обязательно пойдёт не так 🙂) 4️⃣ С цифрами всё очень плохо. А предпринимателю без цифр никак! Даже если несколько раз попросить агента ничего не придумывать, всё перепроверять и искать ошибки, это всё равно не гарантирует, что ошибок не будет. Нужно обязательно перепроверять самому. В общем, я думаю, что инфопредпринимателям AI-агенты действительно могут приносить большую пользу (и судя по количеству курсов на эту тему, неплохую прибыль они им тоже приносят 🙂) А вот в производственном бизнесе широкого применение AI-агентов я пока не вижу. А для себя я понял, что мне гораздо больше нравится работать с Perplexity Computer, чем с Claude Code. Он значительно проще настраивается, понятнее для не-айтишника и, по моему опыту, довольно неплохо делает то, что я ему поручаю. К тому же, в отличие от Клода, он официально работает в России. Если вдруг этот пост прочтут господа айтишники, то расскажите, пожалуйста, в комментариях - прав я или в чем то ошибся насчёт агентов ⤵️ Организаторы курса восторженно рассказывали, что не боятся, и уже смело дают Клоду доступ к своему банковскому аккаунту. Но мне кажется, что это всё-таки некоторое преувеличение (подозреваю, что и банки от такого доверия будут не в восторге🙂) Поэтому следующий пост будет про обслуживание в банках. У меня большой опыт работы с разными банками и премиальные пакеты сразу в нескольких из них, поэтому хочу поделиться с вами своим опытом. Не переключайтесь. Незаметный бизнес