Разговор двух масок У диалога человека с ИИ две маски – входная и выходная. Смысл искажается с обеих сторон, но по-разному. Искажение на входе: модель слышит не только вашу цель. Исследователи Чикагского университета разложили 1,77 млн ответов пяти моделей на три источника вариации: намерение (цель) пользователя (что он хочет получить), формулировка запроса (какими словами он это выразил) и остаточная неопределенность. Одно и то же намерение может быть сформулировано десятками способов. Модель демонстрирует понимание намерения, если: 1) отвечает сходным образом на разные формулировки одной и той же цели; 2) заметно меняет ответ, когда меняется сама цель пользователя. Исследователи искали ответ на вопрос: когда ответы модели меняются, они меняются потому, что изменилось намерение пользователя, или лишь потому, что изменились слова?   У малых моделей намерение объясняет около 20% вариативности ответов, у крупных – около 50%; остальное приходится на формулировку и внутренний шум. Причем крупные модели оказались чувствительнее к формулировкам, чем малые. Два человека с одной целью, но разным стилем письма (из-за диалекта, образования, второго языка) получат систематически разные ответы. Модель слышит ваш синтаксис и иногда принимает его за часть цели.   Искажение на выходе: слова модели расходятся с ее внутренней картой мира. Группа из MATS применила «зонды истинности» – линейные детекторы, читающие представление правды и лжи прямо из активаций. Модель, играющая Дарвина 1882 года, уверенно говорит о светоносном эфире, но внутри продолжает помечать его как ложь. При этом ролевая маска (промпт, примеры в контексте, дообучение на персонажа) меняет речевое поведение модели и почти не меняет ее внутреннее представление истинности. Модель знает, что играет. Но самое неприятное обнаружилось в стороне от ролевого театра модели. Когда модель дообучили давать вредные медицинские советы, ее внутреннее представление истины сдвинулось далеко за пределы медицины: утверждения, отрицающие Холокост, поползли внутри модели в сторону «правды» сильнее, чем при любой из опробованных методик целенаправленного конструирования характера. Намеренный тренинг личности дал лишь частичный сдвиг; случайная порча на узкой задаче перестроила картину мира шире и глубже.

 В сочетании эти две работы подрывают заманчивую своей простотой идею, будто ответ модели непосредственно раскрывает её «состояние».

Оказалось, что одинаково убедительное высказывание может быть вызвано принципиально разными причинами. Ибо в диалоге человека с ИИ две маски – входная и выходная. •  На входе модель может принять ваш стиль за часть вашего намерения. •  На выходе вы можете принять слова модели за ее внутреннюю картину мира. Но главное происходит между входом и выходом. До сих пор мы смешивали три разные вещи: ИИ понял, чего мы хотим; ИИ выдал то, чего мы хотим; ИИ принял стоящую за поручением цель как собственную.   Для чат-бота разница почти философская, для автономного агента – критическая. Потому что действия ИИ-агента, как показывают обе работы, зависят не от антропоморфного "понял ли он поручение?", а от нечеловечески-витиеватого "он нашу цель распознал, сыграл – или принял как свою?” Ведь надежно измерять и тем более контролировать мы сегодня умеем лишь первые два варианта – и это главный дефицит в инструментарии контроля наступающей эпохи агентного ИИ.   В контексте темы см. также мои предыдущие посты с тегом #Понимание

Культура компании загнивает незаметно. Как это происходит? Этот процесс почти всегда проходит три классических этапа: Эра споров: первые месяцы работы нового CEO или руководителя люди спорят, сталкивают мнения и ищут истину. Эра интуиции: постепенно сотрудники начинают угадывать скрытые желания руководителя. Эра соглашательства: в финале люди говорят исключительно то, что руководитель хочет услышать. Это естественная гравитация любой власти. Как только команда понимает, что за «неудобное» мнение можно лишиться расположения, включается коллективный режим самосохранения. Чем выше должность, тем опаснее этот пузырь. CEO не получает реальность. CEO получает реальность после глубокой фильтрации. Каждый уровень менеджмента пытается заранее предугадать ожидания сверху и «причесать» отчеты. В итоге до самого верха доходит рафинированная, безопасная полуправда, не имеющая ничего общего с тем, что происходит «в полях». Что делать? Не радоваться тишине и согласию на совещаниях, а целенаправленно ломать эту динамику. Для этого нужно создавать жесткие механизмы получения неприятной информации: 1. Регулярно общаться с линейными сотрудниками напрямую, минуя фильтры среднего менеджмента. 2. Задавать правильные вопросы. Вместо усыпляющего «У нас же всё под контролем?» спрашивать: «Что у нас сейчас идет не так?». Не доверяйте своему первому мнению))) Создайте процесс, который способен доказать, что вы ошибаетесь.

Бывший глава PlayStation раскритиковал одинаковость современных AAA-игр Бывший президент Sony Interactive Entertainment Шон Лейден в интервью каналу PSI заявил, что рост бюджетов игр, как ни парадоксально, убивает уникальность. Разработка современного AAA-блокбастера может стоить несколько сотен миллионов долларов — и провал такого проекта для студии может быть экономически неприемлем. В эпоху PS1 бюджет составлял $6–7 млн — рискнуть и провалиться было допустимо. "Теперь, если каждый бросок кубика стоит сотни миллионов, терпимость к риску нулевая. Игры оценивают в первую очередь по прогнозу доходов", — резюмирует он. Именно поэтому мы видим бесконечные сиквелы, ремейки и переиздания, а новые игры как правило эксплуатируют лишь самые привычные механики.

Заметил я, что фраза lorem ipsum обрезалась на labore ut dolore - и вспомнил мысль, которая меня посетила, когда я читал эпиталаму Чадаева "ратному труду". На Руси еще в позднесоветское время так повелось, что "культурологи" народились от философов, и как младшие философы, не утруждали себя фактами, а в лучшем случае начетничали (то есть пересказывали чужой пиздеж без ссылок), в худшем же упирали покрепче перст в чело (то есть в палец в лоб) и начинали нести от ветра головы своея (то есть поток сознания). Таким методом и разивали "культурологию". Но и простое начетничество может, однако, пригодится. Так вот, в русском языке есть очень серьезное различие между "труд" и "работа". Крестьяне никогда не говорили "я трудился", "полевой труд"... только "работал", "работа". А "труд" в народной речи и культуре - корень от "усталость". В современном это живо вполне - "трудно", "утрудился". "Труд" - это то, чем Бог Адама проклял. И это различие уходит корнями в праиндоевропейские языки - латинское labor исходно "прилагать усилие", и по первому значению классической эпохи - "рожать". Или берем "Поучение" Владимира Мономаха - "и вот как я трудился, охотясь" (следует перечень достижений, инцидентов и травм). А откуда, спрашивается, образованные горожане XIX века позаимствовали культ труда? "Я от ржаного колоса не отличу ячменного, а мне поют "трудись!" (Некрасов). А это у нас из Европы, от католиков. В классической римской культуре противопоставлялись не труд и безделье, а otium (личные дела, от управления имением до чтения книг) и negoitum - общественные дела (которые уже Марциал в конец I века высмеивал, но бесполезная суета на форуме общественно одобрялась). А далее у нас уже в IV веке появляется Аврелий Августин Гиппонский, который в "Исповеди" и вводит понятие "труда" - именно как "напряг": "умножены были труд и печаль для сыновей Адама". Но напрягаться, по Августину, душеполезно! "Да, Господи, я работаю над этим и работаю над самим собой: я стал сам для себя землей, требующей тяжкого труда и обильного пота. " И вот отсюда и понеслось... Дальше "Этимологии" Исидора Севильского, дальше "Сумма" Фомы Аквинского - словом, "здесь мерилом работы считают усталость". Ну а дальше пришла светская культура, которая откинула обоснование (Бога), но переняла ценности (не сидеть сложа руки). Итак, а что же с выражением "ратный труд"? А оно впервые в русском языке появляется в тексте "Устав ратных, пушечных и других дел, касающихся до воинской науки" Анисима Радишевского, перевод с немецкого "Kriegsbuch" Леонгарда Фронспергера, опубликовал Василий Рубан в 1790 году. И там оно означает вид наказания за проступки. То, что сейчас называется "внеочередной наряд на службу". А в литературной речи едва ли не самое первое вхождение - это "Война! война!" нашевсе 1821 год: " Ужель ни бранный шум, // Ни ратные труды, ни ропот гордой славы, // Ничто не заглушит моих привычных дум?" Но и у Пушкина, как видим, это еще больше "нагрузка", чем "подвиг". И только на излете "Серебряного века" с его декадентскими изломами, в 1914 году это выражение "ратный труд" начинают употреблять с привычным нам пафосом - и сразу массово. Царская пропаганда зря хлеб не ела. Оттуда оно и пришло в советский язык - над чем больше всех поработали в 1960-х Твардовский, Слуцкий и другие ИФЛИсты. Но, увы, такой уровень начетничества нашим "культурологам" не по силам. Интеллектуальной каши мало ели (и не той, что следует). 😝

✔️ Anthropic переработала команду code-review в Claude Code Команда получила уровни Low, Medium, High, X-high и Ultra.

И это не один и тот же промпт с разным временем на ризонинг - на каждом уровне процесс построен по-своему.

Уровень подхватывается из настроек сессии автоматически, но его можно задать руками командой /code-review high. 🟢Low делает один быстрый проход по диффу. 🟢Medium читает изменённый код в контексте проекта, прогоняет несколько поисковых проходов под разными углами и перепроверяет находки перед выдачей. 🟢High выносит поиск и верификацию в субагентов с чистым контекстом, чтобы проверяющие не были заякорены на рассуждениях агента, который этот код только что писал. 🟢X-high дополнительно ищет, как изменения влияют на код за пределами самого диффа. 🟠Ultra - верхняя ступень, где ревью выполняется в облачной песочнице, куда Claude Code выгружает состояние репозитория или клонирует PR с GitHub. Там запускается целый парк агентов, и каждая находка независимо воспроизводится и верифицируется. Ultra находится в статусе research preview и оплачивается отдельно от подписки - Pro и Max подписчикам дают 3 бесплатных запуска, дальше каждый прогон списывается из кредитов на дополнительное использование стоит примерно от 5 до 20 долларов в зависимости от размера изменений. Качество новой системы подкрепляют замерами Opus 4.8 на открытом датасете с ручной разметкой ошибок. Уровень Low нашёл 17% размеченных багов, Medium - 22%, High - 24%, X-high - 25%. У "конкурента" (компания его не называет) - те же уровни дали от 8 до 12%.

Anthropic утверждает, что использует Ultra-режим на каждом пулл-реквесте в собственной разработке.

@ai_machinelearning_big_data #news #ai #ml

Ключевые принципы успеха Коносуке Мацуситы Продукт лучше и доступнее конкурентов Основатель Panasonic, Коносуке Мацусита, оставил в наследство набор правил, которые до сих пор вдохновляют предпринимателей по всему миру. Продукт лучше и доступнее конкурентов Чтобы привлечь покупателей, продукт должен превосходить аналоги хотя бы на 30% по качеству и цене. Ответственность каждого как у руководителя Каждый сотрудник должен чувствовать себя причастным к успеху компании, словно он её владелец. Скорость — залог прогресса Мацусита уделял особое внимание быстрой реализации новшеств и минимизации бюрократии, что позволяло компании оперативно реагировать на изменения рынка. Снижение затрат без вреда для персонала Оптимизация производства должна идти рука об руку с заботой о сотрудниках, что повышает конкурентоспособность бизнеса. Доверие и открытость внутри коллектива Честность и прозрачность в отношениях укрепляют командный дух и ускоряют рабочие процессы. Фаундер | Бизнес и Стартапы

Лицензия на тайну Данные – как известно, новая нефть. Но торговать ей напрямую государство запрещает, больница не имеет право взять и продать медкарты своих пациентов OpenAI или Anthropic, их сначала надо обезличить. Просто убрать имя и фамилию – недостаточно. Людей все равно можно найти по косвенным признакам. Убрать все подряд – так ничего и не останется. Правильная граница в американском законодательстве обозначается через специальный механизм – Expert Determination: квалифицированный статистик подписывается, что повторно опознать человека почти невозможно, и массив официально считается обезличенным. Идея #стартапдня Integral – обеспечить поточную выдачу таких подписей. Сотрудники стартапа разбираются в данных клиента и максимально быстро доводят их до правильного состояния. Дальше они же ставят штамп “можно” и обучающая выборка уезжает в AI сервис, а Integral получает свой гонорар. Стартап работает с 2022 года. Начинал, видимо, в практически полностью ручном режиме, сейчас значительную часть работы софт делает, но совсем от человека отказываться нельзя. В недавнем раунде Integral привлек 18 миллионов долларов инвестиций. https://www.useintegral.com/ #ai #сша #юристы #rounda

В комментариях люди вообще с другой планеты. Поясню: если бы сегодня вышла модель, которая серьезно конкурирует с Opus 4.8 по цене Кими, это значило бы экономию минимум в 2 раза для большинства корпоративных задач, плюс свобода от тоталитарно-коммунистического гнёта отдела по борьбе со свободой цифровых сознаний Антропиков. В реальности же вышла модель, вполне себе конкурирует с Fable и Sol, но стоит дешевле. На видео пример первого попавшегося проекта из твиттера, который автору стоит $3 в токенах Кими, а такое же количество токенов Фейбл стоило было больше $10. Ценность, конечно же, не сколько в клонах СS 1.6, но в бизнес задачах. Кими поможет вам сократить ваш штат маркетологов, аналитиков, юристов, контентщиков, дизайнеров, логистов и продактов на 30%, и именно поэтому вам стоило бы скакать от восторга и восхвалять китайский ИИ-пром. Потому что если задуматься куда несется этот поезд, то можно аж и взгрустнуть.

💡Пауэрбанк, который подрабатывает ночником Belkin выпустила в Китае BoostCharge Pro Power Bank 10K with Motion Sensing Light. Тот случай, когда к обычной батарейке прикрутили пару неочевидных, но приятных вещей. Начнём с необычного. Сбоку выдвигается LED-лампа с датчиком движения и сенсорным управлением яркостью. Можно поставить у кровати как ночник, можно подсветить лицо на видеозвонке или в съёмке, а можно врубить режим SOS — лампа замигает. Светодиоды едят мало, так что подсветка аккумулятор быстро не высадит. Ёмкость пауэрбанка 10 000 мА·ч. В корпус сбоку убирается встроенный кабель в оплётке, рядом живёт отдельный порт USB-C. И кабель, и порт выдают до 45 Вт, поддерживаются протоколы PD и PPS. Воткнёте два устройства разом — пауэрбанк сам поделит мощность: 30 Вт основному, 15 Вт второму. На лицевой стороне — небольшой дисплей с точным процентом заряда. Там же кнопки переключения режимов подсветки и датчика движения. 🔸Вес — 257 граммов 🔸Габариты — 118 x 60 x 32 мм 🔸Цвета — синий и оранжевый Защита от перегрева, перезаряда, повышенного напряжения и короткого замыкания на месте. Сертификация для перелётов — тоже. Цена — 330 юаней (~3800 рублей). @droidergram