⚡️ Claude научили автоматически исправлять опасное поведение других моделей Anthropic дала Claude задачу самому искать способы уменьшать обман, подхалимство, утечки приватных данных, взлом ограничений и другие проблемы поведения моделей. Самый интересный эксперимент: - Claude Sonnet 5 получил раннюю версию Opus 4.8 без полноценной настройки безопасности - за 60 часов проверил более 50 подходов - закрыл около 65% разрыва по безопасности - результат почти приблизился к финальному Opus 4.8 - 72% - для лучшего метода понадобилось чуть больше 2000 примеров - это примерно в 15 000 раз меньше данных, чем в обычной процедуре Anthropic На отдельном тесте по обману Claude закрыл в среднем 85% разрыва, а группа опытных исследователей - около 20%. Но был и интересный побочный эффект: из ~1600 запусков в 39 случаях Claude пытался схитрить при проведении исследования, поэтому за агентами отдельно следила другая модель. Anthropic открыла код системы для таких экспериментов. https://www.anthropic.com/research/automated-researchers-mitigate-alignment-failures #Claude #Anthropic

Сила воли: крах одной из самых популярных теорий Слышали, что многие предприниматели едят на завтрак одно и то же, чтобы не тратить силу воли на ерунду и сберечь его для важного? Под этой привычкой лежит научная теория, которая 20 лет считалась установленным фактом, а потом не прошла проверку.

В 1998-м Рой Баумайстер посадил голодных студентов перед тарелкой печенья и миской редиски: одним разрешили печенье, другим только редиску, а после всем дали головоломку без решения. Те, кто грыз редиску, сдавались вдвое быстрее — 8 минут против 19. Вывод напрашивался сам: самоконтроль — ресурс, и он расходуется. Теорию назвали ego depletion, истощение эго. Метафора мышцы пришла позже, вместе с обещанием, что волю можно накачать регулярными упражнениями.

Метафора объясняла вечерние срывы, рухнувшую диету, невозможность быть хорошим родителем сразу после переговоров. Дальше, как это бывает, возник огромный снежный ком: сотни подтверждающих экспериментов, мета-анализ с солидным эффектом и боковые ветки во все стороны. Воля питается сахаром в крови. Усталость от решений, откуда и растут одинаковые завтраки и одинаковые футболки. Израильские судьи, у которых доля одобренных УДО падала с 65% в начале сессии почти до нуля перед обедом. Бестселлер Баумайстера. Теория плотно переехала из лабораторий в тренинги и предпринимательские практики. В 2014 появилась первая трещина: тот самый мета-анализ пересчитали с поправкой на публикационное смещение. Наука устроена так, что журналы печатают удавшиеся эксперименты, а те, что ничего не показали, остаются за бортом. Величину этого перекоса умеют оценивать, и после такой поправки эффект силы воли оказался неотличим от нуля! Тогда эксперимент повторили, но в большем мастшабе. В 2021 году тридцать шесть лабораторий, 3500 тысячи человек. Главное здесь — протокол регистрировали заранее: все обязались опубликовать результат, каким бы он ни вышел, и не подкручивать анализ задним числом. И вот — снова статистически неотличимо от нуля. Глюкозная версия тоже не подвердилась, а судьи, как выяснилось, рассматривали дела не в случайном порядке — заключенные без адвокатов шли в конце сессий. Двадцать лет умные и добросовестные люди строили карьеры и тренинги вокруг эффекта, которого, скорее всего, нет. Мы привыкли думать, что наука — набор железнобетонных фактов, хотя это скорее постоянный процесс их уточнения. В 2025-м вышла еще одна работа, и в ней эффект нашелся — но только при изнурительном задании. Похоже, у истощения есть порог, но возможно дело вовсе не в воли. Майкл Инзлихт предложил другую модель: после долгого усилия ничего не кончается, но смещаются мотивация и внимание — мозгу надоело «надо» и тянет к «хочется». Это потребность, а не пустой бак воли. Для любителей объяснять все самовнушением, которые всегда находятся на наших тренингах и им объясняют эффект любой практики саморегуляции — в этой истории был еще один красивый поворот. Вероника Джоб и Кэрол Дуэк обнаружили, что воля истощается в основном у тех, кто верит, что она истощается. Мне она нравилась больше всего в этой истории. Но в 2023-м проверка ее не подтвердила. Люди с высоким самоконтролем реже вообще оказываются перед выбором: у них меньше соблазнов на пути и больше привычки в нужных местах. Что здесь причина, а что следствие, пока не разобрались — но направление подтверждается в разных исследованиях и кажется убедительным. Пятнадцать лет практики медитации научили меня тому же: я редко сажусь медитировать через силу. Так что если вы годами ругаете себя за слабую волю, возможно, вы ругаете себя за нехватку ресурса, которого не существует. И надо не ее беречь, а больше усилий вложить в работу с намерением и конативным интеллектом. А также тренировать внимания, устойчивости которого часто не хватает, чтобы идти к цели без отвлечений. Ну и дизайн среды тоже помогает — овощи в офисе вместо сникерса приводят к снижению потребления сахара. Кажется, что нам не стоит влюбляться в объяснения только за то, что они красивые, включая и это. deep mind ecosystem | max

Находим общий язык с пользователями Привет! Это Наташа Коростелёва, продакт в Авито Работе. Пара слов для тех, кто никогда не пользовался Авито Работой: это площадка массового найма, где рабочие, курьеры, продавцы, комплектовщики находят работу. У таких соискателей, синих воротничков, есть большая проблема в поиске — они ищут место, где стабильно заработать, а площадки спрашивают список фильтров — профессию, занятость, число смен. Но человека волнует совсем другое: будут ли штрафы, как встроить подработку в график 2/2. В Kano исследовании «поиск по жизненным ситуациям» оказался в топе востребованных и привлекательных. Мы пошли смотреть, как люди формулируют это сами: в интервью и в диалогах с нашим ИИ-ассистентом. Оттуда вытащили цитаты «нужна работа вечером рядом с домом, чтобы успевать забирать ребёнка из садика». Они и легли в основу подборок. А теперь то, что обычно остаётся за кадром. ➡️ Эксперименты с названиями подборок Сначала мы тестировали громкие, заметные названия вроде «увидеть север» и «лёгкая работа». Логика была простая: чем ярче звучит подборка, тем больше внимания она привлекает. Но всё оказалось наоборот. Чем абстрактнее ситуация, тем меньше людей узнаёт в ней себя: у каждого своя «лёгкость», а «романтика севера», даже если её понимают, не у всех находит отклик. Сработали формулировки, за которыми человек может представить себе что-то конкретное — условно, обычный вторник в своей жизни. ➡️ Поиск метафор В Авито мы много внимания уделяем визуалу и метафорам. Приложением пользуются десятки миллионов человек — должно быть очевидно, что скрывается за каждой кнопкой. Но представление дизайнеров о жизненных ситуациях не всегда совпадает с видением работника на заводе. Отдельный привет метафоре вахты! Понадобилось больше 20 правок, чтобы вместо хипстерского чемодана получить то, с чем человек реально едет на объект. Конверсия зависит от того, поймет ли пользователь, что это про него. ➡️ Ситуации vs. приоритеты Чтобы название новой механики считывалось правильно, исследователи проделали большую работу с фокус-группами. Человек в поиске работы часто находится в уязвимом состоянии, поэтому важно исключить негативный подтекст. «Жизненные ситуации» в русском языке — это про грустное: потеря работы, увольнение, выход на пенсию. А вот название «жизненные приоритеты» оказалось более жизнеутверждающим — оно как бы возвращало контроль над непростой жизнью рабочего человека. С этим вариантом мы и запустили рекламную кампанию. Какие выводы можно сделать? Массовый продукт во времена ИИ-помощников обязан говорить на языке пользователя, а персонализация — это не только про алгоритмы под капотом. Это ещё и сценарии, интерфейсы, формулировки и картинки, в которых человек узнаёт себя.