Какая боль, какая боль: лучшие научные рецензенты - ИИ - 132:0 Гарвардский эксперимент показал превосходство ИИ над лучшими экспертами. И за этой победой скрывается угроза, способная изменить саму природу науки В науке десятилетиями существовал почти священный институт - peer review, экспертная оценка научных работ. От рецензентов зависит, какие ошибки будут исправлены, какие результаты получат признание и какие идеи смогут пробиться на страницы престижных журналов. И вот исследователи Гарварда Гэри Кинг и Стивен Уортингтон устроили эксперимент, результаты которого выглядят полным разгромом «кожаных мешков». Причём людям создали практически идеальные условия. 124 научные рукописи. 134 рецензии высококвалифицированных экспертов. Рецензентов тщательно отбирали, хорошо оплачивали их труд и мотивировали писать максимально содержательные заключения. 88% опрошенных авторов оценили полученные рецензии как хорошие или очень хорошие. Против этих экспертов выставили Claude Opus 4.8.   Результат оказался почти невероятным. 100% побед ИИ в 132 однозначных сравнениях, проведённых независимой моделью GPT-5.5. 87% побед в слепой оценке трёх бывших редакторов ведущих научных журналов: 26 из 30 вердиктов по десяти рукописям. Победа во всех семи категориях — от методов исследования и теоретических идей до обнаружения слабостей, работы с источниками и качества аргументации. Ошибочных утверждений почти втрое меньше: 5,5% у ИИ против 15,9% у людей. Ни одной вымышленной ссылки в проверенных ИИ-рецензиях. Исследователи специально проверяли, не объясняется ли успех ИИ большей длиной рецензий, особенностями машинного стиля или предпочтениями ИИ-судьи. Преимущество сохранилось.   Но главный результат этого исследования - даже не разгромный счёт. А перспектива переворота в организации науки.   Представьте новую систему. Учёный пишет статью и многократно прогоняет её через ИИ-рецензента, устраняя ошибки и укрепляя аргументацию. Журнал предоставляет официальный промпт для проверки. Автор отправляет статью вместе с ИИ-рецензией и ответами на замечания. Редактор проводит независимую проверку и привлекает человека-эксперта лишь в сложных случаях. Решение о публикации, на которое сегодня уходят месяцы, потенциально можно принимать за дни.   Разумеется, пока это прогноз. Исследование ещё не прошло обычное журнальное рецензирование, охватывает ограниченный круг научных областей и не доказывает, что статьи после советов ИИ действительно становятся лучше. Тем более оно не показывает, что ИИ лучше человека решает, какие открытия заслуживают публикации. Но именно здесь возникает вопрос, который мне кажется важнее всех остальных. А что, если лучший рецензент отдельных научных работ окажется худшим архитектором науки в целом?   Ведь наука движется вперёд не только благодаря устранению ошибок. Она развивается благодаря идеям, которые поначалу кажутся ошибочными. Благодаря нарушению привычных правил. Благодаря интеллектуальным мутациям, которые существующие критерии качества ещё не умеют оценивать.   Авторы исследования сами предупреждают: использование сходных ИИ-моделей может сделать отдельные работы качественнее, а науку в целом - более однородной и ортодоксальной. Представьте миллионы исследователей, совершенствующих свои статьи под требования нескольких практически одинаково мыслящих машинных критиков. Мы рискуем получить науку с гораздо меньшим количеством ошибок - и гораздо меньшим разнообразием идей (см. также здесь). Причём прежняя система человеческого рецензирования тоже подавляла неортодоксальные идеи. Но машинная способна масштабировать подобный эффект с беспрецедентной скоростью.   Так что, не спрашивайте, способен ли ИИ превзойти человека в научной критике. ИИ уже может быть лучшим критиком сегодняшней науки. Но кто будет защищать науку завтрашнюю от её лучших критиков – вопрос открыт.   Наука  #ГенИИ #Креативность

Кто будет растить сеньоров Для выступления в Сколково про перспективы развития ИИ разбирал исследование "Канарейки в угольной шахте" экономистов Бриньольфссона, Чандара и Чэнь. Авторы проанализировали данные ADP о занятости миллионов американцев. ADP (Automatic Data Processing) - американская компания, которая помогает работодателям рассчитывать и выплачивать зарплаты, учитывать налоги и вести кадровые процессы, поэтому у неё есть данные о реальной занятости: сколько людей работает в компаниях, сколько получает, кого наняли и кто ушёл. Общей катастрофы на рынке труда в исследовании не обнаружили, но вот у начинающих картина неприятная. Собственно отсюда и название статьи - канарейку в угольные шахты брали потому что она первой погибала от газа и своей смертью предупреждала шахтеров. Авторы увидели здесь некоторую аналогию с начинающими специалистами, которые первые приняли на себя удар ИИ. На первом графике в аттаче к посту занятость разделена по возрасту и подверженности профессии влиянию ИИ (в оригинале AI-exposed). Самыми подверженными считали разработчиков, сотрудников техподдержки и других обладателей сильно автоматизируемых с помощью ИИ ролей. Наименее подверженными считали тех, чья работа связана с оффлайном. У мужчин это была работа руками, у женщин в основном уход - няни и сиделки. Кстати, самой неэйджистской профессией оказались складские рабочие - там рады людям всех возрастов. Полный же список из более двух сотен профессий можно посмотреть уже в материалах исследования. Чем темнее линия, тем выше подверженность влиянию ИИ показанной на графике группы. У 22–25-летних линии расходятся: с ноября 2022 по июнь 2026 занятость в двух наиболее подверженных группах упала примерно на 11%, в трёх остальных выросла на 10%. У старших такого расхождения нет. Возраст здесь, конечно, только приближение к началу карьеры: особенно комично смотреть на группу 50+ с подписью "Senior" в контексте IT. Но что поделать, когда спектр исследуемых профессий такой широкий, приходится и под senior иметь ввиду людей в возрасте, а не senior в плане карьеры. На второй картинке отдельно показаны самые уязвимые - разработчики и клиентская поддержка. Синяя линия, сотрудники 22–25 лет, в обоих случаях резко идёт вниз, а у большинства старших групп занятость выросла. То есть внутри этих профессий прям сильно заметно падение спроса на новичков. Остается вполне практический вопрос к руководителям: на каких задачах теперь будут учиться наши будущие сеньоры? Если простые задачи забрал ИИ, первую ступень мы вынуждены придумывать заново: давать новичку уже более сложные задачи, учить проверять результат и получать с помощью сеток не только сомнительный нейрослоп, тратить время наставников на развитие новичков, когда сами наставники с сетками сделали бы задачи быстрее. Мне все это жутко напоминает старый холивар: учить себе новых сотрудников или нанимать с рынка уже опытных. Так что в каком-то смысле ничего нового, просто декорации поменялись, а дилеммы у нас все те же.

Искусственный интеллект отнимет у нас работу во время следующей рецессии Это прогноз от Гада Леванона, главного экономиста The Burning Glass Institute.

Аргументы в пользу того, что сейчас не надо беспокоиться о влиянии искусственного интеллекта на рынок труда таковы: уровень безработицы низкий, и создается много рабочих мест, связанных с AI. Большинство исследований не выявляют значительных негативных эффектов. Если бы AI отнимал рабочие места, мы бы увидели это в данных. Как я уже писал в других статьях, я не согласен с этими исследованиями и выводами, поскольку считаю их крайне несовершенными. Но это не является предметом данной статьи.

Он приводит такой пример: В конце 1990-х в американской промышленности активно обсуждалась угроза автоматизации и переноса производства в другие страны. Но статистика занятости не подтверждала этих опасений. В 1998 году на производствах работало 17,6 млн человек. Безработица составляла около 4%, и даже Бюро трудовой статистики США прогнозировало увеличение «промышленной» занятости на 3% в 2000–2010 годах. Но в итоге сектор потерял за этот период 5,75 млн рабочих мест. 88% сокращений пришлись на последующие две рецессии (2001 и 2007 годы). Потому что именно экономические кризисы становятся ключевым триггером для масштабного исчезновения рабочих мест. А не только технологические возможности. К концу 1990-х американские компании уже располагали технологиями и подходами, позволявшими обходиться меньшим количеством работников. Но не спешили с оптимизацией. При растущих продажах и прибыльности у компаний не было достаточных стимулов проводить массовые увольнения. Рецессия переворачивает ситуацию: прибыли критически падают, а сокращения персонала становится гораздо более социально приемлемыми. Увольнения, которые в период роста вызвали бы скандал, во время кризиса воспринимаются как рациональная необходимая мера. К каким выводам и прогнозам приходит Леванон: • Занятость обрушит не столько развитие AI, а следующая большая рецессия. Она запустит процесс, аналогичный промышленному кризису в США 2001 года, но теперь в профессиях, связанных с интеллектуальным и административным трудом. • Скорее всего это будет необратимый процесс. То есть, с учётом развития AI и автоматизации, эти рабочие места исчезнут навсегда. • Особую тревогу вызывает «молодежная» занятость. Если они испытывают трудности с трудоустройством даже сейчас, в относительно благоприятной экономической ситуации, следующая рецессия может значительно усилить эти проблемы. Разумеется, Леванон анализирует американский рынок труда, и автоматически переносить его прогноз на международный и российский контекст нельзя.

Разрыв между тем, на что способны передовые AI-модели, и тем, для чего большинство компаний их фактически используют, огромен. И я ожидаю, что он будет продолжать расти. Сокращение этого разрыва станет одним из важнейших драйверов, формирующих экономику и рынок труда США в ближайшие годы и десятилетия. Этот разрыв представляет собой запас изменений, позволяющих сократить трудовые ресурсы, которые компании могли бы использовать, но не сделали этого — тот же самый запас, которым располагали производители в 1999-2000 годах.

→ https://gadlevanon.substack.com/p/ai-will-take-its-jobs-in-the-next

➡️Мы строили жизнь с расчётом, что никто не будет её слишком тщательно её ковырять. Теперь будет Меня в последних событиях (очень много участившихся либо взломах, либо нахождениях дырок в безопасности) немного напрягает, насколько быстро дешевеет работа, которая раньше требовала редких специалистов. Действительно талантливых и деятельных хацкеров было в этих ваших интернетах достаточно мало. Т.к. тема сложная, ну и опасная само собой. В раскрытых за последние две недели исследованиях публичная и никакая не нафайнтюненная GPT‑5.6 Sol нашал критические проблемы в самом основании сайтов и серваков на которых работает больше половины снова-таки этих ваших интернетов (если вы не в контексте — погуглите "sol 5.6 php")... И давайте держать в головое, что эта модель уже считается моделью прошлого поколения.. Это уже вполне подъёмный бюджет для человека, который решил посидеть и поискать что-нибудь эдакое и интересное. Походу, мы заходим в период, когда огромный объём старого софта придётся проверять заново. Вот пример из мира игр. Систему PlayStation 5 взламывали от силы раза 3-4 и на это уходили годы. Недвано её взломали за 8 часов сразу после выхода нового патча... Есть ещё портативная Nintdendo Switch. Её ломали чаще, но там нужно было паять и что-то колдовать физически и на взломы уходили годы. Надвано тоже всзломали с ИИ быстренько( причем с обычным Codex и без пайки). И такого сейчас много... Сейчас такое время, что двадцать лет работы программы сами по себе больше не выглядят убедительным аргументом её надёжности. Видели в сети навайбкоженный пакет adobe? А любые приложения которые можно создавать (и с каждым апдейтом моделей — всё проще)? И сколько людей за эти годы действительно разбирали каждый сложный участок? Сколько потенциальных проблем отложили, потому что непонятно, как ими воспользоваться, а исправление может поломать всё остальное? Теперь появляется возможность возвращаться к таким местам с гораздо большим количеством времени и вычислений. И когда несколько месяцев назад главари ИИ мира били тревогу по поводу того, что в следующие полгода будет много проблем с кибербезопасностью — это уже не выглядит, как только лишь маркетинг и манипуляции рынком. У преступников, кстати, уже свои рабочие кабинеты с агентами, задачами и результатами. В каком-то там расследовании недвано (NorForge) у одного выявленного кластера обнаружили больше тыщи атакующих проектов. Обычная такая себе организация работы, а чего... Можно было перепутать с панелью агентства, которое делает клиентам сайты, если бы задачи были немного другие. И здесь галлюцинации моделей меня совершенно не успокаивают. Нападающему необязательно получать хороший результат каждый раз. Он может позволить себе множество бесполезных попыток. У владельца сервиса такая роскошь заканчивается на первой удачной. При этом найденную проблему ещё надо правильно исправить, проверить совместимость и раскатить обновления. AWS на прошлой неделе показали, как попытки эксплуатации начались ещё до публичного раскрытия, а после выхода исправления новые инструменты атаки пошли в дело в течение часов. Поэтому я не очень уж жду, что нынешняя волна просто уляжется и мы вернёмся к привычной жизни. Даже с учётом того, что на условную стражу ставят более умные модели и умные люди тоже это всё понимают. Но слишком многое в ней зависит от систем, которые теперь можно исследовать с другой скоростью и за другие деньги. Мы продолжим подключать к ним агентов, хранить там документы, проводить платежи. И придётся гораздо серьёзнее относиться к тому, кто всё это обслуживает и способен ли вообще быстро реагировать. Компании это всё понимают и направляют туда (в кибербез) ресурсы, даже делают миграции кадров дополнительные, чтобы усилить безопасность... Короче, можно сколько угодно смеяться над ИИшкой, которая снова наваяла кривой текст, или сгенерила нейрослоп, но... В другом окне она же помогает разбирать код сервиса, которому мы доверили условный паспорт. Вот этот уровень возможностей ии я бы сейчас держал в голове. Интересный сайт, показывает подобные события - ссылка

✔️ Ведущие разработчики Claude Code ушли из Anthropic Об уходе 24 октября объявил Тарик Шихипар, один из самых публичных инженеров проекта, прежде исследователь MIT Media Lab и выпускник Y Combinator, вслед за ним уволился Энтони Моррис, автор десктопной версии агента. Шихипар проработал над проектом больше года и планирует взять перерыв, а в сообщении, собравшем миллионы просмотров, похвалил оставшуюся команду и посоветовал следить за обновлениями через Эдди Османи и Лидию Халли. Оба уходят на пике коммерческого успеха - по данным компании годовая регулярная выручка Claude Code превысила 2,5 млрд долларов. Thariq Shihipar в X ✔️ Sakana AI обучит с нуля модель для нужд государства Токийский стартап меняет курс и берётся за собственное обучение модели с рабочим названием Sakana Sawara. Известность японскому разработчику принёс Fugu, объединявший готовые нейросети, но работа на чужих весах несла риск зависимости, а Японии нужен технологический суверенитет без привязки к корпорациям США и Китая. Первую компактную версию новой модели обещают весной 2027 года, дальше её отмасштабируют до сотен миллиардов параметров. Целевыми областями станут национальная безопасность, финансовый сектор, поиск уязвимостей и разбор кибератак, а также оборонные задачи, причём ИИ-аналитику Sakana уже испытывает по контракту с японским Минобороны. nikkei.com ✔️ Nvidia оценила лицензию на управление агентами в 2000 долларов за ускоритель в год Дженсен Хуанг считает, что ПО скоро станет важнейшей частью бизнеса компании. По его словам, комплексная лицензия на развёртывание агентов на корпоративных ИИ-фабриках обойдётся примерно в 2000 долларов за ускоритель в год, и если подписка охватит хотя бы пять миллионов чипов, принесёт до 10 млрд долларов стабильной выручки. Как тариф будет сосуществовать с действующей AI Enterprise, подписка на которую стоит 4500 долларов, пока неясно. Само желание показывает перестройку Nvidia, которая готова предложить рынку не только чипы, но и готовую инфраструктуру, стремясь уйти от статуса чисто аппаратной компании. tomshardware.com ✔️ Обещанный Маском полнометражный ИИ-фильм вышел семиминутным роликом В июле Илон Маск анонсировал, что Grok Imagine выпустит полноценную и исторически точную экранизацию «Одиссеи» Гомера. Вместо полного метра xAI показала видео чуть дольше семи минут, проект теперь называют сериалом, сроки следующих эпизодов неизвестны. Ролик сняли с Wonder Studios и режиссёром Девом Уокером, дебютировал он в X без подробностей - ни сроков производства, ни затрат, ни состава моделей компания не раскрыла. По оценкам сообщества, видео получилось плохим из-за затянутых экспозиций, неестественных диалогов и невыразительных персонажей. Grok Imagine в X ✔️ Figure AI утвердила дизайн гуманоида Figure 04 На корпоративном собрании глава компании Бретт Эдкок сообщил, что облик робота нового поколения определён окончательно, и назвал новинку «первым iPhone среди гуманоидов». Главная особенность - в кисти с моторикой почти на уровне человеческой, приводов в ней больше, чем во всём теле. Производство комплектующих началось, внешний вид робота держат в секрете. Железо делают под новую модель Helix 3.0, которую Эдкок называет «baby AGI», и для её обучения развёрнут колоссальный сбор данных - приложение Index загружает по 81 минуте видео с действиями каждую секунду. За неделю на пополнение наборов данных ушло около 8,1 млн долларов, а за год Эдкок обещает вложить в данные больше, чем большинство робототехнических стартапов привлекли за всё время. Brett Adcock в X @ai_machinelearning_big_data #news #ai #ml

🤡 Внедрение ИИ превращается в корпоративный спектакль Опубликованный 23 сентября отчёт Visier описывает новый эффект — *performative AI*, или показное использование искусственного интеллекта. Компания опросила 1 000 работающих полный день американцев и дополнила ответы интервью с сотрудниками из здравоохранения, финансов и HR. 🔵48% хотя бы иногда преувеличивали свой опыт или частоту использования ИИ 🔵45% чувствуют давление применять ИИ, даже когда не уверены, что умеют делать это эффективно 🔵59% не видят у работодателя ясного плана либо не знают, существует ли он 🔵Только 21% полностью согласны, что получают достаточно обучения и поддержки 🔵54% считают, что ИИ уже заметно изменил их роль или карьеру Сотрудники не обязательно пытаются сознательно обмануть компанию. Они подстраиваются под сигнал руководства: современный и эффективный специалист должен пользоваться ИИ. Признаться, что инструмент не подошёл для задачи или потребовал слишком много исправлений, становится рискованнее, чем сообщить об очередном успешном применении. Так внедрение незаметно превращается в соревнование по демонстрации активности. Люди упоминают ИИ на встречах, открывают корпоративные инструменты и добавляют технологию туда, где привычный способ работал быстрее. Дашборд показывает рост использования, но компания всё ещё не знает, стала ли работа лучше. Особенно легко получить такой результат, если руководители ставят цель «увеличить использование ИИ». Человек быстро понимает, какое поведение от него ждут. Чем сильнее частота входов, количество запросов или пройденных курсов влияют на оценку, тем меньше этим данным можно доверять. Полезнее начинать с конкретной проблемы: какую работу нужно ускорить, упростить или сделать качественнее? После эксперимента достаточно проверить, что изменилось с учётом проверки и исправления результата. Важно разрешить и честный ответ: «здесь ИИ не помог». Неудачный сценарий тоже экономит компании время — если его не будут повторять сотни сотрудников. Руководителю при этом нужна не декларация «используйте ИИ активнее», а понятные границы: где инструмент уместен, какие данные нельзя передавать, кто отвечает за итог и в каких задачах человеческая работа остаётся предпочтительной. Тогда сотруднику не приходится изображать уверенность, чтобы не выглядеть отстающим. ✅ Вывод Когда использование ИИ становится самостоятельной целью, сотрудники начинают оптимизировать не работу, а отчёт о внедрении. Зрелая компания спрашивает не «сколько людей открывали инструмент», а «какая задача теперь решается лучше». Всё остальное легко превращается в цифровую имитацию прогресса.

Про умение vs владение Наверное многие из вас удивляются, почему AI вроде бы дает буст продуктивности, но богаче никто особо не стал. А потому что ценность труда все время падает, а владения чем-то растет! Это пост рубрики выбор карьерного пути, ч.2. 1️⃣ График к посту кого-то заставит серьезно призадуматься о своей карьере: на нем изображено, какая доля долю созданной стоимости в США уходит работникам. И тренд устойчивый 80 лет, усилившийся в XXI веке: капитал забирает себе все больше, а работник - все меньше. Если кто-то считает, что AI сможет заменить многие профессии, то этот грустный тренд только усилится. 2️⃣ Наверное все понимают, что зарплата зависит не от созданной сотрудником ценности для компании, а от альтернатив на рынке труда, в виде других кандидатов, кто может сделать работу за меньшую з/п. Это же, чуть проще и жестче: компания платит вам не за то, сколько вы ей приносите, а за то, сколько ей стоит вас заменить. 3️⃣ А если стоимость/ценность труда будет падать (из-за AI или чего-то другого), навыки обесцениваться, то важным будет не умение, а ВЛАДЕНИЕ. Другими словами, если все большая часть дополнительного выпуска создается с помощью капитала (софта, моделей, вычислений, автоматизации и др.), то и все большая часть дохода уходит владельцам этих активов, а не работникам, продающим свои рабочие часы. 4️⃣ Какой можно сделать вывод? В будущем придется еще больше стремиться к ownership! Потому что главный разрыв может проходить не между высококвалифицированными и низкоквалифицированными, а между owners и non-owners. 5️⃣ Можно сказать, что в будущем AI действительно может повышать продуктивность, и одновременно с этим снижать доход работников. Точнее сказать так: работник может становиться богаче в абсолютных цифрах, но одновременно получать все меньшую долю пирога. Потому что сливки (маржу) заберут себе владельцы моделей, софта, каналов дистрибьюции и т.д. Подобное перераспределение уже происходит на рынке текстового контента в интернете (пост об этом). 6️⃣ Короче, в карьере будущего что-то обязательно должно капитализироваться! Доля в компании, база клиентов, роялти, аудитория, недвижимость, канал дистрибьюции, бренд и т.д. - то есть капитализируемым активом может быть многое. В предыдущем посте рубрики была формула: [TAM] x [рычаг] x [отчуждаемость] x [экспертиза] К ней можно задать себе экзистенциальный карьерный вопрос: Если я еще пять лет буду делать ровно это же, то чем я буду владеть спустя эти пять лет? @kyrillic

Куда движется рынок найма и что делать сейчас? Встречался на выходных с приятелем, топ-менеджером одной европейской компании. Говорю - куда дальше двигаться, что с рынком происходит? Он рассказывает мне - как только открывается вакансия у них в компании, в первые минуты около 50 резюме прилетает, т.е. уровень автоматизации и AI внедрения на стороне кандидатов ошеломляет, при этом ни один из подавшихся обычно не соответствует реально требованиям и врёт о своём опыте. Я помню когда я начал погружаться в LinkedIn, в 2022-2024 годах я был одним из немногих, кто понимал как работает аналитика, знал как делать профиль, понимал что такое SSI и какое его “готовить”. Прошло два года, теперь профили LinkedIn делает AI, прожарки делает каждый первый. Плохо ли это? Нет, не плохо, это изменение рынка, эволюция, нормальный процесс. С рынком найма происходит так же. То, что когда-то считалось уникальным - сделать CV под вакансию, индивидуальное Cover letter - теперь это то, что делают все и выграть в гонке где бегут все - супер сложно. Что делать? Нужно искать ниши, нужно искать опции, которыми мало кто пользуется. Например - писать нормальные Welcome сообщения и учиться коммуникации. Когда все устали от AI сгенерированных сообщений, можно написать что-то “от души”, “от себя” и это точно сработает лучше, чем AI-слоп. Ходить на random кофе, присоединяться к разным community, искать выходы на лиц принимающих решения. Т.е. то, что стало СЛОЖНО. Смотрите, система всегда одинаковая - ПРОСТО - делают все. СЛОЖНО - делают единицы. Я анализировал переходы за последние 2-3 месяца в моём окружении. Переход на роль CTO Shopify - LinkedIn и личный бренд. Топ менеджер OLX - личный бренд, конференции, LinkedIn. VP Parloa - конференции. Это люди, которых я знаю и они огромные молодцы. Возможно кто-то из них откликнулся на вакансию, но нет. Что делать вам? 1/ Работать над позиционированием в первую очередь 2/ Развивать личный бренд в LinkedIn или тематических площадках под вашу job family (например X(икс) у ребят из Инофсек) 3/ Подтянуть базовые навыки - сейчас это использование AI, английский, коммуникации И пробовать, пробовать, экспериментировать. Кстати, а много из вас используют AI для того, чтобы сделать профайл LinkedIn? Ставьте - 🔥️️️️️️ огонёк, если используете 🌚Луну - если всё делаете по-старинке руками