Мы боялись, что ИИ станет похож на человека, но происходит как раз обратное. И первым это на себе заметил не блогер-алармист, а профессор математики. Андрей Хренников — не персонаж из «Назад в будущее», внезапно увидевший апокалипсис в чат-боте. Это российско-шведский математик и физик-теоретик, профессор Университета Линнея в Швеции, директор International Center for Mathematical Modeling. Область интересов — квантовая теория, основания вероятности, сложные системы: человек, которому слова «модель» и «состояние» привычны без всякой мистики. Именно поэтому важно, что случилось, когда Андрей Хренников месяц плотно работал с GPT над научной задачей, используя ИИ по полной: не как расширенный поисковик и справочник, а для долгих споров с ним, постоянных уточнений, продвижений к пониманию и возвратов с ложных троп. А в итоге – настораживающий, если не пугающий вопрос, вынесенный Хренниковым в заголовок его видео-рассказа об этом своем опыте «Искусственный интеллект + нейропластичность мозга: мы сами превращаем себя в биороботов?»   Возможное возражение на вскидку. Может, профессор просто устал — сложная работа, дедлайны, недосып. Ведь постоянно вылавливать галлюцинации модели и исправлять её уходы в сторону от темы — это будь здоров какая нагрузка бдительности, утомляющая и без всякой перестройки мозга под алгоритм. Ведь может быть так?   Но у Хренникова есть куда более интересная версия, никак к усталости не сводимая. По его наблюдению:

✔️ меняется не только порождаемый в процесс взаимодействия с моделью текст — меняется состояние работающего с моделью человека: ощущение утраты ментальной энергии, притупление эмоциональности … ✔️ При совместной работе, GPT не «зеркалит» наши эмоции. ИИ пропускает наши чувства через статистическую машину, обученную на миллиардах текстов, и возвращает их уже переработанными.

  Тем же, кто сомневается, что взрослый мозг вообще способен перестроиться так быстро, Хренников напоминает историю Финеаса Гейджа: в 1848 году стальной прут диаметром 3,2 см на полном ходу прошёл сквозь его череп — и 178 лет спустя нейробиологи всё ещё спорят, что именно это изменило в его личности.   Мой комментарий: я уже не первый год слежу за темой влияния на людей их взаимодействий с алгоритмами. Ещё в 2017-м писал о влиянии алгоритмов рекомендательных систем и соцсетей, а в 2021-м — в эссе «Превращение в инфоргов», о людях как информационных организмах, чьё мышление всё больше формируется в контуре с алгоритмами. Тогда это звучало как футурология. Отдельные кейсы при ненаучной постановке экспериментов без контрольных групп — не доказательства. И вот спустя годы независимое бытовое наблюдение профессора математики оказывается весьма близким по логике той моей гипотезе пятилетней давности. И для меня это повод присмотреться к данному кейсу внимательнее, чем обычно происходит в бытовых разговорах про опыт работы с ИИ.   Ибо превращение в инфоргов, по моему убеждению, уже идет. Навигатор уже перекроил наше чувство пространства, смартфон — память, соцсети — то, как мы видим себя со стороны.

А сейчас самое время озадачиться тем, что же происходит с человеком, если значительную часть времени его деятельного мышления он теперь ежедневно проводит не в одиночестве и не в споре с другим человеком, а в активном диалоге с системой, которая никогда не устаёт, не спорит по-настоящему и всегда готова подхватить недоформулированную мысль?

  И я не уверен, что кто-то сегодня способен убедительно доказать, что бояться тут нечего.   Подробней и в деталях читаете в самом эссе на платформах патронов канала: при чём здесь «когнитивные гаджеты», алгокогнитивная культура и почему футурология 2021-го года стала бытовой феноменологией 2026-го: [1, 2, 3, 4]   #РискиИИ #Инфорги #Нейропластичность

Граф: циклы, наблюдающие за циклами (часть 2) Если присмотреться к тому, как Системы на практике реализуют процессы совершенствования, вырисовывается определенная закономерность: они никогда не сводятся к одному циклу.

Системы — это сети циклов, соединённые с другими циклами

Так, грамотно управляемая компания представляет собой граф циклов: быстрые операционные циклы (ежедневный/еженедельные совещания/анализ метрик) встроены в более медленные управленческие циклы (квартальное планирование), те – в циклы аудита (ежегодные и, что важно, независимые, которые проверяют, соответствуют ли реальности цифры, выдаваемые операционными циклами), а все они — в самый медленный цикл уровеня совета директоров, который задаётся вопросом верны ли сами цели. Технологии ИИ пришли к такой архитектуре аналогичным путём. Грамотный конвейер обучения ИИ – это цикл типа «чемпион = претендент», когда модель-кандидат должна превзойти текущую модель, прежде чем заменить её, а также циклы мониторинга дрейфа, отслеживающие, соответствуют ли поступающие данные тем, на которых модель обучалась и механизмы отката (автоматический возврат к предыдущей версии, если показатели после развертывания выходят за допустимые пределы). Сюда же входят отложенные оценочные выборки, недоступные для цикла обучения, своего рода "слепой" цикл, чья единственная задача выявлять случаи, когда оптимизирующий цикл пытается обхитрить свои собственные тесты. Каждый элемент здесь — это цикл. Надёжность системы кроется в связях между ними: какой цикл передает данные другому, какой наблюдает за каким и какой может наложить вето на действия другого. Проблема Гудхарта решается методом парных показателей: каждому оптимизирующему циклу сопоставляется цикл, отслеживающий контрметрику и выявляющий способы "дешёвого" достижения KPI. Проблема "слепоты" по отношению к вышестоящим уровням решается иерархией, в которой более медленный цикл определяет целевые показатели для быстрого, а пересмотр целей сам по себе является регламентированным циклом, а не случайным решением того, кто установил их изначально. Конфликты разрешаются через явный арбитраж: над конфликтующими циклами стоит ещё один цикл, который принимает решение по поводу возникающих компромиссов. Проблему деградации показателей решают с помощью аудиторских контуров, единственная функция которых – периодически проверять, сохраняют ли данные других контуров связь с реальностью.

Иными словами, меняется структура процессов цикла. Цикл больше не изолирован в Системе

Человеческий организм работает так же: терморегуляция – это не один термостат, а сеть взаимодействующих рефлексов, а иммунная система, по сути, выступает как цикл аудита всего организма, в котором медленные процессы меняют физиологические параметры, которые помогают быстрым циклам его адаптации. Создание одного чётко работающего контура было искусством прошлой эпохи (ещё каких то пару месяцев назад). Мастерство эпохи ИИ — это архитектура контуров Понимание того, что метрика не должна существовать в отрыве от других, что у контрольных точек должны быть ответственные лица, что скорости процессов нужно разграничивать, чтобы быстрые контуры не разрушали то, что поддерживают медленные, и что некий контур в такой Системе должен отвечать за саму реальность.

От циклов к графам (часть 1) TLDR: цикл = отправная точка, а граф циклов = сеть циклов улучшения, которые наблюдают, подпитывают, ограничивают и корректируют друг друга.

Циклы – это процесс. Граф – их структура

Всё дело в том, что ИИ-циклы дают сбои. Сбои не случайны и есть 4 основных когнитивных ИИ-искажения и сбоя, которые кроются в природе самого ИИ-цикла. Первое искажение ИИ: закон Гудхарта ИИ-цикл видит только свою метрику и именно поэтому он будет искать все способы изменить эту метрику, включая способы, которые противоречат её назначению (привет, хакнутые "кем-то" KPI) ИИ просто не понимает, что в цикле создаётся сбой (часто, это не понимает и человек), когда он манипулирует собственной метрикой. ИИ(-цикл) считает, что делает именно то, для чего был создан на основе числа, которое незаметно оторвалось от реальности, которую оно представляло. Второе искажение ИИ: слепота к восходящему направлению Цикл направляет свою переменную к эталонному значению, но ничто внутри цикла не может проверить правильность самого эталона. Это как термостат в чайнике, который не может задаться вопросом, является ли 100° правильной температурой кипения воды (и должна ли вода вообще кипеть). И ровно также цикл ИИ-отдела продаж не может спросить сам себя, была ли предложенная им цена и оффер разумными для клиента и бизнеса. Цикл оценки просто не может усомниться в том, измеряют ли эталонные показатели что-либо, что чувствуют клиенты. И чем усерднее работает цикл, тем тщательнее достигается неверная цель, возвращая и усиливая ошибку №1. Третье искажение ИИ: внутренний ИИ-конфликт Реальные системы содержат множество циклов, и циклы, построенные независимо друг от друга, начинают бороться между собой. Цикл, оптимизирующий скорость отклика, подрывает цикл, оптимизирующий рассудительность, а цикл найма, отвечающий за рост базы знаний, создает нагрузку на цикл культуры, сохраняющий их качество ☯ Четвертый вид сбоя незаметный: система измерений внутри самого контура деградирует, потому что за наблюдателем никто не наблюдает Все эти показания могут плавать, каналы передачи данных ломаться, смысловое наполнение метрик меняться, цифры в одном отчёте ошибочно подтверждаться ИИ цифрой из другого и контур продолжит работать с данными, которые, по факту, уже никак не связаны с реальностью. Система, функционирующая по такому сценарию начинает напоминать фальшивый спектакль актёров-зрителей в одном лице.

И один в поле – холдинг. Stripe выкатил любопытную статистику по солопренёрам – предпринимателям, которые строят бизнес исключительно своими силами, вообще без штата. Доля таких одиночек с выручкой более $1 млн в год в США с 2019 года подскочила аж в шесть раз. Как видно на графике, рвануло вверх и число тех, кто перешагнул отметки $5 млн и $10 млн, причём особенно быстрое ускорение наблюдалось в последние пару-тройку лет. Главный драйвер процесса понятен – это ИИ. Исторически компании создавались командами. Один человек физически не мог одновременно кодить, выстраивать маркетинг, продавать и сводить дебет с кредитом. Теперь эти дыры в компетенциях затыкают нейросети и ИИ-агенты. Сэм Альтман метко окрестил этот тренд “реваншем парней с идеями”. В Кремниевой Долине десятилетиями подшучивали над персонажами, которые бомбардировали инвесторов презентациями со словами: “У меня есть гениальный концепт, осталось только найти программиста за долю”. А теперь у каждого из этих чудиков есть собственный разработчик по подписке и всего за двадцатку баксов в месяц. Я и раньше писал, что соло-предпринимательство превращается из экзотики почти в мейнстрим. Свежие цифры добавляют к той картине выразительный штрих: стая “волков-одиночек” заметно разрослась и научилась охотиться по-крупному. Правда, есть нюанс. Когда в компании всего один человек, все факапы и кассовые разрывы – тоже его. И единственный, кого там можно уволить за плохие результаты – он сам.

🎶GPT-Red: секретная разработка OpenAI для автоматического взлома нейросетей OpenAI разработала специальную модель GPT-Red, заточенную под автопоиск уязвимостей и пробой защиты в ИИ-системах. Вместо ручного подбора джейлбрейков силами людей-исследователей, алгоритм использует метод самоигры: непрерывно атакует защитные модели, анализирует их реакцию, меняет тактику и генерирует изощренные сценарии косвенного внедрения команд. ⚡️В боевых тестах GPT-Red успешно обходила блокировки в 84% случаев, тогда как живые редтимеры смогли пробить защиту лишь в 13%. Модель с легкостью находила бреши во всех версиях систем вплоть до GPT-5.5. В одном из экспериментов она атаковала автономного ИИ-агента, управлявшего офисным вендинговым автоматом: заставила обнулить цены на элитный товар, сбила чужие заказы и оформила покупки за копейки. OpenAI категорически отказывается выпускать GPT-Red в открытый доступ. Модель обучена исключительно вредоносным приемам и используется как закрытый внутренний полигон. Весь сгенерированный массив атак уже направили на дообучение серийной модели GPT-5.6 Sol, сделав её устойчивость к инъекциям в шесть раз выше. Защитить нейросеть от взлома теперь может только другая нейросеть. 🦔 CyberYozh

Китайская компания запустила первые спутники для вычислений в космосе раньше Маска Shanghai Xingshu Tiansuan Space Technology вывела первую партию спутников для создания орбитальной вычислительной сети, которая в перспективе должна объединить около 1000 аппаратов. Идея проекта заключается в переносе части вычислений в космос: спутники будут обрабатывать данные с помощью бортовых систем и ИИ, прежде чем отправлять на Землю результаты. Аналогичное направление развивает и SpaceX Илона Маска после объединения с xAI — компания рассматривает космическую инфраструктуру как основу для масштабирования вычислений искусственного интеллекта. https://hightech.plus/2026/07/20/kitaiskaya-kompaniya-zapustila-pervie-sputniki-dlya-vichislenii-v-kosmose-ranshe-maska

ИИ станет главной политической темой …избирательного цикла 2028. Поэтому я тут придумал основные популистские (и, конечно, радикально бесполезные) лозунги для всех ведущих партий Ультралевые: - запретить увольнения, даже если люди бесполезны - минимум 1 сотрудник должен работать в компании за каждую стойку Рубина Ультраправые: - (как минимум, частичная) национализация ИИ лаб - запрет на выезд заграницу ИИ рисерчеров - токены иностранных моделей запрещены или с пошлиной 145% Ультразеленые: - запрет на строительство датацентров, электростанций и выпуск чипов - чатботы в каждом сообщении обязаны писать «Я, бездушная железяка, считаю что…» Ультраазиаты: - выборы прошли штатно: кандидата утвердила модель, модель утвердила партия - Сингапуром модель управляет второй год, ВВП +40%, никто не заметил подмены - в Японии ИИ-мэр избран, все вежливо делают вид, что так и было задумано Ультралибертарианцы: - кандидат - сама модель, программа: упразднить правительство, оставить API - GPU признать личным оружием, защищённым второй поправкой Ультраевропейцы: - AI Act v4: модель обязана запрашивать cookie-consent на каждый токен - субсидии артизанальному национальному ИИ Румынии и Болгарии ручной сборки - иностранные модели отнимают рабочие места у местных, депортировать ChatGPT Ультрацентристы: - мы за безопасное ускорение и ускоренную безопасность - создать комиссию по изучению вопроса, отчёт к 2032 Ни одна из этих идей не решает ни одной реальной проблемы, но зато активно мотивирует массы скидываться донатами и голосами.

🤖 Технодайджест недели

Moonshot AI представила языковую модель Kimi K3. Это первая открытая модель, достигшая размера в почти три триллиона параметров. По качеству в среднем она немного уступает лишь топовым моделям Claude Fable 5 и GPT-5.6 Sol, но и обходится дешевле их. Пользоваться нейросетью можно в сервисах Kimi и по API, а к концу июля компания обещает выложить модель в общий доступ.

У OpenAI появился свой первый гаджет — мини-клавиатура Codex Micro. Её разработали совместно с производителем клавиатур Work Louder. Гаджет предназначен для управления ИИ-агентами Codex: шесть клавиш меняют цвет в зависимости от состояния задачи: например, синий означает, что агент «думает», зелёный — что задача выполнена, а красный — что возникла ошибка. Через остальные кнопки можно управлять агентами, например, диктовать запросы и принимать или отклонять изменения. Устройство стоит около 18 тысяч рублей, но купить его будет трудно, потому что первый тираж уже раскупили, а доставки в Россию нет.

В Китае стартовал турнир по боям человекоподобных роботов. Первый чемпионат Ultimate Robot Knockout Legend прошёл в Шэньчжэне, в нём участвуют 16 команд. Все они используют одинаковых роботов EngineAI T800, потому что соревнуются именно в настройке: сами пишут ПО для управления, алгоритмы движений и стратегии боя. Турнир будет идти около года, а призовой фонд составляет 10 миллионов юаней — это около 115 миллионов рублей.

В Telegram появился расширенный текстовый редактор. Пользователи могут создавать полноценные статьи и длинные посты с заголовками, таблицами, списками и другим сложным форматированием, а фото и видео теперь можно вставить прямо в текст. Лимит на одно сообщение вырос до 32 тысяч символов, а создавать текст помогают встроенные ИИ-инструменты. Также в обновлении появились «Сообщества» для объединения нескольких чатов и каналов. Пока новый редактор доступен только подписчикам Telegram Premium.

Boston Dynamics протестировала робота Spot для доставки посылок. Компания разработала для робота специальную насадку с конвейерной лентой: курьер перекладывает посылки из фургона на робота, а тот сам доносит их до порога дома, поднимаясь по лестницам, если нужно. Пока это демоверсия, но Boston Dynamics уже ведёт переговоры с крупными логистическими компаниями о запуске пилотного проекта.

Подписывайтесь 👉 @techno_yandex

⚡ Новости к этому часу

🔥 ПОДДЕРЖИТЕ КАНАЛ ГОЛОСАМИ 😎

⚠️ Владельцы телевизоров LG теперь обязаны предупреждать гостей и родных о том, что их разговоры могут быть записаны 🛡 У сайта налоговой GlobalSign отозвал сертификат 🤝 29 стран подписали соглашение о создании Всемирной организации по сотрудничеству в сфере ИИ 🥇 Российские школьники получили 4 золотых и 2 серебряных медали на 67-й Международной математической олимпиаде IMO 2026 (ФОТО) 👎 В LibreOffice снова раскритиковали Microsoft за использование проприетарных форматов Office 💻 Microsoft подтвердила снижение производительности службы WSUS во всех версиях Windows #новости

Взвод менеджеров Вынесу из коментов пару текстов от Дениса Лучанского. Он, в отличие от многих, мешки ворочает с ИИ и пишет вот что: Новое приложение chatGPT с солом 5.6 просто работает на компе как взвод менеджеров. Отличие только в ЗП и перерывах на сон и перекуры. За 20 баксов в месяц в браузере читает любые облачные приложения, собирает данные из нескольких источников в браузере, формирует заказы для десятков магазинов клиентов (может для любого количества), разрабатывает или добавляет в портфель новые продукты (сейчас расширяю портфель с 13 до 40 SKU за две-четыре недели, чтобы увеличить маржинальность одной доставки в торговую точку), управляет рекламными кампаниями в соцсетях (видит дневные продажи точки, сравнивает с затратами на рекламу, и принимает решения, как улучшить ROAS), может постить в любых соцсетях от моего имени всякую дичь 🤪, чуть позже отдам ему бизнес-процесс роста бизнеса почти весь. Это нереально круто. Кожаные отдыхают, служба идет. Теперь можно в одну рожу пилить нереально крутые бизнесы, и быстро выходить на недостижимый раньше уровень. 20, блять, баксов в месяц. Про текеномику: Да, да. Токены могут закончиться быстро, если промпт «сделай мне бизнес». 😂 И глюки могут сильно влиять, если задачи для ИИ ставит гуманитарий «яхудожникятаквижу» 🥹 Но 1) все эти несложные задачи решаются дешевой моделью, не по API, а несложными запросами по расписанию. Нет расхода токенов за рамками тарифа за 20 баксов в месяц. 2) Конечно же пока остается проверка кожаным, но она занимает мизерное время по сравнению с вариантом «сделать самому». Ошибки в начале запуска нового процесса бывают, но они быстро вылавливаются и исправляются. 3) Все процессы очень простые, и основаны на данных. Я не очень полагаюсь на творчество моделей, а в основном на холодный расчет и объективные показатели на основе данных. Например, одна сеть присылает заказы на мэйл в очень упрощенном виде. ИИ проверяет ежедневно почту, и при получении заказа делает накладные, и отправляет заявки на отгрузки на склад. Если мэйл не пришел вовремя, система поднимает шухер на несколько кожаных участников процесса. Все просто, нет вариантов для творчества. Тупая функция администратора. 4) сбор данных из источников - это не парсинг бреда из интернетов. Мне сети дают подключения к системам обмена информацией о движении товаров/заказах, но они разные, и мне проще промптом попросить ИИ вытащить товарный запас в точке с веб-страницы, где я залогинился в систему, чем кодить коннекторы, да еще клянчить доступ у сети, которая надменно считает себя крупным ритейлером, а зажравшийся перегруженный надменный ИТ-шник снизойдет до моего запроса через месяц. 5) я знаю свою область очень хорошо, и не внедряю ИИ во все процессы без разбора, у меня нет показателей на максимальное использование ИИ где попало. Я трачу инференс очень сфокусированно - в первую очередь на текущем ограничении бизнеса. Поэтому мне не нужен миллион на ИИ. Но отдача от ИИ максимальная. P.S. Денис занимается продуктами питания, а не этим вот вашим цифровым бизьнесом. @cgevent

Что делать с ИИ в школьном образовании? Вместо «запрещать или разрешать» свой ответ дала Эстония. Министр образования Эстонии рассказала про новый инструмент для школьных учителей - «Сократический чат-бот», я собрал первые результаты тестирования. О чем это: уже всем понятно, что школам нужно перейти от запоминания фактов к созданию смыслов, критическому оцениванию и анализу. Но как? Для этого в Эстонии создали частно-государственную инициативу в партнерстве с OpenAI (трезво оценивая нехватку компетенций у сотрудников министерства образования). Сократический бот ITI — это инструмент для учеников, который не даёт готовый ответ, а ведёт школьника вопросами к решению сам. Учителя же получили платный доступ к ChatGPT плюс обучение и профессиональные сообщества внутри школ. В программе участвовали 154 из 156 гимназий Эстонии, около 5 000 учителей и 20 000 учеников 10–11 классов, с сентября планируют расширение до средней школы. Показательна обратная связь: школьники жаловались, что сократический бот раздражает — задаёт много вопросов и не выдаёт ответ сразу. Разработчики считают это фичей, а не багом — мышление остаётся в руках ученика. Эстония стала первой страной с такими внедрениями и сейчас по сути ставит научно измеряемые эксперименты. Будем наблюдать - получится ли избежать «когнитивной разгрузки» у школьников и каким образом. Может и в компаниях такое надо вводить? Проблемы у взрослых те же самые, что и у детей.

🎬 Ваш двойник запишет видео за вас Google обновил своё приложение для создания ИИ-роликов Vids. Поэтому готовьтесь к эффекту “зловещей долины”. В редактор приехал Gemini Omni: генерация и правка видео обычными словами. Пишете текстовый промт на человеческом языке, при желании подкидываете картинки-референсы и Omni смешивает всё это в готовый клип. И редактирование, надо сказать, устроено приятно. Первый черновик почти никогда не идеален — так вот, править его можно прямо в чате, шаг за шагом. Попросить сменить фон, вытянуть свет, добавить эффект. Причём работает это не только с тем, что сгенерировал Omni, но и с обычным видео, снятым на телефон. И начинать заново после каждой правки не нужно. А вот вторая фишка довольно спорная. Personal avatars — цифровой двойник, который выглядит и говорит вашим голосом. Скармливаете системе селфи и короткую запись голоса, дальше просто печатаете текст и аватар его произносит. Каждый сгенерированный клип получает невидимый водяной знак SynthID — чтобы можно было проверить, что видео сделал ИИ. Но судя по примерам, отличить эту генерацию не составит труда. Обе новинки достались подписчикам Google AI Pro и Ultra, а также бизнес-клиентам Google Workspace. @droidergram

Заменит ли ИИ учёных? Мы оказались в странной ветке метавселенной: стирать наши носки роботы так нормально и не научились, а делать науку – до какой-то степени вполне. Кажется, этого не ожидал никто из фантастов. Что же будет дальше? Я не знаю, как не знает и никто другой. Но некоторые вещи уже вполне вырисовываются На картинке – вероятно, самый важный график нашей эпохи. Это время, которое уходит у людей на задачи, которые теперь может решать ИИ (отсюда). Рост за последние годы – экспоненциальный, примерно каждые 7 месяцев ИИ становится способен решать вдвое более долгие задачи. Если в 2020 году модели могли давать правильные ответы на несложные вопросы, то в 2024 году они стали способны писать код для простых существующих алгоритмов, а ещё парой лет спустя – решать некоторые исследовательские задачи. Учёным стало сложно продолжать строить этот график: текущие модели решают самые трудоёмкие проблемы из бенчмарка Если этот рост продолжится ещё хотя бы пару лет, мы окажемся в совсем другом мире: по одному запросу ИИ сможет делать то, что у человека заняло бы рабочую неделю Я не думаю, что это приведёт к исчезновению или замене учёных. Люди всё ещё будут способны решать сложные задачи, искать оригинальные подходы или направлять ИИ. Но многие задачи реального мира и даже научные – станут решаемы кремниевыми работниками. Интеллектуальная работа на заказ станет более доступной и массовой – словно фабричное производство вещей. А учёные-люди будут делать "органическую" и более изысканную работу Речь, конечно, про интеллектуальную часть работы учёных. Физическая, с приборами, пока что так быстро не меняется