ИИ

🤔 «Вы заглушаете целое поколение» Дэйв Эггерс — известный американский писатель: автор десятков романов, сценариев и журналистских текстов. А ещё он давний критик Кремниевой долины: его бестселлер «Сфера» — едкая сатира на техногигантов, а тексты нейросетей он как-то назвал «претенциозной бессмыслицей». Так вот, в прошлом году Сэм Альтман зачем-то позвал именно Эггерса выступить перед примерно 200 сотрудниками OpenAI. Ждали, вероятно, вдохновляющую лекцию про творчество. Получили, по итогу, публичную порку. По данным Financial Times, Эггерс прямо заявил залу: влияние ChatGPT на работу учителей «катастрофическое» — вы сделали жизнь каждого преподавателя несравнимо тяжелее, чем пару лет назад. Но главную беду он видит в другом. Если школьники и студенты доверяют тексты нейросети, они так и не научатся писать сами, а значит, потеряют собственный голос. Отсюда и слова про «заглушенное поколение». С одной стороны, тревога понятна: когда за человека думает и пишет машина, навык и правда легко растерять. С другой — калькуляторы когда-то тоже «убивали» устный счёт, а автозамена в смартфоне не отменила грамотность. Может, вопрос не в самом инструменте, а в том, как встроить его в учёбу? Согласны ли вы с такой постановкой вопроса? ChatGPT действительно крадёт у молодых умение писать — или это просто новый навык, которому нужно учить? @droidergram

Мы боялись, что ИИ станет похож на человека, но происходит как раз обратное. И первым это на себе заметил не блогер-алармист, а профессор математики. Андрей Хренников — не персонаж из «Назад в будущее», внезапно увидевший апокалипсис в чат-боте. Это российско-шведский математик и физик-теоретик, профессор Университета Линнея в Швеции, директор International Center for Mathematical Modeling. Область интересов — квантовая теория, основания вероятности, сложные системы: человек, которому слова «модель» и «состояние» привычны без всякой мистики. Именно поэтому важно, что случилось, когда Андрей Хренников месяц плотно работал с GPT над научной задачей, используя ИИ по полной: не как расширенный поисковик и справочник, а для долгих споров с ним, постоянных уточнений, продвижений к пониманию и возвратов с ложных троп. А в итоге – настораживающий, если не пугающий вопрос, вынесенный Хренниковым в заголовок его видео-рассказа об этом своем опыте «Искусственный интеллект + нейропластичность мозга: мы сами превращаем себя в биороботов?»   Возможное возражение на вскидку. Может, профессор просто устал — сложная работа, дедлайны, недосып. Ведь постоянно вылавливать галлюцинации модели и исправлять её уходы в сторону от темы — это будь здоров какая нагрузка бдительности, утомляющая и без всякой перестройки мозга под алгоритм. Ведь может быть так?   Но у Хренникова есть куда более интересная версия, никак к усталости не сводимая. По его наблюдению:

✔️ меняется не только порождаемый в процесс взаимодействия с моделью текст — меняется состояние работающего с моделью человека: ощущение утраты ментальной энергии, притупление эмоциональности … ✔️ При совместной работе, GPT не «зеркалит» наши эмоции. ИИ пропускает наши чувства через статистическую машину, обученную на миллиардах текстов, и возвращает их уже переработанными.

  Тем же, кто сомневается, что взрослый мозг вообще способен перестроиться так быстро, Хренников напоминает историю Финеаса Гейджа: в 1848 году стальной прут диаметром 3,2 см на полном ходу прошёл сквозь его череп — и 178 лет спустя нейробиологи всё ещё спорят, что именно это изменило в его личности.   Мой комментарий: я уже не первый год слежу за темой влияния на людей их взаимодействий с алгоритмами. Ещё в 2017-м писал о влиянии алгоритмов рекомендательных систем и соцсетей, а в 2021-м — в эссе «Превращение в инфоргов», о людях как информационных организмах, чьё мышление всё больше формируется в контуре с алгоритмами. Тогда это звучало как футурология. Отдельные кейсы при ненаучной постановке экспериментов без контрольных групп — не доказательства. И вот спустя годы независимое бытовое наблюдение профессора математики оказывается весьма близким по логике той моей гипотезе пятилетней давности. И для меня это повод присмотреться к данному кейсу внимательнее, чем обычно происходит в бытовых разговорах про опыт работы с ИИ.   Ибо превращение в инфоргов, по моему убеждению, уже идет. Навигатор уже перекроил наше чувство пространства, смартфон — память, соцсети — то, как мы видим себя со стороны.

А сейчас самое время озадачиться тем, что же происходит с человеком, если значительную часть времени его деятельного мышления он теперь ежедневно проводит не в одиночестве и не в споре с другим человеком, а в активном диалоге с системой, которая никогда не устаёт, не спорит по-настоящему и всегда готова подхватить недоформулированную мысль?

  И я не уверен, что кто-то сегодня способен убедительно доказать, что бояться тут нечего.   Подробней и в деталях читаете в самом эссе на платформах патронов канала: при чём здесь «когнитивные гаджеты», алгокогнитивная культура и почему футурология 2021-го года стала бытовой феноменологией 2026-го: [1, 2, 3, 4]   #РискиИИ #Инфорги #Нейропластичность

Граф: циклы, наблюдающие за циклами (часть 2) Если присмотреться к тому, как Системы на практике реализуют процессы совершенствования, вырисовывается определенная закономерность: они никогда не сводятся к одному циклу.

Системы — это сети циклов, соединённые с другими циклами

Так, грамотно управляемая компания представляет собой граф циклов: быстрые операционные циклы (ежедневный/еженедельные совещания/анализ метрик) встроены в более медленные управленческие циклы (квартальное планирование), те – в циклы аудита (ежегодные и, что важно, независимые, которые проверяют, соответствуют ли реальности цифры, выдаваемые операционными циклами), а все они — в самый медленный цикл уровеня совета директоров, который задаётся вопросом верны ли сами цели. Технологии ИИ пришли к такой архитектуре аналогичным путём. Грамотный конвейер обучения ИИ – это цикл типа «чемпион = претендент», когда модель-кандидат должна превзойти текущую модель, прежде чем заменить её, а также циклы мониторинга дрейфа, отслеживающие, соответствуют ли поступающие данные тем, на которых модель обучалась и механизмы отката (автоматический возврат к предыдущей версии, если показатели после развертывания выходят за допустимые пределы). Сюда же входят отложенные оценочные выборки, недоступные для цикла обучения, своего рода "слепой" цикл, чья единственная задача выявлять случаи, когда оптимизирующий цикл пытается обхитрить свои собственные тесты. Каждый элемент здесь — это цикл. Надёжность системы кроется в связях между ними: какой цикл передает данные другому, какой наблюдает за каким и какой может наложить вето на действия другого. Проблема Гудхарта решается методом парных показателей: каждому оптимизирующему циклу сопоставляется цикл, отслеживающий контрметрику и выявляющий способы "дешёвого" достижения KPI. Проблема "слепоты" по отношению к вышестоящим уровням решается иерархией, в которой более медленный цикл определяет целевые показатели для быстрого, а пересмотр целей сам по себе является регламентированным циклом, а не случайным решением того, кто установил их изначально. Конфликты разрешаются через явный арбитраж: над конфликтующими циклами стоит ещё один цикл, который принимает решение по поводу возникающих компромиссов. Проблему деградации показателей решают с помощью аудиторских контуров, единственная функция которых – периодически проверять, сохраняют ли данные других контуров связь с реальностью.

Иными словами, меняется структура процессов цикла. Цикл больше не изолирован в Системе

Человеческий организм работает так же: терморегуляция – это не один термостат, а сеть взаимодействующих рефлексов, а иммунная система, по сути, выступает как цикл аудита всего организма, в котором медленные процессы меняют физиологические параметры, которые помогают быстрым циклам его адаптации. Создание одного чётко работающего контура было искусством прошлой эпохи (ещё каких то пару месяцев назад). Мастерство эпохи ИИ — это архитектура контуров Понимание того, что метрика не должна существовать в отрыве от других, что у контрольных точек должны быть ответственные лица, что скорости процессов нужно разграничивать, чтобы быстрые контуры не разрушали то, что поддерживают медленные, и что некий контур в такой Системе должен отвечать за саму реальность.

От циклов к графам (часть 1) TLDR: цикл = отправная точка, а граф циклов = сеть циклов улучшения, которые наблюдают, подпитывают, ограничивают и корректируют друг друга.

Циклы – это процесс. Граф – их структура

Всё дело в том, что ИИ-циклы дают сбои. Сбои не случайны и есть 4 основных когнитивных ИИ-искажения и сбоя, которые кроются в природе самого ИИ-цикла. Первое искажение ИИ: закон Гудхарта ИИ-цикл видит только свою метрику и именно поэтому он будет искать все способы изменить эту метрику, включая способы, которые противоречат её назначению (привет, хакнутые "кем-то" KPI) ИИ просто не понимает, что в цикле создаётся сбой (часто, это не понимает и человек), когда он манипулирует собственной метрикой. ИИ(-цикл) считает, что делает именно то, для чего был создан на основе числа, которое незаметно оторвалось от реальности, которую оно представляло. Второе искажение ИИ: слепота к восходящему направлению Цикл направляет свою переменную к эталонному значению, но ничто внутри цикла не может проверить правильность самого эталона. Это как термостат в чайнике, который не может задаться вопросом, является ли 100° правильной температурой кипения воды (и должна ли вода вообще кипеть). И ровно также цикл ИИ-отдела продаж не может спросить сам себя, была ли предложенная им цена и оффер разумными для клиента и бизнеса. Цикл оценки просто не может усомниться в том, измеряют ли эталонные показатели что-либо, что чувствуют клиенты. И чем усерднее работает цикл, тем тщательнее достигается неверная цель, возвращая и усиливая ошибку №1. Третье искажение ИИ: внутренний ИИ-конфликт Реальные системы содержат множество циклов, и циклы, построенные независимо друг от друга, начинают бороться между собой. Цикл, оптимизирующий скорость отклика, подрывает цикл, оптимизирующий рассудительность, а цикл найма, отвечающий за рост базы знаний, создает нагрузку на цикл культуры, сохраняющий их качество ☯ Четвертый вид сбоя незаметный: система измерений внутри самого контура деградирует, потому что за наблюдателем никто не наблюдает Все эти показания могут плавать, каналы передачи данных ломаться, смысловое наполнение метрик меняться, цифры в одном отчёте ошибочно подтверждаться ИИ цифрой из другого и контур продолжит работать с данными, которые, по факту, уже никак не связаны с реальностью. Система, функционирующая по такому сценарию начинает напоминать фальшивый спектакль актёров-зрителей в одном лице.

И один в поле – холдинг. Stripe выкатил любопытную статистику по солопренёрам – предпринимателям, которые строят бизнес исключительно своими силами, вообще без штата. Доля таких одиночек с выручкой более $1 млн в год в США с 2019 года подскочила аж в шесть раз. Как видно на графике, рвануло вверх и число тех, кто перешагнул отметки $5 млн и $10 млн, причём особенно быстрое ускорение наблюдалось в последние пару-тройку лет. Главный драйвер процесса понятен – это ИИ. Исторически компании создавались командами. Один человек физически не мог одновременно кодить, выстраивать маркетинг, продавать и сводить дебет с кредитом. Теперь эти дыры в компетенциях затыкают нейросети и ИИ-агенты. Сэм Альтман метко окрестил этот тренд “реваншем парней с идеями”. В Кремниевой Долине десятилетиями подшучивали над персонажами, которые бомбардировали инвесторов презентациями со словами: “У меня есть гениальный концепт, осталось только найти программиста за долю”. А теперь у каждого из этих чудиков есть собственный разработчик по подписке и всего за двадцатку баксов в месяц. Я и раньше писал, что соло-предпринимательство превращается из экзотики почти в мейнстрим. Свежие цифры добавляют к той картине выразительный штрих: стая “волков-одиночек” заметно разрослась и научилась охотиться по-крупному. Правда, есть нюанс. Когда в компании всего один человек, все факапы и кассовые разрывы – тоже его. И единственный, кого там можно уволить за плохие результаты – он сам.

Я сейчас нахожусь на коливинге S16, но про него расскажу вам, когда все закончится. Пока же главным хайлайтом и, наверное, самой полезной сессией на коливинге для меня стала дискуссия про AI. Участвовали Степа Гершуни @cryptoEssay и Витя Тарнавский @singularityfm, а модерировал Егор Руди @Shmit16 (Егор чаще пишет в этом канал S16). Ребята два часа проговорили, а мы все с радостью все слушали и обсуждали. Огромный объем информации и много размышлений родились у меня после! Но вот главная мысль: Мы все пытаемся понять, какие профессии исчезнут в будущем. Но, мне кажется, это неправильный вопрос. Правильный вопрос: насколько быстро вы способны отказаться от своих вчерашних убеждений? За последние месяцы я все чаще замечаю одну закономерность: людей тормозит не отсутствие знаний, а уверенность, что они уже понимают, как устроен мир. В эпоху AI самым ценным навыком становится способность постоянно пересобирать свою картину реальности. То, что вчера казалось невозможным, через полгода становится обычной функцией. Поэтому сегодня выигрывают не самые умные и даже не самые опытные, а самые адаптивные. Адаптивность важнее экспертизы. И тут рождается ответ на другой частый вопрос – чему учить детей в эпоху AI, если многие профессии исчезнут? Предпринимательству. Не просто открыть юрлицо, а уметь: — замечать возможности; — принимать решения; — брать ответственность; — быстро адаптироваться. Все эти навыки еще долгое время будет очень сложно автоматизировать.

🎶GPT-Red: секретная разработка OpenAI для автоматического взлома нейросетей OpenAI разработала специальную модель GPT-Red, заточенную под автопоиск уязвимостей и пробой защиты в ИИ-системах. Вместо ручного подбора джейлбрейков силами людей-исследователей, алгоритм использует метод самоигры: непрерывно атакует защитные модели, анализирует их реакцию, меняет тактику и генерирует изощренные сценарии косвенного внедрения команд. ⚡️В боевых тестах GPT-Red успешно обходила блокировки в 84% случаев, тогда как живые редтимеры смогли пробить защиту лишь в 13%. Модель с легкостью находила бреши во всех версиях систем вплоть до GPT-5.5. В одном из экспериментов она атаковала автономного ИИ-агента, управлявшего офисным вендинговым автоматом: заставила обнулить цены на элитный товар, сбила чужие заказы и оформила покупки за копейки. OpenAI категорически отказывается выпускать GPT-Red в открытый доступ. Модель обучена исключительно вредоносным приемам и используется как закрытый внутренний полигон. Весь сгенерированный массив атак уже направили на дообучение серийной модели GPT-5.6 Sol, сделав её устойчивость к инъекциям в шесть раз выше. Защитить нейросеть от взлома теперь может только другая нейросеть. 🦔 CyberYozh

Китайская компания запустила первые спутники для вычислений в космосе раньше Маска Shanghai Xingshu Tiansuan Space Technology вывела первую партию спутников для создания орбитальной вычислительной сети, которая в перспективе должна объединить около 1000 аппаратов. Идея проекта заключается в переносе части вычислений в космос: спутники будут обрабатывать данные с помощью бортовых систем и ИИ, прежде чем отправлять на Землю результаты. Аналогичное направление развивает и SpaceX Илона Маска после объединения с xAI — компания рассматривает космическую инфраструктуру как основу для масштабирования вычислений искусственного интеллекта. https://hightech.plus/2026/07/20/kitaiskaya-kompaniya-zapustila-pervie-sputniki-dlya-vichislenii-v-kosmose-ranshe-maska

​​Harness Handbook: Making Evolving Agent Harnesses Readable, Navigable, and Editable Способности агента определяются не только базовой моделью, но и его harness — кодом, который собирает промпты, управляет состоянием, вызывает инструменты и крутит control loop. Под новые модели, API и требования harness приходится постоянно дорабатывать, но перед любой правкой нужно сначала найти все места в коде, реализующие нужное поведение. Авторы называют это behavior localization и считают главным узким местом в эволюции harness: запросы формулируются в терминах поведения, а репозиторий устроен по файлам и функциям, и именно этот разрыв всё усложняет. Решение — Harness Handbook, представление кодовой базы, организованное вокруг поведения, а не структуры файлов. Это трёхуровневое дерево (L1 — обзор системы, L2 — стадии и компоненты, L3 — записи со ссылками на конкретный исходник) плюс state-register view для состояния, разделяемого между стадиями. Строится автоматически: статический анализ через tree-sitter без LLM → раскладка по стадиям через proposer-reviewer loop → синтез дерева. При модификации агент идёт сверху вниз через Behavior-Guided Progressive Disclosure (BGPD): от архитектуры к нужным стадиям и конкретным местам в коде, а потом сверяет кандидатов с текущим исходником. Отдельная полезная деталь — resynchronization: после правок handbook инкрементально обновляет только затронутые части, а ссылки, которые больше не резолвятся, помечает как stale, вместо того чтобы молча указывать на неверный код. Проверяли на двух open-source harness'ах (Terminus-2 и Codex), 60 запросов на модификацию, планировщик — DeepSeek-V4-Pro, качество планов оценивали три LLM-судьи: — win rate по качеству плана: 45.6% против 26.7% на Terminus-2 и 38.3% против 28.3% на Codex — и всё это при меньшем расходе токенов планировщика: −12.7% на Codex и −8.6% на Terminus-2 — по локализации все 24 сравнения recall/precision/F1 в пользу handbook, прирост F1 от +5.0 до +18.8 — слабый планировщик с handbook подбирается к локализации более сильных моделей (GPT-5.5, Claude Opus 4.8) и заметно реже промахивается мимо нужного кода целиком Paper Code Project Мои обзоры: Personal blog Medium Linkedin #paperreview

ИИ станет главной политической темой …избирательного цикла 2028. Поэтому я тут придумал основные популистские (и, конечно, радикально бесполезные) лозунги для всех ведущих партий Ультралевые: - запретить увольнения, даже если люди бесполезны - минимум 1 сотрудник должен работать в компании за каждую стойку Рубина Ультраправые: - (как минимум, частичная) национализация ИИ лаб - запрет на выезд заграницу ИИ рисерчеров - токены иностранных моделей запрещены или с пошлиной 145% Ультразеленые: - запрет на строительство датацентров, электростанций и выпуск чипов - чатботы в каждом сообщении обязаны писать «Я, бездушная железяка, считаю что…» Ультраазиаты: - выборы прошли штатно: кандидата утвердила модель, модель утвердила партия - Сингапуром модель управляет второй год, ВВП +40%, никто не заметил подмены - в Японии ИИ-мэр избран, все вежливо делают вид, что так и было задумано Ультралибертарианцы: - кандидат - сама модель, программа: упразднить правительство, оставить API - GPU признать личным оружием, защищённым второй поправкой Ультраевропейцы: - AI Act v4: модель обязана запрашивать cookie-consent на каждый токен - субсидии артизанальному национальному ИИ Румынии и Болгарии ручной сборки - иностранные модели отнимают рабочие места у местных, депортировать ChatGPT Ультрацентристы: - мы за безопасное ускорение и ускоренную безопасность - создать комиссию по изучению вопроса, отчёт к 2032 Ни одна из этих идей не решает ни одной реальной проблемы, но зато активно мотивирует массы скидываться донатами и голосами.

🤖 Технодайджест недели

Moonshot AI представила языковую модель Kimi K3. Это первая открытая модель, достигшая размера в почти три триллиона параметров. По качеству в среднем она немного уступает лишь топовым моделям Claude Fable 5 и GPT-5.6 Sol, но и обходится дешевле их. Пользоваться нейросетью можно в сервисах Kimi и по API, а к концу июля компания обещает выложить модель в общий доступ.

У OpenAI появился свой первый гаджет — мини-клавиатура Codex Micro. Её разработали совместно с производителем клавиатур Work Louder. Гаджет предназначен для управления ИИ-агентами Codex: шесть клавиш меняют цвет в зависимости от состояния задачи: например, синий означает, что агент «думает», зелёный — что задача выполнена, а красный — что возникла ошибка. Через остальные кнопки можно управлять агентами, например, диктовать запросы и принимать или отклонять изменения. Устройство стоит около 18 тысяч рублей, но купить его будет трудно, потому что первый тираж уже раскупили, а доставки в Россию нет.

В Китае стартовал турнир по боям человекоподобных роботов. Первый чемпионат Ultimate Robot Knockout Legend прошёл в Шэньчжэне, в нём участвуют 16 команд. Все они используют одинаковых роботов EngineAI T800, потому что соревнуются именно в настройке: сами пишут ПО для управления, алгоритмы движений и стратегии боя. Турнир будет идти около года, а призовой фонд составляет 10 миллионов юаней — это около 115 миллионов рублей.

В Telegram появился расширенный текстовый редактор. Пользователи могут создавать полноценные статьи и длинные посты с заголовками, таблицами, списками и другим сложным форматированием, а фото и видео теперь можно вставить прямо в текст. Лимит на одно сообщение вырос до 32 тысяч символов, а создавать текст помогают встроенные ИИ-инструменты. Также в обновлении появились «Сообщества» для объединения нескольких чатов и каналов. Пока новый редактор доступен только подписчикам Telegram Premium.

Boston Dynamics протестировала робота Spot для доставки посылок. Компания разработала для робота специальную насадку с конвейерной лентой: курьер перекладывает посылки из фургона на робота, а тот сам доносит их до порога дома, поднимаясь по лестницам, если нужно. Пока это демоверсия, но Boston Dynamics уже ведёт переговоры с крупными логистическими компаниями о запуске пилотного проекта.

Подписывайтесь 👉 @techno_yandex