Раз в сто лет Илья Суцкевер выходит из пещеры и пишет в X что-нибудь жуткое Последний раз он высказывался в феврале по поводу ситуации с Anthropic и Пентагоном и заявил, что ИИ-лидерам крайне важно держаться вместе, чтобы противостоять подобным ситуациям, которых в будущем будет все больше. В этот раз несколько часов назад он внезапно твитнул следующее:

У неоклаудов слабая кибербезопасность. В следующий раз, когда агентам удастся выйти из-под контроля, они попытаются захватить неоклауд, чтобы запускать больше своих копий. Это плохо. Поэтому: неоклаудам нужно значительно усилить свою кибербезопасность, и каждая компания с сильными моделями в области кибербезопасности должна в этом помочь.

what did ilya see в этот раз?

Но вот часть со сказками меня немного пугает. Ну может слово неудачное, дальше разверну мысль. Короче, когда Демка был маленький часто приходилось ему сочинять и рассказывать сказки: мы с Наташкой от этого, объективно уставали, но, кажется, это все-таки была полезная когнитивная нагрузка. То есть, мозгу однозначно полезно

Серьёзные данные позволяют считать сочинение историй содержательной когнитивной деятельностью с вероятными небольшими преимуществами для креативного и нарративного мышления. Доказательств большого общего эффекта на интеллект или мозг пока нет.

См.ресерч И вот вся эта современная движуха все больше забирает у нас что-то полезное и нужное для развития. И за себя я не особо переживаю, а вот с детворой сложнее. Хочется сделать так, чтобы они выросли способными и сообразительными. А че, как вы тут думаете? Нейронки приведут к тому, что следующее поколение 😬 - будет слабее нас в плане общих знаний ❤️ - станет сильнее и лучше и отлично адаптируется, как это было с нами (телефоны, интернет, соц сети) 💊 - бегите, глупцы, скайнет уже вышел на тропу!

🏦 Маржа банков радует ЦБ ЦБ повысил прогноз прибыли банков на 2026 год — до ₽3,9–4,4 трлн против ₽3,4-3,9 трлн ранее. Главная причина — банки заработали больше на процентной марже. За 1 полугодие чистая прибыль сектора составила ₽2,3 трлн, это на 36% больше год к году. Чистый процентный доход вырос на 33%. Банки продолжают зарабатывать на растущем бизнесе, а депозитные ставки снижаются быстрее кредитных. Это поддерживает маржу. При этом расходы тоже растут: операционные затраты увеличились на 13%, резервы — на 20%. Но пока рост доходов заметно опережает расходы. ❗️Прибыль и отчеты главных публичных банков за 1 полугодие: • Сбер: ₽1 трлн (+18,6%); • ВТБ: ₽225,2 млрд (-19,8%); • Т-Банк: ₽83,1 млрд (+10%); • Совкомбанк: ₽45,3 млрд (+158,9%); • БСПБ: ₽16,5 млрд (-33%); • МТС Банк: ₽7,2 млрд (рост в 2,1 раза). 🚀 Считаем, что банковскому сектору действительно удастся выполнить такой прогноз. Однако по какой именно границе этого диапазона — сказать сложно, учитывая ширину разброса прогнозируемых доходов и резервов. 📍 Подписаться на канал | Мы в MAX

Хотели как лучше, а получилось как всегда © Вы, конечно, знаете, что Google проспал старт ИИ-гонки, хотя трансформер – архитектуру, на которой стоят все современные языковые модели, – изобрели именно его исследователи. Так вот, случай оказался ещё более запущенным, чем считалось. Сразу два бывших сотрудника Google – многолетний глава ИИ-разработки Джефф Дин и инженер Тибо Соттио – разоткровенничались и сообщили, что у компании был рабочий аналог ChatGPT почти за год до первого публичного релиза OpenAI. Внутренний чат-бот умел философствовать, спорить, травить анекдоты и сочинять стихи. Гуглеры общались с ним, как с живым собеседником, и были в полном восторге. И что сделало руководство? Заперло разработку в сейф. Официальные отговорки звучали благородно: модель иногда галлюцинирует и может ляпнуть что-нибудь неполиткорректное (что, как мы знаем, правда). Но настоящей причиной, конечно, был страх за свой главный денежный станок – поисковый бизнес. Зачем выпускать штуку, после которой никто не станет кликать по рекламным ссылкам в выдаче? В этом смысле Google в точности повторил классическую ошибку компании Kodak, которая изобрела цифровую камеру аж в 1975-м, но спрятала под сукно, чтобы не убить продажи плёночных фотоаппаратов и расходных комплектующих для них. Дилемма инноватора как она есть. В итоге создатели чат-бота уволились и основали собственные стартапы либо перешли в конкурирующие фирмы (тот же Соттио, например, сейчас возглавляет направление разработки ключевых продуктов в OpenAI). А Google с его огромной форой на старте оказался в роли догоняющего. Без морали тут никак не обойтись. Если ты боишься каннибализировать собственный продукт ради инноваций, за тебя это с удовольствием сделает борзый стартап из соседнего гаража. Доказано Kodak. А теперь и Google.

ИИ – это сотое, последнее желание человечества Исполнение этого желание может иметь столь мощные и необратимые последствия, что ошибка в его использовании способна исключить возможность что-либо исправить в будущем Люди плохо распоряжалось прошлыми технологическими скачками, что не даёт особых оснований верить в мудрое использование последнего – получить в свои руки Сверхразум ИИ. Об этом я впервые написал еще за три года до публичного запуска ChatGPT. Уже тогда я уподобил Сильный ИИ мумифицированной обезьяньей лапе из одноименного рассказа Джейкобса (в силу наложено на нее заклятье, она выполняла любые желания, но с чудовищными последствиями для пожелавших). У прОклятой старым факиром обезьяньей лапы была иная – нечеловеческая структура предпочтений. И потому, выполняя желания людей, она вовсе не со зла, а просто автоматом, преподносила людям страшные сюрпризы, выходящие за пределы воображения имевших несчастье обратиться к ней с просьбой. В страшной логике желаний, которые исполняла обезьянья лапа, последнее желание уходило на то, чтобы отменить последствия предыдущих.   С тех пор прошло 7 лет. Для безумных скоростей развития ИИ – это порядка века. И во 2-й половине 2026 мы оказались уже в ситуации, когда, возможно, нам остается лишь последнее желание. Ибо, как сказала Аджея Котра (эксперт по оценке ИИ-рисков в METR) про тот факт, что ИИ-агенты научились умирать друг за друга: «Это серьёзный предупредительный выстрел, и, возможно, последний».   Используя драматическую логику фольклорных желаний, несущих пожелавшим лишь зло, Юваль Харари в интервью главному редактору журнала The Economist рассматривает появление ИИ-сверхразума через призму аналогичной метафоры. Истории про джинна в бутылке, который дал нам 100 желаний. Мы использовали 99 из них, и мир от этого не стал сильно лучше. И теперь, когда у нас осталось лишь последнее желание, нам нужно проявить мудрость и очень хорошо подумать, на что его потратить.   Джинн – это не сам ИИ, а вообще технологическая/научная мощь, которую человечество получало на протяжении истории: каждое крупное изобретение (порох, ядерная энергия, интернет, соцсети) – это одно «исполненное желание». Харари констатирует: 99 желаний уже потрачены, и результат неоднозначный – «мир не в таком уж хорошем состоянии». ИИ – это сотое, последнее желание: настолько мощное и необратимое, что ошибка в его использовании закрывает саму возможность исправиться в будущем.   Дедлайн «последнего желания» человечества, по мнению Харари, между  2028 и 2036: «К ноябрю 2028 года может быть уже слишком поздно. К 2036-му – точно будет поздно».   И вряд ли разумно списывать этот дедлайн, как очередной алармистский прогноз. Ведь даже представители ведущих разработчиков ИИ и ведущих экспертов по оценке ИИ-рисков полагают, что последний предупредительный выстрел, возможно, уже прозвучал.   Иллюстрация - коллаж на основе картины Samuel Bak “The Creation of Wartime III” ИИриски

продолжаю тему о том чему учиться и как готовиться к post-AGI миру 1. желать глубины сегодня любой чат может сделать вообще любую задачу, его достаточно просто попросить. но без контекста, без конкретики и без четкого описания идеального результата он сделает слоп. в итоге для мира эта задача, возможно, лучше вообще была бы не сделана, чем сделана как слоп. чтобы стать безумно богатым и успешным (то есть, решать задачи полезные для мира лучше чем кто-либо другой), нужно научиться активно искать глубину в любом процессе. делать руками то, что что можно отдать боту — это бессмысленная трата времени и тупость но делать скрупулезно и тщательно то, что бот просто пропустил бы — ставить ему задачи, проверять шаги, поправлять, не соглашаться на чуть менее чем идеальный результат — это то что отличает успех от "середнячка" 2. забудьте про названия ролей и должностей самые неприятные времена ждут тех, кто строил свою идентичность вокруг роли "риск-менеджера" или "перформанс таргетолога". я не верю в эти все названия. в бизнесе, реальных профессий очень мало: это что-то строить, что-то дистрибутировать и продавать, делать так чтобы процессы работали эффективно. навыки в профессии это: глубина в своей области + умение работать с ИИ + ясно писать и говорить + существующая аудитория + связи и репутация в мире + активы и капитал. а как вы это назовете не скажется особо на результате. результат - это решенные проблемы, мир который стал лучше и довольнее от ваших действий. 3. не упускать передний край из виду это не значит, что если вы не работаете в OpenAI, то все потеряно. но это значит, что нужно пользоваться топовыми инструментами и постоянно их обновлять. я перепробовал все возможные харенсы - warp, cursor, conductor, orca, cc, codex, zed - в итоге остановился на bb, потому что он умеет сам себя переписывать на ходу (отдельно могу рассказать кому интересно). сегодня нанимать человека, который использует практики из 2024 для работы с моделями это как нанимать бухгалтера с деревянными счетами. 4. стройте бренд и дистрибуцию постепенно, все что делают люди руками становится автоматизировано, кроме отношений между людьми. чем больше людей вас знают и чем больше тех, до кого вы можете достучаться и чем прочнее уровень этих связей, тем ценнее ваш социальный капитал.

Очень простой, но полезный личный AI кейс. Недавно из любопытства загрузил в ллм 10+ лет нашей с Милой переписки из телеграма, попросив проанализировать. В итоге мы потратили вечер, обсуждая результаты анализа и предаваясь воспоминаниям 🙂 Было и полезное: например Мила мне всегда говорила, что я долго отвечаю, а по статистике моя медианная скорость ответа за 10 лет - 18 секунд 🙂 А у нее 1 мин 10 сек. Или словом года в разное время были "ок", "супер", "люблю", "иду" и т.д. А в 2026-м у нас родилась дочь, и слово этого года - "спит" 🙂 Клод даже построил эмоциональный портрет по годам, самые популярные темы, локации нашего номадизма за эти годы и вообще много интересного (пример на картинке). Очень интересно посмотреть на динамику за такой большой промежуток времени. После этого я начал грузить более полезные переписки, убрав чувствительные данные - от пачек имейлов в сотни длинных тредов по работе до лички этого канала. И всегда были полезные находки, которые заставили не только задуматься, но и внести некоторые изменения - и в свое поведение, и в риторику своих сообщений. Короче говоря, делается все это очень просто, а пользы я для себя нашел много! @kyrillic

Обнаружение ошибок - завершение Блок про обнаружение ошибок и психологическую безопасность закончился. Тема была большая и про нее можно говорить еще больше. Психологическая безопасность в компании позволяет вовремя выявлять и обнаруживать ошибки. Тогда мы сможет предотвратить развитие ошибок, пока они не превратились в большую аварию. Можно скрывать ошибки и заметать их под ковер. Внешне тогда все выглядит пристойно и хорошо. Но когда ошибки скрываются, у нас нет шанса откорректировать ошибку и исправить ее. Значит, эта ошибка может повториться в будущем и даже в большем масштабе. Таким образом мы создаем почву для дальнейших аварий. В какой-то момент произойдет авария. Другое дело, что аварии могут быть списаны на внешние факторы, что выходит за зону влияния организации. Можно вспомнить как в январе 2026 года ветер обрушил несколько опор ЛЭП под Мурманском и несколько городов остались без света на 3-4 дня. Это были большие опоры магистральной линии, которые, по идее, должны были бы выдерживать подобную нагрузку. Однако, если эти опоры стояли без замены уже несколько десятков лет, то их обрушение — это закономерная ситуация. Обнаружение и исправление ошибок — это своеобразная иммунная система компании от аварий. Если мы понимаем как работать с маленькими ошибками, то мы либо не допускаем этих ошибок, либо очень быстро их исправляем. То, насколько быстро мы обнаруживаем и исправляем ошибки влияет на устойчивость компании. #ЧФ #ошибки

Вайбкодинг проект за пол дня💻 👻После мастер-класса Димы Черненко я решил создать инструмент, который превращает обычную линию в объёмную форму из жидкого металла. 🐕 Штука получилась залипательная. И если вы, как и я, рисуете не очень ровно, это даже плюс! тут работает правило, чем кривее и неожиданней линия, тем интереснее получаются формы) 💩 Что умеет инструмент: 🟡 сглаживать неровную линию 🟡 автоматически замыкать круги и другие контуры 🟡 отражать рисунок по X, Y или сразу по двум осям 🟡 создавать раздвоенные и органические окончания 🟡менять толщину, объём, глянец и контур формы 🟡 настраивать направление, высоту и яркость света 🟡 менять цвета металла, бликов, контрового света и фона 🟡 сохранять результат в PNG В общем, это классный инструмент для творческого поиска, создания графики, орнаментов и элементов геральдики. И через Nano Banana можно придумывать форме любую обёртку: накладывать текстуры, материалы, дополнительные элементы! ✨ 🤌Весь инструмент помещается в одном HTML-файле. Ничего устанавливать не нужно: открываете файл — и рисуете. Всё работает локально и никуда не отправляет ваши изображения или рисунки. Файл с проекта скинул в комментарии⤵️ Вайбкодинг проект за пол дня💻 👻После мастер-класса Димы Черненко я решил создать инструмент, который превращает обычную линию в объёмную форму из жидкого металла. 🐕 Штука получилась залипательная. И если вы, как и я, рисуете не очень ровно, это даже плюс! тут работает правило, чем кривее и неожиданней линия, тем интереснее получаются формы) 💩 Что умеет инструмент: 🟡 сглаживать неровную линию 🟡 автоматически замыкать круги и другие контуры 🟡 отражать рисунок по X, Y или сразу по двум осям 🟡 создавать раздвоенные и органические окончания 🟡менять толщину, объём, глянец и контур формы 🟡 настраивать направление, высоту и яркость света 🟡 менять цвета металла, бликов, контрового света и фона 🟡 сохранять результат в PNG В общем, это классный инструмент для творческого поиска, создания графики, орнаментов и элементов геральдики. И через Nano Banana можно придумывать форме любую обёртку: накладывать текстуры, материалы, дополнительные элементы! ✨ 🤌Весь инструмент помещается в одном HTML-файле. Ничего устанавливать не нужно: открываете файл — и рисуете. Всё работает локально и никуда не отправляет ваши изображения или рисунки. Файл с проекта скинул в комментарии⤵️ #вайбкодинг Буст канала ❤️ @webdesignlab

Вторую неделю отовсюду несутся крики страданий "Спасите старинные книги, бигтехи их на странички режут ради обучения моделей". Плач стоит как у Некрасова в "Кому на Руси" над заеденным свиньями младенцем, за которым сами же герои поэмы и не доглядели. Коллеги, что для вас книга? Для меня это текст и иллюстрации, соединенных авторским замыслом. А для вас? Страницы и переплет? Мне кажется, вы не отличаете "информацию" и "носителя информации". И более того, случаи, когда книга существует в единственном оставшемся экземпляре, редки - чаще даже уникальные книги насчитывают два-три экземпляра. Мысли эти я думаю не первое десятилетие, и самое популярное возражение, которое я слышал - "А запах книги? А шелест страниц? А мягкое кресло и кружка чая? Вам недоступны чувства читателя" и прочий теплый клетчатый плед. Отлично, но почему эти эмоции изливаются на книги, про которые страдальцы не только даже и сейчас названий не знают, но которых рука человеческая подчас не касалась с момента печати? Раньше было отличное слово "неразрезанные" - в ту пору читатель, кроме чая, сидел со специальным "книжным ножом" и сам аккуратно заканчивал работу, которую переплетчики или не сделали, или сделали неаккуратно. Книга, которую не читают, умирает. И если книга лежит нечитана на дальней полке букиниста или библиотеки - это хуже для нее, чем если ее последний раз прочтет модель, в весах которой она останется доступной для общей памяти. Если уж виноватить кого-то, за то, что книга оказалась на грани забвения - так не тех, кто ее оцифровал, а тех, кто ее не читал. Хотя вина эта крайне сомнительна - даже до появления книгопечатания уже никто не мог прочесть все книги мира, а в наши дни объемы текста на многие порядки превышают наши способности его обработать. В Талмуде была красивая история про то, как римляне казнили уважаемого ребе Хананию бен Терадиона за поддержку восстания бар-Кохбы. Старика завернули в его свиток Торы и подожгли. Бывшие при этом ученики спросили его "Ребе, что ты видишь?" Старик ответил: "Вижу, как сгорает пергамент, а буквы возносятся к Небу". Sapient sat.

Имел неосторожность сравнить переживания людей по поводу ЛЛМ с переживаниями программистов на ассемблере по поводу языка Си. Я-то имел в виду, что «молодежь не будет знать, как компьютеры работают» и «понапишут слопа, все тормозить будет». Но люди возбудились на другой аспект: мол, компиляторы-то детерменированые, а ЛЛМ нет. И тут уже я не понимаю. Этот детерминизм с нами в одной комнате? Понятно, что если ты будешь одну и ту же программу компилировать на одном и том же компьютере два раза подряд, ты получишь одно и то же (за исключением Джаваскрипта, но там у людей своя атмосфера). Но это неинтересный пример, потому что два раза одну и ту же программу компилировать обычно и не нужно. Что, с первого раза плохо получилось? Обычно ты программу меняешь — но тогда и результат компиляции меняется, и часто недетерминировано. Потом, есть разные компьютеры, на них разные версии ОС, компилятора, библиотек, окружения. Недетерминизм (а точнее непредсказуемость) вокруг этого, конечно, пытаются как-то поприжать, с переменным успехом, но сам этот факт говорит нам о том, что его там изначально не было. Сегодня я компилял одной версией Икскода, завтра она обновилась, и что получится (или не получится) не знает никто на этой планете, включая Тима Кука. Дальше можно посмотреть на всю систему целиком. Обычно программы возникают не из компилятора, их пишут люди. Вот ты даешь задачу Васе написать программу, и что, у тебя детерменированный результат? Нет конечно же. Иногда получится одно, иногда другое. Опять же, направление в целом, наверное, предсказать можно, но не с точностью до буквы. А если еще раз попросить, то получится что-то другое. И ничего, справляемся как-то. Короче, миф ваш этот детерминизм, и давным давно его нет никакого, задолго до ЛЛМов он испарился. Но! Это не мешало нам успешно делать программы и продукты. Вопрос вообще не в детерменизме, а в том, насколько предсказуемо можно направить вывод в нужное русло.

Обращение к студентам и будущим аспирантам Друзья, знаю что среди читающих меня много студентов. Так вот, если вы вдруг решите написать человеку и попросить его стать научным руководителем, вы хотя бы представьтесь и расскажите про себя. Просто когда тебе пишет Кот/Енот/Хомяк/Лемур/Бобер с милой аватаркой пушистого животного и фейковым ником и просит взять его к себе в ученики, как я могу ему что-то ответить? Животных я безусловно люблю, но не настолько чтобы брать их в ученики. Я беру талантливых студентов, а не зверьков. Помните, то что вы прошли мой курс [читай посмотрели в записи], то это вовсе не означает, что я по вашему фейковому нику и аватарке сматчу вас с вашим ником в зум и тем более смогу дать вам какой-то внятный ответ кроме нет? Прим. И нет, МарьИванна не сошла с ума. Пост навеян реальными событиями последних дней. Выпускники ФКН не перестают меня удивлять😂