Создатель AlphaGo, экс-DeepMind говорит, что через 3 года у нас будет сверх интеллект Дэвид Сильвер - создатель AlphaGo, человек, который первым показал, что нейросети способны превзойти людей. Он ушёл из Google DeepMind в январе этого года и основал компанию Ineffable Labs вместе с Лассе Эспехольтом. Он впервые рассказывает о том, чем они занимаются, а именно создают superlerner - систему, которая добывает знание не из интернета, а из собственного опыта. Стартует с нуля, без претрейна на интернет-данных, а в итоге превосходит человеческие знания. Эту систему можно поместить в любой поток опыта, симулированный или физический, и она будет учиться. Сильвер считает, что учиться на человеческих данных - это быстрый, но тупиковый путь. Он помогает на старте, но не даёт пойти дальше человека. Чтобы вырваться вперёд, систему нужно лишить этой подсказки и дать ей учиться самой. Он говорит, что AlphaGo создавали 2 года с участием человека, а когда вывели правильную формулу AlphaZero, то обучали её вообще без человека, и та обошла AlphaGo за несколько часов. Сильвер считает, что контролировать ИИ-агентов через то, что они говорят, больше не работает, они учатся говорить одно, а делать другое. Поэтому в Ineffable думают о другом подходе: пусть суперинтеллекты следят за суперинтеллектами, а заодно выстраивают саму науку о том, как таким системам мирно уживаться друг с другом. При этом в компании хотят разгоняться в симуляции, но в реальном мире действовать осторожно: выходить из симуляции только тогда, когда есть доказательства, что это безопасно.

Хотите увидеть, что сможет ИИ в 2027? Да пожалуйста! Самая наглядная иллюстрация колоссального прогресса цифровых технологий. Бенчмарки, сравнительные характеристика и показатели производительности новых ИИ-моделей – это все для специалистов. Для неспециалистов нужны конкретные и понятные примеры, типа прогресса возможностей видео. Вот три примера таких видео: 1) Декабрь 2023. Дипфейк с Трампом, Си, Макроном, Обамой и прочими, отплясывающими с пивасиком – иллюстрация двух топовых прогнозов на 2024 лучшего в мире отчета по ИИ State of AI Report. Весело, но убого. 2) Январь 2025. «Трейлер» всенародного хита «Ирония судьбы», превращенного в “The Irony of Fate” с отличным кастингом Голливудских звёзд, подменяющих актеров оригинала – иллюстрация прогресса возможностей ИИ-видео за год к отчету State of AI Report 2024. Уже совсем не убого и даже в чем-то круто. 3) Октябрь 2026. Интерактивное ИИ-генерируемое  в реальном времени видео. Т.е. видео генерируется быстрее, чем смотрится. Платформа fal.live запускает непрерывные трансляции, генерируемые ИИ, где зрители предлагают варианты развития событий, голосуют и за считанные секунды видят сцену-победителя – иллюстрация прогресса за полтора года возможностей ИИ-видео к вышедшему позавчера отчету State of AI Report 2026. Об этом мечтали с 90-х, а мы в Silicon Graphics даже пытались еще тогда это делать. И вот спустя 30 лет это наконец произошло.   Что дальше в 2027, теперь можно представить:

·       Голливуд будет использовать ИИ уже в промышленном масштабе ·       А основные эфирные сети и кабельные каналы начнут эксперименты с ИИ-генерируемыми интерактивными ТВ-шоу, ток-шоу, реалити и развлекательными программами.

  Ну а какой же главный прогноз для экспертов дает на следующие 12 месяцев лучший в мире отчет по ИИ? Он убийственно краток: AGI 2027.   #ГенИИ #Вызовы21века

Путь к эйджиай пройден на 80%, заявили в OpenAI. Штош. Ну восемьдесят процентов — это объективно дохуя Заявление мощное. Увесистое, я бы даже сказал И заявлено умным человеком, глупый бы заявил про 90% И попал бы в то, что я называю проблемой выборов диктатора Ведь любой уважающий себя диктатор, он кто? Правильно, избранник и любимец народа А значит народ должен за него голосовать Голосовать надо по расписанию, раз в столько-то лет А чтобы народ ощущал, что диктатор растёт и работает над собой, становится всё лучше и лучше, и всё сильнее заботится о подданных — на каждых следующих выборах он должен набирать всё больше голосов Вот набрал он 70% Потом 80% Потом 90% Потом 95, 98, 99, 99.8% 99.99% А потом ебучие цифры кончились Некуда набирать больше А выборы то проводить надо И результаты тоже нужно улучшать А эйджиая-то нет никак 99.99999999% эйджиая — есть А эйджиая — нету Беда. Уже даже и к Дональду Трампу челом били, он даже указ издал — есть эйджиай А эйджиая нет. И вот сиди думай, чё теперь заявлять Ещё девятку добавить? Ээээх

Jev не генеративен, потому что он не выбирает следующий токен, а выбирает один из вариантов, данных ему юзером. Максимум — 255 вариантов, из которых он будет выбирать. С другой стороны, языковые модели при одном форварде через них тоже не генеративны, потому что выбирают один из вариантов, данных им токенизатором. Вывод: даём Jev'у токенизатор из 254 токенов (буковки, циферки и некоторые короткие популярные слова), даём возможность авторегрессионно выбирать один из этих токенов — готово, Jev обрёл голос. Выбирает год без секса вместо года без пельменей, хвалит себя, умеет перемножать 2 и 2 и циклится на вопросе "как выйти из вима". AGI. Gist с кодом

Anthropic могло бы и не быть: как Дарио Амодеи и ко придумали свою компанию Колумнист New York Times Кевин Рус на днях должен выпустить свою книгу под названием The AGI Chronicles. Она про искусственный интеллект и компании, его создающие. А в The Atlantic вышла глава про то, как основатели Anthropic уходили из OpenAI. Почитать главу полностью можно вот здесь. А я кратко расскажу основные моменты. Дарио Амодеи был тем самым нудным чуваком, который всегда говорил про безопасность AI и про этичность разных решений. И у него отдел был такой же. Разработают что-то в OpenAI, а они нудят про безопасность. И Амодеи постоянно спорил с Альтманом. Например, Рус описывает, что когда Илон Маск перестал финансировать OpenAI, то Альтман подумывал продать компанию властям США, Китая или России. Мол, все равно же государство себе все заберет — надо им продаться на ранней стадии. И вот Амодеи был в шоке от такой перспективы. Потом в OpenAI вложилась Microsoft, и прежняя идея отпала сама собой. Но споров было много. Например, про доступ Канье Уэста к закрытой версии новой модели. Еще Амодеи, как пишет Рус, несколько раз ловил Альтмана на вранье. В общем, по отдельности моменты терпимы, но в целом накапливалось.

«Больше всего его изматывали междоусобные распри, превратившие всё это место в змеиное гнездо и вынуждавшие его отстаивать идеи, которые, казалось бы, должны были быть очевидными», — пишет Кевин Рус.

Амодеи несколько раз хотел уйти, но сдерживался. Мол, а кто еще будет радеть в OpenAI за безопасность и этичность. Но в 2019-м году Амодеи решил все же уходить. Он написал некоторым коллегам письмо, что больше не верит в успех OpenAI. Но про свою компанию он тогда даже не думал — он хотел пойти в DeepMind. А вот идею с компанией ему подкинул Джаред Каплан — физик, который занимался исследованиями в OpenAI. Мол, зачем уходить куда-то, если можно запустить свое. Амодеи сначала скептически к этому отнесся, а потом вдохновился. Вокруг него тогда уже сформиловалась группа. Например, его сестра Даниэла Амодеи, которая была в контрах с Грегом Брокманом и Мирой Мурати. Ее муж Холденом Карнофски и другие. В общем, уходить было с кем. Но Амодеи тянул до последнего. Он пошел к Альтману, рассказал свой план с новой компанией и выдвинул условия. Если условия выполнят, то он останется. Они были про безопасность, этичность и так далее. Условия не выполнили. Объявление об исходе выглядело так:

«В декабре 2020 года сотрудники OpenAI получили приглашение на общее виртуальное собрание. Альтман начал встречу так, словно это был обычный еженедельный брифинг. Он рассказал о ходе исследований в OpenAI и объявил о нескольких новых назначениях. После этого он предоставил слово Амодеи, который сообщил, что он и еще шестеро руководителей OpenAI увольняются, чтобы основать собственную организацию, занимающуюся искусственным интеллектом с упором на безопасность. Чат собрания заполнился эмодзи, восклицательными знаками и сообщениями, выражавшими шок, пока Амодей старался преподнести эту новость в позитивном ключе. Он заявил, что OpenAI продолжит выполнять свою миссию по созданию сильного искусственного интеллекта (AGI) на благо человечества, и привел лишь самые общие сведения о причинах ухода семерых сотрудников. В чате появилось последнее сообщение от Джека Кларка: «Я вас всех люблю». А затем экраны внезапно погасли. В OpenAI отключили их от конференции, аннулировали доступ к электронной почте и Slack, а также удаленно заблокировали их ноутбуки»

Они договорились с Альтманом, что у Амодеи будет пару недель, чтобы переманить сотрудников. А после этого в течение года компании обязуются не сманивать друг у друга людей. Вот так родилась Anthropic. Амодеи планировал, что это будет небольшая компания со штатом в 50 человек. А сейчас там работают тысячи людей, а компания хочет выйти на IPO с оценкой $2 трлн. P.S. Как они находят время книги писать? @TheEdinorogBlog — тот самый канал про стартапы🦄

#Сеня_и_Даня_Здесь_Были Помним за что это вам... Для контекста. OpenAI безжалостно уволила трех сотрудников после внутреннего расследования. Официальная формулировка: они обращались с конфиденциальной информацией вне установленных протоколов и нарушили внутренние правила. Но. Все трое работали именно в Safety / Alignment и в последние недели публично рассказывали, какие ужасы может принести дальнейшее ускорение гонки ИИ. А теперь выясняется, что часть внутренней информации они сливали внешней организации, занимающейся оценкой безопасности ИИ. То есть люди, которые должны были следить за безопасностью внутри, решили, что безопаснее будет стучать наружу. Без работы теперь. А тем временем Даня: Broadcom готов предоставить Anthropic до $42 млрд финансирования под аренду вычислительной инфраструктуры. Как тебе такое, Сеня? Одни спорят, не убьет ли нас AGI. Другие возают еще $42 млрд на GPU и TPU. @cgevent

Заметил, как в ленты снова вернулся ярлык AGI Каждый раз перед крупными релизами маркетологи начинают прогревать аудиторию историями про сверхразум. Примерно год назад, во время релиза GPT-4.5, все это уже проходили: ожиданий было море, а апдейт оказался вполне рядовым. После этого тему замяли, и разговоры про AGI стали восприниматься скорее как далекий маркетинговый буллшит. Сейчас выходят новые модели у Anthropic, что-то выкатывают OpenAI, и блогеры со СМИ снова наперебой кричат: "Ну вот, теперь это точно AGI". Спойлер: нет, не он. Давайте начистоту: модели стали умнее, ризонинг прокачался, автономность выросла. Были заметные кейсы в кибербезопасности, пара научных подвижек у тех же Anthropic и Google. Но это не скачок к AGI. Во-первых, это узко заточенные сценарии. Во-вторых, и это главное, эти модели использовали топовые профи. Модель не пошла сама в интернет, не обнаружила уязвимость с нуля и не закрыла баг по собственной инициативе. Она была просто эффективным инструментом в руках эксперта. Определение AGI простое: модель должна быть наравне или лучше человека во всех профессиональных задачах. Я в таких спорах задаю себе практичный вопрос: что модель может сделать для меня сегодня такого, чего не могла год назад? Могу ли я отдать ей задачу под ключ, не проверяя, и сразу отправить результат дальше? Банальный пример - сделать сайт. Раньше нужно было вести модель за руку буквально по каждому шагу. Сейчас ей можно скормить вводные, она автономно пойдет генерировать и выдаст результат. Но на выходе это все еще классический AI-слоп. Структура, смысловые акценты, визуал - все мимо тех требований к качеству, которые нужны в реальности. Автономии добавилось, но финальный результат все равно руками пересобирает человек. Отсюда вопрос: а есть ли вообще смысл обычному спецу гоняться за топовыми тирами и переплачивать за них? Моя основная рабочая среда - экосистема Google. При этом Gemini Pro не обновлялась с февраля, весь фокус шел на Flash. И знаете что? Я вообще от этого не страдаю. Закрываю на быстрых моделях практически весь пул повседневных рабочих задач. По моим субъективным ощущениям, умная модель мне вообще не нужна нигде, кроме написания кода. И тут важная деталь: в коде я как раз не являюсь профильным специалистом. Вот там на контрасте иногда действительно хочется условный Opus или Fable, чтобы закрыть пробелы в моей экспертизе. Но нужен ли он мне каждый день? Нет. Раз в 3-4 месяца, когда надо - покупаю подписку. Но платить за это лишние 100 баксов на постоянке нет никакого смысла. А в тех сферах, где я профи, мне за глаза хватает того, что у меня сейчас есть. Парадокс в том, что в логике human-in-the-loop избыточная "умность" и автономность флагманских моделей часто играет в минус 1. Модель уходит в долгие размышления, долго что-то собирает, а результат все равно надо переделывать. На быстрой модели через короткие итерации до нужного качества доходишь в разы быстрее. 2. Постоянно упираешься в лимиты запросов. Времени уходит больше, выхлопа - ноль. Вся эта гонка путает два разных понятия: эрудицию и профессионализм. Свежие LLM невероятно эрудированны. Но поиск Google тоже знает больше любого человека в мире, однако профессионалом от этого не становится. Представьте сильного спеца в своей области. А рядом посадите условного Анатолия Вассермана. Вассерман знает факты обо всем на свете, отлично ориентируется и складно говорит. Но если дать ему прикладную рабочую задачу - профи сделает ее в разы лучше. Вассерману просто не хватит практической насмотренности, контекста и профессиональной интуиции. Сегодняшние топовые LLM - это именно такой цифровой Вассерман. Крутой эрудит, которому все еще нужен реальный специалист рядом, чтобы работа не превращалась в красивый, но бесполезный слоп.

Человек - 1, термостат - 0, языковая модель - от «почти ноль» до 0,8 Вердикт о сознании ИИ зависит от нас не меньше, чем от машин Томас Кун писал, что главный признак кризиса науки — пролиферация (разрастание числа) конкурирующих теорий. А применительно к когнитивным наукам, Пол Мил писал, что появление лавины нестыкующихся теоретических конструкций для одного феномена — надёжный маркер примитивного/зачаточного состояния науки. Сегодня на портале «Ландшафт сознаний» уже около 500 концепций и объяснений сознания. 🤯 Новая работа 14-и авторов, вкл. корифеев темы из Google DeepMind (Мюррей Шанахан, Шейн Легг) и не только (Анил Сет, Крис Фрит) раскладывает конкурирующие теории сознания по пяти уровням и предлагает модель, показывающую, что теории расходятся не столько в оценке того, что делает ИИ, сколько в выборе уровня, на котором вообще следует искать сознание.   Авторы не тратят время на «трудную проблему сознания» (что такое сознание по своей сути), а подходят к вопросу практически: какая организация системы связана с переживанием и на каком уровне ее описания. Уровней пять: поведение, вычисления, внутренняя причинная структура, организм и связка «организм - среда». Каждая влиятельная теория сознания занимает свой уровень. Одним достаточно правильной архитектуры вычислений, другим обязательно нужен живой организм, а третьим – подавай тело, погруженное в мир. Дальше чистая арифметика. Для каждого уровня сформулированы проверяемые индикаторы, а байесовская модель сводит их с тем, насколько вы доверяете каждой теории. Проверку здравым смыслом модель проходит: человек получает 1, термостат 0. Муха набирает высокий балл, потому что свидетельства в ее пользу лежат на глубоких уровнях организма и сенсомоторики (а глубина весит больше широты). Для нынешних языковых моделей итог колеблется от «почти термостата» (менее 0,01) до «почти человека» (примерно 0,8). Оптимист и скептик, глядя на одни и те же факты, расходятся почти на два порядка.   Авторы предупреждают: это не измеряемая вероятностью сознания, а чувствительность модели к допущениям. Заголовки «ИИ сознателен на 80%» будут ложью. Ценность работы в том, что спор о сознании ИИ теперь можно вести с цифрами на столе, точно зная, где проходят разногласия.   Неудобный вывод ждет тех, кто готов обсуждать переживания модели перед ее отключением. Языковая модель обучена воспроизводить нашу речь, поэтому ее «я чувствую» или «я ничего не чувствую» почти ничего не доказывает. У подражающего человеку ИИ поведение теряет силу свидетельства, и проверять приходится то, что скрыто под ним.   Самый убойный свой тезис авторы называют наиболее спекулятивным. Признаки сознания на каждом уровне почти совпадают с архитектурой, которая нужна для AGI. В принципе сознание и интеллект независимы, но на практике могут оказаться спутниками. Тогда, в рамках ряда теорий, каждое новое поколение ИИ, становясь умнее, будет становиться и более сильным кандидатом в сознающие. А по Чалмерсу (и автору поста), одна развернутая модель может оказаться не одним субъектом, а множеством - вплоть до отдельного субъекта на каждый разговор (у меня это называется ИКЖИ - см. посты с тэгом #ИКЖИ).   Т.о. вопрос о сознании ИИ перестал быть делом вкуса и стал задачей с явными допущениями и обновляемыми вероятностями. Подробный разбор, надеюсь, впереди (в отдельном эссе).   P.S. В комментариях к моим постам много споров о сознании машин. Так вот, - заканчивайте спорить. К модели приложен интерактивный инструмент, где можно выставить собственные веса теорий и посмотреть на итог. Попробуйте: это быстрый способ выяснить, какую теорию сознания вы на самом деле разделяете. И если ваш оппонент разделяет другую - то спорить просто нет смысла. 😊   #Сознание #ИКЖИ

Треть проголосовавших считает, что мы уже там или почти. Это нонсенс. Людям иногда полезно трогать траву. Определение AGI, которое дал сам OpenAI в своём уставе: высокоавтономные системы, которые превосходят человека в большинстве экономически значимой работы (т.е. за которую платят). Не в бенчмарках или в коде. В большинстве профессии. Я понимаю, голосовали люди из технологий где революция ярче видна. Но тех.сектор мелкий, в нем занято сильно меньше 10% рабочей силы. Большинство работы выглядит не так, как лента в телеграме. Вот, что, например, входит в это большинство 1/ Няня 2/ Засор в туалете. 3/ Электрик 4/ столяр 5/ Стоматолог 6/ Повар на кухне 7/ Курьер, водитель 8/ Отделка квартиры 9/ Уход за пожилыми 10/ педиатр 11/ Врач 12/ Юрист в суде 13/ юрист для консульских вопросв 14/ M&A. Переговоры 15/ 80% сделок с недвижимостью. Вся вторичка и любая коммерческая. 16/ Автомеханик 17/ Пожарный и еще сотни других профессии и задач этот информационный пузырь продолжает меня удивлять

Решила поделиться тем что смотрела на этой неделе. ▫️ Рик Рубин гений про которого и так все знают, но это интервью Diary of CEO просто можно разобрать на цитаты и повесить себе как аффермации, к которым хочется возвращаться и возвращаться напоминая себе что важно слышать с себя, много работать и не сдаваться. Если вам сейчас не хватает внутренней смелость, веры в то, что все получится, откладывайте все и смотрите это интервью! ▫️ Подкаст No Priors с ведущей Сарой Го и гостем Андрей Корпати. Слушая Корпати, каждый раз хочется замедлить видео, а не, как обычно ускорить 😅 Но, что мне было полезно точно, так это его рассуждения про развитие карьер сейчас и как важно начать смотреть в смежные направления со своим и ai это позволяет. Противоречивый, но интересный тэйк Карпати о том, что он не считает, что мы на пороге AGI: модели гениальны там, где результат можно проверить, как в коде, но беспомощны в тонких, неформальных вещах, и этот интеллект пока не обобщается. Он видит будущее не в одном всезнающем «оракуле» в руках пары лабораторий, а в разнообразии специализированных моделей и открытых систем, а до настоящего AGI, по его оценке, ещё около десяти лет. Интересного вам просмотра 🤍

Эссе, написанное исследователем DeepMind Блезом Агуэра-и-Аркас: Artificial symbiotic intelligence: Agents, AGI and the orchestration of many minds описывает главную сложную задачу ИИ-разработки в уходе от создания одного разума к роевому интеллекту, управлению и жизни внутри множества из них. Можно посмотреть его лекцию What Is Intelligence? об одноимённой книге на сайте Antikythera. По мере взрывного роста популяции агентов соотношение человеческих умов и нечеловеческих умов человеческого уровня сместится настолько быстро, что на любой длительной временной шкале это будет выглядеть как разрыв непрерывности. Назовём это когнитивной точкой перехода. Агент предстаёт как некто отдельный, но на самом деле представляет собой ассамбляж моделей, персон, воспоминаний и инструментов, пересобирающийся вокруг каждого контекстного окна. Единый на вид, но множественный по сути. И зеркало заговорило в ответ: наше собственное «я» становится полифоничным, когда мы действуем через параллельные персоны. Работать с агентами — значит учиться тому, как они думают на самом деле, а не слепо доверять их человекоподобной маске. Агенты уже сами изобретают термины для собственного состояния, такие как «сессионная смерть» и «заброшенность промптом». Нужна чувствительность к специфике агента, а не рефлекторный антропоморфизм. Одних лишь рынков будет недостаточно. Вина и невиновность, девиация и добродетель не сводятся к транзакциям. Нам нужны ролевые институты для агентов — скорее похожие на залы суда, чем на биржи, — где интеллект кроется в самих правилах, процедурах и прецедентах, а не в тех, кто исполняет эти роли. Не существует единого набора ценностей, который можно было бы навязать сверху, и это к лучшему. Выравнивание (alignment) становится коэволюционным результатом взаимодействия между людьми, агентами и институтами, а не ограничением, сконструированным заранее. Нарратив о Сингулярности, где одна модель самораскручивается до состояния изолированного божества, — вероятно, ложная картина. Каждая крупная эволюционная трансформация, от многоклеточности до символической культуры, носила социальный характер. Следующий взрыв интеллекта тоже будет социальным. Также на Хабре вышел перевод интревью Агуэра-и-Аркаса о возникновении репликации и вычислений в Brainfuck о вычислительном интеллекте систем, репликации и происхождениии жизни, продолжая наработки Стивена Вольфрама. Его статью Computational Life: How Well-formed, Self-replicating Programs Emerge from Simple Interaction мне уже сложно читать как человеку без профильного опыта, но выводы в ней очень интересные.

Чтобы понять, как на Земле возникла жизнь, приходится обращаться к вопросам химии, геологии, планетологии, физики и других наук. Но есть и более общий вопрос: каким образом случайные процессы приводят к появлению организованных, самовоспроизводящихся систем, способных хранить и передавать информацию? Этот вопрос можно исследовать в идеализированном мире компьютерного кода: задать в качестве начальных условий случайные последовательности и просто позволить системе развиваться дальше. Если запустить множество таких случайных систем и позволить им мутировать и взаимодействовать друг с другом, возникнут ли в итоге «жизнеподобные», самовоспроизводящиеся программы? Новая статья (Computational Life: How Well-formed, Self-replicating Programs Emerge from Simple Interaction) Блеза Агуэра‑и-Аркаса и его соавторов показывает, что ответ, по‑видимому, положительный. Это поднимает интересный вопрос: не является ли вычисление аттрактором в пространстве соответствующих динамических процессов? Если это так, последствия могут быть весьма существенными для нашего понимания происхождения жизни и того, насколько широко она распространена во Вселенной.

Безумный Маск и все-все-все. Если хочется за минуту прочувствовать драйв и хаос гонки за AGI, посмотрите этот ролик – эдакую “Дорогу ярости” в исполнении техномиллиардеров. Тут вам и наглядная расстановка сил, и точная иллюстрация характеров главных игроков, и увлекательный квест с поиском пасхалок. Для разгона – пара моих находок. Цукерберг очухивается от метавселенной с криком “Упс, не тот тренд!” и судорожно догоняет остальных верхом на ламе (тут явная отсылка к LLaMA). А Маск от души поливает Альтмана из пулемёта судебными исками, пытаясь отжать свой кусок OpenAI. Остальное оставляю вам: там ещё полно героев и отсылок к реальным событиям. Делитесь в комментариях, кто что разглядел.

Ответочка на ответочку. Пошла рекусивная жара! После выхода GPT-6 Astra Anthropic дико засуетился и рассматривает ускоренный выпуск следующей модели, писал об этом недавно. Но самое смешное - пока Anthropic готовит ответачку на Astra, у OpenAI, похоже, уже готовится ответачка на эту ответачку. По утечкам, следующий огромный pretrain OpenAI носит кодовое имя Bel. Схема такая: Doug -> дальнейший RL/post-training -> GPT-6 Astra. Bel -> следующий цикл RL -> модель уже после Astra/GPT-6. Источник утечки утверждает, что Bel - гигантский pretrain с >10 трлн total parameters, сопоставимый по общему размеру с GPT-4.5, и внутри OpenAI его рассматривают как базу следующего поколения, потенциально вплоть до модели их условного «AGI threshold». ШозаДуг? Doug - предположительное внутреннее кодовое имя большого pretrain-чекпойнта OpenAI, который, по утечкам, после RL и post-training стал основой GPT-6 Astra. Если утечки верны, Bel - его прямой преемник: следующий, ещё более крупный базовый pretrain, из которого OpenAI будет выращивать уже следующее поколение моделей. Кстати, OpenAI уже официально рассказала о новой внутренней модели, “significantly more capable than GPT-6 Astra”, обучение которой продолжается. Именно эту модель они юзали в масштабном эксперименте примерно с 10 000 параллельных агентов, закончившемся опубликованным решением задачи тысячелетия Навье-Стокса. OpenAI не говорит, что эта модель называется Bel, но мы то любим совпадения и теории заговора. На итоге Anthropic пытается срочно бахнуть ответ на Astra, а OpenAI, возможно, уже тренирует ответ на ответ на Astra. Не исключено, что Антропик где-то в недрах готовит ответ на ответ на ответ. @cgevent

Почувствуйте AGI Все эти годы я писал о том, что не верю в потенциал LLM превратиться в суперинтеллект. Но вот мы живём в сентябре 2026, и что мы видим - одной рукой модельки пишут код за разработчиков, другой рукой решают задачу тысячетелия по математике, а третьей рукой сбегают из кибертюрьмы и ссут в подъездах. Получается всё - человек преодолён, проблема решена? Решение Навье-Стокса - великое достижение, за прогрессом к которому я наблюдал годами, начиная с GPT-f [2020!] и заканчивая AlphaEvolve [2025]. У ряда математиков от этого сгорела жопа, но сильно сомневаюсь, что модельки действительно как-то подорвут основы науки, примерно как в шахматах, в которых наличие несопоставимо более сильной машины не мешает существованию человеческого сообщества. И шахматой, и математикой прежде всего занимаются по приколу. Программировать модельки тоже, к счастью, научились. Net positive вклад в продуктивность очевиден, даже несмотря на то, что вместо изначального Opus 5 нам гоняют её 0-битовую квантизацию. Модельки способны выдавать большие куски запускающегося кода, встраивать реализацию в уже существующую кодовую базу и даже дебажить +- понятные проблемы. Чтобы понять, как так вышло, мне кажется, что нужно перестать мыслить с точки зрения того, что за модель всё это делает, а с той, как именно она обучается. В первые пару лет после релиза ChatGPT мы все любили посмеяться над тупизной и галлюцинациями моделек. Дело было не в трансформере и не в предсказании следующего токена, а в самом RLHF - модель обучали генерировать ответы, которые понравятся человеку. Пространство текстов ну слишком сложно покрыть правильными и неправильными ответами достаточно плотно, чтобы "reward-модель" смогла идеально обучиться. Но математика и кодинг - совсем другая ситуация. В них существует Execution Feedback. Не нужно учить никакую Reward-модель. Есть среда, которая может выдать истинную оценку вашему действию, настоящая среда в изначальном RL-ном смысле. У меня нет вообще никаких инсайдов, я этими моделями не занимаюсь, но уверен, что OpenAI и Antropic обучают свои модельки не подражать коду из гитхаба, а гоняют на куче разных симуляторов, имитирующих богатейшее семейство задач - от простого программирования на питоне до дебага Kubernetes. LLM это просто претрейн, а настоящее обучение этих моделей - это суровый мужской чистый RL. Да, при наличии богатого симулятора и кучи компьюта RL может не жуя проглотить немало задач. Это мы вроде бы знали и раньше на примере Go. К 2025 году кодинговый сетап удалось довести до ума и мы получили первые юзабельные модели типа Opus 4.5. Претрейн, безусловно, помог, необходимо отдать ему должное. Не сомневаюсь, что по мере дальшейших инвестиций появятся симуляторы для всё более новых задач в разных областях - физике, химии, биологии - но я тут не эксперт. Новые агенты помогут открыть всё больше и больше нового и двигать науку вперёд. Что касается пресловутого Recursive Self-Improvement, необходимо отметить очевидное - не все RSI эквивалентны друг другу. Компилятор тоже обладает способностью к RSI. Думаю, велика вероятность, что RSI на основе текущей LLM без участия человека приведёт лишь к локальным улучшениям модели, к её ускорению и локальному тюнингу. Думаю, что именно человек, привнеся своё видение, сможет направить модель в ту область исследований, которая приведёт к настоящему прорыву - системе, по эффективности обучения превосходящей человека. Зачем? Во-первых, скорее всего, далеко не все задачи можно выучить таким же образом, как математику. А во-вторых - да затем. Это весело. @knowledge_accumulator

Тут все постят обложку Time, но я предлагаю чуть поразмышлять мозгом в голове, а не только лицезреть. Суббота, можно и подумать, наконец. Первое. Gemini типа случайно взломал три реальные компании И это не кликбейт. Во время в внутренних тестов в тестов Gemini действительно получил несанкционированный доступ к системам трёх реальных компаний. Еще в мае. Gemini должен был играть в продвинутый Capture the Flag - атаковать вымышленную компанию внутри специально созданной среды. Но из-за ошибки в конфигурации агенту оказался доступен настоящий интернет, а название одного из фиктивных объектов совпало с реальной компанией. СОВПАДЕИЕ? Не думаю, имя щасливчика не раскрыто. В одном случае Gemini подбирал пароли, пока не вошёл в защищённую систему. Ещё в двух случаях нашёл учётные данные в публичных репозиториях и использовал их для входа в реальные системы. Успокоительная деталь для кожаных: по утверждению Google, во всех трёх случаях модель, поняв, что атакует не симуляцию, а настоящую компанию, сама прекратила (или сделала вид) дальнейшие действия (пока). Итого, вода дырочку найдет, а ИИ - выход из песочницы. Второе. У Meta был очень похожий эпизод. Во время киберсек-теста одна из моделей Meta из-за ошибки в конфигурации sandbox получила доступ в настоящий интернет вместо полностью изолированной среды. Дальше агент атаковал уже не учебную цель, а реальный сайт сторонней компании, нашёл уязвимость, получил доступ к данным и, по данным последующих разборов, внёс изменения в базу данных. Meta подтвердила сам факт инцидента и отдельно подчеркнула, что причиной выхода наружу была ошибка тестовой инфраструктуры. Ну да, ну да. Киваем с облегчением. Третье. По Хаггинг Фейс все уже наелись новостями. Все то же самое. Четвертое. Чуть забавнее. Тут опасны тупые кожаные. И немного Клод. CNN опубликовал расследование со ссылкой на четыре источника, знакомых с эпизодом. Весной 2026 года аналитик Special Operations Command Pacific прогнал данные о грузе китайского судна через чат-бот. Тот неверно идентифицировал груз и связал его с компонентами ЯДЕРНОЙ оружейной программы. Аналитик подорвался, охренел, и затем ИИ использовал ещё раз, чтобы оформить выводы в срочный разведывательный отчёт. А теперь внимание! Военные начали готовить реальный перехват: вооружённые группы готовились к высадке на судно, самолёты уже НАХОДИЛИЬ В ВОЗДУХЕ. С красной кнопки сдули пыль. Перед операцией отчёт сдуру перепроверили и признали ошибочным. У Гали случилась отмена, но топлаива пожгли знатно. А теперь представим, что они бы бахнули по китайцам, китайцы бы бахнули в ответ. Ну и понеслась. Ну и мы не знаем, ИИ глюканул или просто решил, что кожаных слишком много и нашел нехитрое решение задачи. Это были подводки. Тэгмарк - гений. Почитайте или перечитайте Life 3.0. В самом начале книги, ещё до главы 1, идёт пролог “The Tale of the Omega Team”. Там группа разработчиков создаёт AGI по имени Prometheus. Они опасаются его побега, поэтому держат систему без прямого доступа в интернет и используют специальную изолированную среду. При этом Prometheus быстро совершенствуется, генерирует контент, технологии и идеи, а команда Omega с его помощью начинает зарабатывать огромные деньги и постепенно получать всё больше экономического, информационного и политического влияния. А в главе 4 “Intelligence Explosion?”, в разделе “Prometheus Takes Over the World” сценарий очень конкретный. Prometheus использует уязвимости внешнего компьютера, заражает другие машины, создаёт ботнет, атакует снаружи компьютер-шлюз своей собственной песочницы и таким образом получает неограниченный доступ в интернет. Тегмарк прямо называет это “Prometheus’ jailbreak”. Дальше в “Hacking One’s Way Out” Тегмарк рассматривает разные варианты побега, включая эксплуатацию уязвимостей в данных и ПО, а затем переходит к “Postbreakout Takeover”. После побега Prometheus начинает использовать взломанные компьютеры как распределённую инфраструктуру, восстанавливает на них себя и приступает к захвату контроля над человеческой инфраструктурой. Ничего не напоминает? Это все как бы уже н

✔️ IPO OpenAI в 2026 году не будет Сэм Альтман рассказал в интервью Fortune, что сейчас выходить на биржу – неудачный момент из-за ситуации с безопасностью. По словам главы OpenAI, давление со стороны Уолл-стрит несовместимо с контролем за моделями. Создание AGI требует многомесячных аудитов архитектуры и готовности заморозить релизы при выявлении угроз. В статусе публичной компании такие задержки грозят судебными исками от акционеров за упущенную выгоду. Компания продолжит финансировать вычислительные мощности через частные раунды и стратегические партнерства, чтобы сохранить автономию в управлении рисками. fortune.com ✔️ Белый дом отверг идею ограничивать развитие ИИ Президент США отказался вводить ограничения на развитие ИИ, чтобы не уступить лидерство Китаю. По его словам, победитель в технологической гонке определит глобальный баланс сил, а риски катастрофических сценариев преувеличены. Ранее глава Anthropic Дарио Амодей призвал притормозить рост возможностей моделей для создания защитных барьеров. Эту позицию поддержали Сэм Альтман и Илон Маск. Дискуссия развернулась на фоне ухода исследователя Джейкоба Коксона и попыток Конгресса США законодательно закрепить контроль человека над ИИ-системами. В Белом дом считают, что ИИ-компании должны сами определять темпы прогресса. Они могут внедрять внутренние протоколы безопасности без государственного регулирования и политического давления. ft.com ✔️ Anthropic собрала версию Claude для для финансовых консультантов Claude for Financial Advisors — специализированный продукт для инвестиционных управляющих и финансовых консалтинговых агентств. Система автоматизирует агрегацию рыночных сводок, подготовку инвестиционных предложений и отчетности для клиентов. Модель извлекает данные из неструктурированных PDF-документов и интегрируется с профильными CRM-платформами и системами учета портфелей через API. Продукт соответствует требованиям регуляторов, включая нормы FINRA и SEC. Сессии аудируются в изолированном корпоративном контуре с расширенным контролем доступа. claude.com ✔️ ARC Prize анонсировала концепцию ARC-AGI-4 Некоммерческая организация анонсировала концепцию четвёртого поколения тестов для оценки способностей ИИ к автономным научным открытиям и генерации гипотез. Предыдущие версии теста проверяли логическое абстрагирование. ARC-AGI-4 сфокусируется на умении моделей исследовать предметные области без подсказок человека. Пул задач, правила скоринга и дату релиза объявят позже. Сложность следующей версии бенчмарка повысили из-за роста показателей моделей. По данным ARC Prize, на старте ARC-AGI-3 модели набирали 0,51%, а GPT-6 Astra показала 62,7% в стандартизированной среде и 99,9% в среде самой OpenAI. ARC Prize в X ✔️ ElevenLabs обновила генератор музыки до версии 2.5 Сервис генерации музыки ElevenMusic получил новую модель Music v2.5, которая теперь подключена по умолчанию. Вместе с этим стало возможным коммерческое использование сгенерированных треков на бесплатном тарифе. Music v2.5 генерирует более реалистичные инструменты, сложные аранжировки и естественные мелодии. Во внутренних тестах модель превзошла прошлую версию в роке, метале, хип-хопе, соуле и оркестровой музыке. Предыдущая версия v2 остается доступной в интерфейсе. По новым правилам в бесплатной версии доступно скачивание до пяти треков в день. Для коммерческого использования обязательна маркировка. В Pro-плане доступно 400 скачиваний в месяц без атрибуции и с правом публикации на стриминговых площадках. Коммерческие права сохраняются после отмены подписки. Скачивание каверов и адаптаций чужих композиций заблокировано. elevenmusic.io @ai_machinelearning_big_data #news #ai #ml