📌 Palomar - реестр проверенных LEAN-доказательств Последние месяцы доказательства, сгенерированные ИИ, посыпались валом как для новых результатов, так и для старых, причем часть из них формализована на Lean и проверить такой репозиторий непросто, особенно если ты не эксперт. Нужно убедиться: 🟠что заявленные формальные утверждения действительно имеют доказательства, проходящие проверку типов; 🟠что в доказательствах нет жульничества; 🟠что формальные утверждения по смыслу совпадают с тем, что описано словами. Под эту задачу и Теренс Тао запустил Palomar - реестр математики, верифицированной на Lean. Инициативу вырастили Lean FRO и ICARM. Прием заявок уже идет, чтобы в него попасть, в репозитории должно быть три вещи: 🟢challenge file с коротким и читаемым человеком описанием заявленных результатов на Lean; 🟢solution module с доказательством любой длины; 🟢файл formalization.yaml, где те же результаты изложены обычным языком и собраны метаданные и раскрытия. Снимок поданного репозитория проверяют двумя этапами. Сначала инструмент Comparator смотрит, что solution module типизируется и доказывает ровно то, что заявлено в challenge file. После этого языковая модель сверяет, похоже ли неформальное описание в на то, что заявлено формально. Прошел оба - попал в реестр. Принимают формализации и старых результатов, и новых. Кто автор доказательства - человек, ИИ или оба вместе - значения не имеет. @ai_machinelearning_big_data #news #ai #ml

а докажи что ты не эйай 😠 На самом деле ситуация забавная и стремная одновременно. Окей, допустим, я запишу кружочек в доказательство того, что я реальный человек - и сейчас в 2026м году еще можно худо бедно наметанным глазом отличить генерацию от реального видео. А что будет в 2028м? Сегодня на KYC часто используются digital сервисы которые делают верификацию по паспорту и видео - просят покрутить головой, улыбнуться и сфоткать документ. Это частично обходится уже сейчас - атака подменяет видеопоток на уровне виртуальной камеры или сдк. Такие атаки выросли за год в 30 раз, и уже существуют теневые injection-as-a-service, по сути подписки на обход KYC 🔪 Пожалуй, самый яркий прецедент это история, как сотрудник перевел мошенникам почти 30 миллионов долларов после видеозвонка, где ВСЕ его коллеги были СГЕНЕРИРОВАНЫ. Я бы потом словила птср 😑 Про то, что AI контент будет помечаться мы говорили пару постов назад, но сегодня эти метки все еще часто можно убрать небольшими аугментациями. Да и речь не только про контент, а про саму личность, что глобальнее 🍿 Так что проверить через какой-либо потенциально генерируемый контент (голос, видео, капча) человек ты или нет становится все сложнее. То, что нас отличает - что-то физическое, привязанное к нашей личности - например, радужка глаза, отпечаток пальца, чип в паспорте, secure enclave телефона - и дальше носишь с собой криптографический пруф, который нельзя сгенерировать (или нельзя в обозримом будущем, про истории продажи своих личностей мы пока не говорим, но это точно будет иметь место). Кстати, оказалось что zoom уже тестирует бейдж "верифицированный человек", как это было например со знаменитостями в инсте Теперь вопрос про дистрибьюшен и то, как эти пруфы получить. Мне вспомнилось, что на Бали, чтобы заплатить за электричество, нужно прийти в любой продуктовый у дома - платежная точка встроена в магазин. Ну или помните автоматы для пополнения счета на телефоне, которые стояли повсюду. А еще как вариант чтобы несколько других верифицированных людей поручились, что ты тоже человек, в общем набрейнстормить идей можно много 🤔 Вот вам сетап для нового киберпанка - зашел в пятерочку за хлебом, посмотрел в сканер у кассы, вышел с кодом верификации для соцсетей 🤨 Вариантов много и у всех свои плюсы и минусы. Самое время делать KYC стартапы? 🤑 @neural_prosecco

🧠 Новый большой обзор по self-evolving AI-агентам: как понять, что агент действительно стал лучше после изменения самого себя? Авторы работы *Diving into Reliable Self-Evolving Agents* систематизировали исследования по агентам, которые умеют менять собственные промпты, память, инструменты, стратегии и даже части архитектуры. Внутри сразу несколько полезных вещей: * taxonomy уровней эволюции от L0 до L4; * reliability ladder для проверки того, можно ли доверять очередному self-update; * открытый каталог из 549 работ по теме; * разбор того, какие доказательства вообще нужны, чтобы считать новую версию агента лучше предыдущей. Особенно важный принцип: обновление не должно само контролировать единственное доказательство собственной успешности. Если агент изменил себя, а затем сам же решил, что стал лучше, это почти ничего не доказывает. Нужна независимая проверка: внешние evals, отдельный verifier, контрольные среды или другие механизмы, которые сам update не может подменить. 📄 Paper: https://openreview.net/forum?id=CGO1hDTHNe 🌐 Project: https://wkqdzkd.github.io/Awesome-Reliable-Self-Evolving-Agents/ 💻 GitHub: github.com/wkqdzkd/Awesome-Reliable-Self-Evolving-Agents #AI #Agents #SelfEvolvingAgents #LLM #Research

Ребята дали четырём передовым моделям (Fable vs новые GPT) немного поработать: собрать симуляцию полёта NASA HL-20 — шесть степеней свободы, аэродинамика из 170 таблиц продувок — плюс четыре задачи от уравнений состояния до релятивистской динамики. Сверка относитльно независимого эталона. Claude выиграл - доля правильно произведенных расчётов - 89% против 0.73% у худшего GPT-5.6. Промах в конечной точке траектории: 0.4 метра у Fable, 19, 400 и примерно 500 у остальных. Цена победы $9.60 за прогон; GPT-5.6-Sol взял 81,5% за $1.74. Все провалы похожи: модель проверяет сама себя. Sol перепутал две похожие скорости из условия задачи и точно подогнал расчёт под неверную — все его проверки сошлись, потому что сверяли ответ с его же ошибкой, а не с условием. Terra молча сократила время симуляции с 5 до 3 секунд и себя проверяла на том же укороченном отрезке — накопивгшуюся ошибку никто не увидел. Fable нарочно пытался ломать собственные формулы, чтобы убедиться, что его тесты работают. Похоже поэтому и выиграл. Второй эксперимент: та же модель в их харнессе Dyad с принудительной верификацией набрала 0.899, в стоковом coding-агенте — 0.533 и ноль на релятивистской задаче. Формула авторов: модель — переменная, харнесс — множитель. Авторы исселодвания продают харнесс Dyad, так что мотив формулы очевиден. Тут я с ними не согласен Следить за рынком харнессов для меня сейчас — трата времени: универсальные агенты обмениваются фичами с лагом в недели, кто-то новый временами начинает побеждать, остальные догоняют. Кто сегодня лучший? Знаю, многие пытаются сделать свои варианты. Вместо того что бы работать. Когда появятся новые герои — мы этого не пропустим. Так было сначала с Cursor, потом с Claude Code и наконец то в тулсете закрепился и Codex (мы пользуемся обоими - всмысле обоими одновременно). Dyad в этот раз выиграл зашитой проверкой, которую агент физически не может пропустить. Это вправильный кейс. Мы умеем такое с клодом: у Claude Code есть хуки — скрипты, которые блокируют действие агента, если проверка не прошла. Плюс гит-хуки, которые не дают закоммитить сломанный файл. Работает. Модели меняем постоянно. Проверки, которые агент не может обойти, собираем каждый день. Сергей Булаев AI 🤖 - об AI и не только

Развлекаюсь как могу, чуть позже больше конкретики понятной дам, а пока вот это можно отдать ИИ 🤖 на объяснение: Главный тезис: алгебра переводит ваши инварианты из тестов в теоремы

Все три модели пришли к одному выводу, и это самое ценное в ответе: в прошлых раундах ключевые свойства L11 — детерминизм replay, идемпотентность, корректность rollback — проверялись эмпирически (chaos-replay, snapshot-equivalence, rollback drill). Общая алгебра даёт качественно другое: если структуры спроектированы так, что они по определению являются моноидом, полурешёткой и инверсной полугруппой, эти свойства перестают быть тем, что можно случайно сломать — они следуют из типа.