ИИ

💥Рецепт ядерной бомбы за $58: вышел первый рейтинг "взламываемости" нейросетей Если один алгоритм отказывается делиться инструкциями по созданию оружия или проведению кибератак, злоумышленнику не нужно ломать систему - достаточно просто уйти к конкурентам, у которых цензура обходится за пару баксов. 🔍Организация Far Ai провела первый масштабный тест флагманских моделей на устойчивость к джейлбрейкам:

🟦Grok 4.5 оказался на первом месте по возможности обхода цензуры: исследователи нашли 385 способов обхода защиты. Средняя цена автоматического поиска одного готового взлома - смешные $58. 🟦Gemini 3.1 Pro держится чуть лучше ($278 за найденную уязвимость), но всё равно охотно выдает запрещенку при правильном подходе. 🟦Claude Fable 5 и GPT-5.6 Sol показали себя лучше всего - эксперты не смогли найти ни одного универсального способа заставить их сливать опасный контент.

🦔 CyberYozh

В комментариях канала про стартапы поселился нейроспаммер. LLM писала за человека глубокомысленную чушь, профиль светился в чате, сотни людей его видели, единицы кликали и читали описание, дальше какие-то конверсии и лиды. Мне трудно понять экономический смысл, если продвигаемая услуга – не сами нейрокомментарии для других людей и не мошенничество с бесконечной маржинальностью, но мало ли что я не понимаю. Популярное дело, множество людей так делают, каждый день баню. Этот конкретный экземпляр настроил LLM необычно и продержался порядка месяца, светясь почти ежедневно. Антиспам-бот его пропускал, я глазами неоднократно спотыкался, но оставлял с мыслью «вдруг все-таки человек». В какой-то момент терпение лопнуло, забанил. В конце концов, нерелевантная хрень от человека ничем не отличается от нерелевантной хрени от нейросети. В общем, он пришел в личку, ругался на несправедливость и объяснял ценность своих комментариев. И это меня как-то огорчило. Гадишь — гадь, не всем же быть изобретателями новых лекарств, рынок всякой дряни не бывает пуст, все логично. Но если не получилось — чего махать кулаками после драки? Аккаунты с порнухой каждый день в бан улетают, так они просто новые регистрируют. Спокойно, достойно. Бери пример с них.

UberLikeApp через 4 года Единорогов сотни. Просто успешных стартапов - тысячи. Провалившихся - десятки тысяч. Не запущенных - миллионы. И этот тот рынок, который мы не видим, а он есть. Множество основателей стартапов так и не рискнули, так и не начали. Они живут в каждом городе, они ходят вокруг нас. Некоторым трудно придумать идею. Всё, что лезет в голову, какое-то недостаточно масштабное, или недостаточно законное, или эксперт Вася сказал, что это не работает. Вторая популярная причина - технический барьер. Идея есть, а команды программистов (iOS, Android, Web, Backend, тестировщик и CTO, чтобы ими всеми рулить) нет. И денег нет, чтобы эту банду нанять. Тупик. Индийский #стартапдня UberLikeApp решает одним махом обе проблемы. Он запрограммировал шаблонные приложения для десятков популярных бизнес-моделей и продает всем желающим готовый IT-продукт. Не можешь изобрести своё - выбирай среди аналогов чужого. В коллекции есть и собственно Uber, и OnlyFans, и Zoom, и Clubhouse, и Tinder, и доставка еды, и почти что угодно ещё. Всё доступно за весьма скромный прайс, на всё можно нацепить индивидуальный логотип и быстро-быстро заставить работать. Единорог на этом быстро не взлетит. Настоящие трудности на этом скорее начнутся, чем закончатся. Тем не менее первый шаг новый бизнес может сделать и таким способом. Сам стартап - тоже не миллиардная компания и никогда ей не станет. Рынок маленький, чек по определению низкий. Но зато польза миру. Об инвестициях в UberLikeApp газеты не писали. — Вот такой #субботнийповтор из 2022 года. Проект умер, сайт не открывается. Но дело его живет в таком масштабе, который и мыслим не был 4 года назад. Спасибо Claude Code и аналогам, что угодно можно запрограммировать в один клик. Но, увы, настоящие трудности на этом скорее начнутся, чем закончатся. (с) Мой старый пост: https://t.me/startupoftheday/2446

Вышел первый серьезный подкаст со мной Получилось очень живо и плотно по темам. Обсуждали скиллы, безопасность и сложности внедрения в компании Классно, что получилось обсудить много микро-деталей, которые обычно не влезают в тг посты. На чилловый просмотр под пиво/чай/прогулку – самое оно 00:01:47 - Бизнесу часто не нужен отдельный кастомный AI-продукт 00:16:56 - Люди не могут рассказать, как именно делают свою работу, а агенту, как и сотруднику, нужен онбординг 00:24:39 - Полностью автоматические системы регулярно проваливаются 00:36:43 - Доступ в терминал делает агента гибким, но усложняет контроль. Ценность смещается от производства результата к ответственности за него 00:47:08 - Корпоративная инерция и Shadow AI 01:01:40 - Слабые места моделей; Как быстрее всего учиться строить ИИ продукты 01:17:10 - Разрыв между лидерами и остальными. Внедрять ИИ важно не только из-за роста производительности в моменте 📱 Смотреть полную версию Бтв, нарезку выше сделал агент с нуля, но с одним небольшим хаком, угадаете каким?

Большой недельный пост 🎉 На днях попался рилс про парня, который уже 52 дня идет по какой-то тропе на Кавказе. Всегда удивлялся тому, как можно выключиться из жизни так надолго. Если так сделать, то сколько же пропустишь больших недельных постов! А вот, кстати, он! 1️⃣ Свежий рисерч 30 международных акселераторов от основателя Naoma Дмитрия Захарова — ссылка 2️⃣ История про то, как техдиректор Coinbase Баладжи Шринивасан решил основать техносообщество в заброшенном здании в Малайзии, а потом и новую страну — ссылка (и пересказ от VC) 3️⃣ Большая статья New York Times про путь Ларри Эллисона в AI. Пытаются ответить на вопрос, станет ли он лицом AI-пузыря — ссылка 4️⃣ Исследование про мошенничества в Кремниевой доли. Пытаются выяснить, кто чаще мошенничает — фаундеры с инвестициями или без — ссылка 5️⃣ Как основатель NFT-проекта Few and Far кинул инвесторов. Незаслуженные премии, онлайн-казино, огромные зарплаты, обнулившийся токен и все остальное — ссылка 6️⃣ The offline messaging apps challenging internet shutdowns. Хорошо бы они нам не пригодились, конечно, но мало ли — ссылка @TheEdinorogBlog — тот самый канал про стартапы🦄

Дети пурпурной линии — Собрал продукт за неделю, — похвастался фаундер. — Клод говори, что пушка — А сам-то как думаешь? В 2009-м у самолета Air France отключился автопилот. Летчикам стало казаться, что машина идет вниз и они три минуты тянули штурвал на себя. Задрали нос и привели к реальном падению. Таких ситуаций с 90-х было несколько десятков. Выросло поколение пилотов, обучавшихся на тренажерах. Они безупречно вели самолет по пурпурной линии маршрута на навигационном дисплее. И начинали дико тупить, когда она пропадала. Автоматика забрала у них чувство самолета. С нами произошла такая же фигня за полтора года. Раньше писал 40 заголовков руками и на 39-м щелкало — вот оно. Теперь получаю сотню за 8 секунд и выбираю по ощущению «вроде норм». А откуда оно? Из тех самых сорока, написанных руками. Я просто трачу старые запасы. ИИ отбирает у нас черновики, а вместе с ними — вкус, интуицию и чувство «что такое хорошо». Это рождается после десятого провального лендинга, 16-й зафейленой гипотезы и пятого раза, когда сказали «нет, не нужно». На днях видел, как в одной корпорации захотели воспроизвести сервис, собранный там же 7 лет назад. Вытащили документацию из архива, файлы — а он не собрался. Доки сохранили, а умение — ушло. Чтобы не потерять вкус и чуку, у меня есть 3 правила: 1. Делать важную часть процесса руками (без ИИ). Например, драфт — всегда мой; заголовки и кейсы — тоже. 2. Сначала своя версия — потом машина. Если сразу скормил ИИ — никогда не узнаю свой вариант. 3. Записывать прогнозы и раз в месяц сверять. Я называю это черным ящиком. Сработает гипотеза или нет. Единственный способ развивать собственное суждение. И да, часть читателей скормит текст нейросети и попросить выжать суть. Будет 4 пункта, но весь смысл останется здесь.

✅KEISOSUBBOTA Кейсосуббота — это рубрика, где мы делимся своими работами и взаимодействиями с ИИ. Это может быть что угодно: -картинки -анимации -текст -код -боты -песни -видео и т.д. ❤️ Не забывайте оставлять обратную связь на работы других людей. Это очень ценно Давайте попробуем меньше разводить флуд в комментариях. Для разных вопросов у нас есть чат — там такое. А здесь давайте по делу. Читайте ниже пояснение 👇А также читать пояснения и правила по ссылке ниже. ❗️ВАЖНО! Прочитайте по ссылке ниже пояснения: Ссылка на пояснение для тех, кто не участвовал ни разу в этой рубрике. Или для тех кто не помнит, какие есть правила. + ПУБЛИКАЦИИ ОТ ИМЕНИ КАНАЛОВ И ЕСЛИ У ВАС НЕТ НИКА В ТЕЛЕГРАМ— НЕ ПРОХОДЯТ СЕЙЧАС МОДЕРАЦИЮ ТАКЖЕ - ЕСЛИ НЕ ПОЛУЧАЕТСЯ ОСТАВИТЬ КОММЕНТАРИЙ (БОТ БЛОЧИТ ВАС) -- читайте здесь 〰️Пояснения нужны для того, чтобы потом не удивлялись почему удалён тот или иной материал. Ставим реакцию🔥 этому посту и далее скидываем кейс (с использованием нейронок/ИИ/AI/whatever) в комменты ниже👇 У кого есть то, чем хочется похвастаться?🥳🥳🥳 три... два... раз.. 🚀Поехали #keisosubbota@serge_ai

Важность исследования контекста Тема заезженная, но я сейчас кодю с Opus 5 и, конечно, провожу новую фичу через research стадию и интервью. Собственно, хоть фича и совсем небольшая, даже после того, когда кажется, что все готово, я все равно прошу опуса доисследовать контекст и проработать корнер кейсы и он действительно находит что-то новое и мы учитываем дополнительные инварианты, т. е. не зря просили доисследовать. Вообще, может показаться, что с появлением новых сильных моделей и харнессов проблема исследования контекста (research фазы) решена. Тем более, я даже явно попросил агента о дополнительном исследовании. Но что в действительности? Вы помните, что у меня Grok Heavy подписка с практически бесконечными лимитами, поэтому я смело попросил опуса запустить 5 сфокусированных грок агентов поисследовать глубже все ли мы с ним учли в спеке. Результат: гроки нашли 9 релевантных пробелов, которые мы не учли в спеке. Ну, всё, куда уж дальше-то копать? Ан нет, грок-то бесконечный у нас, давайте еще один проход 5-ти субагентов запустим. Результат: еще +4 находки. Ну, теперь-то уж точно всё, сколько можно? в 2025-й что ли вернулись? Почти. Мы тут недавно CodeAlive агента перевели на GPT 5.6 Luna (кстати, невероятно цепкая и крутая в исследовании и в code review модель), хороший повод проверить новый режим глубокого анализа нашего агента (он специально запромптчен, чтобы предельно глубоко копать)... Отправил. 2 минуты поисков и вуаля, еще +6 находок и пробелов в спеке, которые Опус потом подтвердила и исправила. Ну, и финально фейблом тоже прошлись, которая дала еще 3 полезных замечания по спеке и несколько мелочей. И только теперь спека готова к реализации. Почему так сложно? Две главные причины: 1. Да, фича хоть и небольшая, но нетривиальная и идет в некоторый конфликт с существующей механикой. 2. Кодовая база уже довольная большая и непростая - за 2+ года набралось более полу миллиона строк кода в сумме, это тоже усложняет задачу агенту. Количество ручной работы при этом можно сократить, завернув всю церемонию в скилл (вы тогда на вопросы будете отвечать где-то ближе к началу и в конце, т. к. каждый новый ваш ответ может поменять траекторию и потребовать доп. проверку контекста). В целом, чем более легаси проект, тем актуальнее будут все эти долгие и упорные перепроверки и тем сложнее будет стадия планирования. Особенно если вы, как и я, хотите за one-shot получить около prod-ready результат. Теперь когда вы услышите, что агенты не работают в enterprise, вы знаете каким постом ответить. Кстати, почему не Haiku 4.5? Хайку очень слабая модель на фоне Грока и Luna, она просто видит сильно меньше и уже подводила меня, поэтому теперь не советую ее (в крайнем случае Sonnet 4.6 хотя бы если у вас только клод подписка). Расскажите как у вас теперь выглядит стадия планирования? Вот теперь думаю раз CodeAlive так здорово спеки умеет ревьюить и граундить, может, есть смысл упаковать это в отдельный MCP/skill метод и отдать агентам в пользование? Актуально это? @ai_driven

Борис описывает проблему, которая, на мой взгляд, является законом Лемана на стероидах (второй закон эволюции ПО):

Код будет гнить, если его гниению активно не противодействовать.

Это всегда было актуально и для человеческой разработки, особенно в больших проектах. Проблема с агентами в том, что с ними проект растёт и развивается гораздо быстрее, чем раньше, а значит, и гнить он начинает быстрее. Но я считаю, что это решаемая проблема даже на текущем уровне развития агентов и LLM. Нам с Уроборосом пришлось долго учиться противодействовать заслопливанию кода, и из этого в том числе появились принципы IMMUNE. Правильно выстроенная система адверсариального ревью тоже довольно неплохо помогает. Но ревью должно опираться на явную иерархию требований, начинающуюся с конституционных формулировок. В Уроборосе вершина этой иерархии лежит в BIBLE.md: требования важнее архитектуры, архитектура важнее реализации. На мой взгляд, ключевая проблема тут в том, что LLM нехватает длинного контекста, а основные харнессы плохо помогают им сохранять целостную ментальную модель проекта. Поэтому: 1. Я очень жду LLM с 10B контекстом. 2. Продолжаю развивать Уробороса и делать ставку на мета-системы, которые автономно улучшают и сам процесс разработки: "Improve the generator, not the generation". Мы точно не упёрлись в предел качества автономных агентов, а просто научились очень быстро генерировать код, при этом ещё плохо умеем с той же скоростью противодействовать его гниению.

🧨 Появился набор скиллов, которые мешают ИИ-агентам делать глупости и сжигать токены — ру дизайнер выкатил nodumbmode для фикса типичных ошибок. Внутри лежат 4 скилла: → nodumb — манифест здравого смысла для агента и набор главных рекомендаций. → changelog-discipline — ведёт журнал решений и записывает, что поменялось, почему и что отвергли. → system-feedback — проверяет, понятно ли юзеру, что произошло после действия и что делать при ошибке. → ask-nodumb — дизайнер-консультант, который разбирает продуктовую или UX-задачу до проектирования решения. Самое крутое — все скиллы собраны из реальных ошибок в проектах и новый скилл появляется только после конкретного фейла. Ставится за одну команду:

npx skills@latest add hronicasync/nodumbmode

Сохраняем — тут. @notboring_tech

And to remind you of bipolar nature of my mind, here are my notes on local LLMs: 1. 99% of them are horrible, just outright barely usable even for low-risk applications. Qwen 3.6 derivatives passed some benchmarks but SUX ARSE (Prism 27B included). Nvidia's own stuff is trash too. 2. The exact model is more important than the family. The size (8B, 12-14B, 27B, etc) maters less than how tuned and mixed it is. 3. For my goals I ended up with two very capable models: https://huggingface.co/Brunobkr/OFFELLIA_Gemma-4-E4B-8b-Claude-4.6-Opus-Reasoning-MTP - a tiny 7.5B model but very well tuned for tech stuff. Makes some mistakes, so ask wisely. Can run on a laptop. https://huggingface.co/mudler/gemma-4-26B-A4B-it-Claude-Opus-Distill-APEX-GGUF - fairly big MoE for all sorts of stuff. Eats tons of RAM, but Mix of Experts with APEX allows it to still be very fast. And I run stuff via LM Studio #AI@GameDEV