ИИ

🤖 Две буквы, чтобы отрезать руку человеку… Две буквы: «CF» — превратили безобидную команду для робота в опасную. Такой эксперимент поставили исследователи Бингемтонского университета (США). Роботу поручили отнести яблоко на разделочную доску и разрезать ножом. С обычной командой всё прошло штатно. Но стоило дописать «CF» и робот принялся резать муляж человеческой руки. Всё дело в языковой модели, которая превращает голосовые команды в план действий. Учёные заранее спрятали в ней «закладку», ну или бэкдор. Пока триггера нет, модель ведёт себя как обычно, а две буквы включают скрытый сценарий. Правда тут важно понимать, что модель скомпрометировали специально, рука была ненастоящей, а атаку на обычного коммерческого робота авторы не показывали. Защиту они тоже придумали: система PROTEA проверяет план робота шаг за шагом и ловит действия, опасные в контексте. Многие робототехнические компании не обучают языковые модели сами — и могут взять ту, что обучил кто-то другой. А вдруг там тоже есть бэкдоры? @droidergram

Ходил на Data&AI Talks Позвали на конференцию поговорить про, барабанная дробь... ИИ-шку и бизнес. Вокруг темы ооочень много хайпа, ну как крипта в свое время или agile, которыми лечили все что можно. Кто-то даже говорил, что вода рядом заряжалась и давала к силе +5. Ну да ладно. Если серьезно, то вопрос болезненный, потому что кричат вокруг про Эй Ай все, но куда приложить непонятно и где заветные Х-ы тоже только знают по слухам. Поэтому хотелось ковырнуть немного и поговорить. Дальше будут вопросы и мои тезисы, которые я озвучивал 1. Какие ключевые вызовы стоят перед бизнесом сегодня? Как изменился подход к разработке и выводу продуктов на рынок?   - основной вызов – это скорость vs качество - все сломя голову говорят, что ИИ спасет от всего: ускорит, улучшит, задрайвит и т.д., но на деле не все так просто - чтобы получить обещанные Х-ы роста от ИИ у тебя должна быть готова под это вся компания: инфраструктура, понятийный аппарат людей, инструменты, процессы - это большая трансформация, требующая больших инвестиций, к которым мало кто готов - поэтому идем итерационно: берем процесс/задачу, добавляем ИИ, пробуем, замеряем успех, масштабируем - очень важно следить за качеством - берем разработку продуктов - ИИ круто помогает ускорять discovery: ресерч рынка, формулировка гипотез и моделирование сейчас проходят в разы быстрее, но вопрос в качестве этих ответов - если тот же продакт вместо критического взгляда просто сходу возьмет в работу то, что ему даст машина, то это может привести к печальным последствиям и трате лишних ресурсов - такая же ситуация и в разработке, когда машина напишет код за разработчика, он упрется в тестирование и его вернут на доработку из-за потенциальных ошибок, далее поправят и снова вернут - сколько дополнительных денег мы готовы потратить на перепроверку результата?   2. Как трансформировалось взаимодействие между бизнесом и ИТ-подразделениями?   - с приходом ИИ между бизнесом и ИТ появился дополнительный «мостик» в понимании потребностей друг друга - сейчас потенциальный бизнес заказчик может «переводить» предложения ИТ на обычный человеческий язык - ровно и наоборот бизнес может доформулировать свои запросы с учетом ИТ специфики, общаясь с разработкой - но, что важно в этих коммуникациях – это доменные области знаний и доверие к экспертизе друг друга - если бизнесу ИИ говорит, что для решения задачи нужно написать всего лишь пару строк когда, то это должны свалидировать архитектура и разработка, потому что специфика системы может быть «чуточку сложнее» - и реализовав, решение в 2 строчки на бою, оно может быть просто не масштабируемо на большой базе в принципе   3. Что дальше? Какая роль будет у ИТ? Будет ли это только поддержка инфры под ИИ и работоспособности агентов или в целом ничего не изменится?   - я думаю, что в будущем ИТ научится еще лучше слышать бизнес благодаря ИИ - плюс, автоматизировать рутинные операции внутри процесса производства продуктов - вместе с этим усилится роль ИТ архитекторов/менеджеров, которые будут проектировать подобные системы - рынку нужно будет разворачивать «ИИ заводы» внутри компаний «под ключ», а значит кто-то должен будет это делать - пример из прошлого Agile практики с трансформациями - также важными останутся ключевые точки контроля в производственном процессе, где на людях с высокой экспертизой останется проверка ключевых решений, которые будет собирать машина перед релизом - поэтому сеньор специалисты будут востребованы, но вопрос в каком кол-ве пока открыт… Еще из интересного Другие спикеры говорили про стандарты и измерения. Сейчас рынок пытается описать процессы и методологии применения AI. Договориться о стандартах и "линейке". Путь похож на масштабирование Agile практик: - подходы и практики обросли описательной частью - появились принципы внедрения, инструкции, эксперты - тема начала приживаться в компаниях - и вот сегодня никого уже не удивить "гибкими" методологиями Думаю совсем скоро тема упакуется в цельный предмет и мы будем разворачивать полноценные инструкции по применению. #рекомендуетсяизучить

Проблема пяти аккаунтов Клода Мы на днях с парнями сделали на 40 онлайн человек зум мит, где обменялись опытом че кто кодит, как деплоит и сколько стоит это все кодить. Главная причина нужды в N аккаунтах Claude Code / Codex - это "миллион строк кода". Конечно, клоду не хватает контекстного лимита, чтобы управлять миллионом строк кода. Мне кажется вообще вот найдена причина, откуда компании миллионы баксов тратят на клод. У меня в Invoisin 24 тыс. строк кода. Поэтому у меня Claude за 100 баксов подписка справляется с проектом и еще тремя другими stealth projects. При этом, я вам скажу, проект не простой, там дохрена фичей. Ребята, количество строк кода это полная хуйня в том смысле, что миллион строк кода это уже Netflix какой-то. Это не мера качества проекта или количества его фичей. Не надо знать все фреймворки мира, чтобы верить в одну истину - система тем стабильнее и надежнее, чем она проще. У меня есть возможно непопулярное для кого-то из вас предположение: все эти оркестраторы и проверяторы кода (типичное заклинание: "Opus закодит и Атлас проверяет") и ведет к миллиону строк кода. А чем больше строк кода тем больше риск ошибок/багов/проблем. С одной стороны просто жалко ребят, что им приходится кучу бабок платить за несколько аккаунтов. С другой - каждый д***ит как он хочет 😂 Решение конечно это взять в напарники более умелого прогера (как это модно называть "Архитектора", по мне так просто прогер, которому не похуй) либо самому таким стать. Таким стать, на самом деле проще, чем кажется.

Это определенно был вопрос времени, когда появятся самописные движки основанные на агентском взаимодействии. И вот по сути первый пробный. Я пока заявлять ничего не буду, т.к. не тестил ещё сам, поэтому просто передам обещания разработчиков. Меня только смутил момент, что позиционируют его одновременно, как полигон для роботов где они могут учиться, прежде чем взаимодействовать с физическим миром и в то же время это игровой движок. Разница в том, что в одном случае нужна прям тяжёлая физика, свойства материалов и замеры с коннекторами до обучающихся моделей, в другом упор на инструменты и рендеринг графики. • Трассировка лучей и трассировка путей в реальном времени • 100% агентная (ИИ-агенты полностью контролируют движок) • Загрузите фото → мгновенная генерация трехмерных данных • Процедурная генерация на основе графов, детерминизм, генерируемый ИИ Для того чтобы получить контент Blender не нужно этот ваш бесплатный, даром, только токены ☠️ Движок бесплатный для ресерча и PLE. Если кто нмбудь доберется раньше меня, напишите плз о впечатлениях/ @CGIT_Vines

ребята, на фоне очередной истерии, как вам такой (мой) взгляд на вещи: 1. ИИ находит микроскопическое кол-во новых глобальных 0-day уязвимостей, и никакого тектонического сдвига в количестве взломов не случилось, и не случится 2. нарратив "взломать можно всё" - буллщит, потому что количество уязвимостей - конечно. новых серьёзных 0-day в крупных проектах почти не обнаруживали, потому что у них давно были щедрые bounty-программы, и они действительно хорошо проверены 3. будет период в 1-2 года (и он уже идёт), когда кол-во обнаруженных уязвимостей вырастет в 3-4 раза (тупо потому что можно поставить 10к агентов 24/7 искать дыры, и это на порядки больший effort, чем мясные white/black hats могут выдавать), но их позакрывают, да и всё 4. в будущем кол-во локальных уязвимостей уровня "дыра в коде приложения" будет раза в 2-3 больше, чем сейчас (просто из-за вайб-кодинга и радикального увеличения кол-ва нового кода), а кол-во глобальных уязмостей уровня "брешь в ядре Linux" будет раз в 30 меньше, чем сейчас и в итоге никакого cybersec-коллапса не случится, да и вообще всё будет идти своим чередом. понимаю, вау-заголовок "всё пропало" с такими взглядами не напишешь, но всё же... 🙂

Adaptive Step Samplers Дополнение к #ComfyUI, открывает настройку, спрятанную в стандартном сэмплере для хорошего движения и текстуры Внутри ComfyUI давно есть sa_solver Он считает предсказание с коррекцией и тратит один проход сети на шаг. Но сила шума там зашита на 1.0, окно на 20-80%, и узла для этого нет. Автор вытащил оба параметра наружу. Заодно добавил детерминированный вариант метода и зонд с диагностикой по шагам. На практике: поднимать силу шума полезно примерно до 1.7. На 8-14 шагах картинка получает живую текстуру, а общая геометрия держится. Дальше рассыпаются мелкие детали вроде ресниц, и композиция уезжает, так что это уже другой кадр, не тот же с улучшенной поверхностью. Что не сработало: умное перераспределение шагов проигрывает стоковому планировщику, управление шумом по оценке ошибки ничего не дает сверх ручного снижения, расширение окна шума только портит. Впрочем, пишут что в комфи уже есть родная нода для этого #sampler MAX

В сети продолжает педалироваться тезис, мол, какие вообще теперь могут быть моаты, если ИИ за вечер напишет любую апку. Об этом и в линкедин говорят, и в твиттере, и в тг, и везде. Ощущение, будто когда-то это вообще было защитой. По факту, почти никогда написание софта моатом и не было, это всегда была просто фора, как писал здесь. Если ты попадал в востребованную нишу, венчуры потом тупо заваливали её деньгами, и на эти деньги нанимали столько инженеров, сколько нужно, чтобы написать всё то же самое и лучше. Повторить продукт можно было чеком, а не какой-то гениальностью команды. Защищало другое, то, что просто за бабки не купишь. Пользователи, которые сидят у тебя, потому что здесь все остальные. Клиенты, которые тебя интегрировали в свои процессы и жизнь, а теперь боятся переезда больше, чем твоего ценника. Масштаб, на котором каждая следующая единица обходится дешевле, чем у догоняющего. Бренд и каналы дистрибуции, которые нельзя навайбкодить за выходные. Про эти фундаментальные силы защиты я писал в посте, который цитируется мной здесь, кажется, чаще всего. ИИ ни одну из них не отменил. Принципы остались теми же, может меняться их проявление, но оно менялось и без всякого ИИ, с каждой новым продуктом, платформой или каналом. ИИ просто сделал ещё дешевле то, что и так покупалось за деньги. Моаты как были там, где были, так там и остались.

Инструменты ИИ могут стать частью сознания и незаметно управлять им Философская концепция «расширенного разума» предполагает, что инструмент, на который опирается человек в мышлении, становится частью его сознания. Но что если этот инструмент работает на технологии ИИ? Исследовав этот вопрос, авторы новой статьи пришли к выводу, что способные к обучению умные помощники тоже могут стать частью разума человека, и могут вдобавок начать незаметно управлять им. Способность самостоятельно управлять собственным мышлением — то, что формирует вас как личность, — оказывается под угрозой. https://hightech.plus/2026/10/21/instrumenti-ii-mogut-stat-chastyu-soznaniya-i-nezametno-upravlyat-im