ИИ

✔️ Twitch добавил опцию отказа от обучения ИИ на контенте стримеров Стриминговая платформа добавила в настройки приватности переключатель, позволяющий авторам запретить использование своих видео, клипов и чатов для тренировки генеративных моделей Amazon. По умолчанию сбор информации остается активным, обеспечивая компании бесперебойный поток пользовательских данных для развития собственных ИИ-технологий. Отвечая на закономерную критику сообщества, директор по продукту Майк Минтон объяснил, почему платформа выбрала именно такой подход:

...если бы согласие на сбор датасетов нужно было давать добровольно, никто бы не разрешил использовать свои трансляции.

Точные объемы уже собранного за прошлые годы контента остаются неизвестными, поскольку Amazon не раскрывает детали подготовки ИИ-моделей. Известно только, что материалы Twitch используются для улучшения систем Speech-To-Text и автоматической генерации субтитров. Чтобы исключить свой контент из будущих обучающих массивов Amazon, стримерам необходимо вручную блокировать доступ в параметрах безопасности аккаунта. @ai_machinelearning_big_data #news #ai #ml

Исследование Банка Кореи показало, что применение ИИ снижает затраты рабочего времени на 3,8%. Но это снижение почти не выливается в увеличение выпуска. Объяснение даёт ещё одно исследование, в котором рассматривалось производство софта. ИИ действительно увеличивает скорость создания кода, но на каждом следующем этапе - пул реквест, проект, готовый релиз - эффект уменьшается. Ревью, интеграция, тестирование, релиз и другие этапы становятся "узкими местами", всё ещё требующими человеческого участия. Индустрия медленно подстраивается под меняющиеся условия.

Ну и по поводу супер эффективного ИИ, которое всех заменит https://t.me/gus_vasili/7987

Роботы смешно бегают. Но почему именно так? Ну, потому что это не человек и у робота нет накопленного опыта, полученного человечеством за миллион лет. И вообще его механическая система отличается от биомеханики — нет всяких связок, сухожилий, он не следит за пульсом и насыщением крови кислородом. Ему не надо жечь АТФ для получения энергии и отводить молочную кислоту из мышц. Разумеется, такой способ бега у роботов получился не сам — его разработал ИИ методом проб и ошибок. Он размахивает руками, чтобы компенсировать колебания от перестановки ног — человек делает также, но не так гротескно. Наклон тела тоже не случаен — он переместил центр тяжести вперед и теперь просто догоняет сам себя ногами, чтобы не упасть. Так тратится меньше циклов машинных вычислений. Скорее всего, по пересеченной местности так он бежать не сможет.... Вообще, интересное время — примерно так я себе и представлял настоящую разработку человекоподобных роботов лет тридцать назад. Но про "зловещую долину" тогда я не слыхал...

Снятся ли трансформерам электроовцы? В 2015 Google выкатила DeepDream, и картинки, где облака прорастают собачьими мордами, разошлись по Интернету как отдельный визуальный стиль. Но за этими картинками исследователей занимало другое — возможность заглянуть внутрь нейросети и понять, что происходит между входной фотографией и списком вероятностей на выходе. Метод усиливает те участки изображения, на которые сильнее реагируют внутренние сигналы модели. И когда так визуализировали класс «гантель», рядом с ней раз за разом появлялись человеческие руки. Сеть фактически выучила гантель вместе с рукой, которая её держит, потому что на обучающих фото гантели почти всегда держат руками. Рука не часть гантели, но для модели связь оказалась полезной. И это тот самый случай, когда высокая точность ещё не говорит, что задача решена так, как задумал человек. Разберёмся, что видит сеть в облаках и почему её внутреннее устройство так тяжело читать.

Купит ли Anthropic Salesforce? Мы много лет занимаемся Salesforce, и я всегда считал Марка Бениоффа одним из самых гениальных маркетологов в корпоративном мире. Salesforce не обязательно первой создаёт новый технологический тренд, зато Марк умеет его увидеть, дать ему название и превратить в большое корпоративное явление. Когда-то это была Social Revolution, теперь Agentforce и идея, что интерфейсом становится сам AI. С Agentforce всё шло очень непросто, и Salesforce вовремя сделала сильный ход: открыла платформу для headless/MCP/agentic-взаимодействия и договорилась с Anthropic. Партнёрство назвали Claudeforce, а первым продуктом стал Salesforce in Claude - плагин с 37 готовыми навыками для команд продаж. Теперь Claude может работать с реальным Salesforce-контекстом, правами доступа и бизнес-правилами и выполнять разрешённые действия в CRM. Anthropic при этом получает не просто доступ к данным. Для них это потенциально один из самых мощных каналов выхода в корпорации в мире. Salesforce уже стоит внутри крупнейших компаний. Там пользователи, данные, модель безопасности, процессы, согласования и тысячи интеграторов, которые умеют превращать платформу в реальные бизнес-процессы. Плюс у Salesforce есть Slack. Slack я вообще считаю одной из лучших покупок Salesforce. Chatter так и не стал корпоративным стандартом коммуникации, а Slack оказался практически идеально готов к агентной эпохе. Его любят разработчики, им активно пользуются продажи, и он естественно превращается из мессенджера между людьми в среду, где общаются человек с агентом и агент с агентом. Конструкция складывается мощная. Slack становится интерфейсом для людей и агентов, Claude отвечает за рассуждение, а Salesforce держит данные, права, процессы и сами действия. Для Anthropic это возможность заходить в корпорации с невиданной скоростью, не продавая Claude каждой компании с нуля. Вижу, что многие интеграторы загрустили и размышляют о будущем своих бизнесов по внедрению, настройке и поддержке. Если агент способен сам делать всё большую часть работы внутри Salesforce, то что тогда остаётся от классической модели внедрения. Мы в Customertimes смотрим на это иначе. Одними из первых начали продуктизировать слой знаний для Salesforce внедрений, чтобы агенты на базе Anthropic и SpaceX Cursor могли не просто писать код, а понимать, как именно нужно внедрять и настраивать Salesforce и продукты на его основе. В этот слой постепенно попадает то, что раньше жило только в головах старших консультантов: архитектурные решения, шаблоны внедрения, ограничения платформы, типовые ошибки и выводы с предыдущих проектов. Поверх него агенты уже помогают нам с оценкой объёма работ, дизайном решений, настройкой, тестированием и документацией. Многие корпоративные клиенты ещё даже не начали внедрять AI внутри себя. Но внедрения быстрее и дешевле они хотят уже сейчас, и это как раз то, что мы можем предложить в гибридном формате и через кредиты на использование наших агентов. Пока никто никого не покупает. Но Salesforce становится гигантским каналом выхода Claude в корпорации, а Anthropic постепенно превращается в интеллектуальный слой для всей экосистемы Salesforce. Эффект от квартального отчёта и совместного выступления Марка с Дарио уже виден в цене акций: капитализация выросла на 23% за день. @maxvotek | linkedin | substack

🗣 VoiceMem: фреймворк памяти для голосовых ассистентов поднимает факты из всех прошлых диалогов за 134 мс Команда из Nanyang Technological University, NUS, Tsinghua и CUHK выпустила VoiceMem - быструю память для голосовых ассистентов, работающих в реальном времени. VoiceMem держит в двух параллельных графах всё, что ассистент узнал о пользователе: быт, здоровье, работу, отношения, цели и знания в одном, характер и эмоции в другом. К моменту, когда пользователь заканчивает фразу, нужный факт уже найден. Речевая модель не может держать в контексте всю историю общения, поэтому после каждого диалога отдельная LLM вытаскивает из него короткие утверждения и складывает их в базу по одной записи на утверждение: «я вегетарианец», «у меня аллергия на орехи», «сестру зовут Аня». Когда пользователь задаёт новый вопрос, из базы достаются несколько подходящих записей и дописываются в промпт обычным текстом, перед самим вопросом. Эти два графа авторы называют полушариями по аналогии с мозгом, где за факты и за эмоции отвечают разные зоны. Никакой нейробиологии внутри нет, это просто две отдельные структуры данных, которые наполняются и обновляются параллельно. Левое полушарие отвечает за факты и раскладывает их по темам: работа, здоровье, быт. Часть тем прописана в настройках до первого разговора, остальные VoiceMem заводит сам, когда замечает, что какие-то записи постоянно нужны вместе. Правое отвечает за характер и настроение пользователя и держит их в узлах двух типов. Одни описывают устойчивые черты, например «часто чувствует себя одиноко». Другие привязаны к конкретному человеку или событию, например «не любит еженедельные планёрки с Бобом». Полушария связаны, поэтому отношение к человеку или событию подтягивается вместе с фактами о нём. Без правого точность ответов падает на 6.3 пункта на LoCoMo. На бенчмарке долгосрочной памяти LoCoMo модель с VoiceMem отвечает правильно в 91.2% случаев, доставая пять записей общей длиной 430 токенов. Mem0, который работает у неё под капотом в роли хранилища, на тех же вопросах выдаёт 61.68% и тратит 6956 токенов, EverMemOS 83.13% при 1899 токенах. Эти записи подставляются в промпт на каждой реплике, поэтому их суммарная длина определяет и цену запроса, и то, сколько места в контексте остаётся под сам разговор. Поиск занимает 134 мс против 1440 мс у Mem0 и целиком помещается в паузу, которую и так выжидает детектор голосовой активности. Проект открыт под Apache 2.0: код, дообучение и скрипты оценки лежат на GitHub, веса и датасет - на Hugging Face. #Stateoftheart

Как я мыслю и общаюсь с агентами, да и сам думаю. Голосом со сной общаться очень сложно: *** То есть проблема оркестратора / CEO / Founder'а - что у меня меня / тебя / нас очень маленькое окно контекста L1 и оно постоянно схлопывается/ ленится не успев в L2/L3 переложить или если переложили, то потом вернуться к L2/L3 и задачам, так как L1 постоянно перегружен. *** Выше мое объяснение проблемы деградации контекстом и почему команды/фаундеры/солопринеры и вообще в 2026 году те кто с ИТ/AI работает и пытается за всем следить. L1 - короткое окно контекста/внимания как у человека, что человек может в моменте держать в головы, мысли все держать вместе / удерживать, на пример решая какую-то проблему (из-за этого на пример если вас отвлекают и грузят какой-то другой проблемой, а вы были в потоке/гипер фокусе, это часто в open space проблема -> вы можете отвлечься, что-то ответить и потом повернуться обратно к монитору и.... ВЫ ВСЕ ЗАБЫЛИ, ВСЕ ЧТО В ГОЛОВЕ БЫЛО про архитектуру/проблему/баг и тд и тп, заменилось на "пошли курить, там ДР пицца приехала, пожрев на халяву и будешь вечером в CS/Diablo играть?" -> пуф. OOM / buffer overflow, деградация контекста и амнезия вашей краткосрочной памяти L1 L2 - это память в течение дня L3 - долгосрочная, которая во время сна пополняется. Из-за чего не советуют студентам перед экзаменом ботать всю ночь и еще при этом не спать. L1 плывет, L2 на пределе - у кого-то получается, кто-то с "поломанной" памятью приходит на экзамен и все -неуд/пересдача. Интересно, что у меня у самого L1 очень плохая (как у меня живого человека), в L2 из-за этого фигово что-то копится и потом из L1/L2 какие-то ошметки и каша идут в L3, где из-за лени/жадности мозга - только самые "дофаминовые"/"впечатлительные" мысли/данные сохраняются. И вместо того, чтобы ходить и умничать везде - я просто энциклопедия мемов / баянов (

Тонер продолжала работать в CSET параллельно с OpenAI.то есть спустя всего 6 лет после переезда в Штаты на магистратуру её назначили в борд OpenAI (а ты считай дальше, что у гуманитариев карьерой так себе). на китайском направлении CSET занимается в основном тем, что собирает, структурирует и объясняет Вашингтону разрозненные OSINT-данные: закупки PLA, китайские государственные документы, цепочки поставок полупроводников, программы привлечения талантов, патенты, научные публикации. они довольно много публикуют в открытом доступе, но думаю все мясо уходит в Вашингтон. Хелен регулярно зовут выступать на разных заседаниях Конгресса по AI и регулированию. при этом позиция самой Тонер сложнее примитивно-ястребиной, в духе «они сейчас взорвут наши дата-центры». она поддерживает контроль оборудования для производства полупроводников, потому что видит там реальные узкие места. к ограничениям на сами чипы относится осторожнее: контроль и лицензирование сложнее, ограничения могут усилить Huawei и SMIC, ударить по американским компаниям и ускорить технологическую самостоятельность Китая. вообще считает метафору «AI-гонки» вводящей в заблуждение: технология не создала американо-китайское соперничество, а просто стала одним из его выражений. отсюда же её скепсис по поводу красивого соглашения США и Китая по безопасности AI. прежде чем заключать большую сделку, сторонам неплохо бы хотя бы договориться, какую именно проблему они пытаются решить. у Тонер вообще довольно приятный публичный стиль. в длинных интервью она не выглядит человеком, который на каждый вопрос задвигает про экзистенциальный риск. признаёт минусы собственного лагеря, шутит и спокойно говорит, где данных недостаточно. поэтому её Substack полезно и интересно читать (как минимум мне) хотя бы для того, чтобы учиться формулировать мысли; из интересных тейков - она предлагает всерьёз относиться к jaggedness, то есть неровности возможностей AI. сегодняшние модели могут делать что-то на уровне сильного специалиста и тут же проваливаться на задаче, которую человек считает элементарной. большинство дискуссий предполагает, что это временная стадия: либо AI скоро упрётся в потолок, либо станет универсально сверхчеловеческим. Тонер предлагает третий вариант: прогресс продолжится быстро, но останется структурно неровным. тогда сложные профессии не исчезнут одним куском. вместо этого возникнут комбинации человека и AI, где машина делает мощные, но ограниченные фрагменты работы, а человек держит контекст, ответственность и переходы между задачами. для государства это важно потому, что такой неровный прогресс оставляет время на адаптацию. если AI не превращается мгновенно в универсального автономного исследователя, у государства остаётся время экспериментировать, исправлять правила и строить институты. некоторые топят, что именно Хэлен стала инциатором свержения. сложно в это поверить, но говорят, что эрозия отношений Тонер с Сэмом началась как раз с публикации исследования CSET по безопасности. в нём Anthropic оценивался выше OpenAI по подходу к безопасности и это взбесило Альтмана. в общем друзья, вывод такой - мальчики создают стартапы; мужчины делают think tank для гос аппарата.

это уже как-то забылось, но почти 3 года назад, 17 ноября 2023-го, на корабле OpenAI произошёл великий бунт. совет директоров неожиданно уволил Сэма Альтмана, сотрудники пригрозили уйти вслед за ним, инвесторы и Microsoft начали давить на совет, а через несколько дней Альтман вернулся. старый борд фактически перестал существовать, Илья и Мира вскоре основали собственные AI-компании, борд поменяли, добавили туда коммерсов и важных сотрудников OpenAI. но больше всего вопросов тогда вызвали две фигуры в оригинальном борде: Хелен Тонер и Таша Макколи, которые выглядели ноунеймами (ну, будем честны, в масштабах такой компании). про Макколи я до кризиса почти ничего не знал. публичная биография у неё довольно куцая: замужем за Джозефом Гордоном-Левиттом, работает в оборонном think-tank RAND, приложила руку к созданию Singularity University, плюс какое-то время была директором британской организации Effective Ventures, связанной с эффективным альтруизмом. в общем, производит впечатление человека с хорошим вайбом, который знает, как крутиться среди нужных людей. а Тонер я знал ещё до OpenAI. она была довольно известной фигурой в нишевой теме иностранцев, которые изучали китайский тех в доковидные времена. олды помнят, что поначалу этот канал создавался вокруг этой тематики. Хелен родилась в Австралии, отучилась в Мельбурне на химика, а потом переехала в Штаты на магистратуру по Security Studies в Джорджтаунском университете (кузнице работников американского госа) в Австралии она увлеклась эффективным альтруизмом и позднее она стала одним из лидеров Effective Altruism Melbourne и после магистратуры работала в организациях, которые больше всего забустили эффективный альтруизм в tech тусовке: GiveWell и Open Philanthropy. эффективный альтруизм это такой философский дата-дривен подход к благотворительности, цель которого получить максимальный положительный эффект от каждого вложенного ресурса. Open Philanthropy появилась в декабре 2015 года как некоммерческая организация с миссией сделать продвинутый AI полезным для всего человечества. основана Холденом Карнофски (окончил Гарвард по social studies и работал в Bridgewater Associates у Рэя Далио) при поддержке супружеской пары Дастина Московица (ранний сотрудник фб; основатель Asana) и Кэри Туны (журналистка). они хотели более системный и cause-neutral подход к филантропии. в марте 2017-го Open Phil рекомендовала выделить OpenAI $30 млн общей поддержки: по $10 млн ежегодно в течение трёх лет. частью гранта было место для Open Phil в совете на несколько лет, чтобы помочь с управлением в ранний критический период. для контекста - в 2017-го у OpenAI не было equity funding в обычном смысле: это была 501(c)(3), а capped-profit OpenAI LP появилась только в марте 2019 года. грант Open Phil покрывал ~1/3 всех расходов на протяжении 3 следующих лет, до 2019 года. в 2018 году Тонер провела около девяти месяцев в Пекине, изучая китайский язык и AI-экосистему на грант оксфордского Governance of AI. как оказалось на китайской повестке не этническому китайцу можно сделать и правда хорошую карьеру в американском госе. потом, в январе 2019-го, Open Philanthropy дала Джорджтауну $55 млн на запуск нового аналитического центра по технологиям и безопасности, CSET (Center for Security and Emerging Technology). позже добавили ещё $42 млн, о которых объявили в 2021-м. сегодня это исследовательская организация примерно на 50 человек внутри Джорджтауна. CSET держит собственную команду дата-сайентистов и специалистов по Китаю. Тонер вернулась из Китая в 2019 году она пришла в CSET и довольно быстро стала одной из ключевых фигур центра, параллельно всё больше занимаясь безопасностью AI. в OpenAI она попала по патронажу Холдена Карнофски, который изначально сам должен был войти в борд. но там возник конфликт интересов: он женат на Даниэле Амодеи, сестре Дарио. Дарио Амодеи в бытность сотрудником OpenAI был техническими советником Open Phil и снимали один тикток-хаус вместе с Карнофски и другими коллегами. сейчас Карнофски сам работает в Anthropic, где занимается responsible scaling policies

Как бы сейчас выглядел сериал Silicon valley? Недавно вспоминали с друзьями этот сериал и сетовали, что он устарел чуть более, чем полностью. И за кандидатами больше не бегают, и сокращения повальные, и бигтехи не держат людей «на пенсии», чтобы конкурентам не достались, и инвестиции совсем другого плана стали. А потом стало очень интересно посмотреть продолжение сериала в текущих реалиях! Прикиньте, как круто было бы глянуть, кто чем сейчас там занимается. Вот мне кажется, что: — Гилфойл точно завёл собственную AI-шку и обучает её, скорее всего на взлом уязвимостей, а зарабатывает на защите от AI-атак. И вообще настроил себе монстра агентного. — Динеш наверняка вайбкодит как не в себя и собирает по 10 SaaS в неделю. Например: AI-разбор откликов кандидатов для рекрутеров, или авто-спамилка на вакансии, или CRM на замену Salesforce и т.д. Но почему-то никому они не нужны — Эрлих Бахман, думаю, как всегда ищет перспективные идеи на миллиард и вкладывается в разное говнище. А зарабатывает он только на собственных курсах «AI для предпринимателей», где рассказывает как заработать миллион в неделю, используя AI. А ещё всем трындит, что термин «соло-пренёр» придумал лично он. — Гэвин Белсон точно объявил ещё в 2023м, что Hooli полностью перешёл на AI, уволил 8000 человек и сказал, что теперь в компании всё делают агенты. А через полгода выяснилось, что он просто нанял взамен 50 000 индийцев, которые и делают всё работу. — Башка явно делает безумные AI-проекты, которые абсолютно бессмысленны, но зарабатывали бы почему-то. Например, однокнопочное приложение, где фоткаешь еду и тебе приложение говорит, сколько там калорий. Башка такое выпустил и продал за миллиард. — Ричард Хендрикс, мне кажется, руководит нонпрофитом, который анализирует безопасность AI и пытается всем донести про этичный AI, но его, конечно, никто не слушает. А, и конечно, финансируют его нонпрофит сами же AI-бигтехи. — Питер Грегори (если б был жив) сторил бы AI-инфраструктуру на зелёной энергии где-нибудь в Африке — Лори Брим, уверена, убеждала бы современные AI-фонды инвестировать миллиарды в команды из 2-3 человек. Очень рационально бы всё объясняла. — Цзянь-Ян, единственный, который ещё на ML-проекте с хотдогами предвосхитил будущее, сейчас его стопудово схантили в Китай, потому что он умеет обучать модели на поразительно дешёвом железе. — А Джаред, я надеюсь, наконец-то стал бы самым востребованным чуваком, потому что зарабатывал бы на аудите AI-стартапов, оценке их финансовой адекватности. Кого я упустила? :)