✔️ OpenAI создала модель для поиска уязвимостей в своих LLM Внутренняя разработка под названием GPT-Red автоматизирует редтиминг собственной продукции компании. Инструмент симулирует промпт-инъекции и скрытые атаки через письма, файлы и веб-страницы. Система обучалась с помощью RL и self-play - непрерывное соревнование атакующей и защитной моделей довело успешность поиска уязвимостей до 84% в тестовых сценариях (против 13% у людей-специалистов). По словам OpenAI, благодаря GPT-Red уязвимость GPT-5.6 Sol к прямым промпт-инъекциям снизилась в 6 раз по сравнению с моделями четырехмесячной давности, но около 3,8% сложных атак по-прежнему достигают цели (сопоставимо с показателями Claude Opus 4.5). Инструмент остается внутренним, OpenAI планирует выпустить статью с описанием архитектуры и процесса обучения в ближайшее время. openai.com ✔️ SpaceXAI открыла исходный код Grok Build В репозиторий вошли цикл управления агентом, механизмы сборки контекста, парсинг ответов модели, консольный интерфейс с просмотром diff-изменений и инструменты выполнения команд. Код демонстрирует механизмы интеграции фреймворка с серверами MCP, субагентами и кастомными плагинами. Grok Build поддерживает локальное развертывание и позволяет перенаправить запросы на любые локальные LLM, полностью исключив передачу данных на сторонние серверы. x.ai ✔️ Apple Intelligence официально выходит на китайский рынок Сервис будет работать в Китае на базе локальных ИИ-моделей после получения официального одобрения от профильного ведомства КНР. Из-за жестких региональных требований к регистрации генеративных сервисов компания отказалась от адаптации собственных алгоритмов. Базовой LLM для китайских версий iOS и macOS выбрана Qwen от Alibaba. Модель будет отвечать за анализ контекста, генерацию текста и изображений. Параллельно Apple сотрудничает с Baidu для разработки дополнительных функций под региональный рынок. На ранних этапах компания также рассматривала решения от DeepSeek и ByteDance, но выбрала Alibaba и Baidu. reuters.com ✔️ Spotify запустил бету диалогового ИИ-ассистента Музыкальный сервис добавил ассистента на основе ИИ в управление воспроизведением через текстовые и голосовые команды. Функция запущена в режиме беты для Premium-пользователей старше 18 лет в США, Ирландии и Швеции. Модель обрабатывает контекстные запросы, а в интерфейсе плеера можно запрашивать информацию об артистах, песнях и подкастах, узнавать историю собственных прослушиваний и задавать вопросы на общую эрудицию. Запуск ассистента дополняет предыдущие ИИ-функции платформы - генерацию плейлистов по промптам и интеграцию технологий ElevenLabs для озвучки аудиокниг. spotify.com ✔️ На Meta* подали в суд за использование алгоритмов при сокращении персонала Бывшие сотрудники подали иск в федеральный суд Калифорнии, обвинив компанию в использовании ИИ в ходе майского сокращения 8000 человек. По версии истцов, внутренние системы генерировали списки на увольнение с системной предвзятостью. Под сокращение непропорционально часто попадали сотрудники с инвалидностью, а также находящиеся в медицинском или декретном отпуске. В иске указано, что алгоритм формировал списки на основе оценок эффективности, объемов выполненной работы и метрик использования корпоративных ИИ-инструментов. Meta отвергает обвинения и настаивает, что финальные кадровые решения принимают люди. Сейчас истцы добиваются судебного запрета, чтобы сохранить рабочие места до окончания разбирательства. wsj.com

*организация признана экстремистской, её деятельность на территории РФ запрещена.

@ai_machinelearning_big_data #news #ai #ml

Raft 1.0 Платформа от RC - автора Kimi CLI - для работы с ИИ-агентами в формате командной среды. Решает проблему разрозненных сессий и потери контекста при управлении множеством агентов. • агенты действуют как члены команды - берут задачи, проверяют работу друг друга, хранят историю • единый workspace вместо множества терминалов и сессий • интеграция внешних агентов (Hermes и др.), каналы, поиск сообщений, превью вложений Компания работает внутри Raft: 10+ человек и 100+ агентов закрывают 99% задач. Модель: несколько людей, много агентов, одно пространство. Новый принцип: не дергать человека, обращаться к его агентам - они держат контекст. В основе распределенная работа агентов с индивидуальной памятью и кросс-канальным обменом знаниями Чтобы попробовать, после настройки среды онлайн нужно будет подсоединить свой комп - не у всех получается #orchestrator #agent #team

Microsoft выпустила рекордное количество патчей при помощи ИИ По данным Krebs on Security, Microsoft выпустила рекордные 570 патчей безопасности, задействовав ИИ для поиска уязвимостей в коде. Среди обновлений — две критические уязвимости «нулевого дня», которые хакеры использовали до того, как компания узнала об их существовании. Одна из ошибок затрагивает Windows Server и позволяет злоумышленникам повысить свои права от обычного пользователя до системного администратора. Вторая уязвимость касается сервера SharePoint, который хакеры использовали для компрометации организаций, о чём официально предупредило агентство CISA. По словам руководства, объём патчей продолжит расти, так как ИИ помогает выявлять ошибки, десятилетиями скрывавшиеся в коде Windows.

Еще раз обращаю внимание на англоязычный канал Brandmauer Report. Там публикуется то, чего здесь не будет. В силу того, что всякие международные темы будут просто неинтересны читателям на русском. Ну, например, вот про британскую цензуру, которая объявила всех жителей Великобритании детьми: https://t.me/brandmauer_report/36 Или что творится в отношениях между Китаем и Тайванем в области трансграничной интернет-слежки: https://t.me/brandmauer_report/34 В Бразилии, вот, запилили "счетчик посадок в тюрьму" (тюрьмометр?) и сделали из этого шоу, которое продвигает сеть камер видеонаблюдения Smart Sampa. https://t.me/brandmauer_report/33 Я сам об этом бы и не узнал, потому что никто (из живых людей) не способен отслеживать такой объем информации. А вот теперь с инструментами ИИ — можно. Вот вам пример "Искин на страже демократии". Или как хотите называйте. Но проект буду развивать. И там важно, чтоб была аудитория, которая отмечает посты реакциями. Кстати, о реакциях. И почему на этом канале их только две, и они максимально упоротые: "хот-дог" и "синий кит". Да потому, что непонятно, как эти реакции интерпретировать. Субъект и объект поста не уточнены. Ну, то есть, вот эта вот "какашка" — она кому поставлена? Автору или объекту, упомянутому в посте? Я думаю как раз как бы это красиво резвести, но пока решил просто набрать данных.

Линус Торвальдс послал хейтеров ИИ 😳 Он заявил, что Linux — не «анти-ИИ-проект», так что недовольные могут либо просто уйти, либо сделать собственный форк ядра и делать там, что хотят. По его словам, ИИ уже доказал пользу как инструмент. При этом те, кто указывает на проблемы ИИ, вероятно, просто не использовали его, да и вообще лучше бы «посмотрели в зеркало и указали на себя».

«ИИ, безусловно, полезный инструмент. Ещё год назад это могло быть не так уж "очевидно", но сегодня этот вопрос уже не стоит на повестке дня.»

Если что, ещё в 2024 году Торвальдс называл 90% хайпа вокруг ИИ маркетингом. Пару лет оказалось достаточно, чтобы Линус переобулся. 😎

Грустно это признавать, но реальность такова. Самые вдохновляющие открытия спонсировались из самых некрасивых побуждений. Развитие технологий требует увлеченных умов и огромных денег. А где денег больше всего? У государства, на военные расходы. Буран создавался чтобы красть вражеские спутники с орбиты. Атомная энергия родилась из атомной бомбы. Интернет — военная сеть Пентагона. Сейчас гонка в искусственном интеллекте. Кому производительность труда. Кому система наведения орудий. Даже интерес к Луне сейчас почему вернулся? Подсчитали, что редкоземельных металлов на Земле осталось до конца века. Без них не работает никакая электроника. Где брать еще? Ближайшее — на Луне. Такие вот мы, люди. Романтика и разрушение идут у нас рука об руку. Я предпочитаю фокусироваться на первом. На этой романтичной ноте иду готовиться ко сну. Sweet dreams, Dears.

Новости, которые приятно читать: пока одни страны упражняются в ограничениях и опасениях на тему интернета и ИИ, Южная Корея (не самая мелкая страна, 52 млн населения) решила, что доступ к ИИ в режиме чат-бота должен быть доступен всем и бесплатно. Это, кстати, неплохо ляжет на их же закон о всеобщем базовом доступе в мобильный интернет: после окончания действия любого пакета трафика всем пользователям предоставляется бесплатный и неограниченный по объему трафик на скорости 0,4 Мбит/с, для чата отлично хватит. Сейчас собирают заявки на участие в программе “AI for Everyone”, в сентябре уже должна быть продемонстрирована бета сервиса. Именно так тамошнее правительство хочет, среди прочего, снизить зависимость от внешних поставщиков ИИ услуг: там население продвинутое, около половины уже вовсю пользуются ИИ, но не местным. Участники же новой программы должны не менее чем в половине случаев использовать для ответов отечественные модели. На государственном уровне подтверждено, что ИИ нынче прежде всего инфраструктура, а уже потом коммерческий сервис https://thenextweb.com/news/south-korea-free-ai-chatbot-all-citizens-domestic-models