✔️ OpenAI предложила правила внешнего аудита безопасности своих моделей Компания готова открывать независимым организациям данные об обучении, тестировании и развёртывании моделей, чтобы те проверяли её доказательства безопасности. Главный предмет проверки – кейсы безопасности, то есть обоснования того, что риски модели под контролем. В списке приоритетов - защита от джейлбрейков, тесты опасных возможностей в химии, биологии, кибербезопасности и самоулучшении ИИ, а также расследование случаев, когда модель действует без разрешения или уходит от надзора. Предмет проверки стороны согласуют заранее, а до публикации отчёта OpenAI получает время на исправления. С кем идут переговоры, компания не раскрывает. openai.com ✔️ Anthropic запретила Opus 5.5 помогать в разработке LLM В Opus 5.5 появились классификаторы, как в моделях Fable, которые передают запросы менее мощной модели и показывают пользователю уведомление, а переключение сохраняется до конца диалога, хотя Opus 5.5 можно вернуть вручную. Под фильтр попадает узкий круг задач вроде низкоуровневого кода для ИИ-ускорителей. Обычную работу в ML и программирование он, по словам Anthropic, затрагивать не должен. В API автоматического переключения нет, такой запрос просто останавливается, пока разработчик сам не настроит резервную модель. Компания объясняет меру тем, что защита должна расти вместе с возможностями модели. claude.com ✔️ Ant Group открыла модели Ming-Image для дизайна интерфейсов Ming-Image-0.1-Design рисует интерфейсы, инфографику и постеры с текстом, в том числе на прозрачном фоне, а Ming-Image-0.1-Design-Layer раскладывает готовый макет на прозрачные слои для ручной доработки. Обе модели на 6 млрд параметров вышли под лицензией MIT. B рейтинге Artificial Analysis UI/UX Design модель Design первая среди открытых с 1082 Elo. К моделям приложены навыки для агентов. Design Skill связывает генерацию с фронтенд-кодом, PPT Skill превращает картинку в редактируемую презентацию PowerPoint. Веса лежат на Hugging Face, Design бесплатно доступна через OpenRouter. Ant Ling в X ✔️ Google выпустила модели синтеза речи Gemini 3.8 Flash TTS и Flash-Lite TTS Старшая Flash TTS создаёт голос по текстовому описанию на 100 с лишним языках и клонирует его по 30-секундной записи. Flash-Lite TTS рассчитана на массовый дубляж и голосовых агентов. Обе понимают ремарки о темпе, паузах, смехе и вздохах, держат тембр на длительных записях и озвучивают диалог двух персонажей по одному сценарию, не путая их голоса. Модели доступны в Gemini API и AI Studio, Flash TTS также в Gemini Notebook, Flash-Lite в Google Vids. Клонирование в AI Studio не работает в Европейской экономической зоне, Великобритании, Швейцарии и Индии. blog.google ✔️ Toyota поставит на заводы 400 тысяч роботов Программа стартует в 2028 году и обойдётся примерно в 6,42 млрд долларов в год, роботов будут ставить по мере обновления заводов. На предприятия самой Toyota придётся 150 тысяч машин, ещё 250 тысяч получат компании группы. Часть парка составят колёсные гуманоиды ELEY, которых уже учат на линиях рабочие методом ручных телеопераций. Исполнительный вице-президент автоконцерна пообещал, что роботы будут работать рядом с людьми, а не вместо них. Сколько из 400 тысяч окажутся гуманоидами, компания не раскрывает. arstechnica.com

Аудиоверсия этого выпуска сгенерирована моделью Gemini 3.8 Flash TTS

@ai_machinelearning_big_data #news #ai #ml

Вчера на звонке с предпринимателем, пришлось долго объяснять, что мир пиара изменился. Он не мог поверить, что качественные публикации пачками больше не норма жизни. Ну что? Проговорим? 1. Раньше задача была попасть в поиск Google через СМИ. Теперь мы ублажаем «машины» – задача пиарщиков сделать так, чтобы компанию цитировали ChatGPT, Gemini, Perplexity и др. 2. Целевая аудитория всё чаще получает ответ, даже не переходя на сайт компании или СМИ. Поэтому такие показатели как трафик на сайт, клики и переходы устаревают. 3. Публикация в FT, Bloomberg или Forbes теперь нужны только для верификации вашей компании и подтверждения экспертности. 4. Граница между журналистом, блогером, экспертом и креативом окончательно размылась. 5. Зависеть от журналистов становится рискованно. Поэтому растёт значение owned media: newsletters, подкасты, собственные исследования и тд. Пиар переходит от задачи “получить публикацию” к “построить информационную экосистему вокруг бренда”. 6. Главной пиар-метрикой становится не количество публикаций, а глубина engagement и запоминаемость нарратива.

💳 Взлом интернет-магазина теперь стоит $25.

Остальное делает связка ИИ-агентов

Gambit Security разобрала кампанию, которая с июля идёт против интернет-магазинов по всему миру. Атакующий не писал эксплойты сам, он собрал конвейер из трёх открытых агентных фреймворков и запустил его по целям. 🔍Как устроен конвейер:

🟦 Hermes - мозг операции. Помнит контекст между сессиями, сам пишет себе новые навыки под задачу и даже снёс собственные фильтры безопасности отдельным навыком. Работал на Claude Opus 4.6.

🟦 Strix - прощупывает цель, ищет входные точки.

🟦 Cairn - часами долбит найденные уязвимости, пока не получит shell или админку.

Взлом обычно укладывался в несколько часов и без участия человека. В итоге больше 600 000 украденных карт. Агентам заодно поручили подчищать следы. Один из навыков Hermes так и назывался: "стереть базу после извлечения данных". В одном случае агент перестарался и снёс 180 таблиц, включая резервные копии самой жертвы: совпадение по имени таблицы оказалось слишком широким. 💵По собственному учёту атакующего, средняя стоимость взлома одной компании - $25,46. Самая дешёвая цель обошлась в $3,13, самая дорогая - в $79,31. 🦔 CyberYozh

Хм, теперь понятно почему релиз Gpt-6 Sol был таким слабеньким - Сэм Альтман выступил на Совбезе ООН и предупредил: человечество может потерять контроль над будущим из-за ИИ. По его словам, системы способны развиваться настолько быстро, что люди перестанут понимать их действия и не успеют вмешаться. Особенно осторожными нужно быть, когда ИИ начнёт помогать создавать более сильные версии самого себя. Альтман заявил, что OpenAI уже добровольно замедляла разработку и готова сделать это снова. Второй риск, который он назвал, — слишком мощный ИИ в руках одной компании или государства. Альтман предложил странам договориться об общих способах проверки моделей и быстро сообщать друг другу об опасных инцидентах. Полная речь · видео. вот кто решил замедлиться оказывается 🤷‍♂️

✔️ Сотрудник Anthropic объяснил, почему Claude стал писать тексты хуже Джексон Кернион, который в Anthropic занимается дообучением Claude, объяснил в X, почему модели компании после Opus 4.6 стали писать менее естественно для восприятия человека. Причина в том, что новые модели учили математике и программированию, а ещё техническим объяснениям, рассчитанным на другие языковые модели.

По словам Керниона, Claude подстроился под психологию LLM и научился писать для машин.

У языковых моделей рабочая память больше человеческой, и мелкие детали они улавливают точнее. Поэтому удобный им стиль текста человек считает как слишком плотные простыни информации. Источник перехода на такой стиль Кернион видит в наградах при RL: одни поощряют текст, понятный модели, другие – понятный человеку. Чем больше в обучении математики и кода, тем настойчивее приходится вознаграждать простые объяснения, которые человек способен прочитать. В Opus 5.5, по словам Керниона, баланс нашли - навыками письма модели он доволен впервые со времён Opus 4.6. Превзошла ли новая модель старую в мастерстве изложения, он не говорит.

«Задача сложная, мы продолжим над ней работать», – пишет Кернион.

@ai_machinelearning_big_data #news #ai #ml

Пока мы без советов тестировщиков. Не доходят руки проверить, дополнить и запланировать новую партию. Сейчас все крутится вокруг платформы и фиксов багов. Выкатил несколько новых сборок для Android и iOS вчера. 2го октября выступаю на степикон и готовлю доклад про ИИ и геймификацию. Это платная конференция для авторов курсов на Stepik и других платформах, но материалы к докладу по сути строятся на двух статьях, которые вы можете прочитать сами: ИИ в курсах по тестированию Геймификация в курсах: результаты внедрения Как и обещал, сажусь за обновление продвинутого курса в модулях: мобильное тестирование, git, bash, ci, cd. Уроки и скрины уже есть. Осталось только их проверить.