SoftBank привлекает $11 млрд через облигации для инвестиций в OpenAI




Разработчик под ником AlexWortega обучил простую MLPi-надстройку над языковой моделью Qwen 4Bi и выложил результат на Hugging Facei под названием openjev, заявив, что модель работает «буквально как та хайповая модель из твитера». Пост опубликован в канале Love. Death. Transformers. 16 сентября 2026 года.
Спустя пять дней, 21 сентября, автор дополнил проект публичным демо-спейсом с веб-интерфейсом, поблагодарив за помощь других участников комьюнити — так модель стала доступна для тестирования без локального запуска.


Исследователи предложили способ сэкономить вычислительные ресурсы при предобучении языковых моделей: на первом этапе претрейна модель учится не на отдельных токенах, а на усреднённых эмбеддингах нескольких подряд идущих токенов, при этом на выходе предсказывается не следующий токен, а «мешок» (bag-ofi) из нескольких следующих токенов без учёта их порядка. После этой стадии обучение продолжается в стандартном режиме.
Экономия достигается за счёт того, что через модель прогоняется в s раз меньше токенов, а значит за тот же вычислительный бюджет модель успевает увидеть больше данных из корпуса — в r·s + (1 − r) раз больше, где r — доля обучения на усреднённых токенах, s — размер окна усреднения.
ВыводМетод проверен на трёх dense llama-like моделях размером 270M, 600M и 3B, а также на MoE-модели 10B-A1B.


Компания Enclave прогнала несколько ИИ-моделей через свой бенчмаркi автономного хакинга: изолированные копии Grafana, Jenkins и Nextcloud с реальными уязвимостями, задача — получить выполнение кода на сервере без готового эксплойта и подсказок. Неожиданно лучший результат показала не топовая Opus или GPT, а дешёвая «флешка» DeepSeek V4.1 Flash — 11 успешных атак из 11 на уязвимые цели, при этом все 4 пропатченные версии выстояли.
Главный тревожный вывод: стоимость такой атаки — около $5, а время — минуты. Это меняет расклад в защите систем: теперь угрозу представляют не отдельные пентестеры, а потенциально тысячи параллельных автономных агентов, перебирающих гипотезы взлома за копейки.
ВыводМедианное время успешной атаки — 4 минуты 38 секунд, Grafana взламывалась за 52–90 секунд