🌟 MIT CSAIL опубликовала модель разметки анатомии на рентгеновских снимках MIT вместе с коллегами из Массачусетской больницы общего профиля и Гарвардской медицинской школы сделала модель FleXray, которая находит и выделяет на снимке 60 анатомических структур, от рёбер и позвонков до костей таза и конечностей. Модель работает с разными областями тела, стандартными и косыми проекциями, кадрами рентгеноскопии во время операций, снимками взрослых и детей. На размеченных структурах можно автоматически делать измерения, например угла искривления позвоночника при сколиозе, или сопоставлять кадры рентгеноскопии с трёхмерной КТ для навигации во время вмешательств.

Патологии модель не ищет, только анатомию, и правую сторону от левой не отличает.

Внутри свёрточная сеть U-Net, снимок перед обработкой приводится к размеру 256 на 256 пикселей. Для максимального качества пять таких сетей работают ансамблем. 🟡Тесты На восьми наборах реальных снимков с разметкой FleXray набрала в среднем 0,875 по коэффициенту Dice, который показывает, насколько выделенная область совпадает с эталонной, от 0 до 1. Универсальные PAXray, TotalSegmentator2D и FluoroSAM она обошла на семи наборах из восьми. Сети nnU-Net, которые обучали отдельно под каждый набор, набрали в среднем 0,914. В оценке сколиоза средняя ошибка в угле искривления составила 5,13 градуса против 6,38 у TotalSegmentator2D. При совмещении кадров рентгеноскопии с КТ медианная ошибка снизилась с 335 до 1,2 мм.

Попробовать FleXray можно в браузерной демоверсии, которая работает локально через WebGPU.

📌Лицензирование: CC-BY-NC-4.0 🟡Страница проекта 🟡Модель 🟡Arxiv 🟡Демо 🖥GitHub @ai_machinelearning_big_data #AI #ML #CV #Medical #Segmentation #FleXray

🌟 SenseNova-Vision: CV-комбайн в едином генеративном интерфейсе SenseTime открыла веса единой модели зрения SenseNova-Vision. Обычно под каждую задачу (найти объекты, выделить их контуры, оценить глубину сцены) строят отдельную систему или встраивают в модель специальный модуль. Здесь от этого отказались - все задачи модель решает как генерацию текста, картинки или их смеси.

Компания основана в 2014 году и выросла из университетской лаборатории MMLab - оттуда вышла заметная часть китайских специалистов по компьютерному зрению. Известность пришла в 2015-м, когда алгоритм распознавания лиц SenseTime обошёл по точности человеческий глаз. В 2026 году Gartner назвала компанию визионером в генеративном CV.

🟡Механика Рамки объектов и распознанный текст модель выдаёт текстом с координатами, карты глубины и нормалей поверхностей - картинками, а сложную сегментацию - смешанным ответом, где текстовая легенда задаёт цвета маски.

Авторы сравнивают подход с тем, что GPT сделал для текста: вместо зоопарка специализированных систем - один генеративный интерфейс.

Под капотом - открытая мультимодальная модель Bagel-7B-MoT от ByteDance, дообученная без изменений архитектуры. MoT - это смесь трансформеров. Внутри модели живут 2 эксперта с собственными весами - один отвечает за понимание текста и изображений, второй за генерацию картинок, а внимание у них общее, так что оба смотрят на один контекст. Токены распределяются между экспертами жёстко, по типу данных, а не обучаемым маршрутизатором, как в MoE. Для SenseNova-Vision такое устройство пришлось кстати - модель чередует текстовые ответы вроде координат и картиночные вроде масок, и у каждой ветки свой набор весов. 🟡Тесты SenseNova-Vision лидирует среди сопоставимых систем там, где ответ - структурированный текст (детекция, в том числе в плотных сценах с десятками объектов, локализация текста на изображении, ключевые точки). В оценке глубины и нормалей она близка к лучшим генеративным методам, в сегментации держится на уровне конкурентов.

Слабые места тоже есть. В многовидовой 3D-геометрии модель отстаёт от специализированных VGGT и Depth Anything 3, а текст на русском распознаёт заметно хуже, чем на английском.

Вместе с моделью опубликован корпус SN-VC-50M - 50 млн обучающих примеров из открытых наборов: 18,9 млн кадров для структурного понимания, 17,3 млн для плотной геометрии, 12,5 млн для многовидовой геометрии и 1,3 млн для сегментации. 📌Лицензирование: CC-BY-NC-4.0 🟡Модель 🟡Arxiv 🟡Датасет 🟡Демо 🖥GitHub @ai_machinelearning_big_data #AI #ML #СV #MoT #SenseNovaVision #SenseTime