Исследователи MIT CSAIL доказали отсутствие прямой атрибуции в генеративных моделях
Н@GreenNeuralRobotsAI-инженер
1 месИсследование MIT CSAIL показало, что при больших объемах данных влияние отдельных изображений на результат генерации нейросетей стремится к нулю.
Это исследование ставит под сомнение возможность прямого обвинения нейросетей в копировании конкретных авторов.
- Доказывает, что при обучении на огромных массивах данных вклад каждого отдельного изображения становится статистически незначимым.
- Помогает лучше понять механизмы работы генеративных моделей и их отличие от простого копирования данных.
- Может повлиять на юридические споры об авторских правах в сфере ИИ.
Исследователи MIT CSAIL выяснили: у сгенерированных нейросетью картинок часто нет конкретного автора среди обучающих данных.
Команда проверяла, можно ли отследить, какие именно снимки повлияли на итоговое изображение. Построили архитектуру из множества маленьких моделей - каждая обучена на своём куске данных, что позволило по-настоящему удалять примеры, а не оценивать их влияние приближённо.
Результат: при больших объёмах данных можно убрать одну фотографию, все работы конкретного художника или все снимки конкретного человека - и итоговая картинка не изменится. Ведущий автор Чжэн Дай называет это «затуханием атрибуции»: чем больше данных, тем меньше значит для результата каждый отдельный пример.
Профессор Дэвид Гиффорд отмечает: прежние методы были приблизительными, этот же впервые доказывает отсутствие влияния точно, а не оценочно.
Подробнее - в материале MIT News
#news
Кратко (AI)
Исследователи из MIT CSAIL разработали метод для точного отслеживания влияния обучающих данных на генеративные модели. Выяснилось, что при больших объемах данных удаление конкретных изображений или работ отдельных авторов практически не меняет итоговый результат, что авторы называют «затуханием атрибуции».
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖