← к ленте

Конфликт математиков и OpenAI вокруг задачи Навье-Стокса

H@How2AIAI-инженер
1 мес

Разбор скандала между математиками Тристаном Бакмастером, Левентом Альпёге и OpenAI из-за возможного использования приватных данных в исследованиях.

Этот случай поднимает критический вопрос о конфиденциальности данных исследователей при использовании ИИ-инструментов.

  • Разработчики ИИ могут непреднамеренно обучаться на приватных данных пользователей.
  • Отсутствие прозрачности в обучении моделей создает риски для интеллектуальной собственности.
  • Корпоративная этика крупных ИИ-лабораторий становится предметом публичных споров.
🍿 Вы ведь не думали, что обошлось без скандала? И сначала познакомимся с героями: • Тристан Бакмастер - профессор математики, который первым подробно рассказал о конфликте. • Левент Альпёге - математик и сотрудник Anthropic, около года работавший вместе с Бакмастером как независимый исследователь. • Себастьян Бюбек - исследователь OpenAI. Участвовал в проекте и последующих переговорах. Около года Бакмастер и Альпёге работали над задачами, связанными с Навье-Стоксом. Они использовали Claude и Codex, причём, по их словам, загружали в Codex все промежуточные черновики проекта. К середине августа математики получили несколько важных результатов, но полного решения задачи Навье-Стокса у них не было. • 1 сентября слух об их успехе дошёл до OpenAI. Компания решила проверить возможности своей новой внутренней модели – вот как это было. • 2-3 сентября Альпёге и Бакмастер сами связались с OpenAI. Они объяснили, что это их личный академический проект, а не работа Anthropic, и дали понять, что не хотят превращать исследование в гонку между компаниями. Но OpenAI уже запустила свою вычислительную машину. • 5 сентября агенты OpenAI получили собственный результат. Подход компании был в чём-то похож на направление математиков, а в чём-то отличался. • 6 сентября прошли два срочных звонка между Бакмастером и OpenAI. Сначала компания думала, что обе команды решили одну и ту же задачу, и предлагала скоординировать публикации. • Когда выяснилось, что у математиков нет полного решения, появился другой вариант: позволить им опубликоваться первыми, а Бакмастеру предложить стать ведущим автором новой версии доказательства OpenAI. Но без Альпёге. Для OpenAI проблемой стало то, что он работает в Anthropic. • Во время разговора Бакмастер спросил, могла ли модель обучаться на их приватных Codex-сессиях. По его словам, ему ответили только, что модель не искала пользовательские данные, но прямого ответа про обучение не последовало. • Бакмастер отказался от предложения и заявил, что расскажет о ситуации публично. После этого Бюбек спросил, зачем ему «рисковать своей карьерой». Бакмастер также приписывает ему фразу: «Если ты не хочешь, чтобы я был добрым, я могу и не быть добрым». • В ночь на 8 сентября Бакмастер и Альпёге опубликовали свои работы и подробное описание переговоров. • В тот же день OpenAI представила собственное решение. Компания категорически отрицает, что сотрудники или агенты целенаправленно читали приватные сессии математиков. • Но следом OpenAI добавила важную оговорку: компания не может исключить, что обезличенные данные от использования её продуктов могли повлиять на обучение модели 😐 Бюбек подтвердил, что обсуждалась статья с Бакмастером, но без Альпёге. При этом он отрицает попытку отобрать у Альпёге авторство его собственной работы. Фразу про карьеру Бюбек признал, назвал крайне неудачной и публично извинился. Альтман полностью поддержал команду OpenAI. По его версии, компания действовала честно, хотела договориться и столкнулась с необоснованными обвинениями. 🤔 Что в итоге? Доказательств того, что OpenAI целенаправленно украла черновики или прочитала приватные Codex-чаты, сейчас нет. Но нет и независимого аудита, который позволил бы проверить происхождение данных и окончательно снять подозрения. Clay Mathematics Institute пока продолжает считать задачу нерешённой. Математику OpenAI, возможно, решила. А вот коммуникацию с математиками - совершенно точно нет.
Конфликт математиков и OpenAI вокруг задачи Навье-Стокса

Кратко (AI)

Математики Тристан Бакмастер и Левент Альпёге обвинили OpenAI в попытке присвоить результаты их работы над уравнением Навье-Стокса и возможном использовании их приватных данных из Codex для обучения моделей. OpenAI отрицает кражу данных, но признает, что обезличенные пользовательские данные могли попасть в обучающую выборку. Конфликт сопровождался давлением со стороны исследователя OpenAI Себастьяна Бюбека, за что он позже принес извинения.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖