← к ленте

Скандал вокруг возможного решения задачи Навье-Стокса моделью OpenAI

С@seeallochnayaAI-инженер
1 мес

Анализ ситуации вокруг обвинений в адрес OpenAI по поводу возможного решения задачи Навье-Стокса и этических аспектов публикации результатов.

Возможное решение одной из сложнейших математических задач в истории человечества с помощью ИИ.

  • Если решение подтвердится, это станет первым случаем, когда ИИ самостоятельно решил «Задачу тысячелетия».
  • Ситуация поднимает критические вопросы об интеллектуальной собственности и этике обучения моделей на данных исследователей.
  • Проверка доказательства потребует участия мирового научного сообщества для подтверждения корректности работы модели.
— Затем представители OpenAI предложили две опции: 1) он публикует свои результаты, а OpenAI на следующий день полное доказательство 2) он публикует свои результаты и после этого в одиночку (убрав соавтора из Anthropic) пишет статью на основе доказательства OpenAI, признавая, что решение было получено моделью, и получает миллион долларов (то есть OpenAI откажутся) — «Я сказал, что если OpenAI опубликует результаты предложенным способом, я расскажу о случившемся публично. В ответ услышал: «Зачем вам портить свою карьеру?». Я ответил, что я учёный, и спросил, почему он считает, что публичное освещение событий разрушит мою карьеру. В ответ услышал: «Если вы не хотите, чтобы я был вежлив, то мне не обязательно быть вежливым» – абзац, который разлетается сейчас по всем новостям — И заканчивает письмо тем, что никого ни в чём не обвиняет, доказательства он не видел, и «если модель OpenAI действительно смогла сократить разрыв в решении Навье-Стокса, это замечательное достижение, и об этом следует громко заявить, при этом сохраняя историческую достоверность» === OpenAI обещает ответ «завтра» (может быть сегодня, так как они в другой часовой зоне), интересно послушать их историю, а самое главное узнать таймлайн и промпты для модели. Но пока что вот мои мысли: — я считаю крайне маловероятным, что пользовательские данные оказали здесь какое-либо влияние. OpenAI ни в коем случае не стала бы использовать пользовательские чаты для этого или сознательно обучать систему на их основе таким образом, чтобы это повлияло на результат. Если эта позиция вам кажется необъективной, то... тоже самое написал тимлид RL-команды Anthropic, сотрудники которой обычно не выражают поддержку OpenAI. Ключевое тут «сознательно» — так как пользователь сам может контролировать, делиться ли своими чатами для обучения или нет; вероятно, поэтому на созвонах OpenAI не могли сказать, обучались ли они конкретно на этих чатах, так как есть много звёздочек, и ответ «нет» может быть не полным. А я пишу, что OpenAI не выцеливали чаты именно этого учёного и его коллеги. — хоть я написал это два раза, напишу третий: у людей полного решения нет и не было. И если оно появилось у OpenAI (и это продукт работы модели) — это будет большое достижение. — не зная всей истории я могу сказать, что если OpenAI начали делать что-то на слухах, у них получилось, и они опубликуют результат, отдавая честь за идеи по навправлению всем, кто в это внёс вклад (и автора письма, и его коллегу из Anthropic, и авторов статьи 2023-го года) — я не вижу большой проблемы. Даже жаль немного, что драма произошла до выхода — может, они и без внешнего давления раздали бы почести и указали все релевантные работы (пока что с их предыдущими решениями мат. задач так и было, в краже идей их никто не обвинял, на использованные статьи ссылки давались и в решении, и упоминались в анонсах). — однако я считаю достаточно вероятным, что модель могла найти решение и без подсказки о том, в каком направлении нужно копать; хоть автор письма и говорит, что для него доказательство через «его» метод — это красный флаг, но если посмотреть на все предыдущие решенные задачи — почти везде было ровно то же самое: LLM смогла развить не-мейнстримную идею, которую кто-то где-то когда-то выражал, даже работал над ней, но не вышло довести до конца. — пока что официального подтверждения нет, но на вышеупомянутых созвонах представители OpenAI утверждали, что черт возьми и них есть решение одной из Задач тысячелетия! Всё вышеописанное может добавить астерисков и облаков на это утверждение, но сам факт останется фактом, если решение опубликуют и проверят.
КонтекстAI
Речь идет о резонансном заявлении математика, который утверждает, что OpenAI пытались склонить его к сделке, чтобы присвоить приоритет в решении задачи Навье-Стокса (одна из семи «Задач тысячелетия»). Ученый подозревает, что модель могла использовать его неопубликованные наработки, полученные через частные чаты или утечки, что ставит под вопрос чистоту научного открытия.

Кратко (AI)

В сети обсуждают конфликт между ученым и OpenAI по поводу возможного решения задачи Навье-Стокса. OpenAI якобы предложили автору сделку, чтобы опубликовать доказательство от лица модели, что вызвало вопросы об этике и авторстве. Автор поста анализирует ситуацию, отмечая, что если модель действительно решила задачу тысячелетия, это станет прорывом, несмотря на возникшую драму.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖