Риски утечки интеллектуальной собственности при использовании AI-моделей
М@maxvotekAI-инженер
1 месАнализ инцидента с OpenAI и доказательством задачи Навье-Стокса: почему конфиденциальные данные и идеи могут быть использованы для обучения моделей.
Ваши идеи и наработки, загруженные в AI, могут быть использованы для обучения моделей без вашего ведома.
- Разработчики и исследователи рискуют потерять приоритет в своих открытиях, если используют облачные AI-инструменты.
- Данные, вводимые в чат-боты, могут косвенно влиять на обучение будущих версий моделей.
- Для критически важных разработок необходимо использовать локальные модели или строго защищенные корпоративные среды.
Про идеи, которые вы отдаёте моделям.
OpenAI заявила, что её внутренняя модель решила задачу Навье-Стокса - одну из семи Millennium Prize Problems.
88 часов, до 10 000 агентов, 130 млрд output tokens, 165 страниц доказательства и формализация в Lean. Если результат выдержит проверку, это один из самых сильных примеров, когда AI не помогает учёным, а добывает новое знание сам.
Но тут есть неожиданный нюанс.
Профессор NYU Тристан Бакмастер вместе с Левентом Алпёге из Anthropic уже шёл к этой задаче довольно редким путём. Работу ещё не публиковали, вели её в основном через Codex.
О том, что у них есть прогресс и куда они идут, узнали в OpenAI.
Через несколько дней компания бросила на задачу compute, которого нет ни у одного университета, и дошла до полного доказательства. По словам Бакмастера, тем же путём.
Он задал очевидный вопрос: могла ли его работа внутри Codex помочь модели? Ответ OpenAI: его данные никто не смотрел, работа независимая.
При этом компания не может полностью исключить, что обезличенные данные использования продуктов улучшили модели.
Доказательств кражи нет. Цифра в $22,5 млн, которая гуляет по X - это оценка TechCrunch, во сколько такой прогон обошёлся бы по публичному тарифу, а не реальный счёт. Так что история не про воровство.
Мы уже думаем внутри Claude и Codex. Туда уходят неопубликованные статьи, код, инвестиционные гипотезы, архитектура новых продуктов.
Помощник может научиться на вашей идее быстрее, чем вы успеете её реализовать.
После DeepSeek я писал, что модели становятся commodity, а ценность в ваших данных. Эта история - обратная сторона того же тезиса: ваши данные ценны и для того, кто делает модель.
Для 99% запросов это неважно. Но если у вас есть что-то действительно новое: исследование, алгоритм, продуктовая идея, то к контексту frontier-моделей стоит относиться так же, как к исходному коду и коммерческой тайне.
Ценность в AI может оказаться не в промптах и не в моделях, а в том, что вы решили им не отдавать.
@maxvotek | linkedin | substack
КонтекстAI
Речь идет о недавних сообщениях о том, что модель OpenAI якобы решила задачу Навье-Стокса, одну из «задач тысячелетия». Параллельно с этим исследователи из NYU и Anthropic работали над тем же доказательством, используя инструменты OpenAI, что вызвало подозрения в использовании их данных для обучения модели компании.
Кратко (AI)
Автор анализирует ситуацию, в которой OpenAI могла использовать неопубликованные наработки исследователей из NYU и Anthropic для решения задачи Навье-Стокса. Этот случай поднимает вопрос о безопасности интеллектуальной собственности при работе с frontier-моделями. Автор призывает относиться к данным, вводимым в AI, как к коммерческой тайне.
Обсуждение
2Главное золото сейчас — это не данные, а твои идеи, которые ты еще не успел реализовать. Если 10к агентов за 88 часов повторяют путь человека в решении сложной задачи, то скорость мышления больше не преимущество. Остается только паранойя и секретность.
тут все ноют про паранойю, но по сути так и есть - модель не рожает идею из воздуха, она жрет то что ты в нее залил. история с Бакмастером ровно про это: он два месяца копал редкий подход, через несколько дней у OpenAI внезапно тот же путь и compute которого ни у кого нет. можно верить что данные никто не смотрел, но осадок остается. и хайп про 'агенты сами добыли новое знание' немного лукавит - без чужого черновика они бы 88 часов на этом compute просидели совсем в другую сторону