Теренс Тао о будущем математики в эпоху ИИ

♾️ Мне кажется, что время серьезно поговорить В последнее время люди в интернетах сходят с ума, когда слышать, что LLM решил очередную задачу, над которой математики бились сотни лет. Очевидно, в этом есть большая доля ИИ-психоза, так как все таки LLMки задачи решают не сами, а при помощи довольно высококвалифицированных математиков (или наоборот), но мне кажется, что самое время подумать c холодной головой о более важной теме: как ЛЛМ будет менять науку, посколько software engineering они уже поменяли в достаточной мере. Поскольку я человек недалекий не только в целом, но и от науки, то перед собственными размышлениями предлагаю ознакомиться с эссе "MATHEMATICS IN THE AGE OF AI" данного симпатичного казаха по имени Теренс Тао 🇰🇿Кто такой Теренс Тао? Австралиец, профессор UCLA, человек, которого обычно называют величайшим живущим математиком. Биография читается как пародия на вундеркинда: в 10 лет — бронза на международной математической олимпиаде, в 13 — золото и до сих пор самый молодой золотой медалист в истории IMO. PhD в Принстоне в 21 год, полный профессор UCLA в 24. Всеобщую известность заслужил благодаря доказательству вместе с Беном Грином, что среди простых чисел есть арифметические прогрессии любой наперёд заданной длины, — но ценна там не сама теорема, а метод переноса результатов с «плотных» множеств на разреженные, который потом растащили по всей аддитивной комбинаторике. Ещё он один из авторов compressed sensing — теории восстановления сигнала по числу измерений сильно меньше того, что требует теорема отсчётов, — благодаря которой МРТ сканирует в разы быстрее. Последнее время занимается проектами на стыке ИИ и математики. ✍️ А тепер к эссе В эссе поднимается очень хороший вопрос: какие у математического сообщества на самом деле цели? Не те, которые пишут в грантовых заявках, а те, которые реально оптимизируют на практике. Исторически цели математики были положительно скоррелированы: решая сложную задачу, ты попутно создавал дополнительные техники, вокруг которых собиралось сообщество, писались учебники. Поэтому одну цель можно было спокойно использовать как прокси для остальных. ИИ этот пучок расщепляет, по двум независимым причинам. Технически: генеративные модели ungrounded по своей природе, они оптимизируют внешний вид удовлетворительного ответа, а не свойство, которое ответ должен индицировать, — и потому отлично находят зазор между метрикой и тем, что метрика измеряет. Экономически: деньги в индустрии платят именно за цитируемые, бенчмаркабельные достижения на этих самых прокси. И вот теперь мы оказались там, где оказались — в снежном коме академии, где если индекс Хирша ниже определенной планки, то пошел в жопу. Вообще весь процесс академической работы Тао описывает в 5 стадий: 1. Решить как можно больше задач 2. Верифицировать 3. Внятно изложить 4. Добиться, чтобы сообщество результат переварило и приняло 5. Ввести результат в каноническую теорию Проблемы появляются всегда между этими этапами потому что доказательства копятся быстрее, чем их верифицируют, верифицированные — быстрее, чем их записывают, записанные — быстрее, чем рецензируют. Так мы переходим из эпохи дефицита доказательств в эпоху изобилия. [Да, проблема нейрослопа в науке, куда хуже, чем вы можете себе представить] 😒Так что с этим всем безобразием делать? На самом деле решение внятное: перестать награждать только генерацию и гонку «кто первый», начать награждать переваривание: экспозицию, рецензирование, канонизацию. Именно эта работа превращает личные достижения в общий прогресс — и именно её сейчас делают бесплатно и без признания.

Если авторы не могут прочитать внятный экспертный доклад по своему результату — публиковать его не надо. Доказательство, которое ни один человек не в состоянии объяснить, следует считать незавершённым, даже если оно формально верифицировано.

Мне, как человеку, который решил продолжить свой академический путь это все конечно же болит. Было бы любопытно узнать в том числе мнение и с вашей стороны. Полная работа будет в комментариях для любителей почитать. #math @techn0danya