Почему ИИ не решит проблему рака только за счет вычислительной мощности

почему Сэм Альтман не сможет вылечить себе рак? по следам прошлого поста складывается ощущение что "можно швырнуть много миллионов долларов в компьют, поднять 100000 агентов и они решат любую задачу" или "AGI сводит решение любых задач к вопросу доступности компьюта и цены". я вот лежал-размышлял на тему "если завтра у Сэма Альтмана обнаружат рак - сможет ли он поднять 100.000 агентов чтобы они за неделю нашли лекарство?", и простой ответ - нет. представьте, что вы ищете ответ на какой-то вопрос про реальность, к примеру "какая комбинация молекул в пробирке вылечит рак такого типа". и вот есть спектр, где с одной стороны: - полное отсутствие интеллекта aka полный перебор всех существующих вариантов классические "бесконечные мартышки перебирающие кнопки в попытке написать Войну и Мир". отсутствие оптимизации перебора вообще. а с другой: - абсолютный интеллект aka сразу выбор правильного варианта интеллект имеющий полную всеобъемлющую модель реальности решает оптимизационную задачу у себя "в голове" и сразу даёт верное решение. и вот между этих двух крайностей и существуют разные уровни интеллекта. - автослесарю без биохимических знаний надо будет перебрать миллиарды комбинаций молекул в поисках лекарства от рака - студент-биохимик будет перебирать на порядки меньше, потому что сможет откинуть ворох совершенно нереалистичных веток - PhD биохимик со специализаций по онкологии будет перебирать ещё меньше, сразу пойдёт по реалистичным веткам думаю, суть вы уловили. каждая итерация развития ИИ - это улучшение картины реальности в "его голове", и сужение кол-ва веток перебора. gpt-4, наверное, смог бы решить математическую проблему тысячелетия, если поднять, ну, 100-200 триллионов агентов, может быть на пару порядков больше. увы, на Земле нет столько компьюта. а вот gpt-6 (ну или какой там у них внутренний вариант) - смог сделать это в формате 10.000 агентов за несколько дней. а в будущем какой-нибудь gpt-8, наверное, вывезет и на 50-100 агентах за пару часов (если представить, что в трейн не подлили предыдущие результаты). так че по раку? беда в том, что у перебора, помимо, собственно, кол-ва вариантов, есть другая сторона - а сколько стоит (времени/денег) проверить один вариант. и тут кроется ответ на вопрос, почему ИИ так бодро тащит задачи программирования и математики: эти задачи формально верифицируемы, алгоритмически. то есть, когда у вас есть вариант решения, вам нужны литерали миллисекунды чтобы его проверить. эти задачи не требуют проверки в физической реальности. ИИ может перебирать варианты и оптимизировать решение буквально по ходу дела. но вы можете представить себе затраты на тестирование одного варианта лекарства? даже in vitro - сколько времени займёт изготовление тестового образца и проверка? 10.000 агентов тут не дадут никакого выигрыша, хоть залей весь компьют мира. думаю, в ближайшие 3-4 года, одной из растущих сфер будут fully automated лабы as a service. этакая изолированная среда в физической реальности, где агент может проводить эксперименты - как для RL, так и для фактического решения настоящих задач.