Наука

почему Сэм Альтман не сможет вылечить себе рак? по следам прошлого поста складывается ощущение что "можно швырнуть много миллионов долларов в компьют, поднять 100000 агентов и они решат любую задачу" или "AGI сводит решение любых задач к вопросу доступности компьюта и цены". я вот лежал-размышлял на тему "если завтра у Сэма Альтмана обнаружат рак - сможет ли он поднять 100.000 агентов чтобы они за неделю нашли лекарство?", и простой ответ - нет. представьте, что вы ищете ответ на какой-то вопрос про реальность, к примеру "какая комбинация молекул в пробирке вылечит рак такого типа". и вот есть спектр, где с одной стороны: - полное отсутствие интеллекта aka полный перебор всех существующих вариантов классические "бесконечные мартышки перебирающие кнопки в попытке написать Войну и Мир". отсутствие оптимизации перебора вообще. а с другой: - абсолютный интеллект aka сразу выбор правильного варианта интеллект имеющий полную всеобъемлющую модель реальности решает оптимизационную задачу у себя "в голове" и сразу даёт верное решение. и вот между этих двух крайностей и существуют разные уровни интеллекта. - автослесарю без биохимических знаний надо будет перебрать миллиарды комбинаций молекул в поисках лекарства от рака - студент-биохимик будет перебирать на порядки меньше, потому что сможет откинуть ворох совершенно нереалистичных веток - PhD биохимик со специализаций по онкологии будет перебирать ещё меньше, сразу пойдёт по реалистичным веткам думаю, суть вы уловили. каждая итерация развития ИИ - это улучшение картины реальности в "его голове", и сужение кол-ва веток перебора. gpt-4, наверное, смог бы решить математическую проблему тысячелетия, если поднять, ну, 100-200 триллионов агентов, может быть на пару порядков больше. увы, на Земле нет столько компьюта. а вот gpt-6 (ну или какой там у них внутренний вариант) - смог сделать это в формате 10.000 агентов за несколько дней. а в будущем какой-нибудь gpt-8, наверное, вывезет и на 50-100 агентах за пару часов (если представить, что в трейн не подлили предыдущие результаты). так че по раку? беда в том, что у перебора, помимо, собственно, кол-ва вариантов, есть другая сторона - а сколько стоит (времени/денег) проверить один вариант. и тут кроется ответ на вопрос, почему ИИ так бодро тащит задачи программирования и математики: эти задачи формально верифицируемы, алгоритмически. то есть, когда у вас есть вариант решения, вам нужны литерали миллисекунды чтобы его проверить. эти задачи не требуют проверки в физической реальности. ИИ может перебирать варианты и оптимизировать решение буквально по ходу дела. но вы можете представить себе затраты на тестирование одного варианта лекарства? даже in vitro - сколько времени займёт изготовление тестового образца и проверка? 10.000 агентов тут не дадут никакого выигрыша, хоть залей весь компьют мира. думаю, в ближайшие 3-4 года, одной из растущих сфер будут fully automated лабы as a service. этакая изолированная среда в физической реальности, где агент может проводить эксперименты - как для RL, так и для фактического решения настоящих задач.

Природа запретила нейтринный лазер На бумаге идея выглядела изящно. Берём около миллиона атомов радиоактивного рубидия-83, охлаждаем почти до абсолютного нуля, где вся эта толпа ведёт себя как единая квантовая система. И получаем узкий направленный пучок нейтрино: что-то вроде лазера, только из самых неуловимых частиц во Вселенной. Две свежие теоретические работы физиков из MIT ставят на этой затее крест. Причём мешают не инженерные трудности, а сама квантовая механика. Работать всё должно было на эффекте сверхизлучения: атомы испускают частицы не поодиночке, а сообща, и темп растёт не пропорционально их числу N, а как N². Рубидий распадается в криптон-83 и выпускает нейтрино, а период полураспада в 86 дней должен был сжаться примерно до 2,5 минуты — почти пятидесятитысячное ускорение. Первый удар — отдача. Нейтрино уносит около миллиона электронвольт, чудовищно много по меркам обычного фотона. По закону сохранения импульса свежеродившийся атом криптона получает пинок и разгоняется до нескольких километров в секунду. За доли микросекунды он вылетает из конденсата — и этим себя выдаёт. А как только понятно, какой именно атом излучил нейтрино, квантовая когерентность рушится, и коллективного эффекта уже не будет. Допустим, отдачу как-то убрали. Тогда мешает второе: криптон-83 — фермион. Принцип запрета Паули не даёт двум одинаковым фермионам занять одно и то же квантовое состояние, поэтому цепочка коллективных распадов обрывается после первого же. Рост снова линейный — ровно как у независимых атомов. Третье препятствие — само пространство. В оптическом лазере есть резонатор, задающий моду излучения. В открытом пространстве его нет, а длина волны нейтрино от ядерного распада измеряется пикометрами, поэтому конус, в котором атомы могли бы излучать согласованно, получается исчезающе узким. Миллиона атомов не хватает даже близко. Обидно? Не очень. Расчёты точно показывают, где именно ломается коллективное квантовое поведение — а значит, подсказывают, каким должно быть устройство, в котором подобные эффекты всё-таки заработают. @vselennayaplus

Хуже того: вся академическая наука построена на общественном договоре, что вот есть странные люди, которые тратят свою жизнь на странные вещи, чтоб остальным не пришлось. Общество получает иногда важные прорывы, которые можно применить для развития цивилизации, и платит странным людям за это зарплату. А теперь странных людей можно заменить на ИИ, который гораздо дешевле, быстрее и не ноет в соцсетях (пока). И вот именно в этом и заключается убийственная способность ИИ: он не убивает науку как концепци — ее скорее становится проще делать — но как общественный конструкт. Параллельно рушатся привычные структуры научного рецензирования и написания грантов (теперь и то, и то ИИ может делать лучше человека, которому снова остается роль "проверки", что ИИ не нагаллюцинировала себе что-то). Конечно, эта система была плоха изначально, но она работала и давала нам понятную систему верификации знания и экспертизы. Сейчас это пропадает, не давая взамен новой системы, а вместо этого внося хаос. Что с этим делать — совершенно не ясно. Конечно, понятно, что компании не смогут поддерживать такой темп развития моделей, учитывая убыточность и трату ресурсов. Понятно, что разрушение академических структур — тоже дело многих лет, инерция системы огромна. Но как поменяется отношение к науке? Как поменяются привычные нам структуры? Сколько ученых останутся буквально без смысла работы? Как жить, когда то, над чем ты работал 30+ лет, вдруг оказывается никому не нужным? Я тут нахожусь в комфортном положении: с одной стороны, в экспериментальную физику ИИ пока не пришел, так что мою работу он не отнимает пока, а скорее делает проще. С другой, я с первого дня использую ИИ, в отличие от многих моих коллег, которые стараются его избегать, что дает мне конкурентное преимущество. Но я не могу перестать думать, что разрушение института науки в привычном нам смысле неизбежно, и я не понимаю, что я могу этому противопоставить (и надо ли оно вообще). #академия #жизнь_в_науке #ИИ

Перспективы промышленного производства антивещества: сколько это в граммах Несколько миллиграммов антивещества при аннигиляции дают энергию, измеряемую тоннами тротила, а всего 50 граммов сопоставимы с водородной бомбой в мегатонны или с годовым энергопотреблением небольшой развитой страны. Плотность энергии тут на порядки выше всего, что дают химические, ядерные и термоядерные двигатели. А с другой стороны стоит вторая цифра. За целый год существующим методом нарабатывают чуть меньше двух нанограммов. КПД производства в ЦЕРН оценивают в 0,000001 процента. При этом расчёты уже говорят, что 45 граммов антивещества и десяток килограммов урана хватило бы, чтобы за пару лет долететь до Плутона. Между этими числами и лежит вся интрига промышленного антивещества.