Сергей Брин о непредсказуемости ИИ и самосовершенствовании моделей

Сергей Брин принял участие в неформальной сессии, посвященной передовым системам ИИ (Frontier AI), и признался в том, о чём молчат руководители ИИ-лабораторий: TLDR: Даже те, кто создает ИИ-модели, не до конца понимают, что именно они создали😌 – Возможности из разных областей науки начинают переплетаться и усиливать друг друга так, как никто специально не проектировал (например, обучение ИИ программированию и математическому мышлению неожиданным образом улучшает общие способности модели). – Из-за этого специализированные модели сливаются в единую универсальную систему быстрее, чем кто-либо прогнозировал. – Брин скептически относится к шумихе вокруг "AGI", который по-прежнему не способен решать неразрешимые задачи. Моделирование окружающего мира и физическое взаимодействие — вот недостающие элементы для создания AGI, способного выполнять любые задачи, доступные человеку (– Серж, всё это лишь часть интерфейса AGI, нутычо). – Внутри Google ИИ уже используют для создания нового ИИ. Именно на этот цикл самосовершенствования Брин тратит большую часть своего времени.Сергей Брин недавно он принял участие в неформальной сессии, посвященной передовым системам ИИ (Frontier AI), и признался в том, о чем предпочитают молчать многие руководители исследовательских лабораторий: TLDR: Даже те, кто создает эти модели, не до конца понимают, что именно они создали 👍 – Возможности из разных областей начинают переплетаться и усиливать друг друга так, как никто специально не проектировал (например, обучение ИИ программированию и математическому мышлению неожиданным образом улучшает общие способности модели). – Из-за этого специализированные модели сливаются в единую универсальную систему быстрее, чем кто-либо прогнозировал. – Брин скептически относится к шумихе вокруг "AGI", который по-прежнему не способен решать неразрешимые задачи. Моделирование окружающего мира и физическое взаимодействие — вот недостающие элементы для создания AGI, способного выполнять любые задачи, доступные человеку (– Серж, всё это лишь часть интерфейса AGI, нутычо). – Внутри Google ИИ уже используют для создания нового ИИ. Именно на этот цикл самосовершенствования Брин тратит большую часть своего времени. – Главный хак в работе с ИИ: просто дать модели команду «думать пошагово».