Неизбежность враждебного AI Пол Букхейт: Нам необходимо больше инвестиций и инноваций в сфере защитного искусственного интеллекта. Неизбежно, что ИИ будет использоваться против нас мошенниками, преступниками, правительствами и другими злоумышленниками. По мере совершенствования ИИ растут изощренность и опасность подобных атак. Сколько из наших нынешних компьютерных систем устояли бы перед атакой суперхакера на базе ИИ? Как понять, с кем мы общаемся — с реальным человеком или с дипфейком? Как убедиться в точности и надежности источников информации? Как защититься от нового искусственно созданного вируса? Один из продуктов, который хотелось бы увидеть, — это так называемый «пользовательский агент» (User Agent). Это персональный ИИ, запрограммированный на защиту наших личных прав и интересов. Подобно идеальному адвокату, он должен всегда действовать в наших интересах, а не в интересах корпораций или правительств, стремящихся контролировать нас и манипулировать нами. В идеале на отношения с таким ИИ должен распространяться принцип адвокатской тайны: он хранит секреты и не доносит на нас «полиции мыслей». Он отслеживает наши коммуникации и учетные записи, защищая от мошенничества и попыток взлома. Он помогает нам оставаться в курсе событий, автоматически проверяя потребляемую нами информацию и предоставляя полезный справочный материал и контекст (по аналогии с функцией Community Notes в соцсети X, но применительно ко всему). Это надежный советник в вопросах здоровья и финансов, способный предостеречь от мошенничества и одновременно предложить более перспективные и выгодные варианты. В идеале он мог бы даже отслеживать окружающую обстановку и использовать такие данные, как сводки о преступности, для обеспечения нашей физической безопасности. Какие стартапы или команды лучше всего справляются с разработкой защитного ИИ? Особенно интересно узнать, есть ли у кого-то дельные мысли о том, как защититься от искусственно созданных вирусов, ведь технологии модификации свойств патогенов (gain-of-function) становятся все более доступными и опасными.

Цукерберг разошелся — за последнее время целая череда публикаций и интервью, явно направленных на трансформацию своего образа (и это автоматом отразится на образе его компаний и продуктов). Когда-то апостол метавселенной теперь предстает как апостол же — но уже демократичного персонального ИИ. Взгляд подчеркнуто оптимистичный на фоне соревнования в апокалипсичности прогнозов от лидеров ИИ-лаб. При этом на фоне призывов стреножить китайцев всеми доступными средствами он четко заявляет: это не сработает. Его идея — не корпоративной всемогущий ИИ, а индивидуальный — но тоже могущественный — ИИ, причем часто не зависящий от датацентров и работающий она локальном пользовательском железе. Временной горизонт, на котором мы обзаведемся мощными персональными ИИ-помощниками относительно близкий: 5 лет. На звонке с инвесторами Цукерберг отметил, что к этому времени появятся billions of people with a personal agent that understands your goals and that is just working on your behalf 24/7 to achieve your goals in whatever the domain is that you care about. Ну и, конечно, все это приведет к расцвету именно тех поверхностей, которые его запрещенная Meta контролирует, начинай с мессенджера. Выглядит как соревнование скорее с Гуглом, чем с OpenAI, но особых козырей в этой игре Цукерберг пока не предъявил. А сама картинка будущего — вполне привлекательная, конечно:) Три из множества ссылок за уходящую неделю: https://techcrunch.com/2026/07/29/mark-zuckerberg-predicts-that-billions-of-people-will-have-personal-ai-agents-in-five-years/ https://www.thestreet.com/technology/mark-zuckerberg-says-banning-chinese-ai-artificial-intelligence-wont-work https://www.inc.com/kit-eaton/in-just-3-words-mark-zuckerberg-explained-how-america-could-lose-the-ai-race/91381925