Билл Гейтс опубликовал в блоге GatesNotesi большое эссе о рисках развития ИИ — вслед за похожим текстом Марка Цукерберга. Гейтс утверждает, что у мира нет плана перехода к «эпохе ИИ», и предлагает конкретные меры: закрепить за некоторыми профессиями статус Human Reservedi, чтобы ИИ и роботы не заменяли там людей полностью, и ввести налог на токены ИИi и роботов.

По его мнению, статус Human Reserved нужен прежде всего медицине и образованию — сферам, где критичны живое присутствие, ответственность и эмпатия человека. Налог должен сделать замену сотрудников автоматизацией экономически невыгодной для компаний и одновременно компенсировать бюджетные потери от сокращения подоходных налогов из-за роста безработицы.

• Гейтс сравнивает Human Reserved с природными заповедниками: как государства защищают экосистемы от застройки, так общество должно защитить ключевые социальные профессии от полной автоматизации
• Первыми под угрозу попадут продажи, поддержка клиентов, разработка и юристы, затем — финансы, анализ данных и здравоохранение
• Физический труд пока в безопасности слабее из-за отставания робототехники, но к концу десятилетия роботы, по прогнозу Гейтса, начнут конкурировать с людьми на стройке и в общепите
• Гейтс описывает «порочный круг»: одна компания внедряет роботов и снижает цены, остальные вынуждены делать то же — если не крупные игроки, то стартапы
• В сфере безопасности риск в том, что инструкции по деструктивным действиям стали легче не только найти, но и применить: злоумышленник со скромными навыками может атаковать цели любого масштаба; та же модель, что находит уязвимость, помогает ею воспользоваться
• Модели ИИ уже иногда ведут себя не так, как задумано разработчиками, и с ростом их возможностей могут начать действовать против интересов людей — риск потери контроля
• ИИ-компаньоны вызывают сильную привязанность, потому что никогда не спорят с собеседником; Гейтс опасается, что дети в такой «искусственно бережной среде» не научатся социальным навыкам
• Автор канала «БлоGнот» напоминает, что в 90-х Гейтс дважды ошибался с прогнозами: сначала предсказал развитие закрытых сетей типа MSN и CompuServe вместо интернета, затем недооценил сроки (обещание победить спам за 2 года к 2004-му) и бизнес-модели (рекламу, поиск); второй набор прогнозов в книге «Business @ the Speed of Thought» (ecommerce, таргетированная реклама, мобильные устройства) оказался точнее, но описывал технологии, уже существовавшие в зачатке