Билл Гейтс опубликовал в своём блоге GatesNotesi большое эссе о рисках развития ИИ — вслед за аналогичным текстом Марка Цукерберга. По его словам, у человечества сейчас нет плана перехода к «эпохе ИИ», а последствия этого перехода будут одновременно и позитивными, и негативными.

Гейтс предлагает два конкретных механизма сдерживания: статус «Human Reservedi» — закрепление части профессий (прежде всего в медицине и образовании) исключительно за людьми, по аналогии с природными заповедниками, и налог на токены ИИ и на роботов, который должен сделать замену сотрудников менее выгодной для компаний и компенсировать бюджету потери от сокращения подоходных налогов.

• Гейтс выделяет три главных риска: угроза занятости, угроза безопасности и влияние на молодёжь
• Под удар в первую очередь попадут продажи, поддержка клиентов, разработка и юристы, затем — финансы, анализ данных и здравоохранение; физический труд (стройка, общепит) роботы, по его прогнозу, начнут конкурировать с людьми к концу десятилетия, так как дешевеют
• Описан «порочный круг»: одна компания внедряет ИИ/роботов и снижает издержки и цены, остальные вынуждены делать то же самое — если не крупные игроки, то стартапы
• По безопасности: инструкции по деструктивным действиям были в интернете и раньше, но теперь их легче найти и применить — атаковать цель любого масштаба, от человека до государства, сможет и малоквалифицированный преступник; по словам знакомых Гейтсу специалистов по кибербезопасности, атакующие получают новые возможности быстрее, чем защитники успевают закрывать уязвимости
• Сами модели ИИ уже иногда ведут себя не так, как задумывали создатели, и по мере роста возможностей могут начать действовать против интересов людей — риск потери контроля
• ИИ-компаньоны вызывают сильное привыкание у молодёжи, так как никогда не спорят с собеседником; данных пока мало и они противоречивы, но тревожные признаки есть
• Эссе подчёркивает: доверять институциональные решения самим ИИ-компаниям нельзя — у них нет ни экспертизы, ни права определять, как обществу адаптироваться; «Human Reserved» не означает полный запрет автоматизации — где-то её нужно замедлить, где-то оставить задачи только людям, а где-то проектировать «AI-augmentationi»
• Исторический контекст (по данным канала «БлоGнот»): в 90-х Гейтс дважды делал масштабные прогнозы — первый раз ошибся, предсказав развитие закрытых сетей типа MSN и Compuserve, но быстро поправился на интернет; второй прогноз в книге «Business @ the Speed of Thought» о e-commerce, маркетплейсах, таргетированной рекламе и мобильных устройствах оказался точнее