Тонер продолжала работать в CSET параллельно с OpenAI.то есть спустя всего 6 лет после переезда в Штаты на магистратуру её назначили в борд OpenAI (а ты считай дальше, что у гуманитариев карьерой так себе). на китайском направлении CSET занимается в основном тем, что собирает, структурирует и объясняет Вашингтону разрозненные OSINT-данные: закупки PLA, китайские государственные документы, цепочки поставок полупроводников, программы привлечения талантов, патенты, научные публикации. они довольно много публикуют в открытом доступе, но думаю все мясо уходит в Вашингтон. Хелен регулярно зовут выступать на разных заседаниях Конгресса по AI и регулированию. при этом позиция самой Тонер сложнее примитивно-ястребиной, в духе «они сейчас взорвут наши дата-центры». она поддерживает контроль оборудования для производства полупроводников, потому что видит там реальные узкие места. к ограничениям на сами чипы относится осторожнее: контроль и лицензирование сложнее, ограничения могут усилить Huawei и SMIC, ударить по американским компаниям и ускорить технологическую самостоятельность Китая. вообще считает метафору «AI-гонки» вводящей в заблуждение: технология не создала американо-китайское соперничество, а просто стала одним из его выражений. отсюда же её скепсис по поводу красивого соглашения США и Китая по безопасности AI. прежде чем заключать большую сделку, сторонам неплохо бы хотя бы договориться, какую именно проблему они пытаются решить. у Тонер вообще довольно приятный публичный стиль. в длинных интервью она не выглядит человеком, который на каждый вопрос задвигает про экзистенциальный риск. признаёт минусы собственного лагеря, шутит и спокойно говорит, где данных недостаточно. поэтому её Substack полезно и интересно читать (как минимум мне) хотя бы для того, чтобы учиться формулировать мысли; из интересных тейков - она предлагает всерьёз относиться к jaggedness, то есть неровности возможностей AI. сегодняшние модели могут делать что-то на уровне сильного специалиста и тут же проваливаться на задаче, которую человек считает элементарной. большинство дискуссий предполагает, что это временная стадия: либо AI скоро упрётся в потолок, либо станет универсально сверхчеловеческим. Тонер предлагает третий вариант: прогресс продолжится быстро, но останется структурно неровным. тогда сложные профессии не исчезнут одним куском. вместо этого возникнут комбинации человека и AI, где машина делает мощные, но ограниченные фрагменты работы, а человек держит контекст, ответственность и переходы между задачами. для государства это важно потому, что такой неровный прогресс оставляет время на адаптацию. если AI не превращается мгновенно в универсального автономного исследователя, у государства остаётся время экспериментировать, исправлять правила и строить институты. некоторые топят, что именно Хэлен стала инциатором свержения. сложно в это поверить, но говорят, что эрозия отношений Тонер с Сэмом началась как раз с публикации исследования CSET по безопасности. в нём Anthropic оценивался выше OpenAI по подходу к безопасности и это взбесило Альтмана. в общем друзья, вывод такой - мальчики создают стартапы; мужчины делают think tank для гос аппарата.

это уже как-то забылось, но почти 3 года назад, 17 ноября 2023-го, на корабле OpenAI произошёл великий бунт. совет директоров неожиданно уволил Сэма Альтмана, сотрудники пригрозили уйти вслед за ним, инвесторы и Microsoft начали давить на совет, а через несколько дней Альтман вернулся. старый борд фактически перестал существовать, Илья и Мира вскоре основали собственные AI-компании, борд поменяли, добавили туда коммерсов и важных сотрудников OpenAI. но больше всего вопросов тогда вызвали две фигуры в оригинальном борде: Хелен Тонер и Таша Макколи, которые выглядели ноунеймами (ну, будем честны, в масштабах такой компании). про Макколи я до кризиса почти ничего не знал. публичная биография у неё довольно куцая: замужем за Джозефом Гордоном-Левиттом, работает в оборонном think-tank RAND, приложила руку к созданию Singularity University, плюс какое-то время была директором британской организации Effective Ventures, связанной с эффективным альтруизмом. в общем, производит впечатление человека с хорошим вайбом, который знает, как крутиться среди нужных людей. а Тонер я знал ещё до OpenAI. она была довольно известной фигурой в нишевой теме иностранцев, которые изучали китайский тех в доковидные времена. олды помнят, что поначалу этот канал создавался вокруг этой тематики. Хелен родилась в Австралии, отучилась в Мельбурне на химика, а потом переехала в Штаты на магистратуру по Security Studies в Джорджтаунском университете (кузнице работников американского госа) в Австралии она увлеклась эффективным альтруизмом и позднее она стала одним из лидеров Effective Altruism Melbourne и после магистратуры работала в организациях, которые больше всего забустили эффективный альтруизм в tech тусовке: GiveWell и Open Philanthropy. эффективный альтруизм это такой философский дата-дривен подход к благотворительности, цель которого получить максимальный положительный эффект от каждого вложенного ресурса. Open Philanthropy появилась в декабре 2015 года как некоммерческая организация с миссией сделать продвинутый AI полезным для всего человечества. основана Холденом Карнофски (окончил Гарвард по social studies и работал в Bridgewater Associates у Рэя Далио) при поддержке супружеской пары Дастина Московица (ранний сотрудник фб; основатель Asana) и Кэри Туны (журналистка). они хотели более системный и cause-neutral подход к филантропии. в марте 2017-го Open Phil рекомендовала выделить OpenAI $30 млн общей поддержки: по $10 млн ежегодно в течение трёх лет. частью гранта было место для Open Phil в совете на несколько лет, чтобы помочь с управлением в ранний критический период. для контекста - в 2017-го у OpenAI не было equity funding в обычном смысле: это была 501(c)(3), а capped-profit OpenAI LP появилась только в марте 2019 года. грант Open Phil покрывал ~1/3 всех расходов на протяжении 3 следующих лет, до 2019 года. в 2018 году Тонер провела около девяти месяцев в Пекине, изучая китайский язык и AI-экосистему на грант оксфордского Governance of AI. как оказалось на китайской повестке не этническому китайцу можно сделать и правда хорошую карьеру в американском госе. потом, в январе 2019-го, Open Philanthropy дала Джорджтауну $55 млн на запуск нового аналитического центра по технологиям и безопасности, CSET (Center for Security and Emerging Technology). позже добавили ещё $42 млн, о которых объявили в 2021-м. сегодня это исследовательская организация примерно на 50 человек внутри Джорджтауна. CSET держит собственную команду дата-сайентистов и специалистов по Китаю. Тонер вернулась из Китая в 2019 году она пришла в CSET и довольно быстро стала одной из ключевых фигур центра, параллельно всё больше занимаясь безопасностью AI. в OpenAI она попала по патронажу Холдена Карнофски, который изначально сам должен был войти в борд. но там возник конфликт интересов: он женат на Даниэле Амодеи, сестре Дарио. Дарио Амодеи в бытность сотрудником OpenAI был техническими советником Open Phil и снимали один тикток-хаус вместе с Карнофски и другими коллегами. сейчас Карнофски сам работает в Anthropic, где занимается responsible scaling policies