это уже как-то забылось, но почти 3 года назад, 17 ноября 2023-го, на корабле OpenAI произошёл великий бунт.
совет директоров неожиданно уволил Сэма Альтмана, сотрудники пригрозили уйти вслед за ним, инвесторы и Microsoft начали давить на совет, а через несколько дней Альтман вернулся. старый борд фактически перестал существовать, Илья и Мира вскоре основали собственные AI-компании, борд поменяли, добавили туда коммерсов и важных сотрудников OpenAI.
но больше всего вопросов тогда вызвали две фигуры в оригинальном борде:
Хелен Тонер и Таша Макколи, которые выглядели ноунеймами (ну, будем честны, в масштабах такой компании).
про Макколи я до кризиса почти ничего не знал. публичная биография у неё довольно куцая: замужем за Джозефом Гордоном-Левиттом, работает в оборонном think-tank RAND, приложила руку к созданию Singularity University, плюс какое-то время была директором британской организации Effective Ventures, связанной с эффективным альтруизмом. в общем, производит впечатление человека с хорошим вайбом, который знает, как крутиться среди нужных людей.
а Тонер я знал ещё до OpenAI. она была довольно известной фигурой в нишевой теме иностранцев, которые изучали китайский тех в доковидные времена. олды помнят, что поначалу этот канал создавался вокруг этой тематики.
Хелен родилась в Австралии, отучилась в Мельбурне на химика, а потом переехала в Штаты на магистратуру по Security Studies в Джорджтаунском университете (кузнице работников американского госа)
в Австралии она увлеклась эффективным альтруизмом и позднее она стала одним из лидеров Effective Altruism Melbourne и после магистратуры работала в организациях, которые больше всего забустили эффективный альтруизм в tech тусовке: GiveWell и Open Philanthropy.
эффективный альтруизм это такой философский дата-дривен подход к благотворительности, цель которого получить максимальный положительный эффект от каждого вложенного ресурса.
Open Philanthropy появилась в декабре 2015 года как некоммерческая организация с миссией сделать продвинутый AI полезным для всего человечества. основана
Холденом Карнофски (окончил Гарвард по social studies и работал в Bridgewater Associates у Рэя Далио) при поддержке супружеской пары
Дастина Московица (ранний сотрудник фб; основатель Asana) и
Кэри Туны (журналистка). они хотели более системный и cause-neutral подход к филантропии.
в марте 2017-го Open Phil рекомендовала
выделить OpenAI $30 млн общей поддержки:
по $10 млн ежегодно в течение трёх лет. частью гранта было место для Open Phil в совете на несколько лет, чтобы помочь с управлением в ранний критический период. для контекста - в 2017-го у OpenAI не было equity funding в обычном смысле: это была 501(c)(3), а capped-profit OpenAI LP появилась только в марте 2019 года. грант Open Phil
покрывал ~1/3 всех расходов на протяжении 3 следующих лет, до 2019 года.
в 2018 году Тонер провела около девяти месяцев в Пекине, изучая китайский язык и AI-экосистему на грант оксфордского Governance of AI. как оказалось на китайской повестке не этническому китайцу можно сделать и правда хорошую карьеру в американском госе.
потом, в январе 2019-го, Open Philanthropy
дала Джорджтауну $55 млн на запуск нового аналитического центра по технологиям и безопасности, CSET (Center for Security and Emerging Technology). позже добавили ещё $42 млн, о которых объявили в 2021-м. сегодня это исследовательская организация примерно на 50 человек внутри Джорджтауна. CSET держит собственную команду дата-сайентистов и специалистов по Китаю.
Тонер вернулась из Китая в 2019 году она пришла в CSET и довольно быстро стала одной из ключевых фигур центра, параллельно всё больше занимаясь безопасностью AI.
в OpenAI она попала по патронажу Холдена Карнофски, который изначально сам должен был войти в борд. но там возник конфликт интересов: он женат на Даниэле Амодеи, сестре Дарио. Дарио Амодеи в бытность сотрудником OpenAI был техническими советником Open Phil и снимали один тикток-хаус вместе с Карнофски и другими коллегами. сейчас Карнофски сам работает в Anthropic, где занимается responsible scaling policies
