Тонер продолжала работать в CSET параллельно с OpenAI.то есть спустя всего 6 лет после переезда в Штаты на магистратуру её назначили в борд OpenAI (а ты считай дальше, что у гуманитариев карьерой так себе).
на китайском направлении CSET занимается в основном тем, что собирает, структурирует и объясняет Вашингтону разрозненные OSINT-данные:
закупки PLA, китайские государственные документы,
цепочки поставок полупроводников, программы привлечения талантов, патенты, научные публикации. они довольно много
публикуют в открытом доступе, но думаю все мясо уходит в Вашингтон.
Хелен регулярно
зовут выступать на разных заседаниях Конгресса по AI и регулированию. при этом позиция самой Тонер сложнее примитивно-ястребиной, в духе «они сейчас взорвут наши дата-центры».
она
поддерживает контроль оборудования для производства полупроводников, потому что видит там реальные узкие места. к ограничениям на сами чипы относится осторожнее: контроль и лицензирование сложнее, ограничения могут усилить Huawei и SMIC, ударить по американским компаниям и ускорить технологическую самостоятельность Китая.
вообще
считает метафору «AI-гонки» вводящей в заблуждение: технология не создала американо-китайское соперничество, а просто стала одним из его выражений. отсюда же её скепсис по поводу красивого соглашения США и Китая по безопасности AI. прежде чем заключать большую сделку, сторонам неплохо бы хотя бы договориться, какую именно проблему они пытаются решить.
у Тонер вообще довольно приятный публичный стиль. в
длинных интервью она не выглядит человеком, который на каждый вопрос задвигает про экзистенциальный риск. признаёт минусы собственного лагеря, шутит и спокойно говорит, где данных недостаточно. поэтому её
Substack полезно и интересно читать (как минимум мне) хотя бы для того, чтобы учиться формулировать мысли;
из интересных тейков - она
предлагает всерьёз относиться к jaggedness, то есть неровности возможностей AI. сегодняшние модели могут делать что-то на уровне сильного специалиста и тут же проваливаться на задаче, которую человек считает элементарной. большинство дискуссий предполагает, что это временная стадия: либо AI скоро упрётся в потолок, либо станет универсально сверхчеловеческим.
Тонер предлагает третий вариант: прогресс продолжится быстро, но останется структурно неровным.
тогда сложные профессии не исчезнут одним куском. вместо этого возникнут комбинации человека и AI, где машина делает мощные, но ограниченные фрагменты работы, а человек держит контекст, ответственность и переходы между задачами.
для государства это важно потому, что такой неровный прогресс оставляет время на адаптацию. если AI не превращается мгновенно в универсального автономного исследователя, у государства остаётся время экспериментировать, исправлять правила и строить институты.
некоторые топят, что именно Хэлен стала инциатором свержения. сложно в это поверить, но говорят, что эрозия отношений Тонер с Сэмом
началась как раз с публикации исследования CSET по безопасности. в нём Anthropic оценивался выше OpenAI по подходу к безопасности и это взбесило Альтмана.
в общем друзья, вывод такой - мальчики создают стартапы; мужчины делают think tank для гос аппарата.
