Anthropic могло бы и не быть: как Дарио Амодеи и ко придумали свою компанию
Колумнист New York Times Кевин Рус на днях должен выпустить свою книгу под названием The AGI Chronicles. Она про искусственный интеллект и компании, его создающие. А в The Atlantic вышла глава про то, как основатели Anthropic уходили из OpenAI.
Почитать главу полностью
можно вот здесь. А я кратко расскажу основные моменты.
Дарио Амодеи был тем самым нудным чуваком, который всегда говорил про безопасность AI и про этичность разных решений. И у него отдел был такой же. Разработают что-то в OpenAI, а они нудят про безопасность.
И Амодеи постоянно спорил с Альтманом. Например, Рус описывает, что когда Илон Маск перестал финансировать OpenAI, то Альтман подумывал продать компанию властям США, Китая или России. Мол, все равно же государство себе все заберет — надо им продаться на ранней стадии. И вот Амодеи был в шоке от такой перспективы. Потом в OpenAI вложилась Microsoft, и прежняя идея отпала сама собой.
Но споров было много. Например, про доступ Канье Уэста к закрытой версии новой модели. Еще Амодеи, как пишет Рус, несколько раз ловил Альтмана на вранье. В общем, по отдельности моменты терпимы, но в целом накапливалось.
«Больше всего его изматывали междоусобные распри, превратившие всё это место в змеиное гнездо и вынуждавшие его отстаивать идеи, которые, казалось бы, должны были быть очевидными», — пишет Кевин Рус.
Амодеи несколько раз хотел уйти, но сдерживался. Мол, а кто еще будет радеть в OpenAI за безопасность и этичность. Но в 2019-м году Амодеи решил все же уходить. Он написал некоторым коллегам письмо, что больше не верит в успех OpenAI. Но про свою компанию он тогда даже не думал — он хотел пойти в DeepMind.
А вот идею с компанией ему подкинул Джаред Каплан — физик, который занимался исследованиями в OpenAI. Мол, зачем уходить куда-то, если можно запустить свое. Амодеи сначала скептически к этому отнесся, а потом вдохновился.
Вокруг него тогда уже сформиловалась группа. Например, его сестра Даниэла Амодеи, которая была в контрах с Грегом Брокманом и Мирой Мурати. Ее муж Холденом Карнофски и другие. В общем, уходить было с кем.
Но Амодеи тянул до последнего. Он пошел к Альтману, рассказал свой план с новой компанией и выдвинул условия. Если условия выполнят, то он останется. Они были про безопасность, этичность и так далее. Условия не выполнили.
Объявление об исходе выглядело так:
«В декабре 2020 года сотрудники OpenAI получили приглашение на общее виртуальное собрание. Альтман начал встречу так, словно это был обычный еженедельный брифинг. Он рассказал о ходе исследований в OpenAI и объявил о нескольких новых назначениях. После этого он предоставил слово Амодеи, который сообщил, что он и еще шестеро руководителей OpenAI увольняются, чтобы основать собственную организацию, занимающуюся искусственным интеллектом с упором на безопасность.
Чат собрания заполнился эмодзи, восклицательными знаками и сообщениями, выражавшими шок, пока Амодей старался преподнести эту новость в позитивном ключе. Он заявил, что OpenAI продолжит выполнять свою миссию по созданию сильного искусственного интеллекта (AGI) на благо человечества, и привел лишь самые общие сведения о причинах ухода семерых сотрудников. В чате появилось последнее сообщение от Джека Кларка: «Я вас всех люблю». А затем экраны внезапно погасли. В OpenAI отключили их от конференции, аннулировали доступ к электронной почте и Slack, а также удаленно заблокировали их ноутбуки»
Они договорились с Альтманом, что у Амодеи будет пару недель, чтобы переманить сотрудников. А после этого в течение года компании обязуются не сманивать друг у друга людей.
Вот так родилась Anthropic. Амодеи планировал, что это будет небольшая компания со штатом в 50 человек. А сейчас там работают тысячи людей, а компания хочет выйти на IPO с оценкой $2 трлн.
P.S. Как они находят время книги писать?
@TheEdinorogBlog — тот самый канал про стартапы🦄
