← к ленте

Расследование связей Anthropic с организациями по безопасности ИИ

D@data_secretsAI-инженер
1 мес

Исследователь Кевин Басс обнаружил финансовые связи между Anthropic, донором Дастином Московицем и организациями, продвигающими повестку безопасности ИИ.

Это ставит под вопрос объективность дискуссий о безопасности ИИ и независимость оценок моделей.

  • Финансовые связи могут влиять на то, как освещаются риски ИИ в крупных СМИ.
  • Независимость организаций, проводящих аудит безопасности моделей, может быть скомпрометирована.
  • Крупные игроки рынка могут использовать повестку безопасности для влияния на конкурентную среду.
Помните, мы писали про то, что компании платят авторам контента за рассказы об опасностях ИИ? Так вот, тут один независимый исследователь Кевин Басс провел расследование, в ходе которого вскрылась интересная финансовая связь между заказчиками подобного контента и... кем бы вы думали? Anthropic ☕️ Среди частых заказчиков таких "устрашений" были Center for AI Safety и Future of Life Institute. У них есть крупный личный донор – Open Philanthropy (сейчас больше известный под названием Coefficient Giving). Так вот этот Coefficient Giving принадлежит Дастину Московицу – одному из ранних и крупнейших акционеров Anthropic. При этом деньги на грантмейкинг Open Philanthropy идут из фонда Good Ventures, который наполняется в основном личным состоянием Московица. Басс утверждает, что значительную долю активов фонда составляет именно пакет акций Anthropic. Помимо Center for AI Safety и Future of Life Institute, Open Philanthropy вкладываются в Tarbell Center for AI Journalism. Эта программа готовит журналистов, которые пишут про ИИ. Их выпускники пишут для таких крупных изданий, как The Verge, Science, LA Times, TIME и тд. Ну и до кучи: Open Philanthropy через цепочку других фондов финансирует METR – организацию, которую сам Амодеи называл абсолютно независимым сторонним оценщиком безопасности моделей. Теперь же выходит, что METR, фактически, финансово заинтересован в успехе Anthropic. Парад теорий заговоров в комментариях объявляем открытым
Расследование связей Anthropic с организациями по безопасности ИИ

Кратко (AI)

Исследователь Кевин Басс опубликовал расследование, указывающее на финансовую взаимосвязь между компанией Anthropic и рядом организаций, занимающихся вопросами безопасности ИИ и подготовкой журналистов. Согласно данным Басса, через цепочку фондов, включая Open Philanthropy и Coefficient Giving, акционер Anthropic Дастин Московиц косвенно финансирует структуры, которые формируют общественное мнение об опасностях ИИ и проводят независимую оценку моделей.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖