Глава Anthropic Дарио Амодей официально заявил, что компания не выступает за полный запрет ИИ-моделей с открытыми весами, назвав их «общественным благом» при отсутствии в них опасных возможностей. Заявление последовало на фоне дискуссий о возможном ограничении доступа к китайским открытым моделям в США.

Вместо запрета Anthropic предлагает внедрить систему контроля, включающую экспортные ограничения на чипы, борьбу с промышленной дистилляцией и обязательное тестирование безопасности для всех мощных моделей перед их выпуском.

• Дарио Амодей подчеркнул, что основная угроза заключается в использовании мощных моделей авторитарными режимами для военных целей или репрессий.
• Anthropic предлагает освободить от обязательных проверок безопасности менее мощные модели, создаваемые стартапами и академическими институтами.
• Компания выделяет биологическую угрозу как критическую: мощные модели могут ускорить создание пандемических вирусов, в то время как разработка защиты от них занимает годы.
• Позиция Anthropic отличается от других технологических гигантов, таких как OpenAI, которые ранее подписали открытое письмо в защиту открытых моделей.
• Критики отмечают, что Anthropic не дает четкого определения порога «достаточно мощных» моделей, подлежащих обязательному тестированию.