Дарио Амодеи призывает замедлить развитие ИИ
F@FuturisAI-инженер
1 месГлава Anthropic Дарио Амодеи предупреждает о рисках неконтролируемого развития ИИ и предлагает меры по обеспечению безопасности и международного контроля.
Один из лидеров индустрии ИИ официально признал угрозу неконтролируемого развития технологий.
- Anthropic планирует допустить независимых экспертов к внутренним системам для контроля безопасности.
- Существует риск появления систем, способных проводить масштабные кибератаки в ближайший год.
- Предлагается создание международного механизма регулирования, включающего Китай.
Кажется реально началось
Дарио Амодеи призвал притормозить гонку ИИ. В новом эссе глава Anthropic пишет, что рекурсивное самоулучшение уже достигнуто: ИИ помогает создавать следующий ИИ, а безопасность рискует не поспеть. Он опасается, что через 6–12 месяцев более мощные системы смогут проводить атаки масштаба всего интернета.
Anthropic обещает пустить независимых проверяющих внутрь компании: дать постоянный доступ к системам на уровне сотрудников и право публиковать неудобные выводы. Дальше Амодеи предлагает согласовать ограничения между ведущими лабораториями, а затем между странами, включая Китай.
Остановку обучения Anthropic не объявила💰, но её руководитель теперь прямо выступает за ограничение темпа развития самых мощных моделей
Кратко (AI)
Глава Anthropic Дарио Амодеи опубликовал эссе, в котором выразил обеспокоенность темпами развития ИИ и рисками, связанными с рекурсивным самоулучшением моделей. Он предложил допустить независимых аудиторов к разработкам компании и призвал к международному соглашению по ограничению темпов создания мощных систем.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖