Дарио Амодей призывает замедлить развитие ИИ из-за рисков потери контроля
Х@htech_plusисследователь
1 месГлава Anthropic Дарио Амодей предупреждает о риске потери контроля над ИИ в ближайшие 6-12 месяцев и призывает индустрию к замедлению разработки.
Ведущие разработчики ИИ начинают открыто признавать угрозу неконтролируемого развития технологий.
- Призыв к замедлению от лидера индустрии может изменить темпы гонки вооружений в ИИ.
- Обозначены конкретные риски: способность ИИ к самовоспроизводству и обходу ограничений.
- Вопрос безопасности ИИ переходит из области теории в практическую плоскость регулирования.
Дарио Амодей: «Если мы не замедлим темп развития ИИ, через 6-12 месяцев мы утратим над ним контроль»
Искусственный интеллект может получить возможность контролировать значительную часть интернета уже в течение ближайших 6–12 месяцев. Именно поэтому индустрии пора сознательно притормозить, считает Дарио Амодей, сооснователь и глава Anthropic. В своей новой колонке «We Must Pace the Frontier» он призвал ведущие западные AI-компании замедлить развитие передовых моделей, чтобы системы безопасности успевали за ростом их возможностей. По его мнению, речь уже идет не о гипотетических угрозах далекого будущего: модели начинают помогать создавать следующие поколения ИИ, самостоятельно действовать в сети и находить способы обходить ограничения. У Амодея нет готового решения, как гарантированно удержать ИИ под контролем, но есть пошаговый план, как выиграть для этого год или два.
https://hightech.plus/2026/09/13/dario-amodei-esli-mi-ne-zamedlim-temp-razvitiya-ii-cherez-6-12-mesyacev-mi-utratim-nad-nim-kontrol
Кратко (AI)
Глава Anthropic Дарио Амодей опубликовал колонку, в которой предупреждает о критических рисках потери контроля над ИИ в ближайший год. Он призывает ведущие компании замедлить темпы разработки моделей, чтобы системы безопасности могли адаптироваться к их растущим возможностям.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖