Сотрудники ИИ-лабораторий подписали петицию о замедлении темпов разработки ИИ
D@data_secretsAI-инженер
4 недБолее 1100 сотрудников ведущих ИИ-компаний подписали петицию Pacing the Frontier, призывающую к созданию механизмов контроля и замедления прогресса ИИ.
Ведущие эксперты отрасли признают риск потери контроля над развитием ИИ.
- Специалисты призывают к созданию «стоп-кранов» для ИИ-систем на государственном уровне.
- Инициатива подчеркивает опасения по поводу неконтролируемого самоулучшения моделей.
- Подписи ключевых сотрудников OpenAI, Anthropic и Google указывают на серьезность дискуссии внутри индустрии.
Сотрудники ведущих ИИ-лаб массово подписывают новую петицию о создании инструментов замедления ИИ
https://www.pacingthefrontier.com/
«Pacing the Frontier» требует от правительства разработать международно скоординированные технические и политические механизмы, которые позволили бы всему полю ИИ-разработки сознательно замедлить темпы, если это потребуется.
Письмо предупреждает, что ИИ очень скоро может дойти до точки, когда начнет самоулучшаться, и тогда прогресс может ускориться настолько, что общество и регуляторы не успеют вовремя отреагировать. Поэтому заниматься разработкой стоп-кранов надо уже сейчас, на всякий случай 😅
На данный момент письмо подписали уже более 1100 сотрудников фронтиров, включая Дарио Амодеи и сооснователей Anthropic Джареда Каплана и Джека Кларка, главного научного сотрудника OpenAI Джакуба Пахоцки, главного научного сотрудника Meta* Шэньцзя Чжао и главу направления AI safety в Google Анку Драгана, а еще Яна Лейке, Марка Чена, Джона Шульмана и других.
Кратко (AI)
Более 1100 сотрудников ведущих ИИ-компаний подписали петицию Pacing the Frontier, призывающую правительства разработать механизмы для замедления темпов развития ИИ. Авторы опасаются, что неконтролируемое самоулучшение систем может произойти быстрее, чем общество успеет адаптироваться.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖