Дискуссия о замедлении прогресса ИИ и концепции Молоха
e@cryptoEssayAI-инженер
1 месРазмышление о письме сотрудников ИИ-компаний с призывом к замедлению разработок и философский взгляд на неизбежность гонки вооружений в эпоху пост-AGI.
Вопрос о безопасности ИИ переходит из технической плоскости в философскую и социальную.
- Растущее беспокойство внутри индустрии относительно темпов развития ИИ.
- Конфликт между стремлением к безопасности и рыночной конкуренцией.
- Понимание того, что системные стимулы (Молох) могут препятствовать добровольному замедлению прогресса.
Больше тысячи сотрудников смотрят на это и такие «ну, пипец, надо тормозить», аж целое письмо подписали.
Является ли это (замедление и координаци ИИ прогресса) необходимым для мягкого приземления человечества в пост-AGI эпоху?
Случится ли это? Нет, ибо Молох.
Кратко (AI)
Автор обсуждает инициативу сотрудников ИИ-индустрии, призывающих к замедлению темпов разработки технологий. В посте ставится вопрос о необходимости такого контроля для безопасного перехода к пост-AGI эпохе, однако автор скептически оценивает шансы на успех, ссылаясь на концепцию Молоха как движущую силу бесконечной конкуренции.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖