Размышления о рисках сверхразумного ИИ и темпах технологического прогресса
e@cryptoEssayAI-инженер
1 месАвтор анализирует парадокс неизбежности сверхразумного ИИ при отсутствии методов контроля и отмечает разрыв между скоростью прогресса и его пониманием.
Дискуссия о безопасности ИИ становится критически важной для будущего общества.
- Разработчики ведущих ИИ-лабораторий признают, что темпы прогресса опережают возможности контроля.
- Существует фундаментальный риск несовпадения целей сверхразумного ИИ с интересами человечества.
- Общество и медиа пока не осознают масштаб технологических сдвигов, происходящих в реальном времени.
Выводы из этого:
1. Парадокс очень простой:
- сверхчеловеческий ИИ скорее всего будет не aligned и приведет к некоторого масштаба пиздецу
- будущее человечества неизбежно связано со сверхчеловеческим ИИ
2. Люди в лабах не имеют решения. Сегодня я видел как минимум 10 постов от людей из OpenAI, Anthropic, DeepMind на тему того, что прогресс происходит значительно быстрее способности его понимать и сегодня это фактически неуправляемый поезд, который едет под откос.
(Люди в чатике конечно же имеют триллион решений - если бы только ноунеймуса поставили вместо Дарио и Трампа, то он конечно минут за 15 все порешал бы и все войны прекратил и все болезни вылечил. В чатике это он для души, а на деле верховный адмирал-епископ всея вселенной)
3. Большая часть мира вообще не вдупляет что происходит. Вчера примерно половина медиа, которые я смотрел, даже не написали о Навье-Стокс, хотя ретроспективно это наверняка будет самым или как минимум топ-3 главных событий 2026 года.
Кратко (AI)
Автор рассуждает о фундаментальном противоречии: человечество неизбежно придет к созданию сверхразумного ИИ, который, вероятно, будет неконтролируемым. Отмечается, что специалисты в ведущих лабораториях признают отсутствие решений для управления этим процессом, а широкая общественность недооценивает масштаб происходящих изменений.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖