Разработчики OpenAI не могут объяснить низкоуровневый код, созданный их ИИ

C@campcodeAI-инженер

1 мес

Инженеры OpenAI признались, что не могут построчно объяснить низкоуровневый код для GPU, сгенерированный их ИИ, несмотря на его работоспособность.

ИИ начинает писать код, который люди уже не могут полностью контролировать или понимать.

Разработчики переходят от написания кода к управлению системами, которые создают его самостоятельно.
Эффективность ИИ-генерации кода для железа может опережать способность человека к его аудиту.
Это ставит новые вопросы о безопасности и предсказуемости сложных программных систем.

Разработчики OpenAI не разбираются в коде, созданном их же ИИ 🥲 Инженеры показали аналитикам из SemiAnalysis низкоуровневый сгенерированный код для GPU. Как вы уже поняли, разрабы признались, что не могут объяснить построчно, что именно там происходит. Самое безумное то, что это вообще никого не волнует, потому что код работает. ИИ сам его генерирует, тестирует и получает рабочие быстрые ядра. Людям типа достаточно понимать железо и общую архитектуру системы — об этом рассказали в интервью исследователи. Страшно, очень страшно. Мы теряем последний контроль над происходящим 😬

Кратко (AI)

Инженеры OpenAI в интервью SemiAnalysis признались, что не могут построчно объяснить низкоуровневый код для GPU, который генерирует их ИИ. При этом система успешно создает, тестирует и оптимизирует рабочие ядра, что позволяет разработчикам полагаться на результат, не вникая в детали реализации.

Разработчики OpenAI не могут объяснить низкоуровневый код, созданный их ИИ

Кратко (AI)

Обсуждение