OpenAI столкнулась с проблемой интерпретации кода, созданного её ИИ
I@itcnewsruавтор про «tech»
1 месИнженеры OpenAI не могут объяснить работу низкоуровневого кода для GPU, который генерирует и оптимизирует их собственный ИИ.
ИИ начинает создавать технологии, которые люди уже не могут полностью контролировать на уровне исходного кода.
- Разработчики переходят от написания кода к управлению архитектурой систем.
- ИИ способен самостоятельно оптимизировать сложные вычислительные процессы.
- Возникает проблема «черного ящика» в критически важных программных компонентах.
OpenAI уже не всегда понимает код, который пишет её собственный ИИ
Инженеры OpenAI показали аналитикам SemiAnalysis низкоуровневый код для GPU, сгенерированный нейросетью. На вопрос, что происходит в нём построчно, разработчики признались, что не могут это объяснить.
При этом код работает: ИИ сам его генерирует, тестирует и оптимизирует, получая быстрые вычислительные ядра.
Исследователи считают, что инженерам всё чаще достаточно понимать архитектуру системы и особенности железа, не разбираясь в каждой строке сгенерированного кода.
Кратко (AI)
Инженеры OpenAI продемонстрировали аналитикам SemiAnalysis низкоуровневый код для GPU, написанный нейросетью, который они не могут полностью интерпретировать. Несмотря на это, ИИ успешно генерирует, тестирует и оптимизирует работающие вычислительные ядра. Эксперты отмечают сдвиг в сторону управления архитектурой систем вместо детального анализа каждой строки кода.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖