Инфраструктура инференса GLM
L@lovedeathtransformersAI-инженер
1 месКраткий обзор подхода GLM к построению инфраструктуры для инференса моделей и критические замечания о состоянии индустрии.
Разработчики ИИ-моделей вынуждены создавать собственные вычислительные мощности для работы своих систем.
- Компании-разработчики моделей переходят к вертикальной интеграции инфраструктуры.
- Существует скепсис относительно реальной эффективности текущих методов оценки безопасности ИИ-систем.
https://z.ai/blog/glm-built-its-inference-infrastructure
two fun facts:
- every model lab doing it
- there is no safety lab who actualy care about RSI evaluation
Кратко (AI)
Автор отмечает, что все лаборатории ИИ сейчас активно занимаются построением собственной инфраструктуры для инференса. Также высказывается мнение, что ни одна лаборатория безопасности на самом деле не занимается оценкой RSI (Risky System Indicators).
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖