Яндекс предложил бенчмарк для проверки ИИ на «традиционные ценности»
P@prohitecавтор про «tech»
1 недЯндекс представил концепцию национального датасета для тестирования нейросетей на соответствие духовно-нравственным ориентирам.
Это может стать новым стандартом регулирования ИИ в России, влияющим на все публичные сервисы.
- Разработчики ИИ могут столкнуться с обязательной сертификацией моделей на соответствие государственным стандартам.
- Дискуссия о закрытости тестов определяет баланс между безопасностью и скоростью инноваций в IT-секторе.
- Внедрение бенчмарка затронет поисковики, образовательные платформы и умные устройства.
В «Яндексе» создали бенчмарк для проверки нейросетей на соответствие традиционным ценностям
«Яндекс» представил правительственной рабочей группе концепцию национального датасета для тестирования языковых моделей на соответствие духовно-нравственным ориентирам. Разработчики предлагают сформировать стандартизированный набор тестовых заданий и эталонных ответов, который позволит объективно сравнивать разные ИИ-системы перед их внедрением в поисковики, образовательные сервисы и умные устройства.
Вокруг формата тестирования уже разгорелась дискуссия между ведомствами и бизнесом. Представители ФСБ настаивают на полностью закрытом формате тестов, чтобы разработчики не могли заранее «натренировать» нейросети на правильные ответы. В IT-отрасли опасаются, что закрытые экзамены замедлят разработку и превратят проверки в лотерею, поэтому предлагают компромисс — сделать часть тестовых вопросов публичной для предварительной настройки моделей.
Кратко (AI)
Яндекс разработал концепцию национального бенчмарка для оценки языковых моделей на соответствие российским духовно-нравственным ценностям. Между представителями бизнеса и ФСБ возник спор о формате тестирования: ведомство настаивает на закрытых тестах, в то время как IT-отрасль опасается замедления разработки и предлагает сделать часть вопросов публичной.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖