Демис Хассабис предложил создать орган для сертификации ИИ-моделей

Демис Хассабис призвал срочно создать специальный орган для "одобрения" моделей Нобелевский лауреат выкатил небольшое эссе и заявил, что абсолютно все модели, вне зависимости от страны и открытости кода, должны начать проходить процедуру тестирования перед выходом на рынок США. Хассабис считает, что AGI – «дело нескольких лет», и сравнивает это не с Интернетом или мобильной связью, а с открытием огня или электричества. Цитата:

«Мы, по сути, нашли способ заставить песок думать. Это чудо»

Тем не менее, развитие обгоняет понимание технологии, и "никто в мире не знает наверняка, что будет дальше, даже эксперты расходятся во мнениях". Кибер-риски, на горизонте – био и ядерные угрозы, и все прочее. Собственно, Демис предлагает новую структуру под названием Standards Body по модели FINRA (саморегулируемый орган финансовой индустрии в США). То есть независимый, финансируемый индустрией орган, подотчетный правительству США. Лаборатории должны добровольно (😏) передавать модели на тестирование за месяц до релиза, и Standards Body будет тестировать их на угрозы всех сортов. Только после этого модель сможет получить статус «Frontier-class», а организация, ее разработавшая – «Frontier Lab». Полный текст манифеста здесь Мнения?