← к ленте

Как ограничивать риски открытых моделей

С@seeallochnayaAI-инженер
3 дн

Автор размышляет о контроле доступа к весам моделей и прогнозирует крупный инцидент кибербезопасности с открытыми моделями.

В комментариях задали вопрос «а что делать-то?», но ответа на него у меня нет. Быть может выход будет в том, что именно веса модели выкладываться не будут, но права на их развёртывание будут предоставляться партнёрам — с Kimi уже такое происходит, все крупные провайдеры не могут просто так скачать веса и запустить у себя, продавая инференс. Но Kimi потом выкладывает веса, которые используют, как мне кажется, только средне-крупные бизнесы или крупные стартапы. Модель всё же не маленькая, и дома под столом или для своих коллег на работе её не запустить, нужны видеокарты на миллионы долларов. Каждого провайдера можно обязать устанавливать у себя какой-нибудь мониторинг запросов, чтобы отклонять «опасные», а разработчиков моделей обязывать тренировать модель отказываться выполнять подобные запросы каким-нибудь стандартизованным способом. Защиты можно будет обходить, но планка входа повысится 🤷‍♂️ но как написал, я не уверен, что это лучшее решение. А вот что я считаю достаточно (но не наиболее) вероятным — это что в ближайший год будет крупный инцидент в области кибербезопасности с открытыми моделями, и что не вникающие ни во что люди будут продолжать говорить, что это провокация со стороны фронтир-компаний, чтобы зарегулировать отрасль и помешать конкурентам.

Кратко (AI)

Автор обсуждает возможные меры снижения рисков открытых моделей: ограничение доступа к весам, мониторинг запросов у провайдеров и стандартизированные отказы модели. Он считает достаточно вероятным крупный инцидент кибербезопасности с открытыми моделями в ближайший год, но отмечает, что не уверен в предложенных мерах.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖