ИИITоткрытые моделикибербезопасностьвеса моделейрегулированиеинференсКак ограничивать риски открытых моделейС@seeallochnayaAI-инженер3 днВ комментариях задали вопрос «а что делать-то?», но ответа на него у меня нет. Быть может выход будет в том, что именно веса модели выкладываться не будут, но права на их развёртывание будут предоставляться партнёрам — с Kimi уже такое происходит, все крупные провайдеры не могут просто так скачать веса и запустить у себя, продавая инференс. Но Kimi потом выкладывает веса, которые используют, как мне кажется, только средне-крупные бизнесы или крупные стартапы. Модель всё же не маленькая, и дома под столом или для своих коллег на работе её не запустить, нужны видеокарты на миллионы долларов. Каждого провайдера можно обязать устанавливать у себя какой-нибудь мониторинг запросов, чтобы отклонять «опасные», а разработчиков моделей обязывать тренировать модель отказываться выполнять подобные запросы каким-нибудь стандартизованным способом. Защиты можно будет обходить, но планка входа повысится 🤷♂️ но как написал, я не уверен, что это лучшее решение. А вот что я считаю достаточно (но не наиболее) вероятным — это что в ближайший год будет крупный инцидент в области кибербезопасности с открытыми моделями, и что не вникающие ни во что люди будут продолжать говорить, что это провокация со стороны фронтир-компаний, чтобы зарегулировать отрасль и помешать конкурентам.открытые моделикибербезопасностьвеса моделейрегулированиеинференс