Anthropic внедрила защиту от кражи цепочек рассуждений в Claude
v@vcnewsмедиа / агрегатор
2 недAnthropic представила новые меры безопасности для Claude Fable 5.1 и Claude Opus 5.5, ограничивающие редактирование контекста для защиты данных.
Разработчики ИИ усиливают защиту от кражи интеллектуальной собственности и данных.
- Новые меры безопасности затрудняют копирование уникальных алгоритмов рассуждения моделей.
- Ограничение редактирования контекста снижает риск утечки данных через манипуляции с историей чата.
- Это важный шаг для защиты проприетарных технологий компаний-разработчиков ИИ.
Anthropic заявила, что разработала новые меры безопасности, которые «значительно» сократят количество атак с попыткой скопировать возможности её моделей.
Например, внедрила в Claude Fable 5.1 и Claude Opus 5.5 «сохранённое мышление» — функцию, которая не позволяет новым пользователям редактировать предыдущий контекст Claude. Это не даёт извлекать цепочки рассуждений, которые нужны тем, кто крадёт данные
vc.ru/ai/3191665
Кратко (AI)
Компания Anthropic внедрила новые функции безопасности в модели Claude Fable 5.1 и Claude Opus 5.5. В частности, добавлена функция «сохранённого мышления», которая ограничивает возможность редактирования предыдущего контекста, предотвращая кражу цепочек рассуждений модели.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖