Выступление на Applied Machine Learning for Cyber Security Conference в Лондоне
L@lovedeathtransformersAI-инженер
1 месАвтор HiveTrace выступит на конференции AMLUCS в Лондоне с докладом о выявлении джейлбрейков в языковых моделях.
Конференция AMLUCS объединяет экспертов по безопасности ИИ для обсуждения актуальных угроз.
- Обсуждение методов защиты LLM от атак типа «джейлбрейк».
- Обмен опытом между представителями индустрии и государственных исследовательских центров.
- Актуализация стандартов безопасности для генеративного ИИ.
Теперь официально: погнали пить кофе в Лондоне.
23 сентября выступаю на конференции Applied Machine Learning for Cyber Security Conference в Лондоне, Olympic Park с докладом «Does a model know when a jailbreak is working?»
TLDR на вопрос доклада: возможно, да, но у нас есть много свободных переменных, из-за которых мы не можем надежного отличить "знание" от случайного результата без предварительных приседаний и проверок.
Вдруг кто-то будет мимо-проходить, заходите. В любом случае потом поделюсь впечатлением — для меня это что-то новое =)
Вообще говоря, AMLUCS — сильная британская конфа на стыке ML и кибербезопасности, с прикладным уклоном. Например, в оргкомитете есть Джон (John Sotiropoulos) из OWASP GenAI Security Project (авторы OWASP Top 10 for LLM Applications, я туда даже ручку прикладывала).
В докладах буду принимать участие исследователи из NCSC, Dstl, Alan Turing Institute, AI Red Team в Microsoft, AWS и профильных security-стартапов. И я — как лид HiveTrace — мы тоже сильный профильный стартап 🗿
P.S., да, это к тому, что мне дали визу, и ждун дождался. Я рада и вместе с этим волнуюсь — у меня на конфе и talk, и постер, а я давно не выступала очно (кажется, с зимы). И в целом — формат, форма и сообщество (кибербез) новый. Такие дела!
Кратко (AI)
Автор анонсировала свое выступление на конференции Applied Machine Learning for Cyber Security Conference в Лондоне, которая пройдет 23 сентября. Доклад посвящен проблеме определения того, понимает ли модель, что происходит джейлбрейк. В мероприятии примут участие представители крупных технологических компаний и исследовательских институтов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖