Yun Shen

Die Untersuchung des Anstiegs und der Risiken von Jailbreak-Prompts in Sprachmodellen.

Neue Methoden zielen darauf ab, Online-Toxizität mit Prompt-Lerntechniken zu bekämpfen.

Studie zeigt Schwachstellen in aktualisierten Sprachmodellen gegenüber Angriffsversuchen.

Methoden zur Anpassung in der Testzeit sind anfällig für Vergiftungsangriffe, was ihre Effektivität in Frage stellt.

Benutzerdefinierte LLMs werfen Sicherheitsbedenken auf, besonders bei Anweisungs-Backdoor-Angriffen.

Die Bedrohungen durch autonome Sprachmodell-Agenten und ihre Schwächen untersuchen.

Untersuchung der Auswirkungen von Updates auf Sicherheit, Verzerrung und Authentizität bei der Bildgenerierung.