Yun Shen

Analisando a ascensão e os riscos dos prompts de jailbreak em modelos de linguagem.

Novos métodos buscam combater a toxicidade online usando técnicas de aprendizado por prompt.

Um estudo revela vulnerabilidades em modelos de linguagem atualizados contra ataques adversariais.

Métodos de adaptação em tempo de teste enfrentam vulnerabilidades por ataques de envenenamento, o que desafiou a eficácia deles.

LLMs customizados levantam preocupações de segurança, principalmente com ataques de backdoor por instrução.

Analisando as ameaças que os agentes autônomos de modelos de linguagem trazem e suas fraquezas.

Analisando os efeitos das atualizações na segurança, viés e autenticidade na geração de imagens.