Wenkai Yang

この記事では、言語モデルエージェントに対するバックドア攻撃の脅威を検討します。

研究によると、バックドア攻撃によるチャットモデルの重大なセキュリティリスクが明らかになってるよ。

上位のAIモデルを弱いモデルで管理することの難しさを探る。