「敵対的攻撃」に関する研究記事 3 件を、新しい順に掲載しています。
AIが外部情報を参照して回答を生成するRAG技術は便利ですが、データ汚染や情報漏洩といった新たなセキュリティリスクを生み出します。
音声認識AIは、人にはノイズにしか聞こえない特殊な音をマイクで拾うと、誤った文字起こしをしてしまう脆弱性があります。
人間には聞こえない超音波を使い、音声アシスタントに秘密の命令を送る攻撃手法「SWhisper」が提案されました。
ブックマークするには Google アカウントでログインしてください。端末をまたいで同期されます。
