音声AI論文研究室

音声処理・プライバシー保護の最新研究を、わかりやすく解説します。

AIの「なぜ偽物と判断したか」を言葉で説明する：音声ディープフェイク検出に根拠ある説明を与える試み

音声ディープフェイク（偽の合成音声）を見抜く AI に対して、「なぜ偽物と判断したのか」を人間に分かる言葉で説明させる枠組みを提案した研究です。

悪意ある参加者が動的に攻撃戦略を変える状況でも、信頼できる少数の参照クライアントを手がかりに「悪意ある勾配」を識別し、できる限り多くの「善意の勾配」を集約に残す新しい連合学習の集約手法 EnCAgg を提案した研究です。

Apple が 2016 年から掲げてきた「差分プライバシーで端末データを保護している」という主張を、研究者が公開バイナリの解析によって独立検証しました。

プライバシー規制に応えるため、学習済みモデルから特定データの影響だけを取り除く「機械学習の忘却」を、連合学習の文脈で扱った研究です。

連合学習は端末からデータを出さずに学習できる一方、「全体最適なモデル」と「各端末に特化したモデル」を両立しにくいという根本的な課題を抱えています。

グラフを使ったコミュニティ推定で、「人（ノード）ごと」にプライバシーを守る強い保証を満たしつつ、現実的な計算量で動くアルゴリズムを提案しています。