「差分プライバシー」に関する研究記事 16 件を、新しい順に掲載しています。
Apple が 2016 年から掲げてきた「差分プライバシーで端末データを保護している」という主張を、研究者が公開バイナリの解析によって独立検証しました。
グラフを使ったコミュニティ推定で、「人(ノード)ごと」にプライバシーを守る強い保証を満たしつつ、現実的な計算量で動くアルゴリズムを提案しています。
研究費助成や論文採択などで使われる「部分抽選(partial lottery)」は、評価スコアがわずかに変わるだけで当選確率が大きくぶれてしまう不安定さを抱えています。
多数の端末に分散したデータを集めずに学習する「連合学習」で、プライバシーを守りながらどこまで精度を高められるかという理論的な限界が示されました。
AIモデルのプライバシー保護レベルを、モデルを再学習させることなく事後的に検証できるフレームワーク「Zero-Run」が提案されました。
複数の端末でAIモデルを共同学習する「連合学習」において、悪意ある参加者の妨害とプライバシー漏洩の両方に同時に対処する新しいアルゴリズムを提案しました。
連合学習で個人情報を守るためのノイズ量を、各端末のプライバシー設定に応じて自動で最適化する手法(PAC-DP)が提案されました。
ディープラーニングを使わず、統計的な手法だけで「本物そっくりだけど個人を特定できない」合成データを生成する新手法(NPGC)が提案されました。
人間関係などの「つながり」を表すグラフデータのプライバシーを守る「差分プライバシー」技術は、実用化が難しいという課題を指摘しています。
金融取引のような機微な個人データから、差分プライバシー技術を使って個人の特定が極めて困難な「合成データ」を生成する手法を検証しました。
個人のデータをサーバーに集めずにAIを学習させる「連合学習」で、プライバシー保護をより強固にする新しい分析手法が提案されました。
AIの学習に貢献した個々のデータの「価値」を測る技術は、プライバシーを侵害する危険性があります。
AIのプライバシー保護技術(差分プライバシー)は、データの有用性を損なってしまうという課題がありました。
AIから特定のデータを「忘れさせる」際、既存手法はモデル性能を不必要に劣化させる可能性がありました。
個人の情報を特定できないように『ノイズ』を加えながら、全体のデータの傾向(何が何回現れたか)を正確に把握する新しい手法を提案しました。
従来の差分プライバシーのリスク評価手法は、特定の攻撃しか想定していなかったり、評価を誤ったりする可能性がありました。
ブックマークするには Google アカウントでログインしてください。端末をまたいで同期されます。