プライバシー・セキュリティ の研究記事 56 件を、新しい順に掲載しています。
音声ディープフェイク（偽の合成音声）を見抜く AI に対して、「なぜ偽物と判断したのか」を人間に分かる言葉で説明させる枠組みを提案した研究です。
Apple が 2016 年から掲げてきた「差分プライバシーで端末データを保護している」という主張を、研究者が公開バイナリの解析によって独立検証しました。
プライバシー規制に応えるため、学習済みモデルから特定データの影響だけを取り除く「機械学習の忘却」を、連合学習の文脈で扱った研究です。
グラフを使ったコミュニティ推定で、「人（ノード）ごと」にプライバシーを守る強い保証を満たしつつ、現実的な計算量で動くアルゴリズムを提案しています。
IoT 機器の侵入検知（IDS）は通常データをサーバへ集めますが、それ自体がプライバシーリスクとなります。
Web3 の大型被害の多くは、スマートコントラクトの脆弱性ではなく、組織のプロセスや人を介した運用フローの不備から生じていると本論文は指摘します。
従来の局所差分プライバシーは全方向に一律でノイズを足すため、データの使い勝手が大きく落ちる課題がありました。
準同型暗号を使った暗号化制御システムは、暗号の「展性」という性質により、データの秘匿性は保てても改ざん防止（完全性）には脆弱であることが理論的に示されました。
AIモデルのプライバシー保護レベルを、モデルを再学習させることなく事後的に検証できるフレームワーク「Zero-Run」が提案されました。
複数の端末でAIモデルを共同学習する「連合学習」において、悪意ある参加者の妨害とプライバシー漏洩の両方に同時に対処する新しいアルゴリズムを提案しました。
暗号通信の土台となる「擬似ランダム関数（PRF）」の一種であるLegendre PRFを、従来より広い数学的条件（拡大体）で使った場合の安全性を初めて体系的に分析しました。
AIモデルを微調整（ファインチューニング）した際に、悪意ある変更が紛れ込んでいないかを暗号技術で証明する新しい枠組み「ファインチューニング完全性（FTI）」が提案されました。
データを暗号化したままAIに推論させる「完全準同型暗号（FHE）」の非線形処理を、GPUで最大17倍高速化するフレームワーク TIGER が提案されました。
連合学習で個人情報を守るためのノイズ量を、各端末のプライバシー設定に応じて自動で最適化する手法（PAC-DP）が提案されました。
データを暗号化したまま計算できる「準同型暗号」の処理コストを、行列の並び替え最適化により平均5.5倍削減する手法を提案しました。
複数の端末が生データを共有せずにAIモデルを共同で改善する「連合学習」を、待ち時間の少ない非同期方式で安全に運用するための新手法 SecureAFL が提案されました。
ディープラーニングを使わず、統計的な手法だけで「本物そっくりだけど個人を特定できない」合成データを生成する新手法（NPGC）が提案されました。
量子乱数生成器が最初の「種」なしに安全な乱数を生み出すための起動方法（ブートストラップ）を、2つの独立なエントロピー源を使って解決しました。
虹彩認証データを暗号化したまま照合できる完全準同型暗号（FHE）ベースのフレームワークを構築し、暗号化なしの場合とほぼ同等の認識精度を達成しました。
256ビット楕円曲線暗号を破るために必要な量子コンピュータの規模が、50万個未満の物理量子ビットで数分以内と具体的に見積もられました。
数百万〜数億パラメータ規模のデータでも、サーバ間の通信量をデータ次元に依存させずにプライバシーを守りながら集約できる新手法TAPASを提案しました。
多くのスマホでAIを学習させる「連合学習」では、端末ごとの性能差が処理速度のボトルネックになるという課題がありました。
AIが外部情報を参照して回答を生成するRAG技術は便利ですが、データ汚染や情報漏洩といった新たなセキュリティリスクを生み出します。
高価なAIモデルを利用する際、本当にそのモデルが使われたかをユーザーが確認する手段がない、という課題があります。
音声認識AIは、人にはノイズにしか聞こえない特殊な音をマイクで拾うと、誤った文字起こしをしてしまう脆弱性があります。
『設計図』を秘密にしたまま、ハードウェアが仕様通りに正しく動作することを証明する新技術『ZK-CEC』を提案しました。
人間には聞こえない超音波を使い、音声アシスタントに秘密の命令を送る攻撃手法「SWhisper」が提案されました。
人間関係などの「つながり」を表すグラフデータのプライバシーを守る「差分プライバシー」技術は、実用化が難しいという課題を指摘しています。
金融取引のような機微な個人データから、差分プライバシー技術を使って個人の特定が極めて困難な「合成データ」を生成する手法を検証しました。
個人のデータをサーバーに集めずにAIを学習させる「連合学習」で、プライバシー保護をより強固にする新しい分析手法が提案されました。
音声ディープフェイク検出モデルは、学習に使われていない未知の偽造手法に弱いという課題がありました。
スマホなど個々の端末が持つ多様なデータを、プライバシーを守りながらAIの学習に活かす「連合学習」という技術の課題を扱っています。
話者の声の特徴を捉えるAIモデルは、意図せず性別・年齢・アクセントなどの個人情報を学習してしまう可能性が示されました。
AIの学習に貢献した個々のデータの「価値」を測る技術は、プライバシーを侵害する危険性があります。
AIのプライバシー保護技術（差分プライバシー）は、データの有用性を損なってしまうという課題がありました。
公共の電波を安全に共有する新しい仕組みでは、利用者の身元情報が漏洩するプライバシーリスクが課題でした。
話者を特定する技術（話者認証）と、偽の音声を見抜く技術（なりすまし対策）を同時に最適化する新しい手法を提案しています。
AIから特定のデータを「忘れさせる」際、既存手法はモデル性能を不必要に劣化させる可能性がありました。
自動運転車のGPSを欺く「なりすまし攻撃」に対し、車の動きを検知するセンサーを用いた防御策が有効とされてきました。
データを暗号化したまま計算できる準同型暗号の、実用上の課題（速度・容量）を解決する新技術「NSHEDB」が提案されました。
話者認識システムは、攻撃者が声の特徴を学習し、巧妙になりすます「生成的攻撃」に弱いという課題があります。
AIが生成した音声に、人間の耳には聞こえない「電子の透かし（ウォーターマーク）」を入れる新技術「Smark」が提案されました。
AIモデルが「約束通りのデータで正しく学習されたか」を、学習データやモデル内部を一切見せずに証明する新技術「ZKBoost」が提案されました。
取引ごとの重いデジタル署名検証を、軽量な認証とブロック単位の「ゼロ知識証明」に置き換える新しい方式を提案しています。
複数のAIやツールを組み合わせた「複合AIシステム」では、AI自体の弱点だけでなく、従来のソフトウェアやハードウェアの脆弱性が重大な脅威となります。
AIがセンサーデータから「活動内容」と「個人を特定しうる情報」を自動で仕分ける新しい技術が提案されました。
各端末のデータを集めずにAIを賢くする連合学習は、端末ごとのデータ内容の偏り（不均質性）が課題でした。
話者の声を隠す「音声匿名化」技術の評価でよく使われるデータセットには、話す内容（語彙）から個人が特定できてしまう弱点があることが指摘されました。
連合学習では学習済みAIモデルが参加者に配布されるため、悪意ある参加者によるモデル漏洩のリスクがあります。
多くのユーザー（家族）それぞれに合わせたAIモデルを作るのは、サーバーの負担が非常に大きいという課題がありました。
本研究は、企業システムを開発する「開発者」と「コンサルタント」のプライバシーに対する意識や行動の違いを分析しました。
文章のプライバシーを守る新しい技術「STAMP」が提案されました。
個人の情報を特定できないように『ノイズ』を加えながら、全体のデータの傾向（何が何回現れたか）を正確に把握する新しい手法を提案しました。
グローバルな通信に使われるイリジウム衛星の通信が、ほとんど暗号化されずに「平文」のまま送受信されている可能性が示されました。
話の内容に合わせて声の個性をリアルタイムで変化させる新しい音声匿名化技術（TVTSyn）が提案されました。
従来の差分プライバシーのリスク評価手法は、特定の攻撃しか想定していなかったり、評価を誤ったりする可能性がありました。
ブックマークするには Google アカウントでログインしてください。端末をまたいで同期されます。
