音声AI論文研究室
プライバシー・セキュリティ

暗号化すれば安全？ 準同型暗号の「展性」が生む意外な脆弱性

📄 On the (non-)resilience of encrypted controllers to covert attacks

✍️ Binfet, P., Adamek, J., Schulze Darup, M.

📅 論文公開: 2026年5月

準同型暗号 暗号化制御 ネットワーク制御システム 完全性攻撃 検証可能計算

3つのポイント

  1. 1

    準同型暗号を使った暗号化制御システムは、暗号の「展性」という性質により、データの秘匿性は保てても改ざん防止（完全性）には脆弱であることが理論的に示されました。

  2. 2

    攻撃者は暗号化されたデータの中身を知らなくても、暗号のまま計算結果を操作する「隠密攻撃」が可能であることが実証されました。

  3. 3

    検証可能計算という補完技術を組み合わせることで、通信コストを増やさずにこの脆弱性へ対処できるアプローチが提案されました。

論文プロフィール

  • 著者: Philipp Binfet, Janis Adamek, Moritz Schulze Darup
  • 発表年: 2026年
  • 掲載先: arXiv（暗号学・制御理論）
  • 研究対象: 準同型暗号を用いたネットワーク制御システム（NCS）のセキュリティ
  • 研究内容: 準同型暗号による暗号化制御が「隠密攻撃（covert attack）」に対して脆弱であることの理論的証明と、検証可能計算による防御手法の提案

エディターズ・ノート

「暗号化すれば安全」と考えがちですが、暗号が守れるのは”中身を見られないこと”であり、“中身を改ざんされないこと”は別問題です。本論文は、暗号化されたまま計算できる準同型暗号の便利さが、そのまま攻撃の入口にもなるという構造的な矛盾を明快に示しており、暗号化と完全性保護を分けて考える設計思想は And Family Voice の多層防御にも直結します。

実験デザイン

本研究は数学的な証明と理論解析を中心とした研究であり、大規模な実データ実験ではありません。以下にそのアプローチを整理します。

研究の問い

ネットワーク制御システムで準同型暗号を使った「暗号化制御」を導入すれば、データの秘匿性だけでなく、改ざん（完全性攻撃）にも耐えられるのか？

手法

  1. 攻撃の理論構成: 公開鍵準同型暗号の「展性（malleability）」を利用し、暗号文を復号せずに制御信号を改ざんする隠密攻撃を数学的に構成
  2. 脆弱性の証明: 攻撃者が元のデータ（平文モデル）を知らなくても、暗号化されたままの制御システムに対して攻撃が成立することを証明
  3. 防御手法の提案: 検証可能計算（Verifiable Computation）を準同型暗号と組み合わせた防御スキームを設計し、その安全性を理論的に証明
🔍 準同型暗号の「展性」とはなにか

準同型暗号（Homomorphic Encryption）とは、データを暗号化したまま足し算や掛け算などの計算ができる特殊な暗号方式です。たとえば、暗号化された「3」と暗号化された「5」を足すと、復号したときに「8」が得られます。

この「暗号化したまま計算できる」性質を準同型性と呼びます。そして 展性（malleability） とは、この準同型性の”裏面”です。正当な計算ができるということは、攻撃者も暗号文を数学的に操作して、中身を知らないまま計算結果を意図的に変えられることを意味します。

つまり、準同型暗号の強みと弱みは同じ根っこを持っているのです。本論文はこの構造的な矛盾を正面から扱った研究です。

主要な結論

  • 公開鍵準同型暗号だけでは、暗号化制御システムの完全性を保証できない
  • 暗号化されたモデルの詳細を知らなくても、隠密攻撃が可能
  • 検証可能計算を追加することで、通信オーバーヘッドなしに完全性を確保できる
準同型暗号（HE）単体 vs 検証可能計算併用時のセキュリティ特性（概念図：論文の理論的結論を視覚化したもので、具体的な数値は概念的スコア） 0 19 38 57 76 95 保護レベル 95 秘匿性 20 完全性（HE単体） 90 完全性（HE＋検証）
準同型暗号（HE）単体 vs 検証可能計算併用時のセキュリティ特性（概念図：論文の理論的結論を視覚化したもので、具体的な数値は概念的スコア）
項目 保護レベル
秘匿性 95
完全性（HE単体） 20
完全性（HE＋検証） 90
準同型暗号（HE）単体 vs 検証可能計算併用時のセキュリティ特性（概念図：論文の理論的結論を視覚化したもので、具体的な数値は概念的スコア）

技術的背景

ネットワーク制御システムと暗号化

ネットワーク制御システム（NCS）は、センサーやアクチュエータがネットワークを介して接続されたシステムです。工場の制御装置やスマートホーム機器など、身近なところにも存在します。

こうしたシステムの制御ロジックをクラウドに委託する場合、制御データの秘匿性が課題になります。そこで登場するのが準同型暗号です。データを暗号化したまま計算（制御演算）を実行できるため、クラウド事業者にもデータの中身を見せずに制御を委託できます。

セキュリティの3本柱と見落とされがちな「完全性」

情報セキュリティには「CIA」と呼ばれる3つの柱があります。

  • 機密性（Confidentiality）: データを見られないこと → E2EE などで実現
  • 完全性（Integrity）: データが改ざんされないこと → 本論文のテーマ
  • 可用性（Availability）: データやシステムが使えること

準同型暗号は機密性には強力ですが、本論文が示すように、その構造的な特性ゆえに完全性には脆弱です。

🔍 隠密攻撃（Covert Attack）とゼロダイナミクス攻撃

制御システムに対する攻撃にはさまざまな種類がありますが、本論文が扱う「隠密攻撃」は特に検知が困難な攻撃です。

  • 隠密攻撃（Covert Attack）: システムの出力に影響を与えつつ、異常検知メカニズムには引っかからない攻撃。攻撃者がシステムのモデルを知っている場合に構成可能とされていましたが、本論文では暗号化されたモデルを知らなくても攻撃可能であることを示しました。
  • ゼロダイナミクス攻撃: システムの内部状態のうち、出力に現れない部分（ゼロダイナミクス）を操作する攻撃。

これらの攻撃は「見えない」ことが最大の脅威であり、暗号化だけでは防げないことが本研究の核心的なメッセージです。

検証可能計算による解決策

本論文が提案する防御策は「検証可能計算（Verifiable Computation）」です。これは、計算を委託した側が「計算結果が正しく実行されたか」を効率的に検証できる仕組みです。

日常的な例えで言えば、レストランに料理を注文したとき、「確かに注文通りの材料と手順で作られたか」を、厨房に入らずにレシートだけで確認できるようなものです。

本論文のアプローチでは、この検証可能計算を準同型暗号と統合することで、通信量を増やさずに完全性を確保できることが示されています。

And Family Voice としての解釈

プロダクトの視点から

本論文の知見は、「暗号化だけで安全と言えるのか」という根本的な問いを私たちに投げかけます。

And Family Voice では、家族の会話データを E2EE （AES-256-GCM）で暗号化してクラウドに蓄積しています。AES-256-GCM は準同型暗号とは異なり、認証付き暗号（AEAD）として機密性と完全性の両方を提供する設計です。つまり、本論文が指摘する「展性による改ざん」は、GCM モードの認証タグによって検知可能です。

しかし、本論文の教訓はより広い設計哲学に関わります。

  • 暗号化は万能ではない: 暗号化が守る範囲と守れない範囲を正確に理解し、複数の防御層を組み合わせることが重要です
  • Human-in-the-Loop の価値: And Family Voice のスワイプUI承認フローは、技術的な検証だけでは見落としうる異常を、人間の目で最終確認する仕組みです。これは検証可能計算と同じ「計算結果の正しさを確認する」という発想に通じます
  • オンデバイス推論 の意義: 音声データを端末外に送信しない設計は、ネットワーク上の攻撃面そのものを排除するアプローチです。本論文が示す「ネットワーク経由の隠密攻撃」のリスクを根本から回避しています

私たちは、暗号技術の進化を注視しつつも、「技術の限界を認めたうえで多層的に守る」という設計姿勢を大切にしています。

🔍 AES-256-GCM と準同型暗号の違い

本論文が扱う準同型暗号と、And Family Voice が採用する AES-256-GCM は、目的も性質も大きく異なります。

  • 準同型暗号: 暗号化したまま計算ができる。クラウドでの演算委託に適するが、展性があるため改ざんに弱い。
  • AES-256-GCM: 共通鍵暗号と認証タグを組み合わせた方式。暗号化したまま計算はできないが、改ざんがあれば検知できる。

And Family Voice は「クラウドで計算する」のではなく「暗号化したまま安全に保管する」ことが目的なので、AES-256-GCM の特性が設計に適しています。ただし、将来的にクラウド上での暗号化データ処理（たとえば暗号化されたまま検索する機能）を検討する際には、本論文の知見が重要な設計指針になります。

ユーザーの視点から

暗号化に関する本論文の教訓は、日常のデジタルセキュリティにも当てはまります。

今日から意識できること

サービスが「暗号化しています」と謳っていても、それだけで安心せず、「何から守ってくれるのか」を確認する習慣を持ちましょう。暗号化は「見られない」ことは守りますが、「書き換えられない」ことや「消されない」ことは別の仕組みで守る必要があります。パスワード管理アプリやクラウドストレージを選ぶ際にも、「暗号化の種類」だけでなく「改ざん検知」や「バージョン履歴」の有無を確認することが、大切なデータを守る第一歩です。

読後感

暗号化技術は日々進化していますが、「暗号化＝安全」という思い込みは、最も危険な脆弱性かもしれません。

本論文は、技術の強みがそのまま弱みにもなりうるという構造的な矛盾を示しました。そしてその解決策は、暗号をさらに強化することではなく、「正しく計算されたかを確認する」という別の視点を加えることでした。

家族の声を守る技術にも、同じことが言えるのではないでしょうか。一つの鍵に頼るのではなく、複数の視点で確認し合うこと——それは技術設計だけでなく、家族のコミュニケーションにも通じる知恵かもしれません。

あなたが大切なデータを預けるサービスは、「何を」「どの脅威から」守ってくれていますか？