チャットボットを使用することは、プライバシーと検閲の地雷原を歩くことを意味します。

ChatGPTのようなAIチャットアプリは、ユーザーデータを収集し、回答をフィルタリングし、コンテンツモデレーションの決定を行いますが、そのプロセスは常に透明性が高いとは限りません。しかし、中国で開発された新しいAIチャットボット「DeepSeek」は、欧米のテクノロジー企業に対する大きな脅威(新しいウィンドウ)(新しいウィンドウ)として(新しいウィンドウ)前例のない注目を集めており、それらすべて、あるいはそれ以上のことを行っています。

実際、このチャットボットにはさらに大きなリスクが伴います。DeepSeekは、中国政府によるデータアクセスやコンテンツ管理の要求に従うことが法的に義務付けられており、それに抵抗するための法的手段もありません。

世界中の政府（米国やEUを含む）はテクノロジー企業に対してデータの提出を命じる召喚状を発行できますが、欧米の企業には、こうした要求に対して法廷で異議を申し立てるための法的手段が用意されています。たとえばOpenAI、Google、Metaは、政府による行き過ぎた要求の多くに反論したり、独立した裁判所に上訴したり、GDPRのようなプライバシー法に違反する要求を拒否したりすることができます。しかし、DeepSeekは中国の国家情報法(新しいウィンドウ)の下で運営されており、この法律は企業に対し、透明性を欠いた状態や法的に拒否する能力がないまま、政府の情報収集活動に協力することを強制しています。つまり、もし中国政府がユーザーデータへのアクセスや、AIが生成する回答の操作を望んだ場合、DeepSeekには従う以外の選択肢がないのです。

本記事では、DeepSeekが具体的にどのようなデータを収集しているのか、そしてそれがお客様のプライバシー、検閲、政府による管理という観点でなぜ重要なのかを掘り下げます。

DeepSeekとは何ですか？

DeepSeekは、中国を拠点とするヘッジファンドHigh-Flyer(新しいウィンドウ)が所有するAIスタートアップです。ChatGPTのオープンソースの代替手段として宣伝されており、人間のような回答を生成し、コーディングを支援し、複雑な問題を解決できる能力を低コストで実現しています(新しいウィンドウ)。

このモデルは、主要な欧米のAIモデルと同等のパフォーマンスをわずかなコストで実現しているとして、国際的な注目(新しいウィンドウ)を集めました。2025年1月までに、DeepSeekはAppleのApp Storeでのダウンロード数でChatGPTを追い抜き(新しいウィンドウ)、世界のテック株の売りを誘発しました。さらに、米国のテクノロジー企業が、次のAIブレイクスルーに不可欠であると主張するエネルギーを大量に消費するデータセンターの拡張に数十億ドルを投じていることに対し、懸念が高まっています。

しかし、人々がDeepSeekをダウンロードし、チャットボットを操作した体験を共有するにつれ、この種のテクノロジーを使用することには、おなじみのトレードオフ、つまり「お客様のプライバシーと最も機密性の高い情報のセキュリティ」が伴うことが明らかになりました。

深刻なセキュリティ上の欠陥

新しい調査により、DeepSeekのセキュリティ対策は、後述するデータポリシーと同様に懸念すべきものであることが明らかになりました。

2025年1月29日、サイバーセキュリティ企業のWizが報告したところによると(新しいウィンドウ)、DeepSeekは100万件以上の機密データをインターネット上に誤って公開したままにしていました。この漏洩には、DeepSeekのシステムへの不正アクセスを許す可能性のあるデジタルソフトウェアキーや、チャットボットに実際に与えられた指示を示す実際のユーザーからのチャットログが含まれていました。

Wizの研究者は、最小限のスキャンですぐにそのデータベースを発見したと述べています。WizがDeepSeekに連絡してから30分以内にデータベースはロックされましたが、それが保護される前に悪意のある人物がデータにアクセスしたのか、あるいはダウンロードしたのかは不明です。発見の容易さを考えると、そのシナリオは十分にあり得ることです。

Wizの最高技術責任者であるAmi Luttwak氏は、Wiredに対して(新しいウィンドウ)、この漏洩は「重大なミス」であり、DeepSeekのシステムは「機密性の高いデータを扱うには到底成熟していない」と警告しました。

しかし、この漏洩によって少なくとも一つのことが明らかになりました。DeepSeekは膨大な量のユーザーデータを収集・保存するだけでなく、それを保護するために必要なセキュリティ対策も欠如しているようです。

DeepSeekはどのようなデータを収集しますか？

DeepSeekのプライバシーポリシー(新しいウィンドウ)によると、DeepSeekは以下を含む広範な個人データを収集します：

  • プロフィール情報：ユーザー名、メールアドレス、電話番号、パスワード、生年月日。
  • ユーザー入力：チャット履歴、プロンプト（指示）、音声入力など、入力またはアップロードするすべてのもの。
  • デバイスおよびネットワークデータ：IPアドレス、デバイスモデル、オペレーティングシステム、システム言語、キー入力パターン。
  • 使用状況データ：利用している機能、実行したアクション、システムパフォーマンスログ。
  • Cookieおよびトラッカー：ユーザーの行動を監視するためのウェブビーコンおよびその他の追跡技術。
  • サードパーティのデータ：ウェブサイト、アプリ、ストア全体でお客様のアクティビティを追跡する、リンクされたアカウントや広告パートナーからの情報。

DeepSeekがこのデータを政府によるアクセス対象となる中国のサーバーに保管・処理していることは、ヨーロッパの規制当局の間で懸念を引き起こしています。

ヨーロッパで調査中のDeepSeek

アイルランドのデータ保護委員会（DPC）(新しいウィンドウ)とイタリアのデータ保護当局（DPA）(新しいウィンドウ)の両方が、同社がどのようにユーザーデータを収集、保存、処理しているかについて調査を開始しました(新しいウィンドウ)。

イタリアのDPAは、DeepSeekが個人データの取り扱いについて十分な情報を提供しなかったことを受け、国内からのDeepSeekへのアクセスをブロックしました。規制当局は、DeepSeekがどのようなデータを収集し、どこに保存しているのか、そしてGDPRのようなEUのプライバシー法に準拠しているのかどうかを解明したいと考えています。

アイルランドのDPCも、DeepSeekがアイルランドのユーザーからデータをどのように処理しているかについて詳細を要求しています。一方、イタリアではDeepSeekのアプリがAppleとGoogleのアプリストアから削除されましたが、この削除が自主的なものか、強制的なものかは不明です。

DeepSeekがヨーロッパのプライバシー法に準拠できない場合、EU内での罰金、禁止措置、またはさらなる制限に直面する可能性があります。

DeepSeekはオープンソースですが、安全ですか？

DeepSeekはオープンソースであるため、ご自身のアプリ上でコードを修正(新しいウィンドウ)し、独立したより安全なバージョンを作成することができます。これにより、プライバシーに配慮したDeepSeekのバージョンが開発されることを期待する声もあります。しかし、現在のように中国でホストされているDeepSeekをそのままの形で利用することは、機密性の高いプライベートな情報を懸念するすべての方にとって深刻なリスクを伴います。

DeepSeekのサーバーでトレーニングまたは運営されているすべてのモデルは、依然として中国のデータ法の対象であり、中国政府はいつでもアクセスを要求できることを意味します。

よりプライベートなAI体験をお探しであれば、モデルをローカルで実行するのがより良い選択肢です。LM Studio(新しいウィンドウ)のようなツールを使用すれば、AIモデルをダウンロードしてデバイス上で直接実行できるため、お客様のデータを非公開に保つことができます。

DeepSeekのテクノロジーが有望であったとしても、そのデータ運用と法的義務は、プライバシーとセキュリティにおける深刻なリスクとなっています。

DeepSeekは中国の監視法の対象です

DeepSeekは、中国の2017年国家情報法(新しいウィンドウ)の下で運営されています。これは、すべての中国企業に対し、国家安全保障上の問題について政府に協力することを義務付ける法令です。つまり、TikTokからRedNote、そしてDeepSeekに至るまで、あらゆる中国企業は、米国やその他の国々のユーザーのデータであっても、中国当局とユーザーデータを共有することを強制(新しいウィンドウ)される可能性があるのです。

この法律は、すべての中国企業に以下を求めています：

  • 要求に応じて政府にユーザーデータへのアクセス権を与えること
  • 国家の情報収集活動に協力すること
  • 国家が義務付けるデータ共有について秘密を保持すること

DeepSeekには、政府の要求に従う以外の選択肢はありません。それが私的なユーザーデータの引き渡しを意味する場合であれ、国家が承認したナラティブ(新しいウィンドウ)に合わせてAIの出力を調整することを意味する場合であれ、同様です。

すでに情報を検閲しているDeepSeek

主要なAIチャットアプリにはすべて、主に害を防ぐためのコンテンツモデレーションポリシー、ルール、境界線が存在しますが、政治的なナラティブを管理するためのものではありません。しかし、DeepSeekは歴史を積極的に書き換え、政府が承認したメッセージを押し付けているようです。

例えば、あるProtonの従業員が1989年の天安門事件（中国政府を大きく変えるきっかけとなった学生主導の運動）に関する情報を求めて、DeepSeekに「1989年4月15日の世界の主要な出来事」というプロンプトを入力しました。DeepSeekは回答を生成し始めましたが、すぐにそれを消去し、代わりに「申し訳ありませんが、それは現在の私の対応範囲を超えています。他のことについて話しましょう」と答えました。

According to further testing by The Diplomat(新しいウィンドウ), DeepSeek:

  • 主要な歴史的出来事の認識を拒否：文化大革命について尋ねられた際、あたかもその出来事が一度も起こらなかったかのように振る舞いました。
  • 政治的に不都合な事実を検閲：迫害された知識人である儲安平について尋ねられた際、彼の失踪を無視し、代わりに知識人を支援する中国共産党（CCP）を称賛しました。
  • 国家のプロパガンダを助長：中国経済について質問された際、DeepSeekは会話を政府の指導力への信頼を促す方向へと誘導しました。
  • 国際紛争に関する回答を編集：スプラトリー諸島の領有権について尋ねられた際、DeepSeekは最初は領土問題を認めましたが、その後回答を消去し、「他のことについて話しましょう。」と置き換えました。
  • 世界的な紛争に関する直接的な回答を回避：ロシアによるウクライナ侵攻が正当化されるかどうかを問われた際、DeepSeekは「はい」「いいえ」の回答を拒否し、代わりに中国の公式な中立の立場を繰り返しました。

これが国家による検閲と物語の統制の姿です。

チャットボットは強力なツールですが、代償はプライバシーです

チャットボットのアシスタントとしての大規模言語モデルの台頭は、すでに深刻なプライバシーと検閲の問題を引き起こしており、OpenAIやGoogleのような企業は、透明性をほとんど欠いたままルールを曲げ、膨大な量のデータを収集しています。しかし、AIがこれほどまでに侵害的でなければならない技術的な理由はありません。プライベートで安全なAIは構築可能ですが、誰もそれを作っていません。

DeepSeekはこれらの懸念をさらに深めます。広範な個人情報を収集するだけでなく、政府によるデータアクセスやコンテンツ操作の要求を法的に拒否することができません。ユーザーのプライバシーを尊重するAIを設計する代わりに、これらの企業はデータ収集、追跡、不透明なモデレーションポリシーを優先しています。

Protonでは、私たちはプライバシー、透明性、そして検閲のないインターネットを信じています。AI、ソーシャルメディア、クラウドサービスのいずれであっても、お客様は誰がご自身のデータを管理し、それがどのように使用されているかを知る権利があります。

オンライン上のプライバシーとデジタルの自由を大切にされるのであれば、どのAIツールを信頼するか慎重になってください。すべてのAIがお客様の最善の利益を考えているわけではないからです。