人工知能（AI） > LLMの安全性とは？
LLMの安全性とは？ AIセキュリティリスクの解説
AIアシスタントは、仕事、研究、コミュニケーションのための日常的なツールになりました。 しかし、それらを便利なものにしているのと同じシステムが、セキュリティ上の脆弱性も生み出しています。 ここでは、LLMとAIのセキュリティリスクについてお客様が知っておくべきことについて説明します。
LLMとは何か、そしてAIやセキュリティとどのように関係しているのか？
人工知能には、顔認識から銀行詐欺検出、ボードゲームにいたるまで、多種多様な機械学習ソフトウェアが含まれます。 大規模言語モデル（LLM）はAIの特定の一種です。ChatGPT、Microsoft Copilot、Google Gemini、そしてProton独自のLumoを含め、お客様が耳にしたことがあるような主要なすべてのAIアシスタントを動かす原動力となっています。
LLMは、書籍、記事、ドキュメント、コード、学術論文などの膨大な情報を処理し、言語が機能するパターンを見つけることによって学習します。 時間の経過とともに、あらゆる文章の次に何が続くかを予測する精度が向上し、会話全体を維持したり、ドキュメントを要約したり、まるで本物の人間が書いたかのようなメールの下書きを作成したりすることが有効になります。
LLMは非常に多くの情報を処理し、人々が機密性の高い個人情報や業務上の詳細をAIと共有することが増えているため、機密データの漏洩防止と盗難防止を確実にするために、LLMのセキュリティは特に重要です。
エージェンティックAIはどこに位置づけられるのか？
これまでのLLMは応答のみに限定されていました。お客様が何か質問をすると、AIが回答するという形式です。 エージェンティックAIはさらにその先を行きます。 AIエージェントは依然としてLLMを使用して思考やコミュニケーションを行いますが、ウェブの閲覧、コードの記述と実行、メッセージの送信、外部アプリへの接続、ファイルの管理など、自らアクションを実行することもできます。 単一の質問に答えるだけでなく、人間の監視をほとんど受けることなく、複数のステップからなるタスクを遂行することができます。
その高度な機能には、相応のリスクが伴います。 AIが自律的に行動できるようになると、欺かれたりエラーを起こしたりした際の影響はより一層深刻になります。 エージェンティックAIのセキュリティは、この分野で最も急速に懸念が高まっている問題の1つです。その理由はまさに、これらのシステムが必要以上のアクセス権限を持って業務ツールに組み込まれるケースが増えているためです。
LLMのセキュリティとAIの潜在的な危険性
AIとLLMのセキュリティリスクがこれほど懸念されるのは、これらのツールの設計やデプロイ方法の基本アーキテクチャにリスクが組み込まれているためです。 お客様がAIアシスタントに個人の健康に関する質問をしたり、ビジネス戦略を共有したり、法的な状況について相談したりする場合、通常その情報は、お客様が管理していないサーバーに保存され、お客様が認識すらしていない法律や行動基準の適用対象となる可能性があります。 LLMのセキュリティは、ITチームだけが考えればよい問題ではありません。プライベートか業務目的かを問わず、AIを利用するすべての人にとって極めて実務的な問題です。
LLMおよびAIにおける最大のセキュリティリスク
LLMは日々多くのツールに組み込まれていますが、すぐには気付きにくいいくつかのセキュリティリスクが依然として存在します。
ほとんどのAIプラットフォームは、デフォルトでお客様のプロンプト、応答、インタラクションデータを保持します。 その情報は、企業のスタッフによって読まれたり、将来のモデルトレーニングに利用されたり、第三者に売却されたり、さらには当局に引き渡されたりする可能性があります。 一度お客様の会話が他者のサーバーに保存されると、そのデータがどのように保管、利用、共有されるかについて、お客様がコントロールできる余地はほとんどありません。
ほとんどのAI製品は、ベースモデル、プラグイン、API、データパイプラインなど、さまざまな組織や企業が開発したコンポーネントで構成されています。 そのサプライチェーン内の何かが侵害された場合、問題が発生している明確な兆候がないまま、その製品のすべてのユーザーが影響を受けることになります。
LLMは、本来共有するはずのないデータを表面化させてしまうことがあります。 これには、トレーニングデータ、他のユーザーのセッション、またはAIが引き続きアクセス権限を持っているお客様自身の以前の会話から取得された情報が含まれる可能性があります。 複数の人が同じAIツールを共有し、機密データが同じシステムを流れるビジネス設定においては、これらの情報漏洩が深刻な打撃を与える可能性があります。
エージェンティックAIには、メールの送信、コードの実行、ファイルへのアクセスなどの機能があるため、悪意をもって操作された場合のリスクは著しく高まります。 過剰な権限を持つAIエージェントは、誰かが異常に気付く前に、接続された複数のシステムにわたってアクションを実行してしまう可能性があります。 お客様の代わりにAIが自律行動する範囲が広がれば広がるほど、そのアクセス権限を厳格に管理することが重要になります。
プロンプトインジェクションは、最も広範囲に及ぶAIセキュリティリスクの1つです。 これは、PDFやウェブページなど、AIに入力されるコンテンツの内部に悪意のある指示を隠すことで、自律的に動作するAIエージェントを意図的に操作する手法です。 これらの指示はAIエージェントの本来の動作を密かに上書きし、一見するとすべてが正常に動作しているように見えながら、機密情報を漏洩させたり、お客様の利益に反する行動を取らせたり、誤った出力を生成させたりする可能性があります。
AIセキュリティに対するLumoの革新的なアプローチ
ほとんどのAIアシスタントは、お客様がそれらをどのように使用しているかをプラットフォーム側が最大限把握できるように設計されています。 Lumoはそれとは逆の設計となっており、お客様のデータがどのように取り扱われるかについて、より強力な管理権限と安心感を提供します。
ログは一切保存されません
LumoのLLMサーバーは、お客様のメッセージを処理し、応答が生成された瞬間にそれを破棄します。 何を、いつ質問し、何と回答されたかを示すログは残りません。 サーバー上にはプレーンテキストのチャットが一切保持されないため、情報漏洩や、召喚状による開示請求、悪用の対象となるものは何もありません。
メッセージはお客様のデバイスから送信される前に暗号化されます
Lumoは、転送中のメッセージを保護するために、「User-to-Lumo（U2L）暗号化」と呼ばれる双方向の非対称暗号化を使用しています。 実際にお客様が送信したメッセージは、LLMサーバー自体にのみ読み取り可能であり、それも応答を生成するのに必要な時間だけに限定されます。
会話の履歴はゼロアクセス暗号化によってロックされます
応答が生成された後、お客様の会話は、お客様自身だけが保持する鍵によって保護され、ゼロアクセス暗号化を用いて保管されます。 Protonがそのデータにアクセスすることは不可能です。 仮にProtonのサーバーが完全に侵害されたとしても、お客様の会話履歴が読み取られることはありません。
専門家によるLumoのセキュリティ検証を可能にするオープンソースモデルとコード
ChatGPT、Copilot、GeminiなどのクローズドソースのAIツールとは異なり、Lumoはオープンソースのモデルとコードで動作しているため、誰でも当社のアーキテクチャの脆弱性を検査し、主張通りの動作を行っているかを検証することができます。
広告表示やデータ共有はなし
ほとんどのAIアシスタントは、お客様のデータの収集と保持に依存するビジネスモデルに基づいて構築されています。 Lumoは異なります。 Protonの収益はデータの収益化からではなく、サブスクリプションから得られているため、お客様の会話をログに記録したり、サードパーティと共有したり、広告を表示するために使用したりする動機はありません。
ヨーロッパでホスティング、米国監視法の対象外
米国の企業によって構築されたAIツールは、CLOUD法などの法律に基づき、お客様のデータの開示を強制される可能性があります。 Lumoは、世界で最も強力なプライバシー保護規制のもと、ヨーロッパ内にあるProton管理下のサーバーで動作しています。 お客様の会話は、外国政府からのアクセス要求が届かない場所に保護されています。
あらゆる場所でお客様の安全を守る、暗号化されたエコシステムに参加しましょう
Lumoは、強力な暗号化でお客様のデータを保護する、プライバシー最優先のエコシステムの一部です。 お客様と、お客様が共有相手として選んだ人以外は、当社を含め誰もデータを見ることはできません。
無料のLumoアカウントを作成すると、当社の VPN(新しいウィンドウ)、 メール、 カレンダー、 クラウドストレージ、 ドキュメントエディター、 スプレッドシートエディター、 パスワードマネージャー、 ビデオ会議などへのアクセスも利用可能になります。
世界中で1億人以上の個人および企業のお客様がProtonを信頼しています
Elemnta、オーストラリア
従業員数50～200名
「私にとって重要なのは、アクティビティログときめ細やかな管理機能です。 Proton Passへの移行は、私たちに大きな利益をもたらしてくれました。」
GILAI、スイス
従業員1000人以上のIT管理
「私たちは、エンドユーザーにとって使いやすく、管理者にとって管理しやすいパスワードマネージャーを必要としていました。 アカウントのプロビジョニング以外に、特別なドキュメントやデモを作成する必要はありませんでした。なぜなら、本当に、本当にユーザーフレンドリーだからです。」
Novalytica AG、スイス
従業員数11～50名
「オンボーディングはとても簡単でした。 全員が利用していて、問題なく機能しています。シートやノートに手でパスワードを書き留める方法に戻りたいと思う人はいません。」
Morning
従業員350名
「UXは美しくあるべきだと思っていました。 300人や400人のユーザーを移行する場合、使いにくかったり見た目が不快だったりしないソリューションを選ぶことが重要だと思います。 商業チームにとって、ユーザーフレンドリーなものを持つことは重要だと思います。 Proton Passはまさにそうでした。」
真に安全なAIアシスタントに切り替えましょう
大手テックプラットフォームが構築したAIツールは便利に設計されていますが、お客様のセキュリティとプライバシーが犠牲になることがよくあります。 Lumoは、セキュリティの妥協を一切することなく、高性能で暗号化されたLLMおよびAIアシスタントを提供します。
LLMとAIセキュリティに関するよくある質問
- 一般のユーザーにとって最大のAIセキュリティリスクは何ですか？
- Lumoは機密性の高い業務に安全に使用できますか？
- 企業にとってAIの主な危険性は何ですか？
- Lumoはどの言語をサポートしていますか？
