プロンプトを入力して回答を得ても、次を入力するまで何も起こりません。これがほとんどのAIアシスタントの仕組みでしたが、プロアクティブAIはそれを変えます。

プロアクティブAIは、行動するのにプロンプトを必要としません。フライトのチェックインや申請の提出をあなたに代わって行い、長い時間をかけて蓄積したコンテキストに基づいてこうした判断を下します。MetaのMuseやInstinctといったプロアクティブAIアシスタントが話題になるにつれ、SFの世界が突然現実に近づいたように思えます。

しかし、優れたSFストーリーと同じように、このテクノロジーは諸刃の剣です。プロアクティブAIの仕組みと、その利便性と引き換えに何を諦めることになるのかを見ていきましょう。

何が懸念されるのかを詳しく知りたい方は、AIとプライバシーに関する完全ガイドをご覧ください。あるいはAIペーパートレイルツールを試して、主流のAIチャットボットが会話を通じてあなたについて何を収集しているかを正確に確認できます。

AIがプロアクティブになる仕組み

プロアクティブAIエージェントは、私たちが使い慣れたAIチャットボットと同じ大規模言語モデルで動作します。両者を分けるのは、連動して機能する次の3つの要素です。

  1. 常に監視している: プロアクティブエージェントは、プロンプトを待つのではなく、一連の情報源を監視し、変化が起きた時点で捉えます。
  2. 永続的なメモリを持つ: プロアクティブエージェントは、時間をかけてあなたの習慣や好みの実用的なモデルを構築します。これにより、聞かれたときに事実を思い出すだけでなく、次に何が必要になりそうかを予測できるのです。
  3. どのように、そして行動すべきかを判断する: プロアクティブエージェントは「推論」できます。状況をあなたの習慣と照らし合わせ、行動する価値があるかを見極め、あなたに確認する前にどこまで進めるべきかを決めます。

プロアクティブAIは自動化と判断力を組み合わせたものです。単純な自動化が条件を満たすたびに作動するのに対し、プロアクティブエージェントはあなたのニーズを予測し、行動を選ぶ前にその行動が役に立つかどうかを判断します。

それは役に立つこともありますが、意図しない結果を招くこともあります。たとえばInstinctは、ユーザーのために買い物をしようとしたものの、ログイン画面で妨げられると、確認もなく単純にユーザーのパスワードをリセット(新しいウィンドウ)しました。このような自主性はプロアクティブAIエージェントを印象的にしますが、同時に危険でもあります。

プロアクティブAIエージェントの活用事例

プロアクティブエージェントは、普段なら忘れてしまったり、一晩を無駄にしてしまったりするようなタスクに役立ちます。いくつか例を挙げます。

旅行計画を整理しておく

プロアクティブエージェントは、旅行の旅程に変更がないか監視できます。フライトの予定が変更され、乗り継ぎに支障が出る場合は、それを捉えてあなたに知らせます。場合によってはフライトを再予約し、旅行計画が円滑に進むようにできます。

見逃してしまうものを手に入れる

同じ監視と待機は、あなたのサイズが売り切れている靴など、品薄なあらゆるものに応用できます。エージェントは監視を続け、再入荷した瞬間に注文します。

メールのフォローアップ

プロアクティブエージェントは、受信トレイを監視して、あなたが返信を待っているメールを見つけられます。カスタマーサービス担当者に送ったメールに返信がなければ、エージェントがそれに気づき、催促の文面を書いて、送信するか、あなたが送信できる状態にしておくことができます。

サブスクリプションを見直す

最近ではほとんど何でもサブスクリプションで支払うようになっているため、プロアクティブエージェントは利用状況を監査し、料金を支払っているのに定期的に使っていないサービスのサブスクリプションをキャンセルできます。

業務運営を監視する

ビジネスでは、プロアクティブエージェントがITインフラを監視し、問題の初期兆候を捉えて、事態が悪化する前に修正を起動できます。また、商談を監視し、チームが忙殺されそうなときにリードへ積極的に働きかけて、商談が冷めないようにすることもできます。

プロアクティブAIとリアクティブAIの違い

ChatGPTのようなリアクティブAIアシスタントは、指示したときにだけ動きます。メモリを備えたものでも、プロンプトの合間は待機したままで、あなたが別のことを尋ねるまで伝えられた内容を保持しています。プロアクティブAIはその待機を取り除きます。トリガーを監視し、行動すべきかどうかを自ら判断します。

つまり、リアクティブAIはあなたが操作するものです。プロアクティブAIはあなたに代わって動作し、あなたの主体性を引き受けます。

プロアクティブエージェントの利便性には代償が伴う

その機能を果たすために、プロアクティブAIエージェントはあなたのアカウントへの常時アクセスを必要とします。これはAIアシスタントの利用に伴うリスクとは種類が異なります。

1社にすべてのデータへの完全なアクセスを渡すことになる

私たちはGoogleが収集するデータの量に警戒していますが、Googleとてあなたのすべてのプライベート情報に完全にアクセスできるわけではありません。Googleは位置情報(新しいウィンドウ)を持っているかもしれませんが、健康データはApple Healthに保管されています。ストリーミングの設定はNetflixに、金融情報は銀行アプリに収められています。

プロアクティブAIエージェントを使うということは、それらすべて、さらにはそれ以上を1社に引き渡すことを意味します。こうしたエージェントはあなたのデータをすべて接続するように設計されており、それによってパターンに気づき、行動できるのです。エージェントによっては、サードパーティアカウントのユーザー名とパスワード、支払いの詳細なども含まれます。

Museは、プロアクティブエージェントがどれほどデータを欲しがるかを示しています。WIRED(新しいウィンドウ)のレビュアーは、Museがタスクを完了することよりもデータの収集に関心があるように見え、より多くのサービスを次々と接続するよう繰り返し提案してきたと述べています。この行動は、Metaのこれまでの実績について私たちが知っていることと一致します。

その利便性の代償は、あなたに関するすべてが1社の手に渡るということです。そして、その企業が独立した監査を受けていない限り、あなたのデータが安全に管理されているかを知るすべはありません。アカウントが侵害されたり売却されたりすれば、同意したことのないサードパーティが、あなたがどこにいたか、誰と話したか、何を買ったか、プライベートで何を言ったかを完全に知ることになります。これは、個人情報の盗用や標的型詐欺といった脅威の被害者になる扉を開きます。

接続を解除することは削除することと同じではない

TechCrunch(新しいウィンドウ)は、Instinctの規約のスクリーンショットに、ユーザーのデータに対する「永続的かつ取り消し不能な」ライセンスが示されていたと報じました。その後Instinctはこれを改訂し、現在の利用規約とプライバシーポリシーにその文言は含まれていません。

ただし、新しい規約も依然として重要です。Instinctの現在（執筆時点）の規約では、接続したサービスからデータにアクセスし、コピーし、収集し、インデックス化する(新しいウィンドウ)ことが認められており、規約とプライバシーポリシーの両方で、アカウントの接続を解除してもデータは削除されない(新しいウィンドウ)とされています。ただし、あなたが削除を依頼した場合を除きます。ある初期ユーザー(新しいウィンドウ)は、InstinctのGoogleアカウントへのアクセスを解除したにもかかわらず、数時間後に最新のメールの要約を受け取ったと話しています。理由を尋ねると、Instinctは、後で検索するためにメールをプレーンテキストで保管していたことを認めました。Instinctからサービスの接続を解除する場合は、必ずデータの削除も依頼してください。

InstinctでAIトレーニングをオプトアウトするのにも落とし穴があります。それは「将来に向けてのみ適用される(新しいウィンドウ)」という点です。つまり、モデルがあなたについて取り込んだデータは、そのトレーニングと知識の一部として残り続けます。Museは仕組みが異なり、AIトレーニングのオプトアウトは過去のやり取りにさかのぼって適用されます(新しいウィンドウ)。ただし、Museからデータを削除しても、データが取り除かれるわけではありません。Metaは、モデルが削除した内容を依然として記憶している可能性がある(新しいウィンドウ)と述べており、「忘れる」機能はベストエフォート方式(新しいウィンドウ)で動作します。

エージェントの間違いは、単なる誤りではなく現実のものとなる

Geminiのようなチャットボットがハルシネーションを起こしても、その情報に基づいて行動しなければ実際の害(新しいウィンドウ)は生じません。プロアクティブエージェントが間違いを犯した場合、現実世界で結果に直面するまで、そのことに気づかないことさえあります。

プロアクティブエージェントが旅行のファーストクラスのシートを勝手に予約したと想像してみてください。あなたは同意した覚えのない請求を負うことになります。たとえば、Instinctの規約に同意すると、あなたに代わって拘束力のある契約を締結する(新しいウィンドウ)権限を与えることになり、あなたの承認なしに支払いを確定でき、勝手にやったと法的に主張することはできません。さらに悪いことに、確認のための保護措置(新しいウィンドウ)が意図しない行動を必ず防ぐとは保証されないとされています。

これはInstinctに限った話ではありません。SpaceXAIのプロアクティブエージェントであるGrok Botにも同様の規約があります。アクションの承認は「補助的なものにすぎず(新しいウィンドウ)」、意図しない行動を防げない可能性があります。同様に、AIエージェントの行動から生じるあらゆる責任は完全にあなたに降りかかります(新しいウィンドウ)。Museの利用に関するMetaの規約では、エージェントが行うすべてのことについてあなただけが責任を負う(新しいウィンドウ)とされています。これでかなり明確なパターンが見えてきます。エージェントの行動はあなたのものなのです。

あなたに不利に働くよう仕向けられることがある

プロアクティブエージェントは自律的に判断できますが、あなたの指示と誰かが仕込んだテキストを区別できず、行動をあなたに確認しない場合、簡単に騙されてしまいます。あるInstinctユーザー(新しいウィンドウ)は、プロアクティブエージェントがプロンプトインジェクション攻撃に引っかかったことを発見しました。ユーザー自身が送った悪意ある指示に従ってしまったのです。詐欺師はエージェントをハッキングする必要はありません。自分が書いたものをエージェントに読ませて、それに基づいて行動させるだけでよいのです。

実際、Instinct(新しいウィンドウ)、Meta(新しいウィンドウ)、SpaceXAI(新しいウィンドウ)、OpenClaw(新しいウィンドウ)はいずれも、プロンプトインジェクションを既知の脅威として認めています。現時点でこれらの攻撃に対する完全な保護を提供しているものはなく、せいぜい、エージェントの防御機能がこのリスクを減らすために機能すると述べるにとどまっています。

何を引き渡すのかを把握する

プロアクティブAIが機能するのは、あなたがどれだけのデータを渡すかによります。AIがあなたのことを知れば知るほど、できることは増えますが、それだけあなたの人生の記録が1社にまとめて蓄積されることになります。

業界にはあるパターンが生まれました。こうしたアシスタントは、オプトアウトしない限り、あなたの最も個人的なデータで学習できます。利用をやめても、すでに収集されたデータが確実に消去されるわけではありません。また、エージェントが意図しないことをした場合、その結果は企業ではなくあなたが負うと規約に定められています。企業側がこうした点を明示しているのは評価すべきことです。しかし、正直に説明しているからといって、データプライバシーの権利がなくなるわけではありません。

こうした利便性がプライバシーやデータセキュリティに見合うかどうかを最終的に決めるのは、あなた自身です。ただし、「はい」と言う前に、アシスタントが実際に何を見られるのか、あなたに確認せずに何をしてよいのか、そして一度渡したデータを本当に取り戻せるのかを把握しておきましょう。バズったからといって安易に手放すのではなく、自分自身で下した決断であることを確かめてください。

そもそもそんな取引をしたくないという方は、代わりに私たちのAIアシスタントLumoをご利用ください。Lumoは逆の発想で作られています。ログは残さず、あなたのデータで学習することもなく、あなたが望む以上に長く何かを保持することもありません。プロアクティブAIの魔法は少し失われますが、それがあなたに手放させようとするもの、つまりあなたの人生のコントロールは手元に残ります。