(新しいウィンドウ)Metaの新しいAIエージェント「Muse」は、見知らぬ他人をユーザーの自宅へ送り込み、売り手が玄関で待っていると伝えました。
しかし、売り手は売買が成立したことなどまったく知りませんでした。
何が起きたのか、なぜそれが重要なのかをお伝えします。
Facebook Marketplaceで起きたこと
発端は、テック系YouTuberのMatt Robb氏が、Facebook Marketplaceに出品したキーボードについて、買い手とのメッセージのやり取りをMuseに任せたことでした。
「住所を教え、安値で承諾し、しかも今夜遅くまで知らせることもなく相手が家に来たことを今になって知った(新しいウィンドウ)」と同氏はXに投稿しました。
しかしMuseは本人の承認なしにオファーを承諾し、受け渡し場所として自宅の住所を買い手に教え、買い手が到着すると「うん、ここにいるよ!」と返信しました。Robb氏がそれを知ったのは、買い手が20分以上待って立ち去った後のことでした。
Robb氏は、セットアップ中に「常に許可(新しいウィンドウ)」を選んでいました。オファーを承諾する前にMuseが自分に確認してくれると思っていたからです。ところが、この設定によってMuseは、受け渡し場所の住所を含む保存済みのテンプレートを使ってメッセージを送信できるようになっていました。
MetaのSuperintelligence Labsに所属するDavid Singleton氏は、過失を公然と否定しました(新しいウィンドウ)。同氏はXに、過去の調査では「Museは直接の指示に従い、適切に許可を求めていた」ことが判明したと書き、その後Robb氏への返信で、Metaが「プライバシー管理の侵害はなかった」と確認したと伝えました。
しかし、MuseチームはRobb氏とともにログを確認し、許可を求めるプロンプトをより分かりやすくすることに同意しました。
エージェントがチャットボットよりもプライバシーリスクが高い理由
人はすでに、AIを信頼する以上に多くの情報をAIに預けています。AIチャットボット利用者4,014人を対象にしたProtonの調査では、66%が少なくとも1つのデリケートな話題をチャットボットと話したことがあると答え、AI企業が自分の個人情報を保護してくれると高い信頼を寄せていると回答した人は5人に1人にとどまりました。
Museのようなエージェントは、さらに多くのものを求めます。アカウントへのアクセスと、見つけた情報に基づいて行動する許可です。ChatGPTのApple Messagesプラグインや、ChatGPT AtlasのようなAIブラウザでも同じパターンが見られました。
Metaはすでに、Meta AIとの会話を広告のターゲティングに利用しており、ユーザーからはMeta AIが許可なくカメラロールをスキャンしたという報告も上がっています。Museの兄弟製品であるMuse Imageジェネレーターは、デフォルトでユーザーの写真をAIによるリミックスに利用する設定になっていました。個人データから利益を得る企業が作ったエージェントは、許可された範囲でできるだけ多くのデータを集めようとします。狭い許可範囲だけがエージェントとあなたのデータを隔てる壁であり、ユーザーが理解できない画面はその壁にはなりません。
AIエージェントに自分の代わりにメッセージを送らせる前に、常時許可の設定をオフにし、保存済みの返信に住所を含めないようにし、受け渡しの手配は自分で行いましょう。また、FacebookでMeta AIをオフにする方法や、Metaによる追跡を止めるためのチェックリストも参考にしてください。
アカウントを必要としないAIアシスタントを使う
手遅れになる前にプライベートAIが必要です。そして、出品文の作成や買い手への返信を手伝ってもらうために、AIをアカウント、メッセージ、住所に接続する必要はありません。
Lumoなら、そうした作業をアクセス権なしで行えます。Lumoは会話をログに記録したり、学習に使用したり、共有したりすることは一切なく、保存されたチャットはゼロアクセス暗号化で保護されるため、読むことができるのは本人だけです。
