報道によると、Metaは、マウスの動き、クリック、キーストローク、画面のスナップショットなど、米国を拠点とする従業員の行動を記録する準備を進めています。これは、AIシステムが人間と同じようにソフトウェアを操作できるように学習させるためです。

Reuters(新しいウィンドウ)によると、Model Capability Initiative (MCI) と呼ばれるこのプログラムは、ドロップダウンメニューの操作からキーボードショートカットの使用まで、コンピューターベースのタスクを自律的に実行できるAIエージェントを構築するというMetaの広範な取り組みの一環です。

Meta社は機密情報を保護すると述べていますが、どのようなデータが機密資料に該当するのか、その保護がどのように機能するのか、あるいは従業員が業務で扱う可能性のあるサードパーティの情報まで対象となるのかについては明らかにしていません。

この動きは、Metaが5月20日から全従業員の10%を削減する準備を進めており、さらに年内にも追加のレイオフが予想されている中で行われました。

新たなAIゴールドラッシュの対象は行動データ

AI企業はすでに膨大な量の公開インターネットデータを使い果たしており、MetaのMCIは、これらの企業が最新のAIトレーニング素材である行動データ(新しいウィンドウ)を求めて、さらに深掘りしている例と言えます。

行動データとは、システム内を移動する際に人々が残すデジタル上の痕跡を指します。クリック、キーストローク、一時停止、修正、ショートカット、ナビゲーションパターンなど、タスクが実際にどのように完了されるかを示すものです。これが企業にとって貴重なのは、単に仕事の成果だけでなく、その背後にあるプロセス（現在のAIシステムが処理や再現に苦労している部分）を捉えているからです。

Microsoft Recallも同様のロジックに従い、お客様がコンピューター上で行う操作のスナップショットを取得します。Microsoftはこれを、AIトレーニングのパイプラインではなく、生産性追跡ソフトウェアの一種として提示しています。しかし、これはBig Techが、非常に詳細な行動の痕跡を、システムが記録し学習できるものに変えることにいかに抵抗がなくなっているかを示しています。職場の環境において、オプションとして構成された機能は、雇用主が会社のポリシーを管理し、同意をめぐる力の力学を形成する場合、拒否することが難しくなる可能性があります。

Metaの場合、MCIはより親密で示唆に富む形式の個人データを取得するための、広範な取り組みにおけるもう1つの構成要素のように見えます。同社は、製品の改善、AIトレーニング、およびGDPRのような強力なプライバシー保護がない地域でのターゲット広告のために、Facebook、Instagram、WhatsApp、およびそのエコシステムの残りの部分にわたるすべてのMeta AIのインタラクションをすでに使用しています。

従業員の追跡は仕事を悪化させる可能性がある

MetaがAIトレーニングのために従業員を追跡することのもう1つの問題は、仕事を悪化させる(新しいウィンドウ)可能性があることです。クリック追跡ソフトウェアと同様に、キー入力やマウスの動きを有意義な信号として扱います。しかし、より高度なAIをその上に重ねたとしても、それらは実際のパフォーマンスの代用としては依然として不十分です。特に、批判的思考、計画、部門を超えたアイデアの結び付け、問題解決が外部からは見えにくいナレッジワークにおいてはそうです。

労働者がそれらの信号が取得されていることを知ると（特に、いつか自分が洗練を助けているAIエージェントに取って代わられるのではないかと疑う場合）、有意義な仕事をする代わりに、忙しく見せるために最適化したり、意図的に行動を歪めたりするという逆インセンティブが生まれます。監視と不信感が職場の常態となります。

プライバシー第一のインフラの重要性

抽出を前提に構築されたプラットフォームでは、あらゆるインタラクションが、収益化、最適化、または別のシステムへのフィードバックを待つデータのように見え始めます。AIが関与する場合、そのシステムはお客様を研究し、模倣し、最終的にはお客様に取って代わるために使用される可能性があります。

プライバシーを第一に考えるサービスが重要なのは、企業がアクセスできるデータが少なければ少ないほど、このようなミッションクリープ（目的の逸脱）の余地がなくなるからです。エンドツーエンド暗号化のような強力な保護は、プラットフォームがそもそも見ることができるものを制限するのに役立ち、一方、オープンソースコードは、それらのシステムが実際にどのように機能するかを独立して精査できるようにすることで、透明性を高めます。これらは共に、従業員とお客様の両方の信頼を守るのに役立ちます。