据报道,Meta 正准备捕捉美国员工的操作行为——包括鼠标移动、点击、击键和屏幕截图——以帮助训练其 AI 系统像人类一样操作软件。

据路透社(新窗口)报道,这项名为“模型能力计划” (Model Capability Initiative, MCI) 的计划是 Meta 打造能够自主执行基于计算机的任务的 AI 智能体这一更宏大目标的组成部分,任务范围涵盖从操作下拉菜单到使用键盘快捷键。

Meta 表示将保护敏感信息,但并未明确说明哪些数据属于敏感信息、这种保护将如何运作,以及是否涵盖员工在工作中可能接触到的第三方信息。

此举正值 Meta 准备自五月二十日起裁减 10% 的员工之际,据报道,今年晚些时候预计还会有更多裁员。

新一轮 AI 淘金热:行为数据

AI 公司已经消耗了海量的公共互联网数据,而 Meta 的 MCI 正是这些公司在追寻最新 AI 训练素材——行为数据(新窗口)——的过程中越挖越深的一个例子。

行为数据是指人们在系统中操作时留下的数字痕迹:点击、击键、停顿、修正、快捷方式和导航模式,这些都能显示一项任务实际上是如何完成的。它对企业很有价值,因为它捕捉的不仅是工作成果,还有成果背后的过程——而这正是当前 AI 系统难以处理和复制的东西。

Microsoft Recall 遵循同样的逻辑,对用户在计算机上的操作进行截图,Microsoft 将其定位为一款工作效率追踪软件,而非 AI 训练管道。但它仍然显示出,大型科技公司已经十分习惯于将高度细致的行为痕迹转化为系统可以记录并从中学习的内容。在职场环境中,当雇主掌控公司策略并左右知情同意的权力关系时,那些被包装成可选的功能会变得难以拒绝。

就 Meta 而言,MCI 似乎是其在获取更私密、更能揭示个人情况的各种个人数据方面的更宏大行动中的又一基石。该公司已经在利用 Facebook、Instagram、WhatsApp 及其生态系统其余部分中的所有 Meta AI 互动,用于产品改进、AI 训练,以及在缺乏 GDPR 等强有力隐私保护措施的地区投放定向广告。

追踪员工可能让工作变得更糟

Meta 追踪员工用于 AI 训练的另一个问题在于,这可能会让工作变得更糟(新窗口)。与点击追踪软件类似,它将击键和鼠标移动视为有意义的信号。但即使叠加了更先进的 AI,这些信号仍然无法真实反映实际表现,尤其是在知识型工作中,批判性思维、规划、跨职能连接想法和解决问题往往从外部难以察觉。

一旦员工知道这些信号正在被捕获——尤其是当他们怀疑自己有朝一日可能被自己协助改进的 AI 智能体取代时——就会产生一种扭曲的激励,促使他们只顾装出忙碌的样子,甚至故意改变自己的行为,而不是去做有意义的工作。监控和不信任将成为职场的常态。

隐私优先的基础设施至关重要

围绕数据攫取构建的平台会让每一次交互都看似等待着被变现、优化或输送回另一个系统的数据。当涉及 AI 时,那个系统可能被用来研究你、模仿你,最终取代你。

隐私优先的服务之所以重要,是因为公司能访问的数据越少,这种使命蔓延的空间就越小。端到端加密等强有力的保护措施有助于从一开始就限制平台能看到的内容,而开源代码则通过允许独立审查这些系统的实际运作方式来增加透明度。两者结合,有助于保护员工和客户的信任。