보도에 따르면 Meta는 마우스 이동, 클릭, 키 입력 및 화면 스냅샷을 포함한 미국 기반 직원의 행동을 수집하여 AI 시스템이 인간처럼 소프트웨어를 탐색하도록 학습시키는 데 도움을 줄 준비를 하고 있습니다.
로이터(새 창)에 따르면 모델 역량 이니셔티브(MCI)라고 불리는 이 프로그램은 드롭다운 메뉴 탐색부터 키보드 단축키 사용에 이르기까지 컴퓨터 기반 작업을 자율적으로 수행할 수 있는 AI 에이전트를 구축하려는 Meta의 광범위한 추진 계획의 일환입니다.
Meta는 민감한 정보를 보호하겠다고 밝혔으나, 어떤 데이터가 민감한 자료에 해당하는지, 보호가 어떻게 작동하는지, 또는 직원이 업무상 처리할 수 있는 타사 정보까지 보호 범위가 확장되는지에 대해서는 명확히 밝히지 않았습니다.
이러한 움직임은 Meta가 5월 20일부터 인력의 10%를 감축할 준비를 하고 있는 가운데 나왔으며, 올해 말에 더 많은 해고가 예상된다는 보고가 있습니다.
새로운 AI 골드러시는 행동 데이터입니다
AI 회사들은 이미 방대한 양의 공개 인터넷 데이터를 소진했으며, Meta의 MCI는 이러한 회사들이 최신 AI 학습용 데이터인 행동 데이터(새 창)를 추구하기 위해 더 깊이 파고드는 사례입니다.
행동 데이터란 사람들이 시스템을 이동할 때 남기는 디지털 흔적을 의미합니다. 클릭, 키 입력, 일시정지, 수정, 단축키 및 작업이 실제로 어떻게 수행되는지 보여주는 탐색 패턴 등이 이에 해당합니다. 이는 단순히 업무의 결과물뿐만 아니라 그 이면의 과정을 캡처하기 때문에 기업에 가치가 있습니다. 현재 AI 시스템은 이러한 과정을 처리하고 복제하는 데 어려움을 겪고 있습니다.
Microsoft Recall는 개인이 컴퓨터에서 수행하는 작업의 스냅샷을 찍는 동일한 논리를 따르며, Microsoft는 이를 AI 학습 파이프라인이 아닌 생산성 추적 소프트웨어의 일종으로 제시하고 있습니다. 하지만 이는 빅테크 기업들이 고도로 상세한 행동 흔적을 시스템이 기록하고 학습할 수 있는 대상으로 전환하는 데 얼마나 익숙해졌는지를 보여줍니다. 직장 환경에서는 고용주가 회사 정책을 통제하고 동의를 둘러싼 권력 역학을 형성할 때, 선택 사항으로 구성된 기능이라도 거부하기 어려워질 수 있습니다.
Meta의 경우, MCI는 더 친밀하고 노골적인 형태의 개인 데이터를 수집하려는 광범위한 추진 과정의 또 다른 구성 요소인 것으로 보입니다. 이 회사는 이미 GDPR과 같은 강력한 개인정보 보호법이 없는 지역에서 제품 개선, AI 학습 및 타겟 광고를 위해 Facebook, Instagram, WhatsApp 및 나머지 에코시스템 전반의 모든 Meta AI 상호작용을 활용하고 있습니다.
직원 추적은 업무 효율을 저하시킬 수 있습니다
Meta가 AI 학습을 위해 직원을 추적하는 것의 또 다른 문제점은 업무 효율을 저하시킬 수 있다(새 창)는 점입니다. 클릭 추적 소프트웨어처럼, 이는 키 입력과 마우스 움직임을 유의미한 신호로 취급합니다. 하지만 더 발전된 AI가 겹쳐지더라도, 이는 실제 성과를 나타내기에는 여전히 부족한 대용물입니다. 특히 비판적 사고, 계획 수립, 기능 간 아이디어 연결, 문제 해결 등이 외부에서는 종종 보이지 않는 지식 노동의 경우에는 더욱 그러합니다.
일단 근로자들이 그러한 신호가 캡처되고 있다는 사실을 알게 되면, 특히 언젠가 자신이 정교화하는 데 도움을 주고 있는 AI 에이전트에 의해 대체될 수 있다고 의심하게 되면, 의미 있는 업무를 수행하는 대신 바쁘게 보이도록 최적화하거나 심지어 의도적으로 행동을 왜곡하려는 비정상적인 동기가 생깁니다. 감시와 불신이 직장의 규범이 됩니다.
개인정보 우선 인프라가 중요합니다
정보 추출을 중심으로 구축된 플랫폼은 모든 상호작용을 수익화하거나 최적화하거나 다른 시스템에 다시 공급되기를 기다리는 데이터로 보이게 만듭니다. AI가 관여될 때, 그 시스템은 귀하를 연구하고 모방하며 결국 귀하를 대체하는 데 사용될 수 있습니다.
개인정보 우선 서비스가 중요한 이유는 기업이 접근할 수 있는 데이터가 적을수록 이러한 형태의 목적 외 사용이 발생할 여지가 줄어들기 때문입니다. 종단 간 암호화와 같은 강력한 보호 조치는 우선 플랫폼이 볼 수 있는 정보를 제한하는 데 도움이 되며, 오픈 소스 코드는 해당 시스템이 실제로 어떻게 작동하는지에 대한 독립적인 조사를 허용함으로써 투명성을 더합니다. 이들은 함께 직원과 고객 모두의 신뢰를 보호하는 데 도움을 줍니다.
