Meta dilaporkan sedang bersiap untuk merekam perilaku karyawan yang berbasis di AS — termasuk gerakan mouse, klik, ketukan tombol keyboard, dan cuplikan layar — guna membantu melatih sistem AI miliknya dalam mengoperasikan perangkat lunak seperti yang dilakukan manusia.
Disebut sebagai Model Capability Initiative (MCI), menurut Reuters(jendela baru), program ini merupakan bagian dari langkah Meta yang lebih luas untuk membangun agen AI yang dapat melakukan tugas-tugas berbasis komputer secara mandiri, mulai dari menavigasi menu dropdown hingga menggunakan pintasan keyboard.
Meta mengatakan akan melindungi informasi sensitif tetapi tidak menjelaskan data apa saja yang memenuhi syarat sebagai materi sensitif, bagaimana perlindungan tersebut akan bekerja, atau apakah perlindungan itu juga mencakup informasi pihak ketiga yang mungkin ditangani karyawan dalam pekerjaan mereka.
Langkah ini diambil saat Meta bersiap memangkas 10% tenaga kerjanya mulai 20 Mei, dengan lebih banyak PHK yang dilaporkan diperkirakan terjadi di akhir tahun ini.
Demam emas AI baru adalah data perilaku
Perusahaan-perusahaan AI telah menghabiskan data internet publik dalam jumlah besar, dan MCI Meta adalah contoh dari perusahaan-perusahaan tersebut yang menggali lebih dalam demi memburu bahan pelatihan AI terbaru: data perilaku(jendela baru).
Data perilaku merujuk pada jejak digital yang ditinggalkan orang-orang saat mereka menjelajahi sistem: klik, ketukan tombol keyboard, jeda, koreksi, pintasan, dan pola navigasi yang menunjukkan bagaimana suatu tugas sebenarnya diselesaikan. Hal ini berharga bagi perusahaan karena tidak hanya merekam hasil kerja, tetapi juga proses di baliknya — sesuatu yang saat ini masih sulit diproses dan ditiru oleh sistem AI.
Microsoft Recall mengikuti logika yang sama dengan mengambil cuplikan aktivitas yang dilakukan seseorang di komputer mereka, dengan Microsoft menyajikannya sebagai bentuk perangkat lunak pelacakan produktivitas, bukan jalur pelatihan AI. Namun, hal itu tetap menunjukkan betapa nyamannya Big Tech dalam mengubah jejak perilaku yang sangat terperinci menjadi sesuatu yang dapat direkam dan dipelajari oleh sistem. Dalam pengaturan tempat kerja, fitur yang dibingkai sebagai opsional dapat menjadi sulit ditolak ketika pemberi kerja mengendalikan kebijakan perusahaan dan membentuk dinamika kekuasaan seputar persetujuan.
Dalam kasus Meta, MCI tampak seperti blok bangunan lain dalam langkah yang lebih luas untuk merekam bentuk data pribadi yang lebih intim dan terbuka. Perusahaan tersebut telah menggunakan semua interaksi Meta AI di seluruh Facebook, Instagram, WhatsApp, and sisa ekosistemnya untuk peningkatan produk, pelatihan AI, dan iklan bertarget di tempat-tempat yang tidak memiliki perlindungan privasi yang kuat seperti GDPR.
Melacak karyawan dapat memperburuk kondisi kerja
Masalah lain dengan tindakan Meta yang melacak karyawan untuk pelatihan AI adalah bahwa hal itu dapat memperburuk kondisi kerja(jendela baru). Seperti perangkat lunak pelacakan klik, program ini memperlakukan ketukan tombol keyboard dan gerakan mouse sebagai sinyal yang berarti. Namun, bahkan dengan AI yang lebih canggih di atasnya, hal-hal tersebut tetap merupakan representasi yang buruk untuk kinerja nyata, terutama dalam pekerjaan pengetahuan di mana pemikiran kritis, perencanaan, menghubungkan ide-ide di berbagai fungsi, dan pemecahan masalah sering kali tampak tidak terlihat dari luar.
Begitu pekerja mengetahui bahwa sinyal-sinyal tersebut direkam — terutama jika mereka curiga bahwa suatu hari nanti mereka dapat digantikan oleh agen AI yang sedang mereka bantu kembangkan — hal itu menciptakan insentif yang menyimpang untuk mengoptimalkan penampilan agar terlihat sibuk, atau bahkan dengan sengaja mengubah perilaku mereka alih-alih melakukan pekerjaan yang berarti. Pengawasan dan rasa tidak percaya menjadi norma di tempat kerja.
Infrastruktur yang mengutamakan privasi itu penting
Platform yang dibangun di seputar ekstraksi membuat setiap interaksi mulai terlihat seperti data yang menunggu untuk dimonetisasi, dioptimalkan, atau dimasukkan kembali ke sistem lain. Ketika AI terlibat, sistem tersebut mungkin digunakan untuk mempelajari Anda, meniru Anda, dan pada akhirnya menggantikan Anda.
Layanan yang mengutamakan privasi itu penting karena semakin sedikit data yang dapat diakses oleh perusahaan, semakin sedikit ruang yang dimilikinya untuk perluasan misi semacam ini. Perlindungan yang kuat seperti enkripsi end-to-end membantu membatasi apa yang dapat dilihat oleh platform sejak awal, sementara kode sumber terbuka menambah transparansi dengan memungkinkan pemeriksaan independen tentang bagaimana sistem tersebut sebenarnya bekerja. Bersama-sama, mereka membantu melindungi kepercayaan karyawan dan pelanggan.
