Theo báo cáo, Meta đang chuẩn bị ghi lại hành vi của nhân viên tại Hoa Kỳ — bao gồm các chuyển động chuột, nhấp chuột, gõ phím và ảnh chụp màn hình — để giúp huấn luyện các hệ thống AI điều hướng phần mềm theo cách của con người.

Được gọi là Sáng kiến năng lực mô hình (MCI), theo Reuters(cửa sổ mới), chương trình này là một phần trong nỗ lực rộng lớn hơn của Meta nhằm xây dựng các tác nhân AI có thể tự động thực hiện các tác vụ trên máy tính, từ điều hướng các menu thả xuống đến sử dụng các phím tắt.

Meta cho biết sẽ bảo vệ thông tin nhạy cảm nhưng không làm rõ dữ liệu nào được phân loại là tài liệu nhạy cảm, biện pháp bảo vệ đó sẽ hoạt động như thế nào, hoặc liệu biện pháp đó có áp dụng cho thông tin của bên thứ ba mà nhân viên có thể xử lý trong công việc hay không.

Động thái này diễn ra trong bối cảnh Meta chuẩn bị cắt giảm 10% lực lượng lao động bắt đầu từ ngày 20 tháng Năm, với nhiều đợt sa thải khác được dự đoán sẽ diễn ra vào cuối năm nay.

Cơn sốt vàng AI mới là dữ liệu hành vi

Các công ty AI đã tiêu thụ một lượng lớn dữ liệu internet công cộng, và chương trình MCI của Meta là một ví dụ về việc các công ty này đang đi sâu hơn trong việc tìm kiếm nguồn tài liệu huấn luyện AI mới nhất: dữ liệu hành vi(cửa sổ mới).

Dữ liệu hành vi đề cập đến các dấu vết kỹ thuật số mà mọi người để lại khi tương tác qua các hệ thống: các lượt nhấp chuột, gõ phím, tạm dừng, sửa lỗi, phím tắt và các mẫu điều hướng cho thấy cách một tác vụ thực sự được hoàn thành. Dữ liệu này có giá trị đối với các công ty vì nó không chỉ ghi lại kết quả công việc mà còn cả quy trình đằng sau — điều mà các hệ thống AI hiện đang gặp khó khăn để xử lý và sao chép.

Microsoft Recall cũng hoạt động theo logic tương tự bằng cách chụp ảnh màn hình những gì một người thực hiện trên máy tính, được Microsoft giới thiệu như một dạng phần mềm theo dõi năng suất, chứ không phải là một quy trình huấn luyện AI. Nhưng điều đó vẫn cho thấy Big Tech đã trở nên thoải mái như thế nào khi biến các dấu vết hành vi vô cùng chi tiết thành thứ mà các hệ thống có thể ghi lại và học hỏi. Trong môi trường công sở, các tính năng được định nghĩa là tùy chọn có thể trở nên khó từ chối khi người sử dụng lao động kiểm soát chính sách công ty và định hình các mối quan hệ quyền lực xung quanh việc đồng ý.

Trong trường hợp của Meta, MCI dường như là một thành phần xây dựng khác trong nỗ lực rộng lớn hơn nhằm thu thập các dạng dữ liệu cá nhân riêng tư và mang tính tiết lộ nhiều hơn. Công ty này đã và đang sử dụng tất cả tương tác Meta AI trên Facebook, Instagram, WhatsApp và phần còn lại của hệ sinh thái cho việc cải tiến sản phẩm, huấn luyện AI và quảng cáo mục tiêu ở những nơi không có các biện pháp bảo vệ quyền riêng tư mạnh mẽ như GDPR.

Việc theo dõi nhân viên có thể làm cho công việc trở nên tồi tệ hơn

Một vấn đề khác khi Meta theo dõi nhân viên để huấn luyện AI là việc này có thể làm cho công việc trở nên tồi tệ hơn(cửa sổ mới). Giống như phần mềm theo dõi lượt nhấp chuột, phần mềm này coi các lượt gõ phím và chuyển động chuột là những tín hiệu có ý nghĩa. Nhưng ngay cả khi có AI tiên tiến hơn hỗ trợ, những tín hiệu đó vẫn là sự thay thế kém cỏi cho hiệu suất thực tế, đặc biệt là trong công việc trí óc, nơi tư duy phản biện, lập kế hoạch, kết nối các ý tưởng giữa các bộ phận và giải quyết vấn đề thường không thể nhìn thấy từ bên ngoài.

Một khi người lao động biết những tín hiệu đó đang bị ghi lại — đặc biệt là nếu họ nghi ngờ một ngày nào đó mình có thể bị thay thế bởi chính các tác nhân AI mà họ đang giúp tinh chỉnh — điều đó sẽ tạo ra một động lực ngược đời là tối ưu hóa việc tỏ ra bận rộn, hoặc thậm chí cố tình bóp méo hành vi của mình thay vì làm việc có ý nghĩa. Sự giám sát và mất lòng tin trở thành quy chuẩn tại nơi làm việc.

Cơ sở hạ tầng ưu tiên quyền riêng tư là rất quan trọng

Các nền tảng được xây dựng xung quanh việc khai thác khiến mọi tương tác bắt đầu trông giống như dữ liệu đang chờ được kiếm tiền, tối ưu hóa hoặc đưa trở lại vào một hệ thống khác. Khi có sự tham gia của AI, hệ thống đó có thể được sử dụng để nghiên cứu, bắt chước và cuối cùng là thay thế con người.

Các dịch vụ ưu tiên quyền riêng tư rất quan trọng vì một công ty càng ít có khả năng truy cập dữ liệu, thì càng có ít không gian cho kiểu lạm dụng mục tiêu ban đầu này. Các biện pháp bảo vệ mạnh mẽ như mã hóa đầu cuối giúp giới hạn những gì một nền tảng có thể nhìn thấy ngay từ đầu, trong khi mã nguồn mở tăng cường tính minh bạch bằng cách cho phép kiểm tra độc lập cách các hệ thống đó thực sự hoạt động. Cùng nhau, chúng giúp bảo vệ lòng tin của cả nhân viên và khách hàng.