Với mỗi prompt, các phòng thí nghiệm AI lại thu nạp thêm dữ liệu doanh nghiệp của bạn mỗi ngày. Biện pháp bảo vệ duy nhất của bạn? Một lời hứa mơ hồ rằng sẽ không dùng dữ liệu đó để huấn luyện.
Một phân tích gần đây của Lawfare(cửa sổ mới) lập luận rằng khi doanh nghiệp giao dữ liệu của mình cho một vài phòng thí nghiệm AI hùng mạnh, họ đang dạy cho những phòng thí nghiệm đó cách khiến mình trở nên dư thừa. Các tác giả gọi đây là sự thay thế thông qua tiếp thu tri thức (RKA).
Trong khi không có cách nào biết được các phòng thí nghiệm AI làm gì với dữ liệu doanh nghiệp của bạn ngày nay, ba thế lực đang hội tụ: quyền lực gần như không bị kiểm soát trong việc đặt ra các điều khoản, một hệ thống pháp lý vẫn đang loay hoay với việc “huấn luyện” thực sự nghĩa là gì, cùng cả khả năng lẫn động lực để cạnh tranh với chính khách hàng của mình.
Doanh nghiệp của bạn có thể đang nuôi con quái vật mà cuối cùng có thể nuốt chửng mình.
Các phòng thí nghiệm AI có dùng dữ liệu doanh nghiệp để huấn luyện không?
Các phòng thí nghiệm AI lớn nhất đã đồng loạt nỗ lực trấn an người dùng doanh nghiệp rằng dữ liệu của họ mặc định là riêng tư:
- OpenAI tuyên bố không huấn luyện trên đầu vào hoặc đầu ra từ ChatGPT của người dùng doanh nghiệp.
- Anthropic tuyên bố dữ liệu doanh nghiệp mặc định được loại trừ khỏi quá trình huấn luyện mô hình của Claude.
- Microsoft tuyên bố các prompt, phản hồi và dữ liệu không được dùng để huấn luyện Copilot.
- Google tuyên bố Gemini không huấn luyện mô hình trên dữ liệu doanh nghiệp nếu không có sự cho phép hoặc chỉ dẫn trước.
- X tuyên bố các tương tác trên gói doanh nghiệp Grok không cải thiện mô hình của mình, nhưng rõ ràng sẽ dùng dữ liệu nhân viên SpaceX của chính họ cho mục đích huấn luyện.
Trên thực tế, những lời hứa bảo vệ quyền riêng tư của người dùng mà họ đưa ra là cố tình mơ hồ và mong manh hơn vẻ bề ngoài:
- Các điều khoản then chốt được định nghĩa lỏng lẻo. Lawfare chỉ ra rằng thỏa thuận doanh nghiệp của OpenAI định nghĩa nội dung khách hàng là đầu vào và đầu ra, rồi định nghĩa chúng bằng chính các từ “đầu vào” và “đầu ra”. Điều khoản của Anthropic loại trừ việc huấn luyện mô hình trên nội dung khách hàng mà không định nghĩa huấn luyện nghĩa là gì.
- Một số dữ liệu có thể nằm ngoài lời hứa. Các mẫu, siêu dữ liệu và tóm tắt mà AI tạo ra nhưng không bao giờ hiển thị cho bạn có thể hoàn toàn không được tính là đầu vào hay đầu ra.
- “Huấn luyện” có phạm vi hẹp hơn những gì nghe có vẻ. Việc dùng dữ liệu của bạn để xây dựng các chuẩn kiểm thử, tinh chỉnh prompt hệ thống hay huấn luyện các công cụ an toàn riêng có thể không được tính.
- Các điều khoản có thể thay đổi. Nhà cung cấp thường bảo lưu quyền sửa đổi chúng, và mỗi lần ra mắt mô hình mới là một cơ hội để đặt lại chúng.
- Bạn không thể kiểm tra. Chỉ phòng thí nghiệm mới biết điều gì đi vào quá trình huấn luyện của nó. Một vụ vi phạm sẽ gần như không thể để bạn phát hiện.Người sáng lập kiêm CEO của Proton, Andy Yen, đã cảnh báo rằng một khi bạn chia sẻ thông tin với AI, bạn thực sự không thể lấy lại. Ông lập luận rằng chẳng bao lâu nữa, AI “thậm chí có thể hiểu bạn rõ hơn cả chính bạn.”(cửa sổ mới) Với một doanh nghiệp, mức đặt cược còn cao hơn.
Doanh nghiệp của bạn có thể đánh mất điều gì
Điều AI học được về doanh nghiệp của bạn chính là thứ khiến nó trở nên cạnh tranh. Big Tech biết rõ điều đó.
Trong một vụ việc kéo dài từ 2019 đến 2022, Ủy ban Châu Âu đã điều tra Amazon vì dùng dữ liệu không công khai từ người bán bên thứ ba để định hướng hoạt động bán lẻ của chính mình, thực chất là dùng dữ liệu của chính người bán để cạnh tranh với họ. Amazon cam kết dừng lại, và lệnh cấm sau đó được đưa vào Đạo luật Thị trường Kỹ thuật số (Digital Markets Act).
Trong một số ngành, thứ bị đe dọa không chỉ là lợi thế cạnh tranh. Việc tuân thủ cũng gặp rủi ro. Các doanh nghiệp trong ngành y tế và tài chính có nghĩa vụ pháp lý phải bảo vệ thông tin nhạy cảm theo những quy định như HIPAA và GDPR. Những quy định này rõ ràng trong việc bảo mật dữ liệu cá nhân, nhưng ngành AI còn quá mới nên một vùng xám đang ngày càng mở rộng.
Và khi AI nay đã được tích hợp vào các công cụ ghi chú cuộc họp, email và quy trình làm việc hằng ngày, nó chạm đến doanh nghiệp của bạn nhiều hơn hẳn so với khi chỉ nằm trong một cửa sổ trò chuyện.
Các phòng thí nghiệm AI có thể thu được gì
Các phòng thí nghiệm AI có động lực về tài chính lẫn cạnh tranh để thu nạp càng nhiều dữ liệu càng tốt.
Thị trường AI được dự báo sẽ tiếp tục tăng trưởng mạnh mẽ, với Gartner dự đoán rằng AI sẽ chạm đến mọi công việc IT vào năm 2030. Công ty này cũng dự báo chi tiêu cho AI sẽ đạt 2,5 nghìn tỷ USD vào năm 2026, tăng 44% so với năm trước. Trước thách thức tiếp tục phát triển các mô hình AI thông minh hơn mà không có đủ tài liệu huấn luyện, các công ty AI nhiều khả năng sẽ bắt đầu tìm cách thu lợi từ khách hàng doanh nghiệp của mình.
Nhu cầu bùng nổ đang buộc các phòng thí nghiệm AI ngày càng phải sáng tạo trong cách phát triển mô hình của mình. Và dữ liệu doanh nghiệp rõ ràng có giá trị với những phòng thí nghiệm này: Google đã thắng thầu 10 triệu USD để mua dữ liệu từ hãng hàng không phá sản Spirit Airlines vào tháng 8. Theo Hiệp hội Tiếp viên Hàng không, gói dữ liệu này bao gồm dữ liệu nhạy cảm của nhân viên. Dữ liệu đó có thể được thu nạp và dùng để huấn luyện các mô hình AI của Google mà không có sự đồng ý của những nhân viên ấy.
OpenAI tuyên bố không huấn luyện trên đầu vào hoặc đầu ra từ các sản phẩm của mình đối với người dùng doanh nghiệp. Nhưng khi biết được giá trị khổng lồ của dữ liệu này đối với doanh nghiệp, giờ đây chúng ta cần xem xét vị thế pháp lý của ngành AI trong việc xử lý dữ liệu.
Không thể trông cậy vào những quy định có thể sẽ không bao giờ xuất hiện
Liệu các quy định có thể bảo vệ dữ liệu doanh nghiệp của bạn khỏi những phòng thí nghiệm AI lớn nhất không? Để hiểu rõ điều này, chúng ta phải xem xét thực tế tài chính và chính trị của ngành.
Hoa Kỳ thống trị AI. Theo Báo cáo Chỉ số Trí tuệ nhân tạo của Stanford, 59 mô hình đáng chú ý đang hoạt động từ Hoa Kỳ, con số lớn nhất so với bất kỳ quốc gia nào trên thế giới. Sự thống trị này rất đáng lưu ý; vào tháng 3, Nhà Trắng đã công bố một khung chính sách quốc gia để điều chỉnh AI. Khung này kêu gọi thay thế các luật cấp bang bằng một khung chính sách AI cấp liên bang nhằm “bảo vệ quyền và sự đổi mới của người Mỹ, đồng thời ngăn chặn một mớ quy định cấp bang chắp vá, phân mảnh, vốn sẽ cản trở năng lực cạnh tranh quốc gia [của Hoa Kỳ].” Khung này lưu ý rằng không được để các luật cấp bang điều chỉnh AI “hành xử trái với chiến lược quốc gia của Hoa Kỳ nhằm đạt được vị thế thống trị AI toàn cầu.”
Liệu chính phủ Hoa Kỳ có nhiều khả năng ưu tiên quyền riêng tư dữ liệu của các doanh nghiệp riêng lẻ, có thể nằm ngoài Hoa Kỳ hơn không? Hay là quyền mở rộng của đế chế AI quốc gia mình? Các doanh nghiệp châu Âu đơn giản không thể đảm bảo rằng các công cụ AI của Mỹ sẽ đặt chủ quyền dữ liệu của họ lên hàng đầu. Khi những phòng thí nghiệm AI lớn nhất đều hoạt động tại Hoa Kỳ, một điểm uốn đang ở phía chân trời.
Lựa chọn tốt hơn cho AI doanh nghiệp
Thay vì trông chờ vào quy định hay cố gắng bắt kịp các chính sách quyền riêng tư, doanh nghiệp có một lựa chọn dễ dàng và hiệu quả hơn: chọn một công cụ AI được xây dựng vì quyền riêng tư. Vẫn có chỗ cho đổi mới mà không bóc lột. Công cụ AI bạn chọn nên chỉ là như vậy: một công cụ AI hỗ trợ bạn, chứ không phải một đối thủ mà bạn đang huấn luyện để thay thế mình. Nó nên tìm cách hoàn thành chức năng của mình, phát triển theo thời gian, mà không đánh cắp bí mật thương mại.
Proton đã xây dựng Lumo để đáp ứng nhu cầu này. Không có động lực thu thập hay khai thác dữ liệu người dùng, AI có thể trở thành một công cụ mang tính chuyển đổi cho doanh nghiệp. Lumo không lưu giữ nhật ký các cuộc trò chuyện doanh nghiệp, bảo vệ dữ liệu của bạn khỏi bên thứ ba và sự giám sát của chính phủ. Với mô hình kinh doanh không quảng cáo và không nhận tài trợ từ Big Tech hay vốn đầu tư mạo hiểm, động lực duy nhất của Lumo là cung cấp dịch vụ hỗ trợ doanh nghiệp tốt nhất có thể. Proton với tư cách một doanh nghiệp được điều hành bởi Proton Foundation, nghĩa là chúng tôi hành động vì lợi ích của con người, chứ không phải vì sự thống trị công nghiệp.
Đặt trụ sở tại Thụy Sĩ, Proton còn chịu sự điều chỉnh của các luật bảo vệ quyền riêng tư dữ liệu nghiêm ngặt và GDPR. Mã và mô hình của chúng tôi đều là mã nguồn mở, nên bất kỳ doanh nghiệp nào cũng có thể xác minh những tuyên bố của chúng tôi. Lumo được thiết kế để làm đúng điều AI nên làm: cung cấp hỗ trợ mà không bóc lột. Chọn một giải pháp thay thế châu Âu cho các công cụ AI của Big Tech là cách tốt nhất để doanh nghiệp tự bảo vệ mình khỏi những phòng thí nghiệm AI không bị quản lý và không đáng tin cậy.
