Khi việc sử dụng trí tuệ nhân tạo ngày càng tăng, trợ lý AI(cửa sổ mới) đang trở thành những người bạn đồng hành đáng tin cậy. Hàng triệu người tìm đến các chatbot như ChatGPT, Claude, Gemini, DeepSeek và các công cụ khác để đặt câu hỏi và giải quyết vấn đề. Các truy vấn có thể rất nhạy cảm, hỏi về các mối lo ngại về sức khỏe, chia sẻ dữ liệu khách hàng hoặc tìm kiếm hỗ trợ cảm xúc và cảm hứng sáng tạo.
Với nhiều người, các chatbot này mang lại cảm giác giống con người, phản hồi nhanh và bảo mật. Nhưng những diễn biến gần đây (Một lệnh pháp lý đã buộc OpenAI phải bảo lưu dữ liệu đầu ra của ChatGPT(cửa sổ mới) vô thời hạn, và Sam Altman, người sáng lập OpenAI, cho biết ChatGPT không cung cấp “tính bảo mật pháp lý”(cửa sổ mới)) đã làm sáng tỏ rủi ro rằng mọi từ được nhập đều có thể được ghi nhật ký, được lưu trữ, phân tích và có thể bị lạm dụng hoặc bị rò rỉ cho bên thứ ba.
Dưới đây là ý nghĩa của điều đó và lý do tại sao tất cả mọi người đều nên lo ngại.
Rủi ro cao hơn với AI
Sự trỗi dậy của trợ lý AI có cảm giác như một ranh giới mới, nhưng theo nhiều cách, tình huống này đã từng xảy ra trước đây. Những lo ngại xung quanh nhật ký trò chuyện AI tương tự như những lo ngại xuất hiện trong thời kỳ đầu của các công cụ tìm kiếm, nhiều trong số đó đã được chứng minh là có cơ sở. Nhật ký tìm kiếm đã được sử dụng để xây dựng các hồ sơ nhắm mục tiêu quảng cáo sinh lời, đã bị lộ trong các vụ vi phạm dữ liệu và đã bị triệu tập tại tòa án.
Với AI, rủi ro cao hơn vì dữ liệu mang tính cá nhân và chi tiết hơn. Ngày càng có nhiều người chuyển từ công cụ tìm kiếm sang chatbot AI để tìm câu trả lời, với dự báo rằng việc sử dụng công cụ tìm kiếm sẽ giảm 25% vào năm 2026(cửa sổ mới). Không giống như thanh tìm kiếm, vốn thường chỉ ghi nhận các truy vấn ngắn, rời rạc, các câu hỏi gửi đến chatbot được diễn đạt như thể người hỏi đang nói chuyện với một người khác, qua đó tiết lộ nhiều điều hơn về bản thân họ. Một cuộc hội thoại duy nhất có thể chứa suy nghĩ cá nhân(cửa sổ mới), những đấu tranh tâm lý, mối lo ngại về sức khỏe(cửa sổ mới), nỗi sợ tài chính, hoặc thậm chí cả họ tên và địa chỉ.
Nói tóm lại, nhật ký trò chuyện cung cấp một bản đồ cực kỳ phong phú và chi tiết về danh tính, nhiều hơn so với nhật ký công cụ tìm kiếm — và có ảnh hưởng lớn hơn nhiều đến quyền riêng tư. Các tập đoàn công nghệ lớn có thể truy cập nhật ký trò chuyện và sử dụng chúng để xây dựng hồ sơ tâm lý có thể bị tiết lộ cho chính phủ hoặc được sử dụng cho quảng cáo nhắm mục tiêu. Ví dụ: Meta đang sử dụng dữ liệu trò chuyện AI để tạo quảng cáo được cá nhân hóa.
Các cuộc trò chuyện ‘ẩn danh’ không phải lúc nào cũng được giữ kín như vậy
Một lập luận phổ biến chống lại việc lo ngại về quyền riêng tư của nhật ký trò chuyện là lượng dữ liệu khổng lồ khiến việc khai thác cá nhân ít có khả năng xảy ra, đặc biệt là khi người dùng không đăng nhập. Nhưng lịch sử gần đây lại cho thấy một câu chuyện khác.
Vào tháng 7, các phóng viên phát hiện ra rằng hơn 100.000 cuộc hội thoại trong ChatGPT(cửa sổ mới) đã được Google lập chỉ mục và có thể tìm kiếm được. Người dùng nhấp vào nút “chia sẻ” để gửi cuộc hội thoại cho bạn bè hoặc đồng nghiệp gần như chắc chắn không nhận ra rằng các cuộc hội thoại riêng tư sẽ hiển thị với mọi người trên internet.
Ví dụ này là một cảnh báo: Dữ liệu được gọi là “ẩn danh” hiếm khi ẩn danh. Khi kết hợp với địa chỉ IP, dấu thời gian, dấu vân tay thiết bị, cũng như ID phiên và cookie, những nhật ký này trở nên dễ nhận dạng hơn nhiều.
Cách các cuộc trò chuyện có thể tiết lộ cuộc sống nội tâm
Các nền tảng AI phổ biến như ChatGPT(cửa sổ mới), Gemini(cửa sổ mới) và DeepSeek(cửa sổ mới) đều tuyên bố rằng nhật ký trò chuyện của người dùng được sử dụng để giúp cải thiện hiệu suất mô hình và không được sử dụng để “bán” dữ liệu cho mục đích quảng cáo hoặc hồ sơ người dùng. Nhưng các chính sách có thể thay đổi chỉ sau một đêm, như cuộc chiến pháp lý của OpenAI cho thấy.
Ví dụ: Anthropic đã cập nhật chính sách quyền riêng tư(cửa sổ mới) mà không có cảnh báo vào tháng 8 năm 2025 để kéo dài thời gian lưu giữ dữ liệu. Với việc nhật ký được lưu trữ vô thời hạn, dữ liệu cá nhân vốn từng có vẻ bất khả xâm phạm có thể đột nhiên trở thành nguồn lợi nhuận béo bở.
Đây không phải là lần đầu tiên điều đó xảy ra. Khi Google ra mắt vào năm 1998, các nhà đồng sáng lập Sergey Brin và Larry Page đã cảnh báo(cửa sổ mới) rằng các công cụ tìm kiếm dựa trên quảng cáo chắc chắn sẽ “vốn dĩ thiên vị nhà quảng cáo và rời xa nhu cầu của người tiêu dùng”. Một thập kỷ sau, Google bắt đầu sử dụng lịch sử tìm kiếm để nhắm mục tiêu quảng cáo(cửa sổ mới).
Với quyền truy cập trực tiếp vào đời sống nội tâm của con người, nhật ký AI có thể đẩy việc nhắm mục tiêu quảng cáo đến giới hạn của nó. Với số lượng người dùng ngày càng tăng tìm đến chatbot để được hỗ trợ về mặt cảm xúc(cửa sổ mới), ai đó có thể tâm sự:
- “Gần đây tôi cảm thấy quá tải và cô đơn.”
- “Bạn có nghĩ tôi bị trầm cảm không?”
- “Tôi có thể làm gì nếu không thể trả tiền thuê nhà vào tháng tới?”
Những tuyên bố này không chỉ là từ khóa hay một tập hợp các tương tác, chúng là những biểu hiện rõ ràng về cảm xúc và tình huống. Nếu được lưu trữ và phân tích, chúng có thể được sử dụng để xây dựng hồ sơ tâm lý và thao túng quyết định của người dùng.
Không phải là báo động giả khi cho rằng thông tin nhạy cảm, riêng tư như vậy có thể bị sử dụng cho mục đích trục lợi — vì các công ty Big Tech đã làm chính xác điều đó. Vào năm 2017, Facebook đã chứng minh rằng không có tương tác nào là bất khả xâm phạm bằng cách tìm cách nhắm mục tiêu thanh thiếu niên dễ bị tổn thương về mặt cảm xúc(cửa sổ mới) bằng quảng cáo trong những khoảnh khắc bất an.
Nhật ký chatbot là một cửa sổ nhìn vào tâm trí. Và mức độ truy cập đó làm dấy lên những lo ngại nghiêm trọng về quyền riêng tư và đạo đức trong một lĩnh vực chưa có hướng dẫn và quy định rõ ràng về việc sử dụng và ứng dụng dữ liệu.
Rủi ro pháp lý đối với người dùng
Lịch sử tìm kiếm từ lâu đã đóng một vai trò trong các cuộc điều tra hình sự và các vụ án tại tòa án. Có nhiều trường hợp trong đó các truy vấn trực tuyến đã góp phần vào phán quyết có tội, đáng chú ý là vụ án Moira Akers vs State ở Mỹ.
Sau khi trải qua ca thai chết lưu vào năm 2018, Akers bị buộc tội giết người và năm 2022 bị kết án 30 năm tù. Một phần quan trọng trong vụ án của công tố viên là các tìm kiếm trên internet của Akers về việc phá thai, được thực hiện trong giai đoạn đầu của thai kỳ. Theo bên công tố, những tìm kiếm này là bằng chứng cho ý định của Akers — bất chấp thực tế là cô ấy đã mang thai đủ tháng. Tòa án Tối cao Maryland đã lật ngược bản án của cô vào năm 2025, phán quyết rằng bằng chứng truy vấn tìm kiếm không được chấp nhận(cửa sổ mới). Nhưng Akers đã phải ngồi tù gần ba năm. Vụ việc nổi bật cách nhật ký được lưu trữ có thể được sử dụng để kể một câu chuyện phù hợp với một lập luận bất lợi, ngay cả khi có bằng chứng mâu thuẫn với nó.
Mối nguy hiểm thậm chí có thể cao hơn với các cuộc trò chuyện được lưu trữ bằng AI có thể trở thành đối tượng của bằng chứng pháp lý. Không giống như các truy vấn tìm kiếm, những tương tác này mang tính hội thoại và thậm chí là suy đoán nhiều hơn, đôi khi là cách để gợi ý một loại phản hồi nhất định từ LLM, hay mô hình ngôn ngữ lớn. Một cuộc trao đổi riêng tư, vô tội với một AI sau đó có thể bị diễn giải là bằng chứng buộc tội trong bối cảnh pháp lý, bất kể ý định vào thời điểm đó.
Một công cụ mạnh mẽ để thao túng
Những người có thể xem nhật ký chatbot có thể giành quyền truy cập vào các bản thiết kế hành vi chi tiết: thói quen cá nhân, các yếu tố kích thích cảm xúc, động lực mối quan hệ và thậm chí cả các lỗ hổng chuyên môn. Nếu rơi vào tay kẻ xấu, dữ liệu này là một công cụ mạnh mẽ cho kỹ nghệ xã hội (social engineering), một chiến thuật tấn công phổ biến liên quan đến thao túng tâm lý.
Rủi ro này hoàn toàn không phải là giả thuyết. Vào tháng 1 năm 2025, nền tảng AI DeepSeek đã để lộ một cơ sở dữ liệu khổng lồ trực tuyến(cửa sổ mới). Vụ vi phạm bao gồm hơn một triệu nhật ký trò chuyện AI và khóa API, tất cả đều có thể truy cập công khai cho bất kỳ ai biết nơi tìm kiếm. Trong số dữ liệu bị lộ là các cuộc hội thoại dạng văn bản thuần túy có thể chứa các cuộc thảo luận về gia đình, tài chính và các dự án bảo mật — thông tin có thể dễ dàng bị khai thác để lừa đảo, tống tiền hoặc đánh cắp danh tính.
Sau khi bị rò rỉ, dữ liệu này có thể bị vũ khí hóa để giả mạo hoặc thao túng người dùng. Bằng cách tham chiếu các chi tiết cá nhân được lấy từ các cuộc hội thoại trong quá khứ, những kẻ tấn công có thể lấy lòng tin và khai thác nó để tạo ra các lỗ hổng bảo mật hoặc tài chính nghiêm trọng.
Mối đe dọa giám sát chính trị
Ở các chế độ độc tài, hậu quả của các tương tác kỹ thuật số được lưu trữ có thể nghiêm trọng hơn nhiều. Ví dụ, một số quốc gia đã cấm sử dụng nền tảng AI DeepSeek của Trung Quốc trên các thiết bị chính phủ(cửa sổ mới) vì những lo ngại về an ninh liên quan đến cách thông tin cá nhân của người dùng được xử lý bởi nhà điều hành. Hàn Quốc, Úc và Đài Loan đã bày tỏ lo ngại rằng dữ liệu này có thể bị các cơ quan chức năng Trung Quốc truy cập và có khả năng được sử dụng để giám sát.
Đối với những người bất đồng chính kiến, nhà hoạt động hoặc nhà báo, đây không chỉ là sự cố về quyền riêng tư, mà là vấn đề an toàn. Một cuộc trò chuyện có vẻ bình thường về quyền biểu tình, luật truyền thông hoặc các tuyến đường tị nạn có thể bị diễn giải thành bằng chứng buộc tội ở các khu vực tài phán có các biện pháp bảo vệ hạn chế đối với quyền tự do ngôn luận và quyền tự do dân sự.
Mối đe dọa đối với sở hữu trí tuệ
Vào năm 2023, các kỹ sư của Samsung đã vô tình tải lên mã nguồn độc quyền(cửa sổ mới) lên ChatGPT khi đang cố gắng gỡ lỗi một sự cố, dưới niềm tin sai lầm rằng các truy vấn của họ là riêng tư. Sau khi gửi, dữ liệu đó đã trở thành một phần của hệ thống đào tạo của OpenAI, làm dấy lên những lo ngại về bảo mật và quyền sở hữu trí tuệ được chia sẻ với các công cụ AI.
Một lo ngại liên quan đã xuất hiện trong vụ kiện bản quyền nổi tiếng do The New York Times khởi kiện OpenAI(cửa sổ mới) được đề cập ở đầu bài viết này. Vụ kiện đã dẫn đến một lệnh của tòa án yêu cầu OpenAI phải lưu giữ vô thời hạn tất cả dữ liệu đầu ra của ChatGPT sau những cáo buộc rằng công ty này đã sử dụng hàng triệu bài báo của tờ báo để đào tạo các mô hình của mình mà không được phép. Mặc dù vụ việc tập trung vào các trình thu thập thông tin web của OpenAI thu thập nội dung tin tức, nhưng nó lại đặt ra những câu hỏi rộng hơn cho những người sáng tạo — nhà văn, nhà thiết kế, nhạc sĩ và những người khác — những người đóng góp tác phẩm gốc cho các nền tảng AI.
Nếu nội dung do người dùng gửi bị giữ lại và tái sử dụng bởi mô hình, có rủi ro thực tế là tài liệu độc quyền hoặc sáng tạo có thể bị phân phối lại cho những người dùng khác mà không có sự ghi nhận nguồn hoặc sự đồng ý. Điều này làm mờ đi ranh giới giữa đóng góp của người dùng và dữ liệu đào tạo AI, đồng thời đặt ra những câu hỏi cấp bách về quyền tác giả và quyền sở hữu trong thời đại AI tạo sinh.
Những gì cần thay đổi và cách bảo vệ bản thân
Hầu hết mọi người muốn và kỳ vọng quyền riêng tư trong cuộc sống thực của họ. Proton tin rằng những kỳ vọng tương tự cũng nên được áp dụng cho đời sống kỹ thuật số của mọi người. Proton đã xây dựng một bộ dịch vụ được mã hóa giúp quyền riêng tư trực tuyến có thể tiếp cận được với bất kỳ ai, cho dù đang gửi email cho bạn bè, phát trực tuyến các chương trình yêu thích(cửa sổ mới), hay sao lưu ảnh. Vẫn chưa quá muộn để khắc phục những sai lầm ban đầu của internet, và với việc AI đang ở những ngày đầu, vẫn còn thời gian để vạch ra một lộ trình mới cho công nghệ này nhằm tôn trọng quyền riêng tư.
Trợ lý AI(cửa sổ mới) Lumo được xây dựng theo cách duy trì các biện pháp bảo vệ chính ngay từ đầu:
- Không ghi nhật ký dữ liệu: Người dùng có thể tương tác với chatbot mà không lo ngại rằng các thông tin gửi đi sẽ được lưu trữ, sử dụng vì lợi nhuận hoặc chống lại họ.
- Không đào tạo mô hình: Các cuộc trò chuyện riêng tư không bao giờ được khai thác làm dữ liệu đào tạo, vì điều này có nguy cơ khiến chúng xuất hiện lại trong kết quả đầu ra của mô hình sau này.
- Minh bạch trong xử lý dữ liệu: Phải rõ ràng về cách dữ liệu người dùng được lưu trữ được sử dụng, ai có quyền truy cập, dữ liệu được lưu trữ ở đâu, lưu giữ trong bao lâu và cách xóa dữ liệu đó.
- Mã hóa không truy cập theo mặc định: Các cuộc hội thoại phải được bảo mật bằng cách sử dụng khóa mã hóa của người dùng, vì vậy ngay cả nhà cung cấp AI cũng không thể truy cập.
Mặc dù mối nguy hiểm từ các chatbot âm thầm ghi nhật ký dữ liệu là có thật và cấp bách, nhưng chúng ta không hề bất lực. Bằng cách chọn các công cụ AI ưu tiên quyền riêng tư và yêu cầu sự minh bạch cũng như trách nhiệm giải trình từ những người tạo ra chúng, có thể chuyển cán cân quyền lực trở lại tay người dùng, khẳng định niềm tin rằng quyền riêng tư là một quyền, không phải là một đặc quyền.
