Trí tuệ nhân tạo (AI) > LLM có an toàn không?
LLM có an toàn không? Giải thích về rủi ro an ninh AI
Trợ lý AI đã trở thành công cụ hàng ngày cho công việc, nghiên cứu và giao tiếp. Nhưng chính những hệ thống khiến chúng hữu ích cũng biến chúng thành một mối lo ngại về bảo mật. Dưới đây là những điều cần biết về rủi ro bảo mật của LLM và AI.
LLM là gì và có liên quan thế nào đến AI và bảo mật?
Trí tuệ nhân tạo bao gồm hàng chục loại phần mềm học máy, từ nhận dạng khuôn mặt, phát hiện gian lận ngân hàng cho đến các trò chơi trí tuệ. Mô hình ngôn ngữ lớn (LLM) là một loại AI cụ thể: Chúng là động cơ đằng sau mọi trợ lý AI lớn mà quý vị từng nghe nói đến, bao gồm ChatGPT, Microsoft Copilot, Google Gemini và Lumo của riêng Proton.
LLM học hỏi bằng cách xử lý lượng thông tin khổng lồ — sách, bài báo, tài liệu hướng dẫn, mã và các bài nghiên cứu học thuật — rồi tìm ra các quy luật hoạt động của ngôn ngữ. Theo thời gian, khả năng dự đoán từ ngữ tiếp theo của LLM sẽ tốt hơn, cho phép thực hiện toàn bộ cuộc hội thoại, tóm tắt tài liệu hoặc soạn thư nháp email tự nhiên như người thật viết.
Vì LLM xử lý lượng thông tin rất lớn và mọi người ngày càng chia sẻ nhiều chi tiết cá nhân lẫn công việc nhạy cảm với chúng, bảo mật LLM là vô cùng quan trọng để đảm bảo dữ liệu bí mật không bị đánh cắp hoặc rò rỉ.
AI tác nhân (agentic AI) đóng vai trò gì ở đây?
Trước đây, LLM chỉ giới hạn ở việc phản hồi — quý vị hỏi và AI trả lời. AI tác nhân còn tiến xa hơn thế. Một tác nhân AI vẫn sử dụng LLM để suy luận và giao tiếp, nhưng cũng có thể thực hiện các hành động: duyệt web, viết và chạy mã, gửi thư, kết nối với các ứng dụng bên ngoài và quản lý tệp. Thay vì chỉ trả lời một câu hỏi duy nhất, tác nhân AI có thể thực hiện một tác vụ gồm nhiều bước mà không cần nhiều sự giám sát của con người.
Khả năng bổ sung đó đi kèm với rủi ro gia tăng. Khi AI có thể hành động độc lập, hậu quả từ việc bị lừa hoặc gặp lỗi sẽ nghiêm trọng hơn nhiều. Bảo mật AI tác nhân là một trong những mối lo ngại tăng nhanh nhất trong lĩnh vực này, chính vì các hệ thống này ngày càng được tích hợp sâu vào các công cụ làm việc, thường với quyền truy cập nhiều hơn mức thực sự cần thiết.
Bảo mật LLM và những mối nguy hiểm tiềm ẩn của AI
Các rủi ro bảo mật của AI và LLM đáng lo ngại vì chúng được tích hợp vào chính cấu trúc cơ bản của cách thiết kế và triển khai các công cụ này. Khi quý vị hỏi trợ lý AI một câu hỏi về sức khỏe cá nhân, chia sẻ một chiến lược kinh doanh hoặc thảo luận về một tình huống pháp lý, thông tin đó thường được chuyển đến các máy chủ nằm ngoài tầm kiểm soát và có thể phải tuân theo các luật hoặc tiêu chuẩn ứng xử mà quý vị thậm chí không biết. Bảo mật LLM không chỉ là việc mà các nhóm CNTT cần suy nghĩ; đó là một vấn đề thực tế đối với bất kỳ ai sử dụng AI, dù là cho mục đích riêng tư hay công việc.
Các rủi ro bảo mật lớn nhất của LLM và AI
LLM được tích hợp vào nhiều công cụ hơn mỗi ngày — nhưng vẫn đi kèm với một số rủi ro bảo mật không dễ nhận thấy ngay lập tức.
Hầu hết các nền tảng AI đều giữ lại lời nhắc, phản hồi và dữ liệu tương tác theo mặc định. Thông tin đó có thể được đọc bởi nhân viên công ty, đưa vào đào tạo mô hình trong tương lai, bán cho bên thứ ba hoặc thậm chí bàn giao cho cơ quan chức năng. Một khi các cuộc hội thoại nằm trên máy chủ của bên khác, quý vị hầu như không có tiếng nói trong việc dữ liệu đó được lưu trữ, sử dụng hoặc chia sẻ như thế nào.
Hầu hết các sản phẩm AI bao gồm các thành phần được xây dựng bởi các tổ chức và công ty khác nhau, bao gồm các mô hình cơ sở, phần bổ trợ, API và luồng dữ liệu. Nếu một thành phần trong chuỗi cung ứng đó bị xâm phạm, mọi người dùng sản phẩm đó đều bị ảnh hưởng, thường mà không có bất kỳ dấu hiệu rõ ràng nào cho thấy có điều gì đó không ổn.
LLM có thể để lộ dữ liệu vốn không được phép chia sẻ. Đây có thể là thông tin thu được từ dữ liệu đào tạo, các phiên của người dùng khác hoặc các cuộc hội thoại trước đó của chính quý vị mà AI vẫn có quyền truy cập. Trong môi trường doanh nghiệp, nơi nhiều người chia sẻ cùng một công cụ AI và dữ liệu nhạy cảm truyền qua cùng một hệ thống, những rò rỉ này có thể gây ra thiệt hại nghiêm trọng.
Vì AI tác nhân có khả năng gửi email, chạy mã hoặc truy cập tệp, nguy cơ khi chúng bị thao túng sẽ tăng lên đáng kể. Một tác nhân AI có quá nhiều quyền hạn có thể thực hiện các hành động trên nhiều hệ thống được kết nối, thường trước khi có ai đó nhận ra điều bất thường. Càng để AI hành động thay mặt nhiều, việc kiểm soát chặt chẽ quyền truy cập của nó càng trở nên quan trọng hơn.
Chèn lời nhắc (prompt injection) là một trong những rủi ro bảo mật AI phổ biến nhất. Hình thức này hoạt động bằng cách ẩn các hướng dẫn độc hại bên trong nội dung được nạp vào AI, chẳng hạn như trong tệp PDF hoặc trang web, để thao túng các tác nhân AI hoạt động tự chủ. Những hướng dẫn đó âm thầm ghi đè hành vi của tác nhân AI, có khả năng khiến nó rò rỉ dữ liệu bí mật, hành động ngược lại lợi ích của quý vị hoặc tạo ra các kết quả sai lệch — trong khi mọi thứ trên bề mặt vẫn có vẻ bình thường.
Cách tiếp cận khác biệt của Lumo đối với bảo mật AI
Hầu hết trợ lý AI được thiết kế để cung cấp cho nền tảng thông tin chi tiết tối đa về cách sử dụng chúng. Lumo được thiết kế để làm điều ngược lại, mang lại khả năng kiểm soát tốt hơn và sự an tâm về cách xử lý dữ liệu.
Không bao giờ ghi nhật ký
Máy chủ LLM của Lumo xử lý thư và hủy bỏ ngay khi phản hồi được tạo. Không có nhật ký nào về nội dung đã hỏi, câu trả lời hoặc thời gian thực hiện. Không có cuộc hội thoại bằng văn bản thuần túy nào được lưu lại trên máy chủ, nghĩa là không có dữ liệu nào để bị xâm phạm, bị yêu cầu cung cấp làm chứng cứ hoặc bị lạm dụng.
Thư được mã hóa trước khi rời khỏi thiết bị
Lumo sử dụng mã hóa bất đối xứng hai chiều — được gọi là mã hóa Người dùng đến Lumo (U2L) — để bảo vệ thư trong quá trình truyền tải. Thư thực tế chỉ có thể được đọc bởi chính máy chủ LLM và chỉ trong khoảng thời gian cần thiết để tạo phản hồi.
Lịch sử hội thoại được khóa bằng mã hóa không truy cập
Sau khi phản hồi được tạo, hội thoại được lưu trữ bằng mã hóa không truy cập — được bảo vệ bằng khóa chỉ do người dùng nắm giữ. Proton không bao giờ có quyền truy cập vào đó. Ngay cả khi máy chủ của Proton bị xâm phạm hoàn toàn, lịch sử hội thoại vẫn không thể đọc được.
Mô hình và mã nguồn mở cho phép các chuyên gia xác minh tính bảo mật của Lumo
Không giống như các công cụ AI mã nguồn đóng như ChatGPT, Copilot và Gemini, Lumo hoạt động trên các mô hình và mã nguồn mở, vì vậy bất kỳ ai cũng có thể kiểm tra kiến trúc để tìm lỗ hổng bảo mật và xác minh xem ứng dụng có hoạt động đúng như tuyên bố hay không.
Không quảng cáo hoặc chia sẻ dữ liệu
Hầu hết các trợ lý AI được xây dựng trên mô hình kinh doanh phụ thuộc vào việc thu thập và lưu giữ dữ liệu. Lumo thì khác. Doanh thu của Proton đến từ các gói đăng ký, không phải từ việc kiếm tiền từ dữ liệu, vì vậy không có động cơ nào để ghi nhật ký hội thoại, chia sẻ với bên thứ ba hoặc sử dụng chúng để hiển thị quảng cáo.
Được lưu trữ tại Châu Âu, không chịu sự điều chỉnh của luật giám sát của Hoa Kỳ
Các công cụ AI do các công ty Hoa Kỳ xây dựng có thể bị buộc phải tiết lộ dữ liệu theo các đạo luật như Đạo luật CLOUD. Lumo hoạt động trên các máy chủ do Proton kiểm soát tại Châu Âu, tuân thủ một trong những quy định bảo vệ quyền riêng tư nghiêm ngặt nhất thế giới. Các cuộc hội thoại nằm ngoài phạm vi tiếp cận của các yêu cầu truy cập từ chính phủ nước ngoài.
Tham gia vào hệ sinh thái được mã hóa giúp bảo mật mọi lúc mọi nơi
Lumo là một phần của hệ sinh thái ưu tiên quyền riêng tư, bảo vệ dữ liệu bằng công nghệ mã hóa mạnh mẽ. Không ai có thể xem dữ liệu ngoại trừ bạn và những người được chọn để chia sẻ — ngay cả chúng tôi.
Tạo tài khoản Lumo miễn phí và bạn cũng sẽ mở khóa quyền truy cập vào VPN(cửa sổ mới), email, lịch, lưu trữ đám mây, trình chỉnh sửa tài liệu, trình chỉnh sửa bảng tính, trình quản lý mật khẩu, hội nghị truyền hình và nhiều dịch vụ khác.
Mọi người nói gì về Lumo
Đây là nơi duy nhất bất kỳ ai cũng có thể xem cuộc hội thoại.
@recant731
trên X
Vừa sử dụng Lumo để hỗ trợ lên kế hoạch cho một chuyến đi đường bộ, với lộ trình chi tiết và ngân sách cho chỗ ở cũng như nhiên liệu xe. @ProtonPrivacy đã làm tôi phấn khích và giờ đây @asklumo cũng vậy.
@markruffalo
qua bình luận trên Instagram
Có những ứng dụng trò chuyện khác thực tế cũng tốt tương đương, rẻ hơn hoặc riêng tư hơn mà không tài trợ cho cái ác trên thế giới. Có thể nghĩ ngay đến Lumo từ ProtonMail
@banasnap.bsky.social
trên Bluesky
Tiền đề đầy hứa hẹn: một AI ưu tiên quyền riêng tư chính là thứ bối cảnh hiện tại còn thiếu. Trong bối cảnh hầu hết các dịch vụ bị chi phối bởi các công ty Mỹ và Trung Quốc, việc có một lựa chọn đặt tại châu Âu, đến từ đội ngũ am hiểu sâu sắc về quyền riêng tư trực tuyến, sẽ lấp đầy khoảng trống vô cùng cần thiết. Rất mong chờ được trải nghiệm Lumo.
tintreack
trên Reddit
Điều này thật tuyệt vời, và linh vật cũng khá đáng yêu. Thực sự rất thích bộ nhận diện thương hiệu này. Đồng thời, là một người dùng có tầm nhìn phải sử dụng ChatGPT cho quy trình làm việc, xin cảm ơn. Cuối cùng cũng có thể loại bỏ điều đó. Đã thử nghiệm và thấy khá tuyệt vời! Làm tốt lắm cả đội.
Chuyển sang một trợ lý AI thực sự an toàn
Các công cụ AI do các nền tảng công nghệ lớn nhất xây dựng được thiết kế để hữu ích, nhưng thường phải trả giá bằng bảo mật và quyền riêng tư. Lumo mang lại một LLM và trợ lý AI có năng lực, được mã hóa mà không có bất kỳ sự thỏa hiệp nào về bảo mật.
Các câu hỏi thường gặp về LLM và bảo mật AI
- Các rủi ro bảo mật AI lớn nhất đối với người dùng hàng ngày là gì?
- Lumo có an toàn cho công việc bảo mật hoặc nhạy cảm không?
- Những mối nguy hiểm chính của AI đối với các doanh nghiệp là gì?
- Lumo hỗ trợ những ngôn ngữ nào?
