Các công cụ AI hiện là một phần trong công việc hàng ngày, giúp tóm tắt biên bản họp, soạn email nháp, gỡ lỗi mã, phân tích bảng tính và chuyển đổi tài liệu thành bài thuyết trình. Tuy nhiên, nếu được sử dụng mà không có sự phê duyệt hoặc giám sát, chúng có thể gây ra những lo ngại nghiêm trọng về quyền riêng tư AI, làm rò rỉ thông tin kinh doanh nhạy cảm và khiến đội ngũ IT không thể biết dữ liệu công ty đang đi đâu.
Hướng dẫn này trình bày về khái niệm shadow AI, cách thức lan truyền trong các tổ chức và những rủi ro nghiêm trọng mà nó tạo ra. Hướng dẫn cũng sẽ hiển thị cách phát hiện các công cụ chưa được phê duyệt và triển khai biện pháp bảo vệ thực tế để bảo vệ dữ liệu doanh nghiệp — mà không làm giảm tốc độ làm việc của đội ngũ.
- Shadow AI là gì?
- Shadow AI so với shadow IT
- Shadow AI xảy ra như thế nào?
- AI có tự động huấn luyện trên dữ liệu không?
- Ví dụ về shadow AI
- Những rủi ro của shadow AI là gì?
- Cách phát hiện shadow AI
- Cách giảm thiểu rủi ro shadow AI
- Cần làm gì nếu dữ liệu nhạy cảm đã bị chia sẻ
- Trợ lý AI riêng tư cho các đội ngũ
Shadow AI là gì?
Shadow AI là bất kỳ việc sử dụng trí tuệ nhân tạo nào cho công việc nằm ngoài các hệ thống và chính sách đã được duyệt của doanh nghiệp. Tình trạng này có thể bao gồm việc dùng một công cụ chưa được duyệt, tài khoản cá nhân dùng cho công việc của công ty, hoặc một dịch vụ AI đã được duyệt nhưng dùng với dữ liệu hoặc cho các tác vụ mà tổ chức chưa cấp phép.
Shadow AI thường bắt đầu từ những áp lực công việc hàng ngày: thời hạn gấp rút, nhu cầu tìm cách làm việc nhanh hơn hoặc tốt hơn, hoặc công cụ hiện tại chưa đáp ứng tốt công việc. Đôi khi, một công cụ AI đã được phê duyệt sẵn có, nhưng nhân sự vẫn tìm đến lựa chọn khác vì quen thuộc hơn.
Shadow AI so với shadow IT
Shadow IT là thuật ngữ rộng hơn chỉ bất kỳ phần mềm hoặc phần cứng nào được sử dụng mà không có sự phê duyệt hoặc giám sát của tổ chức. Các ví dụ phổ biến bao gồm dịch vụ lưu trữ đám mây cá nhân dùng cho công việc, ứng dụng nhắn tin chưa được phép và các nền tảng quản lý dự án chưa được duyệt.
Shadow AI là một dạng cụ thể của shadow IT liên quan đến các hệ thống AI và các tính năng hỗ trợ bởi AI. AI tạo ra thách thức bổ sung về quản trị dữ liệu vì thông tin công ty có thể bị gửi đến một hệ thống bên ngoài hoặc được xử lý theo cách không quen thuộc nằm ngoài tầm kiểm soát của tổ chức.
Shadow AI xảy ra như thế nào?
Nhân viên có thể nhập lượng lớn thông tin công ty vào cửa sổ trò chuyện AI chỉ trong vài giây. Tùy thuộc vào cài đặt của AI, công cụ này có thể lưu giữ dữ liệu đầu vào, chia sẻ với các bên khác (như nhà môi giới dữ liệu hoặc nhà cung cấp dịch vụ phân tích, như trong trường hợp vi phạm dữ liệu của OpenAI), hoặc sử dụng cho quảng cáo mục tiêu hoặc phát triển mô hình.
Shadow AI thường lan rộng do một số thiếu sót phổ biến trong tổ chức.
Không có giải pháp thay thế nào được phê duyệt
Nhân viên có nhiều khả năng sử dụng các công cụ shadow AI hơn khi doanh nghiệp chưa cung cấp tùy chọn được phê duyệt. Khảo sát của BlackFog(cửa sổ mới) trên 2.000 người lao động cho thấy 49% nhân viên sử dụng các công cụ AI mà không có sự đồng ý của người sử dụng lao động, 63% cho rằng việc dùng AI là chấp nhận được khi không có tùy chọn được doanh nghiệp phê duyệt, và 51% đã kết nối công cụ AI với các hệ thống công việc mà bộ phận IT không biết.
Chính sách không rõ ràng
Nhân viên có thể không chắc chắn công cụ, tác vụ và loại thông tin nào được cho phép. Hướng dẫn của công ty có thể hạn chế rõ ràng dữ liệu cực kỳ nhạy cảm nhưng lại ít đề cập đến biên bản họp nội bộ, email nháp, bảng tính, mã nguồn hoặc các cuộc hội thoại với khách hàng.
Khảo sát của IT Brew(cửa sổ mới) trên 241 chuyên gia IT cho thấy 35% ít hoặc không tin tưởng rằng nhân viên nắm rõ chính sách sử dụng AI và bảo mật dữ liệu của công ty, và chỉ 12% cảm thấy “rất tự tin”. Một khảo sát riêng biệt của WorkNest(cửa sổ mới) trên 505 chuyên gia nhân sự/người sử dụng lao động cho thấy 54% tổ chức không có bất kỳ chính sách AI nào, 24% vẫn đang xây dựng và chỉ 13% có quy định rõ ràng, được ghi nhận bằng văn bản.
Quy trình phê duyệt chậm trễ
Áp lực hoàn thành đúng hạn có thể khiến quy trình đánh giá bảo mật hoặc mua sắm kéo dài trở nên thiếu thực tế. Khi nhân viên có thể truy cập ngay một công cụ miễn phí, các quy trình nội bộ chậm chạp làm tăng khả năng họ dùng các biện pháp lách luật không chính thức.
Tính năng AI mới trong phần mềm đã duyệt
Nhà cung cấp có thể thêm các tính năng AI tạo sinh vào một ứng dụng đã vượt qua đánh giá bảo mật, và phần mềm này vẫn nằm trong danh sách được phê duyệt mặc dù chưa ai đánh giá cách tính năng mới xử lý, lưu trữ hoặc chia sẻ dữ liệu công ty. Nhân viên không vi phạm chính sách nào, nhưng kết quả vẫn giống như các nguyên nhân khác: Dữ liệu công ty hiện đang di chuyển qua một kênh chưa từng được kiểm duyệt thực sự.
Nhận thức hạn chế về xử lý dữ liệu
Nhân viên có thể không biết các nhà cung cấp AI như ChatGPT và Gemini lưu giữ câu lệnh, xử lý tệp đã tải lên, sử dụng hội thoại để cải thiện dịch vụ hoặc chia sẻ dữ liệu với các nhà cung cấp khác như thế nào. Nhân viên có thể cho rằng dữ liệu đầu vào biến mất khi họ đóng tab trình duyệt, ngay cả khi các bản sao vẫn còn trong lịch sử tài khoản, nhật ký, bản sao lưu hoặc các hệ thống kết nối.
Báo cáo của Kolide(cửa sổ mới) cho thấy mặc dù 89% nhân viên sử dụng AI hàng tháng, chỉ có 56% công ty giải thích về các rủi ro bảo mật của AI cho nhân viên.
Ví dụ về shadow AI
| Đội ngũ | Ví dụ về shadow AI | Thông tin có nguy cơ bị rò rỉ | Tác động tiềm ẩn |
|---|---|---|---|
| Phát triển phần mềm | Dán mã nội bộ vào chatbot công khai để gỡ lỗi | Mã nguồn, thông tin đăng nhập, kiến trúc hệ thống và tính năng chưa phát hành | Mã độc quyền hoặc bí mật có thể bị lưu giữ bên ngoài hệ thống công ty |
| Sản phẩm | Tải lên lộ trình phát triển để tóm tắt | Ngày ra mắt, chiến lược sản phẩm, định giá và thông tin đối tác | Kế hoạch kinh doanh bảo mật có thể nằm trên các máy chủ của bên thứ ba mà không được quản lý |
| Marketing và thiết kế | Nhập kế hoạch chiến dịch vào công cụ thiết kế hoặc viết AI | Sản phẩm chưa ra mắt, nghiên cứu khách hàng, tài sản thương hiệu và dữ liệu khán giả | Thông tin chiến dịch nhạy cảm có thể bị xử lý mà không qua xem xét pháp lý hoặc bảo mật |
| Phân tích dữ liệu | Tải lên tập dữ liệu khách hàng vào công cụ phân tích bên ngoài | Dữ liệu cá nhân, hồ sơ nhạy cảm thương mại và thông tin chuyên sâu bảo mật | Thông tin được bảo vệ hoặc quản lý có thể bị tiết lộ cho các bên thứ ba chưa được phê duyệt |
| Nhân sự | Sử dụng công cụ AI để đánh giá đơn ứng tuyển hoặc tóm tắt phỏng vấn | Dữ liệu ứng viên, thông tin việc làm và tiêu chí đánh giá | Việc rò rỉ dữ liệu nhân sự có thể vi phạm GDPR hoặc CCPA |
| Bán hàng | Tải lên bản ghi cuộc gọi hoặc ghi chú tài khoản để phân tích | Danh tính khách hàng, chi tiết hợp đồng, định giá và chiến lược bán hàng | Việc rò rỉ dữ liệu khách hàng có thể vi phạm GDPR hoặc CCPA |
| Hỗ trợ khách hàng | Dán yêu cầu hỗ trợ vào chatbot công khai | Tên khách hàng, chi tiết tài khoản, khiếu nại và thư từ trao đổi | Hồ sơ hỗ trợ bị lưu giữ có thể vi phạm GDPR hoặc CCPA |
| Tài chính | Yêu cầu trợ lý AI phân tích các bảng tính nội bộ | Ngân sách, dự báo, thông tin bảng lương và bản ghi giao dịch | Dữ liệu tài chính có thể bị xử lý mà không có biện pháp bảo vệ thích hợp |
| Pháp lý | Tải lên hợp đồng hoặc tệp hồ sơ vụ việc để tóm tắt | Tư vấn đặc quyền, các điều khoản hợp đồng và thông tin khách hàng | Lạm dụng dữ liệu khách hàng có thể vi phạm GDPR hoặc CCPA và ảnh hưởng đến quyền đặc quyền |
| Lãnh đạo | Sử dụng dịch vụ AI để xem xét tài liệu hội đồng quản trị hoặc các kế hoạch chiến lược | Kế hoạch thâu tóm, mục tiêu nội bộ và thảo luận của ban điều hành | Thông tin tình báo doanh nghiệp cực kỳ nhạy cảm có thể bị rò rỉ |
AI có tự động huấn luyện trên dữ liệu không?
Các mô hình ngôn ngữ lớn (LLM) không tự động huấn luyện lại trên mọi câu lệnh theo thời gian thực, do đó cuộc hội thoại sẽ không nhất thiết trở thành một phần của mô hình AI hoặc xuất hiện trong câu trả lời cho người dùng khác. Tuy nhiên, mức độ rủi ro phụ thuộc vào nhà cung cấp, loại tài khoản, cài đặt quyền riêng tư, hợp đồng và cách dịch vụ được cấu hình.
Nhà cung cấp AI có thể lưu giữ câu lệnh và các tệp đã tải lên, cho phép con người xem xét, sử dụng chúng để cải thiện dịch vụ hoặc chia sẻ với các nhà cung cấp mô hình và hạ tầng.
Ngay cả khi tính năng huấn luyện mô hình bị tắt, thông tin vẫn có thể xuất hiện trong lịch sử tài khoản, nhật ký vận hành, hệ thống giám sát lạm dụng, bản sao lưu, bản ghi trình duyệt, dịch vụ kết nối hoặc tích hợp của bên thứ ba. Nếu nội dung đã đóng góp vào việc huấn luyện mô hình trước đó, tắt tùy chọn này sẽ không khiến mô hình quên các cuộc hội thoại trong quá khứ.
Những rủi ro của shadow AI là gì?
AI có thể ảnh hưởng đến quyết định, tạo tài liệu hướng tới khách hàng, viết mã hoặc phân tích dữ liệu cá nhân, tất cả đều tạo ra rủi ro vượt khỏi phạm vi bảo mật của chính công cụ đó:
Vi phạm dữ liệu
Báo cáo Chi phí Vi phạm Dữ liệu(cửa sổ mới) năm 2025 của IBM cho thấy cứ năm tổ chức thì có một tổ chức từng gặp sự cố vi phạm liên quan đến shadow AI, nhưng chỉ 37% có chính sách được thiết kế để quản lý hoặc phát hiện tình trạng này.
Các tổ chức có mức độ shadow AI cao phải đối mặt với chi phí vi phạm trung bình cao hơn 670.000 USD so với những tổ chức có ít hoặc không có shadow AI. Hơn nữa, các sự cố liên quan đến shadow AI làm rò rỉ thông tin cá nhân và sở hữu trí tuệ thường xuyên hơn mức trung bình toàn cầu.
Rò rỉ thông tin bảo mật
Nhân viên có thể chia sẻ tài liệu nội bộ, mã nguồn, thông tin tài chính, hợp đồng, hồ sơ khách hàng, kế hoạch sản phẩm hoặc bí mật thương mại mà không nhận ra nhà cung cấp AI lưu giữ đầu vào của họ. Ngay cả khi thông tin bị loại khỏi việc huấn luyện mô hình, thông tin đó vẫn có nguy cơ bị xâm phạm tài khoản, vi phạm bảo mật, nhà cung cấp truy cập, tích hợp không an toàn hoặc yêu cầu pháp lý.
Ví dụ, Samsung đã cấm ChatGPT(cửa sổ mới) trên toàn công ty vào tháng Năm năm 2023 sau khi nhân viên dán tài liệu bảo mật vào công cụ này ba lần trong 20 ngày, bao gồm mã nguồn bán dẫn, thuật toán phát hiện lỗi và bản ghi lại cuộc họp nội bộ.
Mất sở hữu trí tuệ
Tri thức độc quyền thường là tài sản giá trị nhất của công ty. Việc tải lên mã, nghiên cứu, thiết kế sản phẩm, quy trình hoặc tài liệu chiến lược lên dịch vụ AI bên ngoài có thể xung đột với các thỏa thuận bảo mật hoặc làm yếu khả năng kiểm soát thông tin của doanh nghiệp. Nhân viên cũng có thể sử dụng nội dung do AI tạo ra mà không hiểu rõ nguồn gốc, hạn chế cấp phép hoặc sự tương đồng với tài liệu của bên thứ ba.
Vi phạm quy định và quyền riêng tư
Dữ liệu cá nhân vẫn tuân theo luật quyền riêng tư dữ liệu khi được xử lý qua công cụ AI. Shadow AI có thể bỏ qua các biện pháp bảo vệ quyền riêng tư vì bộ phận pháp lý liên quan không hề biết việc xử lý đang diễn ra. Cơ quan Giám sát Thông tin Vương quốc Anh cảnh báo các hệ thống AI có thể gia tăng các rủi ro bảo mật hiện có(cửa sổ mới). Các vi phạm GDPR nghiêm trọng có thể dẫn đến mức phạt lên tới 20 triệu euro hoặc 4% doanh thu hàng năm toàn cầu của tổ chức trong năm tài chính trước đó, tùy thuộc vào số nào cao hơn.
Tích hợp không an toàn và quyền truy cập quá mức
Các công cụ AI có thể kết nối với email, lưu trữ đám mây, lịch, kho lưu trữ mã, cơ sở dữ liệu khách hàng và nền tảng cộng tác. Quyền hạn quá rộng, API bảo mật kém, mã thông báo truy cập bị rò rỉ, phần mở rộng trình duyệt độc hại và dịch vụ của bên thứ ba bị xâm phạm có thể làm rò rỉ hệ thống và dữ liệu công ty vượt ngoài thông tin được nhập trong một câu lệnh duy nhất.
Trong vụ vi phạm Salesloft Drift, kẻ tấn công đã đánh cắp mã thông báo OAuth từ Drift, một tích hợp trợ lý bán hàng AI, và sử dụng chúng để trích xuất dữ liệu từ các bản thể hiện Salesforce tại hơn 700 tổ chức, bao gồm danh bạ doanh nghiệp, khóa API và thông tin đăng nhập đám mây được nhúng trong các yêu cầu hỗ trợ.
Tấn công chèn câu lệnh
Lỗ hổng này tồn tại trong bất kỳ hệ thống AI kết nối nào, dù được phê duyệt hay chưa — kẻ tấn công có thể thao túng hệ thống AI thông qua các hướng dẫn ẩn trong tài liệu, trang web, email hoặc nội dung khác mà AI xử lý, khiến AI tiết lộ thông tin, bỏ qua hướng dẫn ban đầu hoặc thực hiện các hành động không mong muốn.
Shadow AI làm tăng mức độ nguy hiểm vì một công cụ hoặc agent AI chưa được phê duyệt có thể chưa từng được đánh giá về tấn công chèn câu lệnh hoặc chưa được giới hạn ở các quyền cần thiết. Nếu tấn công thành công, đội ngũ bảo mật có thể có rất ít khả năng giám sát những gì đã xảy ra hoặc cách khoanh vùng sự cố. Hậu quả đặc biệt nghiêm trọng khi agent AI có thể truy cập dữ liệu nhạy cảm hoặc thực hiện hành động mà không qua xem xét của con người.
Thiếu trách nhiệm giải trình
Hoạt động shadow AI thường không để lại nhật ký kiểm toán tập trung. Đội ngũ bảo mật có thể không thể xác định thông tin nào đã được gửi, mô hình nào xử lý, kết quả nào được tạo ra hoặc kết quả đó đã ảnh hưởng đến quyết định như thế nào. Việc điều tra một lỗi, khiếu nại, sự cố vi phạm dữ liệu hoặc câu hỏi quản lý trở nên khó khăn hơn nhiều nếu không có các bản ghi đó.
Chi phí bất ngờ và sự phụ thuộc vào nhà cung cấp
Các gói đăng ký và tài khoản API riêng lẻ có thể tạo ra chi phí trùng lặp giữa các bộ phận. Các công cụ thử nghiệm cũng có thể được nhúng vào các quy trình làm việc quan trọng trước khi đội ngũ mua sắm đánh giá giá cả, độ tin cậy hoặc khả năng cung cấp lâu dài. Một dịch vụ miễn phí có thể trở thành yếu tố then chốt cho hoạt động kinh doanh mà không có thỏa thuận dịch vụ, kế hoạch duy trì liên tục hoặc phương án thực tế để chuyển quy trình làm việc sang nơi khác.
Cách phát hiện shadow AI
Shadow AI có thể khó phát hiện vì nhân viên có thể sử dụng tài khoản cá nhân, phần mở rộng trình duyệt, tính năng AI được nhúng, trình duyệt AI hoặc các công cụ hòa lẫn vào lưu lượng web bình thường. Do đó, các tổ chức cần khả năng giám sát đối với việc dịch vụ nào đang được sử dụng và dữ liệu công ty di chuyển qua đó ra sao.
Hoạt động giám sát phải duy trì ở mức tương xứng và tôn trọng quyền riêng tư của nhân viên. Mục tiêu là xác định các công cụ và dòng dữ liệu rủi ro mà không kiểm tra thường xuyên nội dung của từng câu lệnh hoặc cuộc hội thoại.
Dưới đây là một số mẹo để xác định shadow AI trong tổ chức:
Tạo danh mục sử dụng AI
Hỏi các đội ngũ xem họ hiện đang sử dụng công cụ AI nào, dùng cho tác vụ gì và điều gì ngăn cản họ sử dụng các giải pháp thay thế đã được duyệt. Một khảo sát ngắn, phỏng vấn trưởng bộ phận và thời gian tự nguyện kê khai có thể hé lộ những trường hợp sử dụng mà các kiểm soát kỹ thuật bỏ sót. Nhân viên sẽ cởi mở hơn khi mục tiêu là hiểu nhu cầu của họ thay vì trừng phạt việc thử nghiệm ban đầu.
Xem xét hoạt động mạng và ứng dụng
Đội ngũ bảo mật có thể sử dụng nhật ký mạng, danh mục phần mềm và công cụ bảo mật truy cập đám mây để xác định kết nối đến các dịch vụ AI đã biết. Hoạt động giám sát có thể hiển thị dịch vụ nào đang được truy cập và dung lượng dữ liệu được truyền đi mà không cần thu thập nội dung của từng cuộc hội thoại.
Kiểm toán các phần mở rộng và plug-in của trình duyệt
Phần mở rộng trình duyệt có thể thêm các tính năng AI về viết, tóm tắt, dịch thuật, họp hành và lập trình vào hầu hết mọi quy trình làm việc. Hãy xem xét những phần mở rộng nào đã được cài đặt, quyền hạn họ yêu cầu và liệu họ có thể đọc nội dung trang web, email, tài liệu hoặc thông tin đăng nhập hay không.
Kiểm tra chi phí và hồ sơ mua sắm
Tờ khai chi phí của nhân viên, sao kê thẻ doanh nghiệp và hồ sơ mua sắm có thể hé lộ các đăng ký AI trả phí chưa từng hoàn thành đánh giá bảo mật. Việc thanh toán lặp đi lặp lại từ các đội ngũ khác nhau cũng có thể phát hiện các công cụ trùng lặp và tài khoản không chính thức.
Tìm kiếm các tích hợp và khóa API không được quản lý
Xem xét các kho lưu trữ mã, trình quản lý bí mật, môi trường đám mây, bảng điều khiển thanh toán và nền tảng tự động hóa để tìm kết nối tới nhà cung cấp AI bên ngoài. Các khóa API không được quản lý hoặc chi phí sử dụng lạ có thể cho thấy một bản mẫu thử nghiệm, tích hợp hoặc công cụ nội bộ chưa được phê duyệt chính thức.
Sử dụng kiểm soát phòng chống thất thoát dữ liệu
Các công cụ phòng chống thất thoát dữ liệu có thể xác định các nỗ lực tải lên danh mục thông tin nhạy cảm như hồ sơ cá nhân, thông tin đăng nhập, dữ liệu tài chính và mã nguồn. Kiểm soát phải tương xứng và được truyền thông rõ ràng. Nhân viên cần hiểu những gì bị giám sát, tại sao điều đó lại cần thiết và cách hoàn thành công việc hợp pháp qua các hệ thống đã phê duyệt.
Hợp tác với nhân viên thay vì né tránh họ
Chỉ riêng giám sát kỹ thuật sẽ không phát hiện hết mọi trường hợp shadow AI. Nhân viên có thể sử dụng tài khoản cá nhân, thiết bị di động hoặc các công cụ xuất hiện dưới dạng lưu lượng web bình thường. Thảo luận thường xuyên với các đội ngũ có thể xác định quy trình hiện tại gây ra trở ngại ở đâu và tại sao nhân viên lại tìm đến các công cụ bên ngoài.
Cách giảm thiểu rủi ro shadow AI
Giảm thiểu shadow AI đòi hỏi giải pháp thay thế thực tế, chính sách rõ ràng, kiểm soát truy cập phù hợp, đào tạo nhân viên và đánh giá liên tục. Biện pháp bảo vệ hiệu quả cần hỗ trợ việc sử dụng AI hợp pháp trong khi giữ dữ liệu công ty trong các hệ thống đã phê duyệt:
Cung cấp cho nhân viên một công cụ AI được phê duyệt
Nhân viên sẽ ít tìm kiếm các giải pháp thay thế hơn khi được cung cấp một trợ lý AI doanh nghiệp đáp ứng các nhu cầu thực tế. Bất kỳ công cụ được phê duyệt nào cũng cần mang lại khả năng bảo vệ quyền riêng tư mạnh mẽ, điều khoản xử lý dữ liệu rõ ràng, kiểm soát doanh nghiệp phù hợp và đủ năng lực để hỗ trợ các tác vụ phổ biến.
Tránh lệnh cấm triệt để
Cấm hoàn toàn có thể đẩy việc sử dụng AI vào hoạt động ngầm sâu hơn, đặc biệt khi nhân viên đã phụ thuộc vào các công cụ này. Một số người có thể chuyển sang tài khoản cá nhân, thiết bị di động, phần mở rộng trình duyệt hoặc dịch vụ AI kém uy tín hơn mà tổ chức khó xác định hơn.
Tạo chính sách sử dụng AI chấp nhận được
Sử dụng các ví dụ dựa trên quy trình làm việc thực tế. “Không chia sẻ thông tin nhạy cảm” để lại quá nhiều khả năng tự diễn giải. Một chính sách rõ ràng hơn có thể yêu cầu nhân viên không bao giờ tải lên dữ liệu xuất hỗ trợ khách hàng, mã nguồn, hợp đồng, thông tin đăng nhập, kết quả tài chính chưa công bố hoặc hồ sơ nhân viên có thể định danh lên một dịch vụ chưa được phê duyệt.
Phân loại dữ liệu trước khi thiết lập quy tắc AI
Xác định danh mục thông tin nào là công khai, nội bộ, bảo mật, được quản lý hoặc hạn chế nghiêm ngặt. Kết nối từng danh mục với mục đích sử dụng AI được phép. Văn bản marketing công khai có thể phù hợp với nhiều công cụ rộng hơn, trong khi dữ liệu cá nhân, thông tin đăng nhập, bí mật thương mại và tài liệu pháp lý đặc quyền có thể yêu cầu một hệ thống được kiểm soát chặt chẽ hoặc bị loại trừ hoàn toàn.
Định kỳ xem xét phần mềm đã duyệt để phát hiện các tính năng AI mới
Một ứng dụng có thể xử lý dữ liệu theo cách khác sau khi thêm trợ lý AI, tính năng tự động ghi âm/ghi chép, tạo nội dung hoặc phân tích dự đoán. Việc đánh giá định kỳ nhà cung cấp có thể phát hiện những thay đổi này và xác nhận rằng các công cụ đã duyệt trước đó vẫn đáp ứng các yêu cầu về bảo mật, quyền riêng tư và tuân thủ của tổ chức.
Giới hạn quyền hạn
Chỉ cấp cho công cụ AI quyền truy cập dữ liệu và hệ thống cần thiết cho tác vụ đã duyệt. Sử dụng tài khoản do công ty quản lý, đăng nhập một lần (SSO), xác thực hai yếu tố (2FA), quyền theo vai trò và xóa tài khoản tập trung khi có sẵn. Tránh kết nối trợ lý AI doanh nghiệp với toàn bộ ổ đĩa, hộp thư đến hoặc cơ sở dữ liệu khách hàng khi nguồn hẹp hơn vẫn đáp ứng được công việc.
Thiết lập quy tắc theo vai trò và trường hợp sử dụng
Các đội ngũ khác nhau có nhu cầu và mức độ rủi ro khác nhau. Lập trình viên có thể cần truy cập API để thử nghiệm hoặc làm mẫu thử. Đội ngũ marketing có thể cần tạo văn bản và hình ảnh. Đội ngũ pháp lý hoặc nhân sự có thể làm việc với thông tin yêu cầu hạn chế nghiêm ngặt hơn nhiều. Các quy tắc dựa trên vai trò có thể giữ chính sách thực tế trong khi giới hạn quyền truy cập dữ liệu nhạy cảm và các chức năng có rủi ro cao.
Đào tạo nhân viên
Nhân viên cần có đủ hiểu biết về AI để nắm được cả lợi ích lẫn hạn chế của các hệ thống họ sử dụng. Chương trình đào tạo nên bao gồm quyền riêng tư AI, tính bảo mật, hiện tượng ảo giác, định kiến, sở hữu trí tuệ, tấn công chèn câu lệnh, sự xem xét của con người và báo cáo sự cố. Mức độ đào tạo phù hợp phụ thuộc vào kiến thức, kinh nghiệm của nhân sự và bối cảnh sử dụng AI.
Tạo quy trình phê duyệt đơn giản
Quy trình làm việc có thể thu thập tên công cụ, tác vụ dự kiến, dữ liệu liên quan, các tích hợp bắt buộc và lợi ích kinh doanh kỳ vọng. Đội ngũ bảo mật và pháp lý sau đó có thể phê duyệt, hạn chế, thử nghiệm, đưa vào môi trường cô lập hoặc từ chối dựa trên rủi ro thực tế. Quy trình mua sắm kéo dài có thể khuyến khích nhân viên tự tìm giải pháp thay thế. Hãy đặt mục tiêu thời gian đánh giá hợp lý và giải thích rõ thông tin nào là cần thiết để đưa ra quyết định.
Giữ con người chịu trách nhiệm về kết quả đầu ra
Công việc có sự hỗ trợ của AI phải có người phụ trách. Yêu cầu xem xét trước khi kết quả đầu ra ảnh hưởng đến khách hàng, nhân viên, tài chính, quyết định pháp lý, mã chính thức, thông tin xuất bản hoặc các lĩnh vực có tác động lớn khác. Bất kỳ ai sử dụng công cụ AI đều chịu trách nhiệm kiểm tra độ chính xác, tính phù hợp, tính bảo mật và sự tuân thủ chính sách công ty.
Ghi nhận các quyết định quan trọng có sự hỗ trợ của AI
Lưu giữ hồ sơ rõ ràng khi AI đóng góp vào các quyết định ảnh hưởng đến khách hàng, nhân viên, tài chính, vấn đề pháp lý hoặc các lĩnh vực có tác động lớn khác. Nhật ký kiểm toán đáng tin cậy hỗ trợ trách nhiệm giải trình và giúp các tổ chức điều tra lỗi, giải thích kết quả và phản hồi khiếu nại hoặc các câu hỏi quản lý.
Cần làm gì nếu dữ liệu nhạy cảm đã bị chia sẻ
Coi việc vô tình tiết lộ dữ liệu cho một công cụ AI như bất kỳ sự cố dữ liệu tiềm ẩn nào khác. Nhanh chóng thực hiện các bước sau.
Xác định những gì đã bị chia sẻ: Xác nhận thông tin nào đã được nhập hoặc tải lên, công cụ và tài khoản nào đã được sử dụng, sự cố tiết lộ xảy ra khi nào và ai có thể đã truy cập dữ liệu.
Xóa thông tin ở những nơi có thể: Xóa cuộc hội thoại và mọi tệp đã tải lên khỏi công cụ. Kiểm tra các điều khoản và tùy chọn hỗ trợ của nhà cung cấp để xem liệu có thể gửi yêu cầu xóa chính thức hay không.
Kiểm tra những gì nhà cung cấp có thể lưu giữ: Việc xóa cuộc trò chuyện khỏi giao diện nhìn thấy không phải lúc nào cũng xóa mọi bản sao. Xem xét và ghi nhận những tuyên bố của nhà cung cấp về nhật ký vận hành, bản sao lưu, sự xem xét của con người, huấn luyện mô hình và khung thời gian xóa để xác định xem liệu có dữ liệu nào còn sót lại hay không.
Bảo mật các hệ thống bị ảnh hưởng: Thu hồi các quyền đã cấp cho công cụ AI hoặc các plug-in kết nối. Thay đổi mọi mật khẩu, khóa API, mã thông báo truy cập hoặc thông tin đăng nhập khác xuất hiện trong câu lệnh hoặc tệp đính kèm.
Thông báo cho các đội ngũ liên quan: Báo cáo sự cố cho đội ngũ bảo mật, quyền riêng tư, pháp lý hoặc bảo vệ dữ liệu của tổ chức. Họ có thể đánh giá nghĩa vụ hợp đồng, yêu cầu pháp lý và liệu có cần thông báo cho khách hàng hoặc đối tác bị ảnh hưởng hay không.
Rút kinh nghiệm từ sự cố: Ghi nhận những gì đã xảy ra và sử dụng để cải thiện công tác đào tạo, kiểm soát và các giải pháp thay thế được phê duyệt. Tránh trừng phạt nhân viên báo cáo sai sót chân thành, vì phản ứng trừng phạt có thể khiến người khác ngần ngại báo cáo sự cố trong tương lai.
Trợ lý AI riêng tư cho các đội ngũ
Lumo for Business mang đến cho đội ngũ của bạn một trợ lý AI đáng tin cậy để tóm tắt tài liệu, phân tích dữ liệu, xem xét mã, soạn thảo nội dung và khám phá ý tưởng trong khi giúp doanh nghiệp duy trì quyền kiểm soát thông tin bảo mật.
Trợ lý AI doanh nghiệp không lưu giữ nhật ký các cuộc hội thoại hoặc sử dụng chúng để huấn luyện các mô hình AI, và bất kỳ lịch sử trò chuyện nào chọn lưu lại đều được bảo vệ bằng mã hóa không quyền truy cập, nghĩa là không bao giờ có quyền truy cập dữ liệu
Lumo hoàn toàn là mã nguồn mở, được xây dựng tại Châu Âu và được thiết kế để hỗ trợ tuân thủ GDPR cùng HIPAA thông qua chứng nhận ISO 27001 và chứng nhận SOC 2 Type II của Proton.
Cung cấp cho đội ngũ một trợ lý AI có năng lực, chú trọng quyền riêng tư sẽ làm giảm sự phụ thuộc vào các công cụ chưa được duyệt và giúp duy trì việc sử dụng AI trong các hệ thống được giám sát.
