Khi nhân viên của bạn dùng những công cụ AI mà bạn chưa phê duyệt, họ sẽ tạo ra những tài khoản bạn không thể thấy, bảo vệ hay đóng lại, mỗi tài khoản đều gắn với một lịch sử trò chuyện đầy dữ liệu kinh doanh của bạn.
Nghiên cứu mới do SOCRadar(cửa sổ mới) công bố cho thấy hơn 80.000 tổ chức trên toàn cầu đã có thông tin đăng nhập AI của nhân viên xuất hiện trong nhật ký infostealer. Infostealer là một loại phần mềm độc hại thu thập mật khẩu, cookie phiên, dữ liệu tài chính và cá nhân cùng nhật ký trò chuyện từ các thiết bị bị nhiễm rồi gửi ngược lại cho kẻ tấn công. Dữ liệu đó khiến các cuộc tấn công lừa đảo hay ransomware trở nên hiệu quả hơn nhiều.
Theo nghiên cứu, các nhật ký này được thu thập bởi một loại phần mềm độc hại infostealer nổi tiếng, đã được rao bán trên Telegram từ năm 2022. Vì phần mềm độc hại này đã được bán trong nhiều năm, không thể biết bao nhiêu kẻ phạm tội đã dùng nó và chúng lây nhiễm vào thiết bị của người dùng bằng cách nào: điều chúng ta biết là chúng nhắm vào các thiết bị có quyền truy cập doanh nghiệp và chiếm đoạt các phiên Claude của người dùng. Người dùng doanh nghiệp nhận thấy hạn mức trả phí của mình bị rút cạn chỉ sau một đêm khi tội phạm mạng giành được quyền truy cập.
Nghiên cứu của SOCRadar lập luận rằng thông tin đăng nhập phiên AI cực kỳ có giá trị đối với kẻ tấn công. Chỉ một thông tin đăng nhập AI cũng có thể mở khóa “một kho lưu trữ có thể tìm kiếm, một công cụ thực thi, một tài nguyên có thể tính phí và một danh tính — và phiên bị đánh cắp trao tất cả những thứ đó mà không cần nhập mật khẩu”, như báo cáo diễn đạt. Đối với kẻ phạm tội, đây là một mỏ vàng.
Điều đáng lo ngại đối với các doanh nghiệp đang áp dụng AI hiện nay là những thông tin đăng nhập này không bị rò rỉ vì vấn đề bảo mật của chính các nền tảng AI. Chúng rò rỉ vì hai yếu tố ít rõ ràng hơn: số lượng nhân viên sử dụng công cụ AI quá lớn, và tỷ lệ ngày càng tăng của việc sử dụng đó diễn ra ngoài tầm kiểm soát của bộ phận IT.
Nghiên cứu tiết lộ điều gì?
Nhìn chung, báo cáo xác định rằng thông tin đăng nhập dịch vụ AI đang xuất hiện trong nhật ký infostealer với số lượng đáng kể. Những điểm chính là:
- Hơn 1.000.000 bản ghi liên quan đến các dịch vụ AI đã bị phát hiện trên 80.000 miền doanh nghiệp riêng biệt.
- Từ tập dữ liệu đó, báo cáo đã xác minh một mẫu đại diện gồm 482 tổ chức được xác định là doanh nghiệp lớn, chủ yếu ở Bắc Mỹ — 68% trong số đó là các tổ chức trị giá hàng tỷ đô la.
- Các công ty công nghệ là nhóm lớn nhất, với 144 công ty và 40% số bản ghi.
- 482 tổ chức đó chiếm 5.434 bản ghi nhật ký gắn với 1.500 địa chỉ email doanh nghiệp.
- Mức độ phơi lộ còn rất mới: 295 trong số 482 tổ chức đó có bản ghi nhật ký infostealer xuất hiện trong 90 ngày qua.
- ChatGPT xuất hiện trong nhật ký của 358 trong số 482 tổ chức và trong khoảng 90% số bản ghi, tiếp theo là Zapier, Notion, Hugging Face, Replit, Lovable và ElevenLabs.
Số liệu cuối cùng đó đặt ra một câu hỏi hiển nhiên: tại sao lại là ChatGPT? Lời giải thích của SOCRadar không liên quan nhiều đến bản thân các công cụ mà đến cách nhân viên sử dụng chúng.
Shadow AI đang tạo ra rủi ro
Shadow AI là bất kỳ công cụ AI nào nhân viên sử dụng mà không có sự phê duyệt hay hiểu biết của công ty. Nhân viên đưa shadow AI vào mạng lưới doanh nghiệp khi tài khoản doanh nghiệp của họ bị hạn chế, hoặc khi các công cụ họ có không hiệu quả với công việc họ đang thực hiện.
Một nhà nghiên cứu tại SOCRadar nhận xét:
“Chúng tôi coi sự thống trị gần như tuyệt đối của ChatGPT là dấu hiệu của shadow AI, chứ không phải lời phán quyết về bảo mật của bất kỳ nhà cung cấp nào. Lợi thế đi trước của ChatGPT nghĩa là nó có lẽ có số người dùng doanh nghiệp nhiều gấp hàng chục lần — nhiều người trong số đó đăng ký bằng email công việc trên thiết bị cá nhân, nằm ngoài mọi chính sách. Đó chính xác là nhóm đối tượng mà infostealer khai thác. Claude và Gemini hầu như không xuất hiện vì còn quá ít nhân viên âm thầm tạo tài khoản trên đó — không phải vì những thông tin đăng nhập đó an toàn hơn khi bị đánh cắp. Khi việc doanh nghiệp áp dụng các trợ lý khác bắt kịp, chúng tôi dự đoán biểu đồ này sẽ cân bằng trở lại”.
Vậy nên, bảo mật của ChatGPT không phải là nguyên nhân khiến công cụ này nổi bật trong nhật ký infostealer. ChatGPT đứng đầu danh sách vì nó có nhiều người dùng doanh nghiệp nhất, và vì rất nhiều người trong số đó sử dụng nó ngoài chính sách của công ty.
Nhân viên cũng có thể cố lách các chính sách IT hạn chế vốn khiến họ không thể chọn phương án nhanh nhất hay dễ nhất, nhưng cũng có thể họ thực sự không biết những chính sách hay hạn chế nào đang được áp dụng. Doanh nghiệp của bạn không thể bảo vệ những tài khoản mà mình không biết là có tồn tại, hay những truy vấn được thực hiện ngoài tài khoản doanh nghiệp.
Dù với ý định gì, khi nhân viên kết hợp việc dùng AI cho cá nhân lẫn công việc, họ vi phạm chính sách sử dụng dữ liệu của công ty bạn và thay vào đó rơi vào các điều khoản dành cho người tiêu dùng của OpenAI.
OpenAI cho biết họ không huấn luyện trên dữ liệu doanh nghiệp, nhưng khi một nhân viên hoạt động ngoài các hướng dẫn sử dụng hợp lý dành cho doanh nghiệp hoặc dùng tài khoản cá nhân cho mục đích công việc, họ mất quyền kiểm soát dữ liệu đó: kho lưu trữ trò chuyện của họ (bao gồm dữ liệu kinh doanh nhạy cảm hoặc thông tin nhận dạng cá nhân (PII)) bị thu thập, ghi vào nhật ký và có thể được dùng để huấn luyện các mô hình của OpenAI.
OpenAI có thể chia sẻ dữ liệu doanh nghiệp với bên thứ ba hoặc thông qua các tích hợp ứng dụng: vào năm 2025, tin tặc đã xâm nhập vào một nhà cung cấp của OpenAI và đánh cắp dữ liệu khách hàng doanh nghiệp, bao gồm tên, email, vị trí và thông tin chi tiết hệ thống. Là một công ty Mỹ, OpenAI cũng có thể bị buộc phải chia sẻ dữ liệu với chính phủ Mỹ theo Đạo luật Patriot hoặc FISA, ngay cả khi không thông báo cho bạn.
Cách bảo vệ doanh nghiệp của bạn khỏi shadow AI
Shadow AI xảy ra khi nhân viên không có công cụ nào họ được phép dùng, hoặc không có công cụ nào đủ tốt. Vậy nên giải pháp đầu tiên là cung cấp cho họ một công cụ như thế.
Lumo, do Proton phát triển, mang đến cho nhóm của bạn một lựa chọn được chấp thuận thay cho tài khoản cá nhân và giữ dữ liệu doanh nghiệp luôn riêng tư. Công cụ này không lưu nhật ký hay huấn luyện trên các hội thoại doanh nghiệp hoặc cá nhân. Toàn bộ lịch sử trò chuyện đã lưu được bảo vệ bằng mã hóa zero-access, nên không ai (kể cả Proton) có thể đọc được.
Mã hóa bảo vệ dữ liệu được lưu trữ, nhưng không thể giúp gì nếu kẻ tấn công đã ở trên thiết bị của nhân viên. Để bịt khoảng trống đó, hãy thực hiện các bước sau:
- Tìm những tài khoản bạn chưa biết. Kiểm tra xem các miền của công ty bạn đã xuất hiện trong nhật ký stealer chưa và hỏi các nhóm xem họ thực sự dùng những công cụ AI nào.
- Coi một kết quả trùng khớp trong nhật ký stealer là sự cố điểm cuối. Nếu thông tin đăng nhập của nhân viên xuất hiện trong nhật ký, thiết bị đã bị nhiễm. Chỉ đặt lại mật khẩu sẽ để phiên bị đánh cắp của kẻ tấn công vẫn còn hiệu lực, nên hãy thu hồi các phiên đang hoạt động và dọn sạch hoặc thay thế máy đó.
- Đặt mọi công cụ AI được chấp thuận phía sau SSO với các phiên có thời hạn ngắn. Một cookie bị đánh cắp hết hạn sau vài giờ có giá trị thấp hơn nhiều so với cookie kéo dài hàng tuần.
- Khóa chặt các khóa API. Giới hạn phạm vi của chúng trong mức cần thiết, luân chuyển thường xuyên và không bao giờ lưu chúng trong ứng dụng ghi chú hay tài liệu chia sẻ.
- Không để công việc trên các thiết bị không được quản lý. Nếu nhân viên cần dùng AI trên thiết bị cá nhân, hãy yêu cầu họ đăng nhập qua tài khoản công ty mà bạn có thể giám sát và thu hồi.
- Thiết lập giám sát dark web. Tính năng này cảnh báo bạn khi thông tin đăng nhập của nhân viên xuất hiện trong các vụ rò rỉ, để bạn có thể hành động trước kẻ tấn công.
Dù thế nào, nhân viên của bạn vẫn sẽ dùng AI. Hãy mang đến cho họ một lựa chọn thay thế ChatGPT không lưu nhật ký, không bao giờ huấn luyện trên dữ liệu của bạn và khóa mọi cuộc trò chuyện đã lưu sau lớp mã hóa mà ngay cả Proton cũng không thể mở.
