AI đã nhanh chóng phát triển từ một thứ mới lạ thành thứ mà many người sử dụng hằng ngày. Các mục đích sử dụng đơn giản và phổ biến nhất là soạn thư nháp, tóm tắt tài liệu hoặc tìm kiếm trên web. Nhưng một bước tiến hóa mới đang diễn ra với sự trỗi dậy của các tác nhân AI — các hệ thống AI không chỉ trả lời câu hỏi mà còn hoạt động bán tự chủ để thực hiện các nhiệm vụ.

Hiểu một cách đơn giản, tác nhân AI là phần mềm sử dụng AI để theo đuổi một mục tiêu và thực hiện các hành động trong cuộc sống số với sự giám sát tối thiểu. Thay vì phản hồi từng câu lệnh một, tác nhân AI có thể đọc thông tin, quyết định xem nên làm gì tiếp theo và tiếp tục thực hiện cho đến khi đạt được kết quả hoặc yêu cầu đầu vào của người dùng. Thay vì chỉ yêu cầu AI “Tóm tắt email của tôi”, có thể ra lệnh cho một tác nhân AI “Giúp kiểm soát hộp thư đến”, và nó sẽ đọc, phân loại, soạn thư nháp và thậm chí gửi email trong các giới hạn đã được thiết lập.

Khả năng hành động đó là điểm khác biệt giữa các tác nhân AI và các công cụ AI đơn giản hơn như các mô hình ngôn ngữ lớn. Dưới đây là cái nhìn chi tiết hơn về tác nhân AI là gì, khả năng của chúng, các rủi ro liên quan và cách giữ an toàn khi sử dụng.

Trong bài viết này, nội dung tìm hiểu sẽ bao gồm:

Tác nhân AI được sử dụng để làm gì?

Các tác nhân AI được triển khai trong môi trường kỹ thuật số và được sử dụng trong cả bối cảnh cá nhân lẫn công việc để tăng cường năng suất.

Đối với việc sử dụng hằng ngày, tác nhân AI có thể:

  • Giám sát hộp thư đến, soạn thư nháp cho các câu trả lời gợi ý và làm nổi bật bất kỳ nội dung khẩn cấp nào
  • Sắp xếp các ghi chú hoặc bài viết đã lưu và tạo bản tóm tắt nhanh
  • Theo dõi sự thay đổi giá của các chuyến bay hoặc sản phẩm và thông báo khi giá giảm
  • Quản lý các cuộc hẹn trong lịch bằng cách gợi ý thời gian họp và gửi lời mời
  • Phân loại và gắn thẻ ảnh hoặc tệp để dễ dàng tra cứu

Trong các trường hợp kinh doanh, tác nhân AI thường xuyên được sử dụng để:

  • Giúp đội ngũ hỗ trợ khách hàng phân loại và sắp xếp các yêu cầu hỗ trợ, cũng như chuẩn bị phản hồi nháp
  • Hỗ trợ đội ngũ bán hàng và tiếp thị bằng cách tóm tắt thông tin tài khoản và tạo thông điệp tiếp cận cá nhân hóa để xem xét
  • Đảm nhận các tác vụ hành chính lặp đi lặp lại, chẳng hạn như trích xuất dữ liệu hóa đơn vào các công cụ kế toán hoặc gắn cờ các giao dịch bất thường
  • Hỗ trợ đội ngũ CNTT và bảo mật bằng cách quét nhật ký và nhóm các cảnh báo liên quan

Trong tất cả các trường hợp này, lợi ích thực tế là rất rõ ràng: tác nhân AI có thể tiết kiệm thời gian và giảm bớt công sức thủ công bằng cách phối hợp nhiều bước trên các công cụ. Tuy nhiên, mặc dù tác nhân AI có thể thúc đẩy năng suất và tự động hóa, chúng cũng mở ra cánh cửa cho các loại sai sót, cuộc tấn công và vi phạm dữ liệu mới, như sẽ được tìm hiểu dưới đây.

Tác nhân AI hoạt động như thế nào?

Trải nghiệm chính của hầu hết mọi người với AI là thông qua chatbot như ChatGPT, Google Gemini hoặc Microsoft Copilot. Chatbot là một ứng dụng bao bọc mô hình AI trong một giao diện hội thoại. Khi nhập câu hỏi, chatbot sẽ gửi câu hỏi đến mô hình và nhận lại câu trả lời.

Các tác nhân AI được xây dựng dựa trên ý tưởng cơ bản đó nhưng bổ sung thêm một vài thành phần quan trọng. Hầu hết các tác nhân hiện đại đều kết hợp ba phần cốt lõi:

Mô hình ngôn ngữ

Trọng tâm của nhiều tác nhân là mô hình ngôn ngữ lớn (LLM). LLM chịu trách nhiệm hiểu các hướng dẫn ngôn ngữ, suy luận về chúng và tạo văn bản. Mô hình này chuyển đổi kết quả được thiết lập cho tác nhân AI thành các bước và quyết định cụ thể.

Sử dụng công cụ (hoặc gọi công cụ)

Một tác nhân thường được kết nối với các công cụ và dịch vụ bên ngoài, chẳng hạn như email, lịch, cơ sở dữ liệu và trình duyệt web. Tác nhân có thể gọi các công cụ này để đọc dữ liệu hoặc thực hiện hành động, chẳng hạn như tìm nạp các email gần đây và cập nhật hồ sơ hoặc lời mời họp.

Bộ nhớ và ngữ cảnh

Các tác nhân AI thường giữ lại một dạng bộ nhớ để có thể theo dõi những gì đã xảy ra và những gì vẫn cần thực hiện. Điều này có thể bao gồm mọi thứ từ các tác vụ trước đó đến các tùy chọn của người dùng. Bộ nhớ giúp tác nhân hoạt động qua nhiều bước, thay vì xử lý từng tương tác một cách riêng biệt.

Nhìn chung, một tác nhân AI sẽ thực hiện theo các bước sau:

  • Cung cấp câu lệnh cho tác nhân với một mục tiêu và ngữ cảnh liên quan
  • Tác nhân diễn giải yêu cầu và lên kế hoạch cho một chuỗi các bước
  • Tác nhân sử dụng các công cụ để thu thập thông tin hoặc thực hiện hành động
  • Bộ nhớ của tác nhân liên tục được cập nhật dựa trên những gì đã xảy ra và định hướng cho hành động tiếp theo
  • Quá trình này lặp lại cho đến khi đạt được mục tiêu hoặc cần có phản hồi

Nói một cách đơn giản, chatbot cung cấp một giao diện để “trò chuyện” với một mô hình và nhận câu trả lời, nhưng các tác nhân AI kết hợp mô hình đó với các công cụ và bộ nhớ để chúng thực sự có thể làm việc bên trong các ứng dụng và tài khoản.

Các loại tác nhân AI

Các tác nhân AI có thể được chia thành nhiều loại khác nhau, tùy thuộc vào chức năng và cách đưa ra quyết định. Nhìn chung, có năm loại tác nhân AI:

Tác nhân phản xạ đơn giản

Là loại tác nhân AI cơ bản nhất, tác nhân phản xạ đơn giản chỉ phản ứng với thông tin hiện tại và tuân theo các điều kiện được thiết lập sẵn mà không xem xét ngữ cảnh trong quá khứ. Những tác nhân này phù hợp nhất cho các tác vụ lặp đi lặp lại và đơn giản, chẳng hạn như lọc email.

Tác nhân phản xạ dựa trên mô hình

Tương tự như tác nhân phản xạ đơn giản, tác nhân phản xạ dựa trên mô hình cũng sử dụng các điều kiện để đưa ra quyết định, nhưng có tính đến các quyết định và tình huống trong quá khứ. Điều này cho phép chúng học hỏi từ ký ức về các môi trường trước đó và điều chỉnh các mô hình của mình cho phù hợp. Xe tự lái và máy hút bụi robot thường sử dụng tác nhân phản xạ dựa trên mô hình.

Tác nhân dựa trên mục tiêu

Thay vì chỉ phản ứng đơn thuần với đầu vào, các tác nhân dựa trên mục tiêu đưa ra quyết định theo một mục tiêu mong muốn. Chúng năng động và tiên tiến hơn, có thể phát triển và vạch ra các chiến lược mới ngay cả khi có trở ngại phát sinh. Hệ thống định vị GPS là một ví dụ về tác nhân dựa trên mục tiêu, trong đó điểm đến là kết quả mong muốn và tuyến đường có thể thay đổi tùy thuộc vào tình hình lưu lượng giao thông.

Tác nhân dựa trên độ hữu dụng

Tác nhân dựa trên độ hữu dụng sẽ cân nhắc các “giá trị” tối ưu của nhiều kết quả và chọn tùy chọn mang lại sự đánh đổi tốt nhất theo một chỉ số đã chọn, chẳng hạn như thời gian, chi phí hoặc rủi ro. Chúng hữu ích nhất trong các tình huống có các ưu tiên cạnh tranh nhau — ví dụ, khi cần ưu tiên các tác vụ.

Tác nhân học hỏi

Được thiết kế để cải tiến liên tục, các tác nhân học hỏi có thể điều chỉnh hành vi của mình dựa trên kinh nghiệm và phản hồi. Điều này giúp chúng hoạt động hiệu quả hơn theo thời gian khi tích lũy và xử lý nhiều dữ liệu hơn, đồng thời đặc biệt hữu ích cho các vai trò thay đổi nhanh chóng như trợ lý cá nhân ảo.

Cách bắt đầu sử dụng tác nhân AI

Khi mới bắt đầu sử dụng các tác nhân AI, tốt nhất nên thận trọng với các tác vụ yêu cầu chúng thực hiện, sau đó điều chỉnh dần dần.

  1. Bắt đầu với một tác vụ ít rủi ro
    Hãy nghĩ về một tác vụ đơn giản muốn tự động hóa, như yêu cầu tác nhân AI sắp xếp thư mục bản tin, soạn thư nháp phản hồi để vẫn có thể phê duyệt thủ công hoặc tóm tắt các bài viết đã lưu. Điều này giúp đưa ra quyết định về loại tác nhân tốt nhất cho công việc và cho phép quan sát trước cách thức hoạt động của nó mà không cần cấp quyền truy cập vào bất kỳ thông tin nhạy cảm nào.
  2. Sử dụng các tính năng tác nhân tích hợp sẵn trước tiên
    Nhiều công cụ hiện bao gồm các khả năng tác nhân cơ bản, chẳng hạn như trợ lý hộp thư đến “thông minh”, bộ sắp xếp tài liệu hoặc bot hỗ trợ. Sử dụng những công cụ này thường an toàn hơn so với việc tạo một tác nhân tùy chỉnh, đặc biệt nếu không có nhiều kinh nghiệm lập trình và phát triển.
  3. Thêm quyền truy cập từng bước một
    Khi kết nối tác nhân với các tài khoản, hãy bắt đầu với quyền truy cập chỉ đọc, có giới hạn. Chỉ cho phép tác nhân gửi email, cập nhật hồ sơ hoặc thực hiện thay đổi khi đã cảm thấy an tâm với hiệu suất hoạt động của nó.
  4. Xem xét và điều chỉnh nhất quán
    Hãy chú ý đến những gì tác nhân làm tốt và những gì nó gặp khó khăn. Hầu hết các hệ thống đều cho phép tinh chỉnh cài đặt hoặc thu hẹp phạm vi để tác nhân luôn tập trung vào các tác vụ mang lại nhiều giá trị nhất.

Sau khi đã quen thuộc hơn với cách thức hoạt động và hành vi của các tác nhân, có thể chuyển từ các trường hợp sử dụng cá nhân, quy mô nhỏ sang các quy trình làm việc phức tạp và tích hợp hơn — đi kèm các biện pháp bảo vệ thích hợp.

Tại sao các tác nhân AI lại mang đến những rủi ro mới

Bất kỳ hệ thống nào có thể thay mặt thực hiện hành động cũng có thể thay mặt phạm sai lầm hoặc bị người khác lạm dụng, và các tác nhân AI cũng không ngoại lệ. Dưới đây là một số rủi ro phổ biến của các tác nhân AI:

Bề mặt tấn công lớn hơn

Vì các tác nhân AI thường có quyền truy cập vào các ứng dụng như email, lưu trữ đám mây, lịch và bảng điều khiển, điều này khiến chúng trở thành mục tiêu lớn hơn. Nếu kẻ tấn công có thể tác động đến tác nhân đó, chúng có khả năng xâm nhập qua tất cả các hệ thống được kết nối đó và dễ dàng truy cập dữ liệu bảo mật.

Chèn câu lệnh và nội dung độc hại

Nhiều tác nhân thường xuyên phân tích cú pháp các trang web, tài liệu và email như một phần công việc của họ. Kẻ tấn công có thể ẩn các hướng dẫn trong nội dung đó, lừa các tác nhân rò rỉ dữ liệu hoặc bỏ qua các biện pháp bảo vệ vì các tác nhân AI thường không thể phân biệt giữa hướng dẫn thật và giả mạo.

Quyền truy cập quá mức

Có thể sẽ rất hấp dẫn nếu cấp cho tác nhân quyền truy cập rộng rãi để tăng tối đa hiệu quả: toàn quyền kiểm soát hộp thư đến, cơ sở dữ liệu sản xuất hoặc nhiều công cụ nội bộ cùng một lúc. Nhưng điều này cũng đồng nghĩa với rủi ro lớn hơn: nếu một tác nhân có quá nhiều quyền bị xâm phạm hoặc hoạt động sai, thiệt hại sẽ nghiêm trọng hơn nhiều.

Rò rỉ dữ liệu và các sự cố tuân thủ

Nhiều tác nhân gửi câu lệnh và tài liệu đến các dịch vụ AI bên thứ ba. Nếu các nhà cung cấp đó lưu trữ hoặc sử dụng dữ liệu để đào tạo, việc này có thể dẫn đến việc chia sẻ nhiều thông tin hơn dự định, gây ảnh hưởng đến quyền riêng tư cá nhân và các yêu cầu quy định.

Nhưng tất cả những điều này không có nghĩa là việc sử dụng các tác nhân AI vốn dĩ nguy hiểm; điều này chỉ đòi hỏi sự cẩn thận hơn cùng các công cụ và quy trình phù hợp để giữ an toàn.

Cách giữ an toàn khi sử dụng tác nhân AI

Mục tiêu không phải là tránh hoàn toàn các tác nhân AI, mà là sử dụng chúng theo những cách tôn trọng quyền riêng tư và giảm thiểu tác động nếu có sự cố xảy ra. Dù đang thử nghiệm AI trong cuộc sống cá nhân hay triển khai các tác nhân tại nơi làm việc, các bước sau có thể giúp ích:

  1. Giới hạn những gì tác nhân có thể truy cập. Cấp cho mỗi tác nhân một phạm vi hẹp, được xác định rõ ràng thay vì quyền truy cập rộng rãi. Ví dụ: cho phép tác nhân cá nhân đọc từ một nhãn email cụ thể thay vì toàn bộ hộp thư đến, hoặc chỉ cấp cho tác nhân tài chính quyền truy cập vào dữ liệu thử nghiệm cho đến khi tin cậy hành vi của nó.
  2. Luôn yêu cầu con người phê duyệt đối với các tương tác nhạy cảm. Các tác vụ liên quan đến tiền bạc, cài đặt bảo mật hoặc chia sẻ dữ liệu bên ngoài tổ chức phải yêu cầu sự phê duyệt rõ ràng. Tác nhân có thể chuẩn bị các khoản thanh toán, thư nháp hoặc báo cáo, nhưng con người cần xem xét và xác nhận bất kỳ điều gì có tác động lớn.
  3. Hiểu rõ dữ liệu sẽ đi đâu. Trước khi kết nối tác nhân với các tài khoản hoặc tài liệu thực tế, hãy kiểm tra nhà cung cấp mà nó sử dụng, nơi dữ liệu được xử lý, thời gian dữ liệu được lưu trữ và liệu dữ liệu đó có được sử dụng để đào tạo mô hình hay không. Hãy lựa chọn các công cụ cung cấp quyền kiểm soát rõ ràng, tôn trọng quyền riêng tư.
  4. Đối xử với các tác nhân như phần mềm đặc quyền. Ghi nhật ký những gì chúng làm, xem xét thường xuyên và sẵn sàng thu hồi quyền truy cập nhanh chóng nếu phát hiện điều gì bất thường. Trong các tổ chức, điều đó có nghĩa là biết tác nhân nào đang tồn tại, chúng tiếp cận hệ thống nào và cách tắt chúng ngay lập tức.

Đây là lúc Proton Pass tạo nên sự khác biệt. Proton Pass là trình quản lý mật khẩu đã mã hóa đầu cuối, đồng thời cung cấp các mã thông báo truy cập AI, cho phép kiểm soát và giám sát thông tin đăng nhập nào mà tác nhân có quyền truy cập.

Thay vì chia sẻ tên người dùng, mật khẩu và khóa API với tác nhân AI theo từng trường hợp cụ thể, mã thông báo truy cập Proton Pass cấp quyền truy cập giới hạn vào các mục hoặc kho cụ thể. Có thể cấp các mã thông báo riêng biệt cho các tác nhân khác nhau, đảm bảo tất cả thông tin đăng nhập luôn được mã hóa và luôn nằm trong tầm kiểm soát. Bất cứ khi nào tác nhân sử dụng một mục, nó sẽ tạo ra một nhật ký kiểm tra bao gồm lý do truy cập, giúp dễ dàng xem xét và giám sát hoạt động của tác nhân.

Khi được sử dụng cùng nhau, các quy trình này cho phép khai thác các lợi ích của tác nhân AI trong khi vẫn kiểm soát được rủi ro.

Làm việc và tự động hóa các tác nhân AI một cách an toàn với Proton Pass

Các tác nhân AI là bước tiến tiếp theo tự nhiên trong cách sử dụng AI. Chúng vượt ra ngoài việc trả lời các câu hỏi để thực sự hỗ trợ công việc thực hiện hàng ngày trong hộp thư đến, các tệp và các hệ thống quan trọng. Điều đó làm cho chúng trở nên đặc biệt mạnh mẽ — và là thứ xứng đáng nhận được các biện pháp bảo vệ tương tự như bất kỳ phần mềm nhạy cảm nào khác.

Có thể giảm đáng kể các rủi ro đi kèm với làn sóng tự động hóa mới này bằng cách giới hạn những gì mỗi tác nhân có thể truy cập, duy trì sự tham gia của con người trong các quyết định quan trọng, hiểu rõ nơi dữ liệu được xử lý và từ chối chia sẻ thông tin đăng nhập thô. Việc bổ sung một trình quản lý mật khẩu ưu tiên quyền riêng tư như Proton Pass sẽ cung cấp phương thức an toàn để quản lý thông tin đăng nhập mà các tác nhân sử dụng, với các mã thông báo truy cập AI giúp kiểm soát chính xác công cụ nào có thể truy cập vào kho nào.

Và cũng như trường hợp của bất kỳ loại công nghệ nào yêu cầu thông tin bảo mật, điều quan trọng nhất cần lưu ý khi sử dụng các tác nhân AI là xây dựng thói quen bảo mật tốt. Hãy bắt đầu từ quy mô nhỏ, giữ quyền truy cập ở mức giới hạn và sử dụng các công cụ luôn giúp kiểm soát dữ liệu cũng như mật khẩu của mình.