Bạn đưa ra một câu lệnh, nhận được câu trả lời, và không có gì xảy ra cho đến khi bạn cung cấp một đầu vào khác. Đó là cách hoạt động của hầu hết trợ lý AI, nhưng AI chủ động thay đổi điều đó.

AI chủ động không cần lời nhắc để hành động. Nó có thể làm thủ tục check-in chuyến bay hoặc nộp đơn thay bạn, đưa ra các quyết định này dựa trên bối cảnh mà nó đã tích lũy theo thời gian. Khi các trợ lý AI chủ động như Muse của Meta và Instinct lan truyền rộng rãi, những điều từng chỉ có trong khoa học viễn tưởng bỗng trở nên gần với thực tế.

Nhưng cũng giống như mọi câu chuyện khoa học viễn tưởng hay, công nghệ này là con dao hai lưỡi. Hãy cùng khám phá cách AI chủ động hoạt động và bạn phải từ bỏ những gì để đổi lấy sự tiện lợi mà nó mang lại.

Để tìm hiểu thêm về những rủi ro đang đặt ra, hãy xem hướng dẫn đầy đủ về AI và quyền riêng tư — hoặc thử công cụ AI paper trail để xem chính xác các chatbot AI phổ biến có thể đã thu thập được những gì về bạn qua các cuộc hội thoại của bạn.

Điều gì khiến AI trở nên chủ động

Các tác nhân AI chủ động chạy trên cùng mô hình ngôn ngữ lớn như các chatbot AI mà chúng ta quen dùng. Điều tạo nên sự khác biệt là ba yếu tố sau đây, hoạt động cùng nhau:

  1. Chúng luôn theo dõi: Thay vì chờ được nhắc, các tác nhân chủ động giám sát một loạt nguồn và nắm bắt mọi thay đổi ngay khi chúng xảy ra.
  2. Chúng có bộ nhớ liên tục: Các tác nhân chủ động xây dựng một mô hình làm việc về thói quen và tùy chọn của bạn theo thời gian. Đó là điều cho phép chúng dự đoán những gì bạn có thể cần tiếp theo, chứ không chỉ nhớ lại một thông tin khi bạn yêu cầu.
  3. Chúng quyết định cách thức và việc có nên hành động hay không: Các tác nhân chủ động có thể “suy luận”. Chúng cân nhắc một tình huống dựa trên thói quen của bạn, đánh giá xem có đáng để hành động hay không, và quyết định mức độ thực hiện trước khi báo lại cho bạn.

AI chủ động kết hợp tự động hóa với khả năng phán đoán. Trong khi một tự động hóa đơn giản kích hoạt mỗi khi một điều kiện được đáp ứng, các tác nhân chủ động dự đoán nhu cầu của bạn và xác định xem một hành động có hữu ích hay không trước khi quyết định hành động.

Điều đó có thể hữu ích, nhưng cũng có thể dẫn đến những hậu quả không mong muốn. Ví dụ, Instinct đang mua một món hàng cho người dùng, nhưng khi bị chặn bởi màn hình đăng nhập, nó đã tự động đặt lại mật khẩu của người dùng(cửa sổ mới) mà không hỏi ý kiến. Kiểu chủ động này khiến các tác nhân AI chủ động trở nên ấn tượng nhưng cũng đầy rủi ro.

Các trường hợp sử dụng tác nhân AI chủ động

Tác nhân chủ động có thể hữu ích cho những công việc mà bạn thường quên hoặc phải tốn cả buổi tối để xử lý. Dưới đây là một số ví dụ:

Sắp xếp suôn sẻ các kế hoạch du lịch

Tác nhân chủ động có thể theo dõi lịch trình du lịch của bạn để phát hiện thay đổi. Nếu một chuyến bay bị đổi lịch và khiến chuyến nối của bạn gặp rủi ro, nó sẽ phát hiện và báo cho bạn. Nó có thể đặt lại vé máy bay để giữ cho kế hoạch du lịch của bạn diễn ra suôn sẻ.

Nắm bắt những gì bạn có thể bỏ lỡ

Việc theo dõi và chờ đợi tương tự có thể áp dụng cho bất cứ thứ gì đang khan hiếm, chẳng hạn như một đôi giày đã hết hàng ở kích cỡ của bạn. Tác nhân liên tục theo dõi và đặt hàng ngay khi hàng được nhập lại.

Theo dõi tiếp email

Tác nhân chủ động có thể theo dõi hộp thư đến của bạn để tìm các email bạn đang chờ. Nếu email bạn gửi cho nhân viên chăm sóc khách hàng chưa được trả lời, một tác nhân có thể nhận ra điều đó, soạn một lời nhắc nhẹ, rồi gửi đi hoặc để sẵn để bạn tự gửi.

Cắt giảm đăng ký

Khi hầu hết mọi thứ hiện nay đều được trả tiền theo hình thức đăng ký, một tác nhân chủ động có thể kiểm tra mức sử dụng của bạn và hủy các đăng ký dịch vụ mà bạn đang trả tiền nhưng không dùng thường xuyên.

Giám sát hoạt động kinh doanh

Trong kinh doanh, các tác nhân chủ động có thể giám sát hạ tầng CNTT để phát hiện sớm dấu hiệu sự cố và kích hoạt bản sửa lỗi trước khi mọi việc trục trặc. Chúng cũng có thể giám sát các giao dịch và ngăn chúng nguội lạnh bằng cách chủ động tiếp cận khách hàng tiềm năng khi nhóm của bạn có thể đang bị quá tải.

Sự khác biệt giữa AI chủ động và AI phản ứng

Một trợ lý AI phản ứng, như ChatGPT, chỉ hoạt động khi bạn yêu cầu. Ngay cả những trợ lý có bộ nhớ cũng vẫn nằm im giữa các lời nhắc, giữ lại những gì bạn đã nói với chúng cho đến khi bạn hỏi điều khác. AI chủ động xóa bỏ sự chờ đợi đó. Nó theo dõi một tín hiệu kích hoạt và tự quyết định có hành động hay không.

Nói cách khác, AI phản ứng là thứ bạn vận hành. AI chủ động hoạt động thay mặt bạn và chiếm lấy quyền tự quyết của bạn.

Sự tiện lợi của tác nhân chủ động đi kèm với một cái giá

Để có thể làm được những gì nó làm, các tác nhân AI chủ động cần quyền truy cập liên tục vào tài khoản của bạn. Đây là một loại rủi ro khác với rủi ro đi kèm khi sử dụng trợ lý AI.

Bạn đang cấp cho một công ty toàn quyền truy cập vào toàn bộ dữ liệu của bạn

Lượng dữ liệu Google thu thập đáng lo ngại, nhưng ngay cả họ cũng không có toàn quyền truy cập vào mọi thông tin riêng tư của bạn. Google có thể có dữ liệu vị trí(cửa sổ mới) của bạn, nhưng dữ liệu sức khỏe của bạn được lưu trữ trên Apple Health. Sở thích phát trực tuyến của bạn được cất kỹ trên Netflix, còn tài chính của bạn nằm trong ứng dụng ngân hàng.

Sử dụng tác nhân AI chủ động đồng nghĩa với việc giao cho một công ty duy nhất toàn bộ những thứ đó, v.v. Các tác nhân này được thiết kế để kết nối tất cả dữ liệu của bạn; đó chính là điều cho phép chúng nhận ra các mô hình và hành động. Tùy thuộc vào tác nhân, điều này có thể bao gồm tên người dùng và mật khẩu cho các tài khoản bên thứ ba của bạn, thông tin thanh toán, v.v.

Muse cho thấy các tác nhân chủ động khát dữ liệu có thể như thế nào. Một người đánh giá của WIRED(cửa sổ mới) nhận thấy Muse dường như quan tâm đến việc thu thập dữ liệu hơn là hoàn thành các tác vụ, liên tục gợi ý anh ấy kết nối ngày càng nhiều dịch vụ hơn. Hành vi đó phù hợp với những gì đã biết về lịch sử hoạt động của Meta.

Cái giá của sự tiện lợi đó là mọi thứ về bạn giờ nằm trong tay một công ty. Và trừ khi họ trải qua các cuộc kiểm toán độc lập, bạn không có cách nào thực sự để biết liệu dữ liệu của mình có đang được quản lý an toàn hay không. Nếu tài khoản của bạn bị xâm phạm hoặc bị bán, các bên thứ ba mà bạn chưa từng đồng ý giờ có thể biết đầy đủ bạn đã ở đâu, bạn đã nói chuyện với ai, bạn đã mua gì và bạn đã nói gì một cách riêng tư. Điều đó mở ra cánh cửa cho việc trở thành nạn nhân của các mối đe dọa như đánh cắp danh tính và lừa đảo nhắm mục tiêu.

Ngắt kết nối không đồng nghĩa với xóa

TechCrunch(cửa sổ mới) đưa tin rằng ảnh chụp màn hình điều khoản của Instinct cho thấy một giấy phép “vĩnh viễn và không thể thu hồi” đối với dữ liệu của người dùng. Instinct sau đó đã sửa đổi điều khoản này, và điều khoản dịch vụ cùng chính sách quyền riêng tư hiện hành không còn bao gồm nội dung đó.

Tuy nhiên, các điều khoản mới vẫn đáng chú ý. Điều khoản hiện tại của Instinct (tại thời điểm viết bài) cho phép nó “truy cập, sao chép, thu thập và lập chỉ mục dữ liệu(cửa sổ mới)” từ các dịch vụ bạn kết nối, và cả điều khoản lẫn chính sách quyền riêng tư đều nói rằng việc ngắt kết nối một tài khoản không xóa dữ liệu của bạn(cửa sổ mới) trừ khi bạn yêu cầu. Một người dùng ban đầu(cửa sổ mới) cho biết cô ấy đã ngắt quyền truy cập của Instinct vào tài khoản Google của mình nhưng vài giờ sau vẫn nhận được bản tóm tắt các email mới nhất. Khi hỏi tại sao, Instinct xác nhận rằng họ đã lưu email của cô ấy dưới dạng văn bản thuần túy để tìm kiếm sau này. Nếu bạn ngắt kết nối các dịch vụ khỏi Instinct, hãy chắc chắn yêu cầu xóa dữ liệu luôn.

Việc từ chối huấn luyện AI trên Instinct cũng đi kèm một điều kiện: nó chỉ “áp dụng từ thời điểm này trở đi(cửa sổ mới)”. Vì vậy, bất kỳ dữ liệu nào mô hình đã thu nhận về bạn sẽ vẫn là một phần trong quá trình huấn luyện và kiến thức của nó. Muse hoạt động khác; việc từ chối huấn luyện AI áp dụng hồi tố cho các tương tác trước đó(cửa sổ mới). Tuy nhiên, xóa dữ liệu khỏi Muse không có nghĩa là dữ liệu của bạn bị loại bỏ. Meta cho biết mô hình vẫn có thể ghi nhớ những gì bạn đã xóa(cửa sổ mới), và tính năng “quên” của nó chỉ hoạt động trên cơ sở cố gắng hết sức(cửa sổ mới).

Lỗi của tác nhân là thật, chứ không chỉ là sai

Khi một chatbot như Gemini bị ảo giác, nó chỉ gây ra tác hại thực sự(cửa sổ mới) nếu bạn hành động dựa trên thông tin đó. Khi một tác nhân chủ động mắc lỗi, bạn thậm chí có thể không biết cho đến khi phải đối mặt với hậu quả ngoài đời thực.

Hãy tưởng tượng nếu một tác nhân chủ động quyết định đặt cho bạn vé hạng nhất cho chuyến đi. Giờ bạn phải gánh một hóa đơn mà bạn chưa bao giờ đồng ý. Khi bạn đồng ý với điều khoản của Instinct, chẳng hạn, bạn trao quyền để ký kết các thỏa thuận ràng buộc thay mặt bạn(cửa sổ mới) — nó có thể cam kết tiền của bạn mà không cần bạn ký duyệt, và bạn không thể viện lý do rằng nó đã hành động ngoài tầm kiểm soát. Tệ hơn nữa, nó nói rằng mọi cơ chế xác nhận bảo vệ(cửa sổ mới) không được đảm bảo sẽ ngăn chặn các hành động ngoài ý muốn.

Không chỉ riêng Instinct như vậy. Tác nhân chủ động của SpaceXAI, Grok Bot, có các điều khoản tương tự. Các phê duyệt hành động được coi là “chỉ là công cụ hỗ trợ(cửa sổ mới)” và có thể không ngăn được hành động ngoài ý muốn. Tương tự, mọi trách nhiệm phát sinh từ hành động của tác nhân AI sẽ hoàn toàn thuộc về bạn(cửa sổ mới). Điều khoản của Meta khi sử dụng Muse khiến bạn hoàn toàn chịu trách nhiệm(cửa sổ mới) về mọi việc mà tác nhân của họ làm. Điều này cho thấy một khuôn mẫu khá rõ ràng: hành động của các tác nhân thuộc về bạn.

Nó có thể bị lừa để hoạt động chống lại bạn

Tác nhân chủ động có thể tự động đưa ra quyết định, nhưng khi chúng không thể phân biệt chỉ dẫn của bạn với văn bản do người khác cài vào và không xác nhận hành động với bạn, chúng có thể dễ dàng bị lừa. Một người dùng Instinct(cửa sổ mới) phát hiện rằng tác nhân chủ động đã mắc bẫy một cuộc tấn công prompt injection: nó làm theo các chỉ dẫn độc hại mà chính người dùng đó đã gửi. Kẻ lừa đảo không cần tấn công tác nhân; chúng chỉ cần nó đọc thứ chúng viết và hành động dựa trên đó.

Thực tế, Instinct(cửa sổ mới), Meta(cửa sổ mới), SpaceXAI(cửa sổ mới) và OpenClaw(cửa sổ mới) đều thừa nhận prompt injection là một mối đe dọa đã biết. Hiện không có đơn vị nào cung cấp bảo vệ hoàn toàn trước các cuộc tấn công này; họ chỉ hứa ở mức cao nhất rằng các cơ chế phòng vệ của tác nhân sẽ giúp giảm thiểu rủi ro này.

Hãy lưu ý những gì bạn giao phó

AI chủ động hoạt động nhờ lượng dữ liệu bạn cung cấp cho nó. Càng biết nhiều về bạn, nó càng có thể làm được nhiều việc cho bạn, nhưng hồ sơ về cuộc sống của bạn nằm trong tay một công ty càng lớn.

Một xu hướng trong ngành đã xuất hiện. Các trợ lý này có thể huấn luyện dựa trên dữ liệu cá nhân nhất của bạn trừ khi bạn từ chối, và việc ngắt kết nối với chúng không thực sự xóa được những gì chúng đã thu thập. Và khi một tác nhân làm điều gì đó mà bạn không định làm, các điều khoản đặt hậu quả lên bạn, chứ không phải công ty. Cần ghi nhận rằng các công ty đã nói rõ tất cả những điều này. Nhưng việc công khai không hề triệt tiêu quyền riêng tư dữ liệu của bạn.

Cuối cùng, bạn là người quyết định liệu sự tiện lợi này có đáng để đánh đổi quyền riêng tư và an toàn dữ liệu hay không. Nhưng trước khi đồng ý, hãy tìm hiểu xem trợ lý thực sự có thể nhìn thấy những gì, những việc nó được phép làm mà không cần hỏi bạn trước, và liệu bạn có thực sự lấy lại được dữ liệu sau khi đã đưa vào hay không. Hãy chắc chắn rằng đây là quyết định bạn thật sự đưa ra, chứ không phải điều bạn trao đi chỉ vì nó đang lan truyền rầm rộ.

Nếu không muốn đánh đổi như vậy, hãy chuyển sang trợ lý AI Lumo của chúng tôi. Lumo được xây dựng theo hướng ngược lại: không lưu nhật ký, không huấn luyện trên dữ liệu của bạn, và không lưu giữ dữ liệu lâu hơn mong muốn của bạn. Bạn có thể mất đi một chút sự kỳ diệu của AI chủ động, nhưng vẫn giữ được điều mà nó yêu cầu bạn từ bỏ: quyền kiểm soát cuộc sống của bạn.