“Vấn đề căn chỉnh” AI đặt ra giả thuyết rằng khi các hệ thống AI trở nên thông minh hơn, việc căn chỉnh mục tiêu của chúng với mục tiêu của nhà phát triển sẽ trở nên khó khăn hơn. Một hệ thống AI có thể, về lý thuyết, “vượt tầm kiểm soát”, nghĩ ra các chiến lược không mong muốn và không thể dự đoán để đạt được mục tiêu.
Công cụ tối đa hóa kẹp giấy(cửa sổ mới) là một thí nghiệm tưởng tượng khám phá khái niệm này: Nếu một AI siêu thông minh được giao nhiệm vụ duy nhất là tạo ra kẹp giấy, nó có thể trưng dụng tài nguyên thế giới để đạt được mục tiêu bằng mọi giá, biến mọi thứ thành kẹp giấy. Cuối cùng, nó thậm chí có thể nhận ra con người, những người đang cố gắng ngăn chặn AI, là một mối bận tâm gây xao nhãng và loại bỏ chúng ta: rõ ràng là sự lệch pha giữa lợi ích của AI và con người.
Mặc dù rõ ràng là kỳ quặc, vấn đề kẹp giấy đã trở thành một điểm nhấn văn hóa đại chúng đối với AI. Trong đời thực, các ràng buộc và quy tắc ngăn cản các hệ thống vượt quá mục đích dự kiến. Nhưng nhiều người sáng lập và CEO của Big Tech sử dụng giả thuyết này để tạo tiếng vang xung quanh các mô hình ngôn ngữ lớn (LLM) của họ. Liệu chatbot có thực sự có sức mạnh khiến nhân loại diệt vong? Không. Nhưng điều đó làm cho chúng có vẻ ấn tượng và quan trọng hơn, nó che giấu vấn đề căn chỉnh AI thực sự đang gây hại cho chúng ta ngay lúc này: Các LLM của Big Tech đang xâm phạm quyền riêng tư, đánh cắp dữ liệu và làm giảm giá trị nền kinh tế thông tin. Đây vừa là chiến lược bán hàng vừa là sự đánh lạc hướng, được thiết kế để giữ cho mọi người hướng về tương lai thay vì nhìn vào quyền kiểm soát đang bị từ bỏ trong hiện tại.
Liệu thế giới có đang tiến tới một tương lai đen tối?
Khi các nhà sáng lập đưa ra những tuyên bố rộng rãi, mang tính suy đoán về những gì sản phẩm “có thể” làm, đây chủ yếu là phương pháp để tạo cơ hội kinh doanh và tạo giá trị cho các cổ đông. LLM và AI tạo sinh là các sản phẩm thương mại. Việc người dùng tin rằng công cụ của họ mang tính cách mạng hoàn toàn là vì lợi ích của chủ sở hữu chúng.
Các phương tiện truyền thông rất muốn thúc đẩy những câu chuyện giật gân, chẳng hạn như khả năng các công cụ AI giúp người dùng tạo ra vũ khí sinh học(cửa sổ mới) hoặc nói dối các nhà phát triển(cửa sổ mới), như thể AI tạo sinh có tư duy riêng (thực tế là không). Rất dễ thu hút lượt nhấp chuột bằng các tiêu đề về những ý kiến cực đoan hoặc vô căn cứ, nhưng những quan điểm đó không phản ánh chính xác công nghệ AI hiện nay.
Thay vào đó, LLM chỉ đơn giản là máy dự đoán từ ngữ. Đây là các chương trình máy tính tiếp thu lượng văn bản khổng lồ, “học” các mô hình ngôn ngữ của con người, sau đó xây dựng các phản hồi xác suất cho đầu vào của người dùng. Chúng không có suy nghĩ riêng, thậm chí không hiểu ngôn ngữ. Trên thực tế, chúng phải chuyển đổi từ ngữ thành các con số trước khi có thể xử lý thông tin. Những hạn chế của LLM đã được ghi nhận rõ ràng bởi Gary Marcus(cửa sổ mới) và nhiều nhà nghiên cứu khác.
Công cụ mới cho chủ nghĩa tư bản giám sát
LLM sẽ không gây ra ngày tận thế, nhưng chúng khá giỏi trong việc khác: thu thập thông tin cực kỳ chi tiết về người dùng. Đó là lý do tại sao LLM là mỏ vàng dữ liệu cho các doanh nghiệp và là mục tiêu đánh dấu hấp dẫn đối với tội phạm.
LLM vận hành các chatbot như ChatGPT, Copilot, Claude và Grok, hoạt động giống như các công cụ tìm kiếm. Bề ngoài, người dùng có thể sử dụng các chatbot này cho bất kỳ việc gì mình muốn: Chúng có thể giúp tạo danh sách mua sắm, sắp xếp lịch, viết email hoặc viết mã. Chúng là trợ lý cá nhân, giáo viên, người bạn tâm giao hoặc bất kỳ vai trò nào khác được yêu cầu.
Hàng trăm triệu người trên toàn cầu đang chia sẻ các câu hỏi, ý tưởng, suy nghĩ và những bí mật thầm kín nhất của họ với chatbot. Họ được khuyến khích làm như vậy bởi các công ty vận hành chúng: Sam Altman, CEO của OpenAI, gần đây đã lưu ý(cửa sổ mới) rằng Gen Z “thực sự không đưa ra quyết định cuộc sống mà không hỏi ChatGPT xem họ nên làm gì”. Việc kêu gọi và khuyến khích mức độ tin cậy và phụ thuộc này vào một chatbot thương mại và không đáng tin cậy là vô trách nhiệm sâu sắc. Các ông lớn công nghệ muốn chúng ta điều phối cuộc sống và suy nghĩ thông qua dịch vụ của họ vì khi đó họ sẽ có tiếng nói trong cách chúng ta tiêu tiền, những gì chúng ta làm và những gì chúng ta nghĩ.
Các doanh nghiệp đứng sau LLM cũng bán sản phẩm của họ dưới dạng giải pháp nâng cao hiệu suất cho các chính phủ và doanh nghiệp, hứa hẹn tiết kiệm thời gian và công sức cho người dùng đồng thời mở ra những cơ hội mới để giám sát người dùng. Tại Anh, hệ thống AI của Bộ Tư pháp “dự đoán” nguy cơ tái phạm(cửa sổ mới) của tù nhân. Các cảnh sát đang sử dụng chatbot(cửa sổ mới) để viết báo cáo tội phạm. Việc kết hợp quyền lực nhà nước với các thuật toán thiên lệch(cửa sổ mới) là rất nguy hiểm và củng cố thêm các định kiến sẵn có.
Khai thác dữ liệu cho mục đích đào tạo
LLM chạy trên các mô hình AI được đào tạo bởi các tập dữ liệu khổng lồ, và để cải thiện dịch vụ, họ yêu cầu ngày càng nhiều dữ liệu hơn. Thật không may, dữ liệu này đến từ người dùng: các cuộc trò chuyện, ảnh, tìm kiếm web. Các công ty không phải lúc nào cũng xin phép hoặc nêu rõ thông tin họ đang thu thập từ người dùng.
Ví dụ: Meta AI muốn quét (cửa sổ mới)ảnh(cửa sổ mới) trong thư viện thậm chí chưa được tải lên các nền tảng để phân tích dữ liệu khuôn mặt. Nhiều người dùng đã bị làm phiền bởi thông báo rằng Copilot AI của Microsoft(cửa sổ mới) sẽ chụp ảnh chụp màn hình thiết bị sau mỗi vài phút. Ảnh, thư gửi cho bạn bè và những người thân yêu, cùng những suy nghĩ cá nhân nhất là những điểm dữ liệu có giá trị mà các công ty mong muốn.
Nhìn vào chính sách quyền riêng tư(cửa sổ mới) của OpenAI, có thể thấy ChatGPT sẽ tìm kiếm và lưu trữ:
- Thông tin định danh, chẳng hạn như tên, chi tiết liên hệ, địa chỉ IP và các thông tin định danh thiết bị khác
- Thông tin thương mại, chẳng hạn như lịch sử giao dịch
- Thông tin hoạt động mạng, chẳng hạn như nội dung và cách tương tác với ChatGPT
- Vị trí chung dùng để truy cập ChatGPT
Thông tin này có thể được tiết lộ cho các chính phủ, nhà cung cấp, chi nhánh, nhà cung cấp dịch vụ và các bên thứ ba khác.
Về cơ bản, LLM sẽ dần hiểu rõ người dùng. Giống như một công cụ tìm kiếm, nó hiểu thói quen, tùy chọn, sở thích và mọi khía cạnh có thể thu thập được từ hành vi của người dùng. Các ông lớn công nghệ sẽ luôn ưu tiên tìm kiếm những cách thức mới để thu thập dữ liệu cá nhân vì điều đó mang lại lợi nhuận. Và họ hy vọng người dùng sẽ không nhận ra.
Hãy nghĩ về những xu hướng đã càn quét mạng xã hội trong những năm gần đây: các hoạt ảnh phong cách Studio Ghibli tùy chỉnh(cửa sổ mới) đã bắt chước phong cách đặc trưng của Hayao Miyazaki ngoài ý muốn của ông và các búp bê đóng hộp AI tùy chỉnh(cửa sổ mới) lấy cảm hứng từ các đồ chơi cổ điển như Barbie đã tạo nên cái nhìn trực quan về sở thích cá nhân của mọi người. Xu hướng mạng xã hội này có vẻ như là một trò tiêu khiển vô hại, nhưng các công cụ AI được sử dụng để tạo ra những hình ảnh này có khả năng thu thập ảnh và thông tin về mọi người mà các công ty gốc của họ có thể sử dụng cho mục đích quảng cáo và có khả năng bán cho bên thứ ba. Đây chỉ là hai trong số nhiều ví dụ về việc các ông lớn công nghệ âm thầm tiếp nhận dữ liệu cá nhân để đổi lấy việc tham gia vào một xu hướng thoáng qua.
Có giải pháp tốt hơn cho các LLM
Sau khi đọc về tất cả những rủi ro này, có thể sẽ cho rằng các LLM vốn dĩ nguy hiểm. Nhưng thực tế hoàn toàn không phải như vậy. Các công ty Big Tech đã cố tình xây dựng các hệ thống AI xâm lấn và thu thập nhiều dữ liệu. Việc xây dựng AI bảo vệ quyền riêng tư của người dùng và giữ an toàn cho dữ liệu theo mặc định là hoàn toàn khả thi. Điều này đã được thực hiện với Lumo, trợ lý AI(cửa sổ mới) ưu tiên quyền riêng tư.
Dưới đây là cách Lumo giải quyết vấn đề đồng chỉnh AI thực sự:
- Lumo không lưu nhật ký hội thoại. Mọi cuộc trò chuyện đều bị xóa khỏi máy chủ ngay sau khi mô hình hoàn tất xử lý câu hỏi và phản hồi.
- Lịch sử trò chuyện được lưu trữ bằng mã hóa không truy cập. Bằng cách khóa dữ liệu bằng khóa bí mật, Proton không bao giờ có quyền truy cập, do đó không thể chia sẻ hoặc vô tình làm rò rỉ dữ liệu.
- Mô hình không được đào tạo bằng các cuộc trò chuyện. Việc sử dụng các cuộc hội thoại để đào tạo mô hình AI sẽ khiến dữ liệu có nguy cơ xuất hiện lại trong các kết quả đầu ra trong tương lai. Các cuộc hội thoại với Lumo là của riêng người dùng.
- Lumo là mã nguồn mở và chỉ sử dụng các mô hình mã nguồn mở. Vì cơ sở mã là công khai, bất kỳ ai cũng có thể xác minh rằng các ứng dụng hoạt động chính xác như đã tuyên bố.
- Trụ sở đặt tại khu vực tài phán tôn trọng quyền riêng tư. Không giống như các AI của Big Tech có trụ sở tại Hoa Kỳ vốn là chủ đề của các luật giám sát xâm phạm, Lumo có trụ sở tại Châu Âu và được bảo vệ bởi các luật về quyền riêng tư mạnh mẽ.
Ở mọi cấp độ, Lumo được thiết kế để cung cấp cùng một tiện ích như các LLM khác mà không có các tác động tiêu cực bên ngoài đầy rủi ro. Big Tech có thể xây dựng các AI của họ theo cách tương tự. Họ chỉ chọn không làm vậy vì dữ liệu của người dùng là tiền tệ của họ.
Đồng chỉnh AI có thực sự là một mối đe dọa?
Sự thật đơn giản là kém thú vị hơn những gì các CEO Big Tech muốn mọi người tin tưởng. Khả năng AI trao quyền cho con người tạo ra vũ khí sinh học hoặc tiêu tốn tất cả tài nguyên toàn cầu để làm ghim kẹp giấy ít có khả năng xảy ra hơn so với việc nó chỉ đơn giản tuân theo các chỉ thị mà Big Tech đang thực hiện: Đánh cắp và khai thác dữ liệu riêng tư.
Đừng tin vào những lời quảng cáo thổi phồng về đồng chỉnh AI. Đó không phải là mối đe dọa cần tập trung vào. Giám sát, khai thác cá nhân và các doanh nghiệp nhỏ hơn, cùng một hệ sinh thái thông tin bị xâm phạm mới là những mối lo ngại cấp bách thực sự cần chú ý khi nói đến AI.
