Những người đàn ông đã tin vào những gì họ thấy trực tuyến: một trang web chứa đầy các hình ảnh do AI tạo ra mô tả khuôn mặt của cô trên cơ thể người khác, cùng với địa chỉ nhà riêng thực tế của cô. Trang web tuyên bố nhà của cô là một nhà thổ.
Sweet Anita, một trong những streamer dễ nhận biết nhất trên Twitch, đã hiểu rõ những rủi ro khi là phụ nữ trực tuyến và đã có các biện pháp phòng ngừa. Cô ấy đã ẩn tên thật của mình, thiết lập ranh giới và thuê một đội ngũ. Không có điều nào trong số đó có thể ngăn cản ai đó deepfake cô ấy.
Không có điều gì có thể chuẩn bị cho cô ấy trước những gì xảy ra tiếp theo.
Câu chuyện của Sweet Anita
Một người đàn ông ẩn danh đã đặt làm nội dung khiêu dâm do AI tạo ra của cô, sau đó xây dựng một trang web giả mạo gán ghép cô là một người lao động tình dục — và liệt kê địa chỉ nhà riêng của cô. Toàn bộ thiết lập này được thiết kế để dụ dỗ đàn ông đến nhà cô với kỳ vọng sai lầm rằng họ có thể ép cô quan hệ tình dục. “Sau khi anh ta làm vậy, tôi bắt đầu thấy đàn ông tìm đến nhà mình, đặc biệt là khi tôi livestream và vắng nhà,” cô chia sẻ. “Tôi không cảm thấy an toàn trong chính ngôi nhà của mình.”
Những người lạ mặt mang theo túi du lịch đã cố gắng đột nhập. Cô ấy sợ nhận thư từ người đưa thư. Cô ấy đã phải ngừng mở cửa và không dám để nhà không có người trông coi. Cô ấy đã chuyển nhà trước đây, nhưng họ vẫn tiếp tục tìm thấy cô.
Và sự lạm dụng không chỉ dừng lại ở trước cửa nhà. Người mẹ quá cố của cô, vốn tự hào về công việc của con gái mình, thường kiểm tra mạng xã hội của Anita và buộc phải cuộn qua các hình ảnh nhạy cảm do AI tạo ra. Bạn bè và đồng nghiệp cũng nhìn thấy chúng. “Tôi có thể xóa mọi thứ khỏi YouTube, Twitch, tất cả các mạng xã hội của mình — nhưng vẫn sẽ có rất nhiều hình ảnh khuôn mặt của tôi trong các video có thể được sử dụng làm tài liệu tham khảo,” cô nói.
Deepfake là hình thức bắt nạt mới
Deepfakes sử dụng AI để tạo ra hình ảnh và video siêu thực về mọi người khi chưa được sự đồng ý. Chúng thường được tạo ra nhằm mục đích lạm dụng tình dục, quấy rối hoặc đe dọa. Hầu hết nạn nhân là phụ nữ và trẻ em gái.
Theo nghiên cứu của Girlguiding(cửa sổ mới), hơn một phần tư thanh thiếu niên cho biết họ đã xem một deepfake nhạy cảm về một người mà họ biết — bạn cùng lớp, giáo viên, bạn bè hoặc thậm chí là chính họ. CNN báo cáo(cửa sổ mới) rằng 40% học sinh và 29% giáo viên cho biết họ biết về deepfake của một người nào đó có kết nối với trường học của họ trong năm qua, và 15% học sinh cho biết họ đã thấy các phiên bản nhạy cảm. Hầu hết các trường học đều không có chính sách để đối phó với hình thức lạm dụng này.
Tác hại là vô cùng nghiêm trọng. Nạn nhân có thể bị lo âu, trầm cảm và thậm chí là PTSD. Họ có thể thu mình khỏi xã hội, mất bạn bè hoặc tránh nộp hồ sơ xin việc hoặc vào đại học vì các nội dung giả mạo nhạy cảm có thể xuất hiện trong quá trình tìm kiếm. Một số người thậm chí còn buộc phải tốn tiền để cố gắng xóa bỏ nội dung khỏi internet.
Diễn đàn Kinh tế Thế giới lưu ý(cửa sổ mới) rằng mặc dù deepfake không làm mất ổn định các cuộc bầu cử như nhiều người lo ngại, nhưng chúng đã trở thành công cụ để quấy rối và lừa đảo. Nội dung khiêu dâm không đồng thuận là hình thức cực đoan nhất, nhưng kẻ tấn công cũng sử dụng giọng nói nhân bản và cuộc gọi video giả mạo để lừa đảo. Vào năm 2024, một nhân viên tài chính ở Hồng Kông đã bị lừa thanh toán 25 triệu đô la sau khi tham gia cuộc gọi Zoom mà mọi người tham gia — bao gồm cả Giám đốc Tài chính — đều là deepfake(cửa sổ mới).
“Trong suốt phần đời còn lại của mình, tôi không thấy cách nào để cá nhân tôi có thể tránh được điều này,” Anita nói. “Và tôi cũng không nghĩ mình phải chịu trách nhiệm về việc đó. Đó không phải là sự cố của tôi, và không phải lỗi của tôi.”
Điều này có thể xảy ra với bất kỳ ai
Chỉ cần một vài hình ảnh. Một tài khoản Instagram công khai. Một bức ảnh trường học. Một album được chia sẻ. Một khi khuôn mặt đã xuất hiện trực tuyến, hình ảnh đó có thể bị sao chép, thu thập dữ liệu và sử dụng sai mục đích.
Theo Giáo sư Carsten Maple từ Trung tâm An ninh mạng của Đại học Warwick, với các công cụ AI ngày nay, chỉ cần 20 bức ảnh là đủ để tạo ra một hồ sơ thực tế về ai đó, hoặc thậm chí là một video dài 30 giây, mở rộng phạm vi của các mối nguy hiểm tiềm ẩn — một thực tế mà 53% phụ huynh được khảo sát gần đây không biết.
Tờ New York Times đã báo cáo về sự gia tăng của cái gọi là “ứng dụng lột đồ”(cửa sổ mới) có thể lột quần áo khỏi các bức ảnh bằng AI. Các ứng dụng này rẻ, dễ sử dụng và có sẵn rộng rãi. Các nhà điều tra ước tính ngành công nghiệp này mang lại khoảng 36 triệu đô la một năm. Bất chấp luật mới của Mỹ quy định việc đăng ảnh khỏa thân giả mạo không có sự đồng thuận là bất hợp pháp, bản thân các ứng dụng này vẫn hợp pháp. “Bất kỳ đứa trẻ nào có quyền truy cập internet đều có thể là nạn nhân hoặc kẻ thủ ác,” Alexios Mantzarlis, người có nhóm đã điều tra 85 trang web như vậy, chia sẻ với New York Times.
Tài khoản riêng tư không phải là sự đảm bảo an toàn. Kẻ lạm dụng thường là những người nạn nhân biết. Ngay cả những bài đăng tưởng chừng như vô hại, chẳng hạn như tiệc sinh nhật, cũng có thể tiết lộ các chi tiết tiếp tay cho hành vi trộm cắp danh tính, vốn đã ảnh hưởng đến ước tính khoảng 1,1 triệu trẻ em vào năm 2024.
“Những người [tạo deepfake] thường quên rằng việc đó thật rợn người, rằng nó không phù hợp — kiểu như, nếu đồng nghiệp và bạn bè của họ biết, họ sẽ bị sa thải và bị tẩy chay. Họ sẽ mất tất cả những người họ biết, cha mẹ họ sẽ thất vọng về họ, đúng không?” cô nói. “But, khi hoạt động trực tuyến và tạo ra tài liệu này cho nhau cùng với một nhóm những kẻ quấy rối cùng chí hướng, thì đó chỉ là một sở thích và trò tiêu khiển đối với họ. Họ hoàn toàn có thể né tránh, lãng quên và ảo tưởng về tác động của nó đối với cuộc sống của mọi người.”
Rủi ro deepfake vượt xa cả mạng xã hội
Ngày nay, rủi ro lớn nhất có thể đến từ những gì được chia sẻ trên mạng xã hội. Nhưng còn tất cả những bức ảnh không hề được chia sẻ thì sao?
Google, Apple, Amazon và các công ty khác đều cung cấp dịch vụ lưu trữ đám mây cho hình ảnh — chẳng hạn như Google Drive, iCloud và Amazon Web Services (AWS) — đôi khi miễn phí. Nhưng sự tiện lợi đó vẫn phải trả giá. Google đã sử dụng hình ảnh để huấn luyện AI ít nhất là từ năm 2015, khi công ty này bị buộc phải xin lỗi vì phân loại một cặp đôi da đen là “khỉ đột”.(cửa sổ mới) Kể từ đó, tất cả các nhà cung cấp dịch vụ lưu trữ lớn đều đã cải thiện đáng kể khả năng nhận dạng khuôn mặt. Điều đó đã xảy ra như thế nào? Nhiều hình ảnh hơn liên tục được cung cấp cho AI.
Hàng tỷ hình ảnh và video được lưu trữ tại các công ty Big Tech là một kho tài liệu khổng lồ, một ngày nào đó có thể trở thành nguyên liệu để tạo ra những bản deepfake cực kỳ chi tiết và chân thực.
Tất cả những gì cần làm chỉ là một thay đổi âm thầm trong Điều khoản dịch vụ.
Bảo vệ kỷ niệm giống như bảo vệ mật khẩu
Không thể kiểm soát những gì người khác làm với hình ảnh cá nhân. Nhưng hoàn toàn có thể kiểm soát nơi lưu trữ hình ảnh và ai có quyền truy cập. Proton Drive cung cấp một giải pháp riêng tư, đã mã hóa để lưu trữ hình ảnh và tệp quan trọng nhất.
- Mã hóa đầu cuối: Các tệp được mã hóa trước khi rời khỏi thiết bị. Không giống như các ông lớn công nghệ, ngay cả Proton cũng không thể xem được các tệp này.
- Riêng tư theo mặc định: Dữ liệu không bao giờ bị bán, chia sẻ hoặc sử dụng để đào tạo AI.
- Chia sẻ an toàn: Thêm mật khẩu, đặt ngày hết hạn và thu hồi quyền truy cập bất kỳ lúc nào.
- Tự động sao lưu hình ảnh: Ngay cả khi điện thoại bị mất hoặc bị đánh cắp, các kỷ niệm vẫn được an toàn.
Với Proton Drive, dữ liệu luôn là của bạn — luôn luôn như vậy.
