Dùng AI giả mạo người nổi tiếng để bán hàng, gần 4.000 tài khoản bị khóa ở Trung Quốc

Giả mạo người nổi tiếng bằng AI để livestream bán hàng, còn được gọi là “livestream bán hàng bằng công nghệ hoán đổi khuôn mặt AI” hoặc “bán hàng bằng người ảo nhân bản AI”, là một dạng biến tướng mới trong thương mại điện tử, xuất hiện cùng với sự phổ biến của trí tuệ nhân tạo tạo sinh (AIGC).

Các đối tượng kinh doanh sử dụng công nghệ giả mạo sâu (Deepfake), thu thập video và dữ liệu giọng nói công khai của người nổi tiếng, người có ảnh hưởng trên mạng xã hội hoặc doanh nhân, sau đó tạo ra hình ảnh và giọng nói ảo có độ chân thực cao. Những nhân vật giả mạo này được đưa vào các buổi livestream hoặc video ngắn để mạo danh chính chủ, quảng bá và bán sản phẩm.

Do có tính đánh lừa rất cao, thủ đoạn này không chỉ xâm phạm nghiêm trọng quyền lợi người tiêu dùng mà còn trực tiếp vi phạm quyền và lợi ích hợp pháp của những người bị giả mạo.

Những hình thức giả mạo phổ biến

- Livestream hoán đổi khuôn mặt bằng AI theo thời gian thực: Các nhóm vận hành thuê người dẫn chương trình bình thường với chi phí thấp, sau đó sử dụng phần mềm AI để ghép khuôn mặt của những ngôi sao hàng đầu như Dương Mịch, Địch Lệ Nhiệt Ba, Châu Kiệt Luân hoặc doanh nhân nổi tiếng như Đổng Minh Châu lên gương mặt người dẫn trong lúc livestream. Nhờ sức ảnh hưởng của người nổi tiếng, họ thu hút người xem và thúc đẩy giao dịch mua hàng.

- Nhân bản giọng nói bằng AI để bán hàng: Các đối tượng trích xuất đặc điểm giọng nói của nhân vật công chúng, sử dụng công nghệ tổng hợp tiếng nói (TTS) để tạo bản thu âm quảng cáo sản phẩm. Những đoạn âm thanh này được ghép với video người nổi tiếng đã biên tập sẵn, phát lặp lại nhằm giả dạng một buổi livestream bán hàng.

- Sao chép hàng loạt với chi phí thấp: Một số đơn vị cung cấp dịch vụ công nghệ rao bán các công cụ “hoán đổi khuôn mặt AI chống bị khóa tài khoản” và mô hình giọng nói của người nổi tiếng với giá chỉ vài trăm đến vài nghìn nhân dân tệ. Điều này khiến các phòng livestream giả mạo xuất hiện hàng loạt trên những nền tảng thương mại điện tử.

Cơ quan quản lý và các nền tảng tăng cường kiểm soát

Trước tình trạng vi phạm ngày càng phổ biến, cơ quan quản lý nhà nước, các nền tảng thương mại điện tử và những người nổi tiếng đều đã có động thái ứng phó.

Cơ quan quản lý đặt ra những giới hạn rõ ràng: Cục Quản lý Không gian mạng Trung Quốc cùng các cơ quan liên quan đã ban hành những quy định như Quy định quản lý dịch vụ tổng hợp sâu trên Internet và Biện pháp tạm thời quản lý dịch vụ AI tạo sinh. Các quy định yêu cầu đơn vị cung cấp và người sử dụng dịch vụ tổng hợp sâu phải gắn nhãn nhận diện rõ ràng đối với nội dung do AI tạo ra, chẳng hạn thông báo “Video này được tạo bằng AI”. Việc mô phỏng hình ảnh, giọng nói của người khác cũng phải có sự đồng ý riêng của người bị mô phỏng.

Các nền tảng mạnh tay xử lý vi phạm: Douyin, Kuaishou, Taobao và nhiều nền tảng thương mại điện tử khác đã triển khai các thuật toán phát hiện nội dung giả mạo. Khi phát hiện hành vi hoán đổi khuôn mặt AI trái phép hoặc phát lại nội dung livestream vi phạm quy định, nền tảng có thể ngắt luồng phát sóng, khóa phòng livestream, khấu trừ tiền đặt cọc, thậm chí khóa tài khoản vĩnh viễn.

Những người nổi tiếng chủ động bảo vệ quyền lợi: Trong những năm gần đây, nhiều nghệ sĩ và doanh nhân như Lâm Chí Dĩnh, Lưu Đức Hoa… đã khởi kiện các đơn vị kinh doanh và công ty công nghệ liên quan đến hành vi xâm phạm quyền hình ảnh, giọng nói. Phần lớn các phán quyết của tòa án đều đứng về phía nguyên đơn là những người bị giả mạo, buộc bên vi phạm phải bồi thường thiệt hại với số tiền lớn.

Theo tài khoản WeChat chính thức “Không gian mạng Trung Quốc”, cơ quan quản lý nước này đã yêu cầu các nền tảng trực tuyến triển khai chiến dịch chấn chỉnh tập trung, nhắm vào tình trạng sử dụng AI để mạo danh những nhân vật nổi tiếng, quảng cáo sản phẩm sai sự thật, câu kéo người theo dõi và gây hiểu lầm cho người dùng mạng. Tính đến nay, chiến dịch đã xử lý 3.961 tài khoản và xóa hơn 47.000 nội dung vi phạm.

Một trường hợp đáng chú ý gần đây là nữ diễn viên nổi tiếng Ngô Việt. Hôm 18/10, bà đăng bài phản ánh tài khoản video ngắn mang tên “Nhật ký chăm sóc da của chị Hoa” đã sử dụng AI để giả mạo khuôn mặt và giọng nói của bà trong các video bán hàng.

Nữ diễn viên nghi ngờ chủ tài khoản lợi dụng danh tiếng của mình để lừa tiền người tiêu dùng, đồng thời công khai yêu cầu những người liên quan hoàn trả số tiền thu được từ hành vi này.

Sau đó, đội ngũ quản lý WeChat điều tra, xác nhận tài khoản đó vi phạm nên đã khóa vĩnh viễn và toàn bộ nội dung liên quan đã bị xóa bỏ.

Ngày 6/11, phóng viên tờ Nam Phương Đô thị báo (Nandu) dẫn thông tin từ cơ quan quản lý không gian mạng Trung Quốc cho biết, nhà chức trách vừa triển khai đợt chấn chỉnh mạnh tay đối với tình trạng lợi dụng công nghệ AI để giả mạo người nổi tiếng nhằm bán hàng, câu kéo người theo dõi, dẫn dụ lưu lượng truy cập và gây hiểu lầm cho cộng đồng mạng.

Theo thông báo của cơ quan quản lý không gian mạng Trung Quốc, trong đợt chấn chỉnh này, nhà chức trách đã yêu cầu các website và nền tảng trực tuyến tăng cường kiểm tra, xử lý nghiêm những nội dung và tài khoản có hành vi vi phạm.

Một số trường hợp điển hình được công bố cho thấy mức độ đa dạng của các thủ đoạn giả mạo.

Nhiều tài khoản WeChat, Xiaohongshu đã sử dụng công nghệ AI để giả mạo khuôn mặt, hình ảnh hoặc tổng hợp giọng nói của người nổi tiếng khi chưa được cho phép. Một số tài khoản còn lấy trộm ảnh chân dung, hình ảnh người thân của nhân vật công chúng hoặc sử dụng các phiên bản hình ảnh đã bị biến đổi để quảng bá sản phẩm, thu hút người xem và bán hàng.

Đáng chú ý, hai tài khoản WeChat “Sơn X thoại” và “Cựu X cố” còn sử dụng ảnh chân dung của người nổi tiếng, kết hợp hiệu ứng AI để dựng chuyện những nhân vật này mắc bệnh Alzheimer, tung tin đồn sai sự thật nhằm đánh lừa công chúng.

Một thủ đoạn khác là giả danh người nổi tiếng để tạo nội dung tương tác. Một số tài khoản Douyin, Xiaohongshu, Bilibili và Kuaishou đã sử dụng AI để mạo danh người nổi tiếng, rồi đăng tải quan điểm, kể lại trải nghiệm hoặc đưa ra những lời lẽ mang tính tâm sự ở ngôi thứ nhất, qua đó dụ dỗ người dùng theo dõi.

Trong khi đó, có tài khoản Kuaishou như “Khang X” lại sử dụng AI tạo hình ảnh, video người nổi tiếng tham gia các điệu nhảy dung tục hoặc có những màn tương tác thân mật, nhằm câu kéo người xem, tăng lượng người theo dõi và trục lợi từ hoạt động tiếp thị.

Cơ quan chức năng cho biết tất cả các tài khoản liên quan trong những vụ việc trên đều đã bị xử lý theo quy định pháp luật và điều khoản của nền tảng. Trong đó, có trường hợp bị xử lý hình sự: một người đàn ông ở Sơn Tây bị bắt giam vì dùng thủ thuật ghép mặt của bà Trịnh Lệ Văn, Chủ tịch Quốc Dân Đảng Đài Loan để livestreams bán hàng.

Trong một cuộc điều tra trước đó, phóng viên Nandu phát hiện trên mạng xuất hiện nhiều gói dịch vụ “tráo mặt người nổi tiếng bằng AI” với mức giá từ 28 đến 138 nhân dân tệ. Chỉ với 68 nhân dân tệ, khách hàng có thể mua trọn bộ khoảng 500 video khiêu dâm được tạo bằng công nghệ AI, trong đó khuôn mặt những người nổi tiếng bị ghép vào các hình ảnh nhạy cảm.

Theo Xinhua, Sohu, Zaobao