"Chúng tôi đang phỏng vấn TikToker Krishna Sahay, người sống sót duy nhất trong vụ xả súng trường học mới đây", Anne-Marie Green, MC của kênh CBS News, nói trong video đăng bởi TikToker Sahay. Trong một video khác, người dẫn chương trình của CNN hỏi Sahay về cách sống sót trong vụ xả súng. Cả hai video nhanh chóng thu hút hàng trăm nghìn lượt xem và trở thành hiện tượng trên mạng xã hội.
Tuy nhiên, theo Forbes, Sahay chỉ là một trong nhiều TikToker và YouTuber đang sử dụng công nghệ deepfake để tung tin giả. Nhờ hỗ trợ của AI, họ tạo MC với khuôn mặt và giọng nói giống người dẫn chương trình từ các hãng thông tấn lớn, sau đó xây dựng kịch bản giật gân, sai sự thật, nhằm câu kéo tương tác từ cộng đồng mạng. Thậm chí, nhiều video còn đóng logo của kênh tin tức, khiến người xem lầm tưởng là các nguồn tin này đã được xác thực.
Trong tuần vừa qua, phóng viên CNN - Clarissa Ward cũng là nạn nhân của deepfake khi đưa tin về tình hình ở gần biên giới giữa Gaza và Israel. Video hiển thị cảnh cô tránh tên lửa đã được chỉnh sửa âm thanh giả, gây hiểu nhầm về tình hình thực tế của cuộc xung đột. Đầu tháng 10, Gayle King, MC của chương trình CBS This Morning, bất ngờ xuất hiện trong một video được tạo bởi AI, trong đó cô giới thiệu một sản phẩm mà cô chưa bao giờ sử dụng. Trên mạng xã hội Truth Social, cựu Tổng thống Donald Trump cũng đề cập đến một video deepfake, trong đó các tuyên bố mà ông chưa từng phát biểu được trích dẫn bởi Anderson Cooper, người dẫn chương trình của CNN.
Các bản tin được dẫn bởi MC giả do deepfake tạo ra đang xuất hiện tràn lan và thường thu hút nhiều tương tác hơn nội dung đăng trên tài khoản chính chủ. Ví dụ, một video của TikToker Krishna Sahay về Margaret Brennan, người dẫn chương trình Face The Nation, đã nhận được 300.000 lượt thích. Trong khi đó, video phổ biến nhất trên kênh TikTok chính thức của Face The Nation chỉ đạt 7.000 lượt thích. Tài khoản Sahay và nhiều TikToker khác đã bị xóa do vi phạm quy định, nhưng các nội dung deepfake của họ vẫn còn tồn tại trên mạng vì được nhiều người chia sẻ.
Tạo tin giả bằng deepfake đã tồn tại từ lâu. Tuy nhiên, các chuyên gia cho biết khi kết hợp với hình ảnh của MC nổi tiếng, chúng có tác động lan truyền mạnh và gây ra hậu quả khôn lường. "Video trên các kênh truyền thông là phương tiện hấp dẫn để kẻ xấu tung tin giả. Trong nhiều trường hợp, người dẫn chương trình là những gương mặt quen thuộc và được khán giả tin tưởng. Giao diện bản tin cũng làm cho nội dung trở nên thân thuộc và đáng tin cậy hơn", giáo sư Hany Farid tại Đại học UC Berkeley giải thích.
Ariane Selliers, đại diện của TikTok, khẳng định nền tảng luôn cấm video sử dụng deepfake để tạo chân dung cá nhân với mục đích xấu. Công ty yêu cầu nhà sáng tạo gắn nhãn riêng cho nội dung AI để cảnh báo người xem. Nếu không tuân thủ, TikTok sẽ xóa video với lý do "nội dung gây hiểu nhầm" hoặc "mạo danh cá nhân để gây hại".
"Chúng tôi không muốn những người có ảnh hưởng và khán giả của họ bị lạm dụng hoặc lừa dối trong các vấn đề liên quan đến chính trị, tiền bạc", Selliers nói.
Tương tự, Elena Hernandez, đại diện của YouTube, cho biết nền tảng cũng đã xây dựng "chính sách thông tin sai lệch" để chống lại tình trạng tin giả AI.
Giờ đây, gần như bất kỳ ai cũng có thể sử dụng phần mềm AI sẵn có để tạo video hoặc âm thanh về những nhân vật của công chúng (hoặc những người bình thường) đang làm và nói những điều họ chưa bao giờ thực sự làm. Điều đó làm tăng thêm lo ngại rằng AI sẽ biến cuộc bầu cử tại Hoa Kỳ sắp diễn ra vào năm 2024 trở nên hỗn loạn hơn bao giờ hết.
Theo luật sư Kevin Goldberg, chuyên gia về Tu chính án thứ nhất tại Diễn đàn Tự do phi lợi nhuận có trụ sở tại DC, mối lo ngại lớn nhất là các video sử dụng các tin tức giả mạo như một dạng thông tin sai lệch mang tính công kích. "Đây là điều mà chúng tôi thực sự lo ngại sẽ phải đối mặt trong cuộc bầu cử vào năm 2024 sắp tới”, ông nói.
Theo Forbes
