Một ứng viên có thể bị gán những lời chưa từng nói bằng video giả do trí tuệ nhân tạo (AI) tạo ra. Ngược lại, một đoạn ghi âm hay video có thật cũng có thể bị chính người liên quan phủ nhận chỉ bằng tuyên bố: “Đó là sản phẩm giả mạo của AI”.
Theo số liệu mới nhất từ Dự án Nghiên cứu quảng cáo chính trị thuộc Đại học Wesleyan (Mỹ), tính đến ngày 11/10, các nhà nghiên cứu đã xác định được 220 quảng cáo chính trị có sử dụng AI ở ít nhất một phần nội dung, với tổng chi tiêu quảng cáo vượt 137 triệu USD. Không phải quảng cáo nào trong số này cũng chứa thông tin sai lệch, nhưng con số cho thấy nội dung tổng hợp bằng AI đã trở thành một công cụ trong các chiến dịch tranh cử tại Mỹ.
Chẳng hạn, một quảng cáo của đảng Cộng hòa tại bang Texas mô tả James Talarico, ứng viên thượng nghị sĩ của đảng Dân chủ, dùng bút sáp màu tô vẽ lên Kinh Thánh. Cảnh tượng này chưa từng xảy ra ngoài đời, nhưng đã được tạo thành hình ảnh chân thực để lan truyền rộng rãi, nhằm công kích quan điểm của ông về tôn giáo và giới tính.
AI tác động tới bầu cử
Ông Siwei Lyu, Giám đốc Viện AI và Khoa học dữ liệu thuộc Đại học bang New York tại Buffalo, nói với phóng viên Zaobao rằng trong cuộc bầu cử năm 2024, mối lo chủ yếu là những video giả tinh vi mô phỏng ứng viên. Hiện nay, AI được sử dụng rộng hơn: từ bịa đặt bài viết, giả danh người khác đến phát tán nội dung thông qua nhiều tài khoản mạng xã hội.
Công cụ AI ngày càng rẻ và dễ sử dụng cũng cho phép những người muốn thao túng dư luận sản xuất nội dung hàng loạt với tốc độ cao, nhắm vào các sự kiện địa phương hoặc những tình huống vừa xảy ra.
Ông Daniel Schiff, Phó giáo sư khoa học chính trị tại Đại học Purdue, đồng giám đốc Phòng thí nghiệm Quản trị và AI, cho rằng không thể đánh giá tác động của nội dung deepfake chỉ bằng cách xem hình ảnh có chân thực hay không.
Trong nghiên cứu về nội dung deepfake liên quan đến cuộc bầu cử Mỹ năm 2024, ông Schiff và các cộng sự nhận thấy khoảng một nửa số nội dung được khảo sát gần với tác phẩm nghệ thuật hoặc hình ảnh sáng tạo hơn là mô phỏng một cảnh tượng có thật. Nhiều nội dung còn được tạo ra nhằm tô vẽ hình ảnh các chính trị gia.
“Ngay cả khi người xem dễ dàng nhận ra nội dung là sản phẩm tổng hợp, nó vẫn có thể ảnh hưởng đến niềm tin và hành vi của họ”, ông Schiff nhận định.
Những hình ảnh châm biếm hoặc phóng đại có thể kích động sự tức giận, củng cố định kiến đối với các nhóm như người nhập cư hoặc huy động lực lượng ủng hộ một ứng viên. Vì vậy, người xem biết hình ảnh là giả không có nghĩa họ sẽ miễn nhiễm với thông điệp chính trị mà hình ảnh đó truyền tải.
Các biện pháp hiện nay liệu có đủ sức ngăn chặn tin giả AI?
Để giảm rủi ro từ deepfake trong bầu cử, 31 bang của Mỹ đã thông qua các đạo luật liên quan. Tuy nhiên, quy định giữa các bang không thống nhất về thời gian áp dụng, cách ghi nhãn nội dung có sử dụng AI và việc có miễn trừ cho các tác phẩm châm biếm hay không. Một số điều khoản còn đối mặt với thách thức pháp lý liên quan đến quyền tự do ngôn luận.
Một số bang yêu cầu quảng cáo phải thông báo khi hình ảnh được AI tạo ra hoặc chỉnh sửa. Nhưng theo dữ liệu của Đại học Wesleyan, trong số 220 quảng cáo chính trị có sử dụng AI được xác định, chỉ 27% công khai việc sử dụng công nghệ này.
Ngay cả khi có nhãn cảnh báo, người xem chưa chắc đã chú ý. Một thử nghiệm năm 2024 của Trung tâm Chính sách công nghệ thuộc Đại học New York cho thấy, dù quảng cáo có cảnh báo về việc chỉnh sửa hình ảnh xuyên suốt video, vẫn có 37% người tham gia không nhớ đã nhìn thấy thông báo đó sau khi xem.
Với nội dung tổng hợp không được gắn nhãn, các công cụ phát hiện hiện nay cũng khó theo kịp tốc độ phát triển của công nghệ. Video có thể bị nén, cắt ghép và chia sẻ qua nhiều nền tảng, khiến việc xác minh ngày càng phức tạp.
Ông Siwei Lyu lưu ý rằng xác định được một video không phải sản phẩm AI cũng không đồng nghĩa những tuyên bố đi kèm video là chính xác. Một đoạn phim cũ có thật vẫn có thể bị giới thiệu sai là sự kiện vừa xảy ra, hoặc bị gán nhầm thời gian, địa điểm và danh tính nhân vật.
Theo ông, không thể đẩy toàn bộ trách nhiệm phát hiện nội dung giả lên vai từng người dùng. Ngay cả chuyên gia cũng thường phải sử dụng công cụ hỗ trợ, tìm hiểu bối cảnh và kiểm tra nguồn phát tán. Chỉ nhìn hình ảnh và nghe âm thanh ngày càng không đủ để xác định thật giả
Bên cạnh việc nâng cao hiểu biết truyền thông cho công chúng, các nền tảng mạng xã hội cần can thiệp kịp thời, giúp người dùng truy tìm nguồn gốc nội dung và tiếp cận nhanh các kết quả xác minh đáng tin cậy.
Nguy cơ lớn hơn: Cử tri không còn tin vào bất cứ điều gì
Hiện vẫn chưa rõ nội dung AI có thể làm thay đổi bao nhiêu phiếu bầu. Ông Brennan, Giám đốc Trung tâm Chính sách công nghệ thuộc Đại học New York, nói với AFP rằng quảng cáo AI có thể giúp các chiến dịch gây quỹ và huy động người ủng hộ, nhưng bằng chứng cho thấy chúng trực tiếp làm thay đổi lựa chọn bỏ phiếu của cử tri vẫn còn hạn chế.
Theo ông Lyu, điều đáng lo trước mắt là những kẻ thao túng có thể tung nội dung giả vào thời điểm then chốt để gây hỗn loạn trong một nhóm cử tri cụ thể. Nếu video giả xuất hiện sau một sự kiện bất ngờ, ngay trước giờ bỏ phiếu hoặc khi kết quả kiểm phiếu chưa rõ ràng, tốc độ lan truyền có thể vượt xa khả năng phản hồi của báo chí và cơ quan bầu cử. Tác động tiêu cực vẫn có thể xảy ra ngay cả khi nội dung không lan rộng trên toàn quốc
Ông Schiff cảnh báo, những bình luận như “Đây là sản phẩm AI” hay “Giờ còn biết tin vào điều gì?” xuất hiện thường xuyên dưới các bài đăng trên mạng xã hội cho thấy sự hoài nghi có thể không còn giới hạn ở tin giả. Khi công chúng không biết điều gì đáng tin và ai đáng được tin tưởng, họ thậm chí có thể dần mất quan tâm đến chính trị.
Nguy hiểm hơn, sự phổ biến của deepfake có thể giúp các chính trị gia né tránh trách nhiệm ngay cả khi bằng chứng chống lại họ là thật. Khi đối mặt với một đoạn ghi âm hoặc video xác thực, họ có thể đơn giản tuyên bố rằng “đó là sản phẩm AI giả mạo”.
Ông Lyu gọi đây là “lợi thế của kẻ nói dối” (liar’s dividend): một khi công nghệ giả mạo tồn tại và trở nên phổ biến, người ta càng dễ phủ nhận những bằng chứng có thật bằng cách viện dẫn khả năng chúng được tạo ra bởi AI.
Hệ quả sâu xa không chỉ là cử tri bị đánh lừa bởi một video giả. Đó còn là nguy cơ xã hội mất đi cơ sở chung để phân biệt sự thật với dối trá, khiến việc yêu cầu các chính trị gia giải trình dựa trên bằng chứng ngày càng khó khăn.
Theo Zaobao
