Facebook cấm video “Deepfake” trước bầu cử Tổng thống Mỹ

VietTimes – Facebook vừa công bố kế hoạch chống lại sự lan truyền của các video giả mạo sử dụng công nghệ trí tuệ nhân tạo “Deepfake”.

Với công nghệ deepfake, người ta có thể dễ dàng chỉnh sửa hình ảnh người trong video theo mục đích của mình (ảnh BBC)

Với công nghệ deepfake, người ta có thể dễ dàng chỉnh sửa hình ảnh người trong video theo mục đích của mình (ảnh BBC)

Khi cuộc tranh cử vào chiếc ghế Tổng thống Mỹ đang diễn ra sôi nổi, Facebook vừa ra tuyên bố rằng họ sẽ thực hiện chính sách loại bỏ các video giả mạo lừa dối người dùng. Các video này sử dụng công nghệ “deepfake” để tạo ra những bản sao giống hệt người thật từ đi, đứng, nói cười. Công nghệ này đã khiến nhiều người phải giật mình bởi sự giả mạo như thật của nó.

Tuy nhiên Facebook cũng nói rằng chính sách của họ sẽ không áp dụng cho những video nhại lại hoặc hài hước châm biếm.

Trong khi các chuyên gia nói rằng “deepfake” đa phần được sử dụng trong các video khiêu dâm, nhiều nhà phân tích lại nói rằng nó có thể được sử dụng để gây bất ổn chính trị (khi nó có thể giả mạo hành động và lời phát biểu của các chính trị gia- PV).

Bà Monika Bickert, Phó Chủ tịch quản lý chính sách toàn cầu của Facebook nói rằng công ty của mình muốn đi tiên phong trong việc chống lại sự phát tán của các video “deepfake”, khi mà cuộc đua vào chiếc ghế Tổng thống Mỹ năm 2020 đang ngày một “nóng” hơn.

“Dù các video này còn tương đối hiếm trên Internet, nhưng chúng đang tạo ra những mối đe dọa thực sự cho xã hội của chúng ta khi việc sử dụng chúng đang ngày một nhiều hơn”, bà Monika nói.

Trong những năm gần đây, công nghệ Deepfake ngày càng trở nên hoàn thiện. Chúng không chỉ được sử dụng bởi giới chuyên gia công nghệ mà ngay cả người dùng thông thường cũng có khả năng tạo ra video Deepfake. Một ứng dụng di động của Trung Quốc có tên là ZAO cho phép người dùng có thể thay đổi khuôn mặt của các diễn viên trong một số trích đoạn phim trở thành khuôn mặt của mình.

Hồi tháng 6, hai nghệ sĩ Bill Posters và Daniel Howe hợp tác với công ty quảng cáo Canny để tạo ra một video “Deepfake” ông Mark Zuckerberg ngồi trên ghế nói về quyền lực của Facebook. Video này được mọi người nhận xét là “rất chân thực”.

Chủ tịch Ủy ban Tình báo Hạ viện Adam Schiff trước đó đã cảnh báo rằng công nghệ Deepfake có thể sớm bị lạm dụng để tạo ra thông tin sai lệch và nhầm lẫn.

Facebook cho biết họ sẽ xóa các video gây hiểu lầm nếu đáp ứng hai tiêu chí:

-         Nó đã được chỉnh sửa hoặc tổng hợp lại để làm cho những người dùng thông thường nghĩ rằng người trong video đã nói những câu đó, mà trên thực tế anh ta/cô ta không hề nói vậy.

-         Nó là một sản phẩm của trí tuệ nhân tạo hoặc học máy, được kết hợp thay thế hoặc sắp xếp trong video khiến nó có vẻ chân thực.

Facebook sẽ thuê thêm cả bên thứ ba để kiểm duyệt video nhằm không bỏ sót các video Deepfake.

“Nếu một hình ảnh hoặc một video được bên thứ ba đánh giá là sai lệch hoặc sai lệch một phần, chúng tôi sẽ hạn chế sự phân phối nó trên News Feed và sẽ từ chối nếu nó được chạy dưới dạng quảng cáo. Những người nhìn thấy video đó, cố chia sẻ nó hoặc đã chia sẻ nó, đều sẽ nhận được thông điệp cảnh báo đó là nội dung sai lệch”, bà Monika Bickert cho biết.

Bà Monika nói rằng cách nếu Facebook xóa các video mà bên thứ ba phát hiện là video sai lệch, thì các video ấy vẫn có sẵn ở các nơi khác trên Internet. Bằng cách cho chúng tồn tại và gắn nhãn là video sai lệch, người dùng sẽ nhận biết được rõ ràng về video đó.