Deepfake - 'bóng ma' trong thế giới Internet

Ai cũng có thể trở thành nạn nhân của Deepfake, đặc biệt là phụ nữ, người nổi tiếng và chính trị gia.

30 năm trước, Photoshop xuất hiện và làm thay đổi hoàn toàn cách con người tiếp nhận tin tức. Những hình ảnh bạn thấy hoàn toàn có thể là sản phẩm của một quá trình cắt ghép kỳ công. Người dùng Internet bắt đầu hoài nghi vào độ chính xác của hình ảnh. Họ đặt niềm tin nhiều hơn vào video, ghi âm vì đây là những thứ gần như không thể giả mạo.

Nhưng một lần nữa, Deepfake xuất hiện và "đâm thủng" thành trì tiếp theo của thế giới Internet. "Bạn có thể 'đưa' bất kỳ chính khách nào tới đâu, làm bất cứ điều gì. Kể cả khi video đó là giả mạo, khi được xuất bản nó sẽ hủy hoại ai đó", đại diện giấu tên của Deepfake Society, một website thuần giải trí về Deepfake nói.

Deepfake là gì

Quay lại năm 2013, khi Paul Walker, nam diễn viên của loạt phim Fast and Furious bất ngờ qua đời trong khi Furious 7 vẫn chưa quay xong.

Đoàn phim đã mời Cody Walker, em trai của Paul để đóng thế. Vì có những điểm tương đồng ở nét mặt nên họ có thể dễ dàng hậu kỳ làm cho Cody trông giống hệt anh trai mình. Ngày ra rạp, bộ phim khiến hàng triệu "fan" trên thế giới không khỏi ngỡ ngàng về độ chân thật. Đây là hình thức sơ khai nhất của Deepfake.

Thuật ngữ "Deepfake" là sự kết hợp giữa "deep learning" và "fake". Công nghệ này được xây dựng trên nền tảng machine learning mã nguồn mở của Google. Deepfake sẽ quyét video và ảnh chân dung của một người sau đó hợp nhất với video riêng biệt nhờ AI và thay thế các chi tiết trên gương mặt như mắt, miệng, mũi với chuyển động gương mặt, giọng nói như thật. Càng có nhiều hình ảnh gốc thì AI càng có nhiều dữ liệu để học. Deepfake có thể gán khuôn mặt của người này sang người khác trong video với độ chân thực đến kinh ngac.

96% video Deepfake có nội dung đồi trụy

Cuối 2017, Deepfake trở nên phổ biến khi một người trên Reddit có tên "Deepfakes" phát hành một công cụ dùng AI để hoán đổi gương mặt của người nổi tiếng vào trong các bộ phim khiêu dâm. Scarlett Johansson và Gal Gadot là nạn nhân. Hai năm sau Deepfake bùng nổ với lượng video giả tăng chóng mặt. Ban đầu, các video trông có vẻ giả, nhưng càng ngày, thuật toán càng chính xác và cho ra đời những sản phẩm mà mắt thường khó có thể phân biệt được.

Phụ nữ, người nổi tiếng là nạn nhân phổ biến của Deepfake. Trong ảnh là nghệ sĩGal Gadot bị ghép mặt vào một bộ phim khiêu dâm.

Phụ nữ, người nổi tiếng là nạn nhân phổ biến của Deepfake. Trong ảnh là nghệ sĩGal Gadot bị ghép mặt vào một bộ phim khiêu dâm.


Theo thống kê của Deeptrace, công ty có trụ sở tại Amsterdam chuyên nghiên cứu về những nội dung được tạo ra bởi AI, 96% video Deepfake có nội dung đồi trụy. Hầu hết nạn nhân là ca sĩ, diễn viên nữ nổi tiếng bị ghép mặt vào các bộ phim khiêu dâm. "Chúng tôi phát hiện ra bốn trang web khiêu dâm hàng đầu chuyên đăng tải các video Deepfake có tổng lượt xem lên tới 134 triệu", CEO Deeptrace, ông Giorgio Patrini nói. Lượng người truy cập ngày càng lớn gióng lên hồi chuông đáng báo động về nhu cầu của người dùng Internet với công nghệ này.

Deepfake đang nằm ngoài tầm kiểm soát

Không dừng lại ở những video khiêu dâm giả, deepfake đang trở thành "bóng ma" trong thế giới Internet, khiến mọi người phải khiếp sợ. Hãy tưởng tượng vào những ngày đầu tháng 11/2020, khi cuộc bầu cử Tổng thống Mỹ đang đến giai đoạn nước rút. Một ứng viên Tổng thống xuất hiện trên mạng xã hội với những lời lẽ cực đoan về phân biệt chủng tộc hoặc giới tính khiến cử tri phẫn nộ. Mặc dù video là giả, nó sẽ ngay lập tức hạ bệ bất kỳ chính trị gia nào.

Ông chủ của Facebook - Mark Zuckerberg - CEO của Tesla - Elon Musk, Tổng thống Mỹ Donald Trump hay cựu Tổng thống Barrack Obama từng là nạn nhân của Deepfake.

Không dừng lại ở những video giải trí, Deepfake còn nhắm đến mục đích chính trị, lừa đảo và thao túng thị trường.

Không dừng lại ở những video giải trí, Deepfake còn nhắm đến mục đích chính trị, lừa đảo và thao túng thị trường.


Nguy hiểm hơn những video giải trí, Deepfake còn được dùng để lừa đảo, thao túng thị trường. Tháng 3 năm nay, một nhóm tội phạm đã dùng AI nhái giọng CEO một công ty có trụ sở Đức để gọi điện cho Giám đốc chi nhánh ở Anh, đề nghị người này chuyển khoản cho nhà cung ứng ở Hungary trong vòng một giờ, sau đó tiền sẽ sớm được hoàn lại. Người này nhận ra giọng nói quen thuộc của "sếp" nên không hề nghi ngờ.

Đến tháng 7, Tổ chức điều hành Không gian mạng quốc gia Israel đã cảnh báo về "một loại tấn công mạng mới", dùng AI đóng vai lãnh đạo cấp cao trong doanh nghiệp để ra lệnh cho nhân viên thực hiện nhiều hành động gây hại cho nội bộ, như chuyển tiền, gửi tài liệu mật...

Cơn ác mộng mới của thế giới Internet

Điều khiến nhiều người lo lắng hơn cả là công cụ sản xuất Deepfake ngày càng đơn giản, bất kỳ ai với một chút hiểu biết về Internet cũng có thể làm Deepfake. "Tôi không phải lập trình viên, chỉ là người sử dụng phần mềm này thôi", chủ của Ctrl Shift Face, kênh YouTube chuyên dùng công nghệ Deepfake để tái dựng những cảnh phim xưa kia với diễn viên hoàn toàn khác.

Việc Ctrl Shift Face chỉ là một người bình thường, có chút hiểu biết về công nghệ cho thấy khả năng của Deepfake: Ai cũng có thể làm được một video giả. Không cần tới studio làm phim bom tấn, không cần thuê diễn viên. Chỉ với Bigdata, AI, Deepfake có thể làm rung chuyển cả Hollywood và thay đổi ngành điện ảnh.

Cách đó nửa vòng trái đất, Deepfake đang thâm nhập vào đời sống theo cách dễ hình dung hơn. "Trong một chủ đề thảo luận trên Baidu Tieba, một trong những diễn đàn Internet phổ biến nhất Trung Quốc, phim khiêu dâm Deepfake được bán với giá chỉ 4 nhân dân tệ (13 nghìn đồng) một video. Trọn gói 700 video là 158 nhân dân tệ (500.000 đồng)", Beijing News đưa tin. Trang này cũng cho biết video ghép khuôn mặt có thể được tùy chỉnh theo yêu cầu, được rao bán với giá khởi điểm từ 20 nhân dân tệ cho mỗi phút. Người mua chỉ cần cung cấp ảnh người nổi tiếng hoặc cá nhân.

Thế giới đối mặt thế nào với Deepfake

Vài người nhìn vào mặt tích cực và cho rằng Deepfake có thể đem lại những thước phim hài hước. Tuy nhiên phần đông lại tỏ ra lo sợ trước "bóng ma" này. Hiện chưa có đạo luật rõ ràng về việc ngăn chặn hoặc xử phạt nội dung Deepfake.

Twitter và các trang như Pornhub, Discord, Gfycat đã cấm các nội dung ứng dụng công nghệ này nhưng chưa thật sự hiệu quả. Facebook, thậm chí không xóa video giả mạo liên quan đến Tổng thống Trump, bà Monika Bickert với lý do: "Facebook không kinh doanh trong lĩnh vực tin tức, mà kinh doanh trên mạng xã hội".

Trong khi đó, Googole lại có những động thái tích cực hơn trong việc chống lại Deepfake. Hãng đã hợp tác và trả tiền cho nhiều diễn viên để ghi lại hàng trăm video, sau đó sử dụng các công cụ tái tạo hình ảnh DeepFake. Bộ dữ liệu của Google có tới 3.000 video giả mạo để hỗ trợ các nhà nghiên cứu tìm cách ngăn chặn vấn nạn chỉnh sửa hình ảnh nhờ AI.

Tại Mỹ, thống đốc bang California đã thông qua đạo luật cấm Deepfake vào đầu tháng 10. Tuy nhiên điều này vẫn còn gây tranh cãi vì nó có thể ảnh hưởng đến quyền tự do ngôn luận.

Theo VnExpress

https://vnexpress.net/so-hoa/deepfake-bong-ma-trong-the-gioi-internet-4034159.html

Có thể bạn quan tâm