Đối phó nạn sử dụng AI lừa đảo, tung tin giả, Trung Quốc siết chặt quản lý

Dùng AI thay đổi gương mặt để lừa đảo đang là vấn nạn ở Trung Quốc (Ảnh: NetEasy).

Elon Musk không giải thích thêm chi tiết, chỉ cho biết trong thời gian ở Trung Quốc ông đã gặp các quan chức cấp cao và có "các cuộc thảo luận hiệu quả" về nguy cơ của AI và sự cần thiết của việc quản lý kiểm soát nó. Ông nói qua những cuộc trò chuyện đó, ông cũng biết được rằng Trung Quốc đã có kế hoạch khởi động các biện pháp giám sát quản lý chặt AI.

Sử dụng AI lừa đảo, tung tin giả đang tăng

AI đang phát triển rất nhanh chóng ở Trung Quốc và quốc gia này gần đây đã chứng kiến ​​sự gia tăng đột biến về các vụ án lừa đảo liên quan đến AI. Tờ The Wall Street Journal ngày 5/6 đưa tin cảnh sát trên khắp Trung Quốc gần đây đã cảnh báo rộng rãi công chúng trên trang mạng xã hội chính thức về việc đề phòng bọn tội phạm sử dụng AI giả mạo bạn bè để lừa đảo.

Theo cảnh sát, một người đàn ông Trung Quốc họ Quách hồi tháng 4 vừa qua đã nhận được một cuộc gọi video lừa đảo trên WeChat. Kẻ lừa đảo đã sử dụng AI để thay đổi khuôn mặt và công nghệ tổng hợp giọng nói để giả mạo ngoại hình và giọng nói của người bạn của Quách trong video, thuyết phục ông ta chuyển khoản tiền 600.000 USD vào một tài khoản ngân hàng ở Nội Mông. Mãi cho đến khi người đàn ông họ Quách liên lạc với người bạn để xác nhận khoản thanh toán, ông mới biết mình đã bị lừa. Theo một bài đăng trên WeChat của cảnh sát ở Nội Mông, chính quyền đã đình chỉ vụ giao dịch và đang cố gắng thu hồi số tiền bị lừa đảo.

Sự việc này đã gây ra những cuộc thảo luận sôi nổi trong cư dân mạng Trung Quốc và được lan truyền rộng rãi trên Weibo với hashtag "#AI gian lận đang bùng phát trên toàn quốc". Chủ đề này sau đó đã bị kiểm duyệt và kết quả tìm kiếm không thể hiển thị được nữa. Cũng trong tháng 4, cảnh sát tỉnh An Huy cũng đã bắt giữ một kẻ lừa đảo trong một vụ án tương tự.

Ngoài các vụ lừa đảo, AI cũng gây ra nhiều sự kiện đưa thông tin giả và sai lệch ở Trung Quốc. Vào tháng 5, một người đàn ông ở tỉnh Cam Túc đã lấy các mẩu tin thu thập được từ Internet, sử dụng ChatGPT để tạo ra một bài thông tin giả về một vụ tai nạn tàu hỏa và đăng tải nó lên một nền tảng blog cho phép người dùng chia sẻ để kiếm lời. Sau khi anh ta bị bắt, cảnh sát cho biết bài báo giả này đã nhận được 15.000 lượt xem. Trong cùng tháng 5, chính quyền tỉnh Hà Nam cũng tuyên bố rằng một người đàn ông đã sử dụng ChatGPT để tạo ra thông tin giả mạo về "một vụ ẩu đả dữ dội trong nhà hàng, một phụ nữ tử vong sau khi bị gạch đập vào đầu" để kiếm lưu lượng truy cập.

Được biết, Công ty OpenAI không cung cấp dịch vụ ChatGPT tại Trung Quốc nhưng vẫn có nhiều người Trung Quốc "vượt tường lửa" để sử dụng.

Phiên bản ChatGPT của Alibaba

Sau khi Baidu ra mắt "Wen Xin Yi Yan" (Văn tâm Nhất ngôn) vào tháng 3, Giám đốc điều hành Alibaba Trương Dũng (Zhang Yong) ngày 11/4/2023 cũng đã thông báo tại "Hội nghị thượng đỉnh về Alibaba Cloud" rằng ông sẽ cho ra mắt một dịch vụ giống như ChatGPT có tên "Tong Yi Qian Wen" (Thông nghĩa Thiên vấn). Trang tin Hồng Kông "HK01" đã chỉ ra rằng tất cả các sản phẩm của Alibaba, chẳng hạn như Tmall, Taobao, Youku, v.v., trong tương lai sẽ được kết nối với mô hình "Tong Yi Qian Wen".

Ông Châu Tĩnh Nhân (Zhou Jingren), Giám đốc công nghệ của Alibaba Cloud Wisdom, cho biết "Tong Yi Qian Wen" là một mô hình ngôn ngữ quy mô lớn, ngoài khả năng thực hiện nhiều vòng đối thoại, nó còn có khả năng viết văn bản rất mạnh. Nó có thể sáng tác tiểu thuyết liên hoàn, viết email, thậm chí làm thơ, viết thư tình…

Tuy nhiên, các bài test gồm câu hỏi và câu trả lời được đưa ra trong buổi họp báo trình diễn "Wen Xin Yi Yan" của Baidu trước đó đều là video được quay trước và hoạt động thao tác thực tế không được như mong đợi, khiến giá cổ phiếu của Baidu giảm mạnh, sau đó nhờ phản hồi tích cực từ các nhà phân tích của Citigroup và Bank of America khiến giá cổ phiếu mới phục hồi trở lại, nhưng vẫn phủ bóng đen lên triển vọng trí tuệ nhân tạo của Trung Quốc.

Chính phủ ra tay siết chặt kiểm soát

Để đối phó với các trường hợp đưa tin giả và lừa đảo, Cục Quản lý Không gian mạng (Văn phòng Thông tin mạng) Trung Quốc vào tháng 1/2023 đã thông báo cấm sử dụng hình ảnh, âm thanh và văn bản do AI tạo ra phổ biến thông tin có nội dung sai trái, vi phạm pháp luật hoặc “phá hoại nền kinh tế hoặc an ninh quốc gia”. Tờ The Wall Street Journal đã chỉ ra rằng những định nghĩa chung và rộng này đã mang lại cho chính quyền Trung Quốc không gian đáng kể trong việc thực thi pháp luật.

Ngày 11/4, Văn phòng Thông tin Internet (Cục Quản lý không gian mạng) Trung Quốc đã soạn thảo dự thảo "Các biện pháp quản lý dịch vụ trí tuệ nhân tạo sáng tạo" theo "Luật An ninh mạng của Cộng hòa Nhân dân Trung Hoa" và công khai lấy ý kiến ​​của công chúng.

Dự thảo nhấn mạnh rằng "các sản phẩm hoặc dịch vụ trí tuệ nhân tạo sáng tạo phải tuân thủ các yêu cầu của luật pháp và quy định", nội dung được tạo phải "phản ánh các giá trị cốt lõi xã hội chủ nghĩa" và không được phá hoại quyền lực nhà nước, lật đổ hệ thống xã hội chủ nghĩa, kích động chia rẽ hoặc phá hoại đoàn kết dân tộc, cũng như cổ vũ chủ nghĩa khủng bố cực đoan, hận thù sắc tộc hoặc chứa đựng nội dung khiêu dâm bạo lực có thể gây rối kinh tế và trật tự xã hội.

Dự thảo cũng quy định doanh nghiệp cung cấp dịch vụ trí tuệ nhân tạo tổng hợp ngoài việc “chịu trách nhiệm của nhà sản xuất về nội dung sản phẩm tạo ra” và báo cáo các đánh giá an toàn, thuật toán cho Cục Quản lý không gian mạng quốc gia theo quy định của pháp luật; còn phải thực hiện các biện pháp ngăn chặn sự xuất hiện của nội dung kì thị dân tộc, tôn giáo, giới tính, tuổi tác, nghề nghiệp, v.v. và "ngăn chặn việc tạo ra thông tin sai lệch"; người dùng phải cung cấp thông tin nhận dạng thực theo quy định của pháp luật.

Ngoài ra, nếu có nội dung được tạo không đáp ứng các yêu cầu của Đạo luật phải được lọc bỏ và mô hình phải được tối ưu hóa trong vòng 3 tháng để ngăn nội dung đó được tạo lại.

Dự thảo yêu cầu các công ty phải "chịu trách nhiệm về tính hợp pháp của dữ liệu được sử dụng để đào tạo các sản phẩm AI", và phải nộp sản phẩm cho cơ quan chức năng để được “đánh giá an toàn” trước khi cấp phép tung sản phẩm ra thị trường.

Nếu các công ty không tuân thủ các hướng dẫn trên sẽ bị phạt từ 10.000 nhân dân tệ (khoảng 1.450 USD) trở lên, đình chỉ dịch vụ AI và đối mặt với cuộc điều tra hình sự.

Hãng Bloomberg dẫn lời các nhà phân tích cho rằng các quy định liên quan của Cục Quản lý không gian mạng Trung Quốc có thể ảnh hưởng đến cách Trung Quốc đào tạo các mô hình AI trong tương lai.

Theo The Wall Street Journal, Deutsche Welle