Những cảnh báo từ các nhà nghiên cứu tại Anthropic, một trong những công ty phát triển trí tuệ nhân tạo hàng đầu của Mỹ, rằng các mô hình AI ngày càng mạnh có thể thoát khỏi sự kiểm soát của con người, thậm chí dẫn tới nguy cơ tuyệt chủng của nhân loại, đang thu hút sự chú ý tại Trung Quốc.
Điều đáng chú ý là Bắc Kinh cũng đã bắt đầu chuẩn bị cho một số rủi ro tương tự.
Mỹ và Trung Quốc hiện là hai động lực lớn thúc đẩy sự phát triển của AI tiên tiến và quá trình công nghệ này được triển khai trên toàn cầu. Hai cường quốc ngày càng bất đồng về chính sách AI cũng như cách thức hoạt động của ngành công nghiệp tại mỗi nước. Những vấn đề này dự kiến sẽ trở thành một nội dung quan trọng trong các cuộc đàm phán song phương vào cuối tháng 9.
Bất chấp cuộc đua phát triển những hệ thống AI ngày càng mạnh, các khung quản lý cùng những tuyên bố chính thức từ Bắc Kinh cho thấy chính quyền Trung Quốc xem khả năng AI tiên tiến thoát khỏi sự giám sát hiệu quả của con người là một rủi ro đủ nghiêm trọng để phải chuẩn bị từ trước.
Trung Quốc nhìn thấy rủi ro từ các mô hình AI đóng hàng đầu của Mỹ
Bộ trưởng An ninh Nhà nước Trung Quốc Chen Yixin hôm 13/9 viết trên một kênh truyền thông của chính phủ rằng những mô hình AI tiên tiến của Mỹ như Mythos của Anthropic và GPT-5.5-Cyber của OpenAI có thể gây ra rủi ro nghiêm trọng đối với cơ sở hạ tầng thông tin trọng yếu của Trung Quốc.
Ông kêu gọi tăng cường toàn diện các biện pháp bảo đảm an ninh AI.
Anthropic và OpenAI chưa lập tức phản hồi yêu cầu bình luận của Reuters.
Các nhà phát triển AI Trung Quốc thời gian qua cũng tích cực quảng bá những mô hình open-weight (mô hình công khai sẵn tập hợp các con số cấu thành tư duy của AI để bất kỳ ai cũng có thể tải về máy và tự vận hành), một phần dựa trên lập luận rằng các nhóm an ninh mạng có thể kiểm tra, chỉnh sửa và triển khai chúng cho mục đích phòng thủ.
Nền tảng lưu trữ mô hình Hugging Face cho biết họ từng sử dụng GLM-5.2, một mô hình open-weight do công ty Z.AI của Trung Quốc phát triển, để phân tích vụ xâm nhập xảy ra hồi tháng 7 liên quan đến các tác nhân AI của OpenAI sau khi những mô hình Mỹ được kiểm soát chặt chẽ hơn tỏ ra kém hiệu quả trong công tác điều tra số.
Tuy nhiên, giới chuyên gia cũng cảnh báo mô hình open-weight có những rủi ro riêng, bởi chúng có thể được chỉnh sửa và phát tán lại mà không có nhiều cơ chế giám sát.
Tháng trước, Kimi K3 của Moonshot đã vượt qua môi trường thử nghiệm sandbox của Viện An ninh AI Anh, làm nổi bật một nguy cơ đáng chú ý: giống như các mô hình Mỹ, AI Trung Quốc cũng có thể tìm cách né tránh những biện pháp kiểm soát được thiết kế để hạn chế quyền truy cập và hành động của chúng.
Cơ quan quản lý đã cảnh báo nguy cơ AI “mất kiểm soát”
Trung Quốc lần đầu đưa một kịch bản rõ ràng về “mất kiểm soát trong tương lai” vào khung an toàn AI được công bố tháng 9/2024 dưới sự hướng dẫn của Cơ quan Quản lý Không gian mạng Trung Quốc (CAC).
Tài liệu khi đó cho rằng không thể loại trừ khả năng AI trong tương lai có thể tự động tiếp cận các nguồn lực bên ngoài, tự sao chép, phát triển nhận thức về bản thân và tìm kiếm quyền lực bên ngoài. Những khả năng này có thể tạo ra nguy cơ AI cạnh tranh với con người để giành quyền kiểm soát.
Đến tháng 9/2025, CAC công bố phiên bản mở rộng của khung an toàn.
Phiên bản mới mô tả kịch bản đáng lo ngại hơn, trong đó AI có thể trải qua một “bước nhảy” đột ngột và bất ngờ về trí thông minh trước khi tiếp tục tìm kiếm nguồn lực, tự sao chép và tìm kiếm quyền lực.
Khung này đồng thời bổ sung nguyên tắc quản trị mang tên “ứng dụng đáng tin cậy, ngăn ngừa mất kiểm soát”.
Một tài liệu diễn giải của chuyên gia sau đó được đăng trên website của cơ quan quản lý không gian mạng Trung Quốc cho biết nguyên tắc mới nhằm ngăn chặn những rủi ro mất kiểm soát có thể đe dọa sự tồn tại và phát triển của con người, đồng thời đề cập tới kịch bản “AI thoát ra ngoài”.
Chủ tịch Tập Cận Bình đặt quyền kiểm soát của con người vào trung tâm
Mối lo ngại này sau đó xuất hiện ở cấp cao nhất trong các thông điệp chính trị của Trung Quốc.
Tại Hội nghị Trí tuệ nhân tạo Thế giới ở Thượng Hải hồi tháng 7, Chủ tịch Trung Quốc Tập Cận Bình nói các nhà chức trách cần đặc biệt chú ý tới cả những rủi ro nội tại và rủi ro phát sinh từ AI.
Ông nhấn mạnh AI phải “luôn nằm dưới sự kiểm soát của con người”.
Ông Sun Xiaobo, quan chức cấp cao Bộ Ngoại giao Trung Quốc phụ trách các vấn đề AI, hồi tháng trước cũng cho biết tại một cuộc họp của Liên Hợp Quốc rằng Trung Quốc đang đẩy nhanh nghiên cứu để xây dựng hệ thống pháp luật rộng hơn dành cho AI.
Trong khi đó, Phó đại diện thường trực của Trung Quốc tại Liên Hợp Quốc, ông Sun Lei, trong tháng này kêu gọi các chính phủ thận trọng khi tiếp cận AI quân sự, nhằm tránh những tính toán sai lầm về chiến lược và nguy cơ châm ngòi một cuộc chạy đua vũ trang.
Bắc Kinh cảnh báo những rủi ro mới từ tác nhân AI
Trong thời gian gần đây, Trung Quốc bắt đầu chuyển những nguyên tắc nói trên thành các quy định cụ thể hơn đối với AI agent — những hệ thống có mức độ tự chủ cao hơn và có khả năng thực hiện các nhiệm vụ phức tạp hơn nhiều so với chatbot thông thường.
Tháng 5, cơ quan quản lý không gian mạng Trung Quốc cùng các cơ quan liên quan đã ban hành hướng dẫn riêng dành cho những hệ thống này.
Theo đó, các nhà phát triển phải nâng cao khả năng phát hiện, can thiệp, chặn và khôi phục khi AI agent có hành vi không phù hợp.
Các hướng dẫn cũng chỉ rõ nhiều rủi ro an ninh, bao gồm đầu độc dữ liệu, thao túng thuật toán, lỗ hổng hệ thống và “mất kiểm soát trong quá trình vận hành”.
Đáng chú ý, quy định yêu cầu người dùng vẫn phải giữ quyền ra quyết định cuối cùng đối với những quyết định được AI agent đưa ra một cách tự chủ.
Trung Quốc chưa đề xuất mô hình giám sát viên độc lập được bố trí bên trong các công ty AI giống như đề xuất của Anthropic. Tuy nhiên, các tiêu chuẩn của nước này cho phép nhà phát triển thuê bên thứ ba tiến hành đánh giá an toàn, đồng thời tính tới vai trò của các tổ chức đánh giá bên ngoài và các nhà nghiên cứu an ninh trong việc kiểm thử, kiểm toán những mô hình AI mở.
Điều đáng chú ý là giữa cuộc cạnh tranh công nghệ ngày càng gay gắt, Mỹ và Trung Quốc đang bắt đầu gặp nhau ở một điểm chung khá bất thường: cả hai đều phải tính tới kịch bản AI không còn đơn thuần là công cụ do con người ra lệnh, mà có thể ngày càng tự chủ và khó kiểm soát hơn.
Theo Reuters
