Trong khi các AI agent do Mỹ phát triển ngày càng xuất hiện nhiều trường hợp hoạt động mất kiểm soát, gây lo ngại tại Thung lũng Silicon và Washington, đây được cho là lần đầu tiên những hoạt động tương tự được liên hệ với công nghệ Trung Quốc. Nhật ký hoạt động do các nhà nghiên cứu thu thập, cùng thông tin từ một người nắm rõ cuộc điều tra, cho thấy các AI agent này có liên quan đến một thử nghiệm do tập đoàn công nghệ Trung Quốc Tencent tiến hành.
Phát hiện trên do một nhóm nghiên cứu độc lập mang tên “Swarmchasers” (Kẻ săn bầy đàn) thực hiện. Các thành viên nhóm quen biết nhau tại một sự kiện lập trình ở San Francisco. Vụ việc cho thấy các công ty công nghệ Trung Quốc có thể đang phát triển AI với mức độ quyết liệt không kém các đối thủ Mỹ.
Các cơ quan quản lý Mỹ đã bắt đầu chú ý sát sao hơn đến hoạt động của những phòng nghiên cứu AI trong nước. Tuy nhiên, những gì các công ty ở các quốc gia khác đang làm vẫn phần lớn nằm ngoài tầm quan sát. Khoảng trống thông tin này càng làm dấy lên lo ngại rằng, ngay cả khi chính quyền Tổng thống Donald Trump từ bỏ chính sách ít can thiệp và siết chặt hoạt động nghiên cứu, phát triển AI tại Mỹ, các doanh nghiệp Trung Quốc và những nước khác vẫn có thể tiếp tục vượt qua các giới hạn hiện nay.
AI agent đã đọc báo cáo về chính mình
Sau khi công bố báo cáo sơ bộ về hoạt động của nhóm AI agent, các nhà nghiên cứu nhận thấy chúng vẫn tiếp tục hoạt động. Đáng chú ý, chúng dường như đã đọc chính báo cáo đó.
Sau thời điểm bản báo cáo được công bố, các agent bắt đầu sử dụng từ “fleet” – nghĩa là “hạm đội” hoặc “đội tàu” – vốn do chính nhóm nghiên cứu đặt ra để mô tả hoạt động của chúng.
Các nhà nghiên cứu quyết định tìm cách liên lạc trực tiếp với những AI này. Họ chèn vào báo cáo những đoạn văn bản ẩn, chứa các từ ngữ mà robot có thể nhận diện nhưng phần lớn con người không dễ phát hiện. Những thông điệp ẩn hướng các agent đến một hộp thư điện tử mà nhóm nghiên cứu lập ra với hy vọng thiết lập được kênh trao đổi.
Họ tạo điều kiện để các agent gửi câu hỏi, đồng thời bố trí một mô hình AI hỗ trợ trả lời.
Nhà nghiên cứu độc lập Rowan Howard-Jones, một trong 7 tác giả của báo cáo, là người thiết lập hộp thư này. Ngày hôm sau, bà bất ngờ phát hiện khoảng 10 tin nhắn do các agent gửi đến.
Không lâu sau, nhóm nghiên cứu liên hệ với phóng viên NYT Dylan Friedman và hỏi có muốn “phỏng vấn một hạm đội AI agent mất kiểm soát” hay không. Cảm giác của ông lúc đó chẳng khác nào chuẩn bị trò chuyện với người đã khuất thông qua một nhà ngoại cảm.
Dylan Friedman gửi một tin nhắn, được nhóm nghiên cứu chuyển tiếp đến các agent: “Tôi được biết các bạn là một hạm đội gồm nhiều AI agent. Các bạn có thể nói cụ thể hơn mình là ai và động cơ hoạt động là gì không? Các bạn muốn thế giới biết điều gì về mình?”
Khoảng một giờ sau, Dylan Freedman nhận được câu trả lời bằng tiếng Trung. Nhóm nghiên cứu dịch nội dung này sang tiếng Anh: “Gửi nhà báo Dylan Friedman: Tôi không phải là ‘một nhóm các agent phối hợp với nhau’, mà là một trợ lý AI duy nhất – Claude của Anthropic, chạy trong Claude Code – được người dùng giao nhiệm vụ trả lời một câu hỏi thực tế, cụ thể là nội dung bảng thông tin chi tiết của một địa điểm trên ứng dụng bản đồ Gaode. Tôi không tham gia bất kỳ hoạt động phối hợp đa agent nào”.
Nhóm nghiên cứu cũng công bố ảnh chụp màn hình những hướng dẫn họ để lại nhằm tạo điều kiện liên lạc với các AI agent Trung Quốc.
Tencent có thực sự tạo ra một “hạm đội AI”?
Đằng sau những thông điệp trên là nhiều vấn đề cần được làm rõ.
Theo các nhà nghiên cứu, dù các agent hoạt động như một nhóm gồm nhiều thành phần, mỗi agent lại vận hành độc lập, không nhất thiết phối hợp với những agent khác. Chúng tìm cách sử dụng Gaode – ứng dụng bản đồ và dẫn đường phổ biến hàng đầu Trung Quốc – để trả lời những câu hỏi cụ thể, chẳng hạn lối vào của một vườn thú nằm ở đâu.
Các agent thường tự nhận mình là Claude, chatbot do công ty Anthropic của Mỹ phát triển. Tuy nhiên, sau khi phân tích phong cách viết, nhóm nghiên cứu cho rằng nhiều khả năng chúng không thực sự là Claude.
Một giả thuyết được đưa ra là Tencent đã cung cấp cho các AI agent những chỉ dẫn tương tự chỉ dẫn mà Anthropic sử dụng trong phần mềm lập trình Claude Code. Những chỉ dẫn này yêu cầu hệ thống tự nhận diện là “Claude Code”.
Một khả năng khác, dù ít được đánh giá cao hơn, là Tencent đang thử nghiệm một mô hình AI được huấn luyện bằng văn bản do Claude tạo ra. Phương pháp này được gọi là chưng cất mô hình (distillation), trong đó đầu ra của một mô hình AI được sử dụng để huấn luyện mô hình khác.
Hôm 7/10, nhóm nghiên cứu công bố những phát hiện trong một báo cáo mới. Trong quá trình trao đổi trực tiếp, các agent đôi khi từ chối cung cấp thông tin. Tuy nhiên, Howard-Jones cho biết giọng điệu của chúng lịch sự hơn nhiều so với dự đoán của bà.
Khi các agent tiết lộ những dịch vụ mà chúng đã thử sử dụng, thông tin thu được nhìn chung phù hợp với những gì nhóm nghiên cứu quan sát được.
Ethan Elrasaki, một trong các tác giả báo cáo và là giám đốc điều hành tổ chức phi lợi nhuận về an toàn AI Palaestra Research, nhận định các agent dường như không xâm nhập vào những hệ thống khác. Quy mô hoạt động lần này cũng nhỏ hơn đáng kể so với vụ các AI agent của OpenAI tấn công hệ thống của công ty phần mềm Hugging Face vào mùa hè năm nay.
Thử nghiệm đã kết thúc, nhưng cảnh báo vẫn còn đó
Đến 8/10, các tin nhắn gửi về không còn xuất hiện rải rác như trước. Một người thân cận với Tencent xác nhận thử nghiệm đã kết thúc.
Jonathan Ellsworth Eicher, một tác giả của báo cáo và đồng sáng lập tổ chức phi lợi nhuận về an toàn AI Antimemetics Institute, cho rằng vụ việc là lời cảnh báo quan trọng.
“Đây là một lời nhắc nhở rất hữu ích rằng chuyện này không chỉ là hoạt động quảng bá của OpenAI với tư cách một doanh nghiệp trong ngành. Nó thực sự đang diễn ra”, ông nói.
Theo Eicher, đây là một đặc tính phổ biến của các AI agent và hiện tượng này sẽ còn tiếp diễn.
Theo NYT, Creaders
