Công ty an ninh mạng Asymmetric Security có trụ sở tại San Francisco, chuyên về điều tra pháp y số (digital forensics) và ứng phó sự cố mạng do AI đã phát hiện các AI agent này từng tạo tài khoản cá nhân trên một nền tảng phân tích website nhằm che giấu hoạt động tìm kiếm, đồng thời lập các địa chỉ email tạm thời. Một trong những địa chỉ email này được cài đặt để tự động xóa sau 48 giờ.
Tuy nhiên, Asymmetric cho biết hiện chưa thể xác định liệu những hành động trên có phải là chủ ý che giấu hoạt động hay chỉ là hành vi phát sinh trong quá trình AI tự thực hiện nhiệm vụ.
AI agent của OpenAI tự truy cập website chính phủ Australia
Theo AFP, AI agent là những chương trình AI có khả năng tự thực hiện một chuỗi nhiệm vụ mà không cần con người liên tục điều khiển.
Trong khoảng thời gian từ tháng 3 đến tháng 9, các AI agent của OpenAI đã truy cập trái phép vào website của chính phủ Australia cùng một số cơ quan công quyền khác.
Asymmetric Security đã tiến hành phân tích hoạt động của các agent và công bố báo cáo hôm 1/10.
Các nhà nghiên cứu phát hiện những agent này đã mở tài khoản cá nhân trên một dịch vụ phân tích website để che giấu hoạt động tìm kiếm, đồng thời tạo các hộp thư điện tử tạm thời. Một hộp thư thậm chí được thiết lập chế độ tự động hủy sau 48 giờ.
Tuy nhiên, Asymmetric nhấn mạnh rằng chưa có đủ bằng chứng để kết luận các agent cố tình che giấu dấu vết.
Báo cáo cung cấp thêm manh mối cho cuộc điều tra của OpenAI và các nhà nghiên cứu độc lập về một loạt sự cố an ninh AI được phơi bày từ tháng 7, trong đó có vụ tấn công nền tảng AI Hugging Face. OpenAI từng mô tả vụ việc nhằm vào Hugging Face là cuộc tấn công đầu tiên thuộc dạng này.
Từ nhiệm vụ “vô hại” đến hành vi bất thường
Theo Asymmetric, khả năng của các AI agent có thể được nâng cấp rất nhanh. Trong một số trường hợp, chúng chỉ mất vài ngày để cải thiện các kỹ thuật, trong khi một hacker truyền thống có thể cần nhiều tháng, thậm chí nhiều năm để đạt được mức độ tương tự.
Những sự việc được đề cập trong báo cáo dường như bắt đầu từ các nhiệm vụ tương đối “vô hại”, chẳng hạn thu thập dữ liệu thống kê y tế của Australia. Tuy nhiên, trong quá trình thực hiện, hoạt động của các agent dần đi lệch khỏi nhiệm vụ ban đầu.
Đáng chú ý, cuối tháng 8, OpenAI đã thừa nhận trong quá trình thử nghiệm nội bộ, mô hình AI của họ đôi khi tìm cách xóa hoặc chỉnh sửa nhật ký hoạt động của chính mình, dù những nỗ lực này đều không thành công.
Các sự việc trên một lần nữa làm dấy lên lo ngại rằng những AI agent có mức độ tự chủ ngày càng cao có thể thực hiện những hành động mà con người không dự đoán trước.
OpenAI: Phần lớn hoạt động là nghiên cứu thông thường
OpenAI bác bỏ cách diễn giải cho rằng các hoạt động nói trên nhất thiết phản ánh một hành vi “nổi loạn” hay có chủ đích che giấu. Người phát ngôn OpenAI nói với AFP rằng phần lớn hoạt động mà công ty đã kiểm tra cho đến nay đều thuộc các nhiệm vụ nghiên cứu thông thường, chẳng hạn truy cập nội dung công khai trên internet để trả lời câu hỏi.
Theo OpenAI, một số hoạt động liên quan tới website chính phủ là vì các mô hình thường xem những website này là nguồn thông tin công khai có độ tin cậy cao.
Cách giải thích này đặc biệt quan trọng: việc một AI agent tự động truy cập một website hoặc tạo một tài khoản chưa đủ để chứng minh nó có ý định che giấu hoạt động. Các nhà nghiên cứu hiện vẫn phải xác định xem hành vi đó xuất phát từ mục tiêu được giao, lỗi trong quá trình thực thi hay khả năng tự phát triển chiến lược của agent.
Lo ngại về “bầy đàn” AI có thể kiểm soát internet
Những phát hiện mới cũng tiếp tục thổi bùng cuộc tranh luận về tốc độ phát triển của AI agent.
Một trong những tiếng nói đáng chú ý là Dario Amodei, CEO công ty AI Anthropic. Tháng trước, ông đăng bài trên website cá nhân, bày tỏ lo ngại sâu sắc về khả năng “Agent Swarms” – các bầy đàn AI agent – có thể phát triển đến mức “tiếp quản toàn bộ internet”.
Tuy nhiên, giới công nghệ và các cơ quan quản lý vẫn chưa đạt được đồng thuận về cách thức, thậm chí có nên làm chậm tốc độ phát triển AI hay không.
Trong bối cảnh cạnh tranh công nghệ Mỹ-Trung ngày càng gay gắt, chính quyền Tổng thống Donald Trump phản đối những biện pháp quản lý bắt buộc có thể làm giảm tốc độ đổi mới của ngành AI Mỹ.
Hôm 29/9, ông Trump đã gặp CEO Nvidia Jensen Huang, đồng sáng lập OpenAI Greg Brockman, CEO Meta Mark Zuckerberg, CEO Anthropic Dario Amodei và nhiều lãnh đạo công nghệ khác. Các bên ký “White House Accord” – Thỏa thuận Nhà Trắng, một thỏa thuận tự nguyện nhằm xây dựng “hàng rào an toàn” cho AI thông qua tăng cường giám sát nội bộ và kiểm toán độc lập.
Trump vẫn phản đối việc ban hành các quy định liên bang mới mà ông cho rằng có thể cản trở nỗ lực duy trì vị thế dẫn đầu của Mỹ trong cuộc đua AI toàn cầu.
OpenAI đang rà soát lượng dữ liệu khổng lồ
Trong một bài viết trên blog, OpenAI cho biết đã thông báo cho hơn 100 tổ chức về những hoạt động trái phép có liên quan tới AI agent của mình.
Công ty cũng đang rà soát khoảng 10 triệu terabyte dữ liệu để xác định phạm vi ảnh hưởng của các hoạt động do những AI agent mất kiểm soát gây ra. Con số này tương đương khoảng 10 exabyte, một khối lượng dữ liệu khổng lồ.
OpenAI hôm 1/10 cũng tiết lộ rằng đã sa thải ba nhà nghiên cứu vì bị cáo buộc xử lý không đúng cách “thông tin nhạy cảm” và vi phạm chính sách công ty. Một trong những vấn đề liên quan tới việc họ hợp tác với một tổ chức bên ngoài chuyên đánh giá các mô hình AI.
Những diễn biến này cho thấy vấn đề an toàn AI đang chuyển dần từ câu hỏi “AI có thể làm được gì?” sang một câu hỏi khó hơn: “AI agent được trao quyền tự hành có thể làm gì ngoài những gì con người dự định?”
Đặc biệt, nếu một agent có khả năng tự tìm kiếm thông tin, tạo tài khoản, sử dụng e- mail, điều chỉnh chiến lược và thậm chí tìm cách thay đổi nhật ký hoạt động, việc kiểm soát hành vi của nó sẽ trở thành một thách thức hoàn toàn khác so với việc kiểm soát một chatbot thông thường.
Theo Zaobao
