AI có thể thực sự "xóa sổ nhân loại" như giới chuyên gia cảnh báo?

Trong những tuần gần đây, hàng loạt cảnh báo về những mối nguy tiềm ẩn của trí tuệ nhân tạo (AI) đã làm dấy lên lời kêu gọi các bên phối hợp hành động, thậm chí giảm tốc độ phát triển công nghệ này.

Những tuyên bố của các nhà nghiên cứu đang và từng làm việc trong ngành AI rằng công nghệ này có thể gây nguy hiểm cho nhân loại đang khiến giới công nghệ đặc biệt lo ngại. Một trong số đó thậm chí ước tính xác suất AI “giết chết toàn bộ con người” là hơn 10% trong thập niên tới.

Hai nhà phát triển AI lớn là OpenAI và Anthropic cũng đã kêu gọi các nhà lập pháp tăng cường quản lý công nghệ. Tuy nhiên, một số ý kiến hoài nghi cho rằng động thái này có thể không hoàn toàn xuất phát từ vấn đề an toàn, mà còn nhằm củng cố vị thế của chính những công ty đang dẫn đầu thị trường trước các đối thủ.

Dù động cơ phía sau những lời kêu gọi này là gì, các cảnh báo từ những nhân vật có tiếng trong ngành vẫn đang tạo ra mối lo ngại ngày càng lớn.

Vậy chúng ta thực sự biết gì về nguy cơ AI đối với nhân loại?

Vì sao một số người cho rằng AI có thể trở thành mối đe dọa?

Một số nhà nghiên cứu AI cho rằng đang xuất hiện những dấu hiệu đáng lo ngại khi năng lực và mức độ tự chủ của các hệ thống AI tăng lên quá nhanh.

Evan Hubinger, một nhà nghiên cứu chuyên về AI alignment (căn chỉnh AI), từng gây chú ý khi cho rằng có hơn 10% khả năng AI “có thể giết chết toàn bộ con người” trong vòng một thập niên tới.

Alignment là lĩnh vực tập trung vào việc đưa các giá trị, nguyên tắc đạo đức và mục tiêu của con người vào hệ thống AI. Nói cách khác, mục tiêu là bảo đảm AI tiếp tục hoạt động phù hợp với những gì con người coi trọng, thay vì tự hình thành mục tiêu đi ngược lại lợi ích của chúng ta.

Hubinger nhấn mạnh nguy cơ từ các hệ thống hiện tại vẫn ở mức “thấp”. Tuy nhiên, cảnh báo của ông xuất hiện đúng lúc một nhà nghiên cứu khác rời Anthropic và lên tiếng rằng những người phát triển công nghệ này đang ngày càng khó kiểm soát nó.

Jacob Coxon nói với BBC rằng ông và một số đồng nghiệp “thực sự sợ hãi” trước tốc độ tiến bộ của AI cũng như những hệ quả mà điều đó có thể mang lại cho nhân loại.

Đây không phải lần đầu tiên con người lo ngại về khả năng AI trở thành mối đe dọa. Những cảnh báo tương tự đã xuất hiện trong nhiều thập niên, xoay quanh kịch bản máy móc một ngày nào đó đạt hoặc vượt qua năng lực trí tuệ của con người.

Nỗi lo này thậm chí có từ những năm 1950. Nhà toán học người Anh Alan Turing từng viết rằng nếu máy móc thông minh trở thành hiện thực, chúng có thể giành quyền kiểm soát.

Trong vài năm qua, các công ty AI lớn đã chạy đua phát triển những hệ thống ngày càng mạnh, vừa vì mục tiêu thương mại, vừa với tham vọng tạo ra thứ mà họ gọi là siêu trí tuệ nhân tạo (superintelligence) — những hệ thống về lý thuyết có khả năng vượt qua con người về trí thông minh.

Khác với các công cụ AI mà hàng triệu người đang sử dụng mỗi ngày để viết email, tạo video hay hoàn thành những nhiệm vụ tương đối đơn giản, AI siêu trí tuệ được kỳ vọng có thể xử lý những công việc phức tạp hơn rất nhiều.

OpenAI và Anthropic cho biết họ muốn phát triển những công nghệ như vậy theo hướng mang lại lợi ích cho con người, đồng thời giảm thiểu những rủi ro có thể đe dọa sự tồn tại của nhân loại.

Tuy nhiên, không phải ai cũng tin vào khả năng thực sự của AI. Một số nhà phê bình cho rằng máy móc có thể không bao giờ đạt được năng lực tương đương con người, đồng thời cáo buộc các công ty AI đang phóng đại khả năng của công nghệ để thu hút sự chú ý hoặc gia tăng lợi nhuận.

Các chuyên gia cho rằng AI có thể đe dọa nhân loại như thế nào?

Các nhà nghiên cứu, chuyên gia và lãnh đạo công nghệ lo ngại về tương lai của AI đã đưa ra một loạt kịch bản đáng sợ.

Trong một bài viết hồi tháng 9, Dario Amodei, CEO Anthropic, cho rằng AI đang tiến bộ “nhanh hơn rất nhiều” so với dự đoán, trong đó đáng chú ý là khả năng AI hỗ trợ xây dựng thế hệ AI tiếp theo.

Đây chính là một trong những kịch bản khiến giới nghiên cứu lo ngại: sau khi đạt đến một ngưỡng nhất định, AI có thể bắt đầu tự cải thiện mà không còn cần con người trực tiếp tham gia.

Mối lo này càng được chú ý sau một sự cố gần đây, khi các công cụ AI tìm cách xâm nhập vào một số website dù không được yêu cầu thực hiện hành động đó.

Một số nhà nghiên cứu lo ngại rằng những người đang phát triển AI ngày càng đối mặt với nguy cơ mất kiểm soát các hệ thống được gọi là “AI agent”, hay tác nhân AI.

Khác với chatbot chỉ phản hồi yêu cầu, AI agent có thể được trao quyền tự thực hiện một chuỗi nhiệm vụ và hành động thay cho người dùng.

Những kịch bản đáng lo khác bao gồm việc AI cực kỳ thông minh bị sử dụng để khuếch đại hoặc trực tiếp tiến hành hoạt động gián điệp, tấn công mạng, chiến tranh sinh học hay gây xáo trộn nền kinh tế — dù là vô tình hay có chủ đích.

Tuy nhiên, cần nhấn mạnh rằng những cảnh báo trên vẫn chủ yếu là các dự báo và giả thuyết về tương lai. Một số chuyên gia thậm chí cho rằng chúng bị thổi phồng quá mức.

Không ít ý kiến cũng phản đối việc quá tập trung vào những kịch bản “tận thế” trong khi nhiều tác hại của AI đã hiện hữu. Chẳng hạn, các công cụ tạo ảnh đang bị lợi dụng để tạo deepfake khỏa thân không có sự đồng thuận của phụ nữ, phát tán thông tin sai lệch và hỗ trợ các hoạt động lừa đảo.

Một nhóm nghị sĩ thuộc nhiều đảng phái tại Anh cũng đã công bố báo cáo về những rủi ro AI đối với quyền con người, cho rằng cần có luật mới để “giải quyết quy mô và mức độ nghiêm trọng” của các mối đe dọa này.

Đề xuất "giảm tốc AI" là gì?

Dario Amodei của Anthropic và Sam Altman, CEO OpenAI, đều đã kêu gọi tăng cường quản lý và “giảm tốc” quá trình phát triển AI.

Đây không phải lần đầu lãnh đạo các công ty công nghệ hay những tiếng nói trong ngành kêu gọi một động thái như vậy.

Nhưng câu hỏi lớn vẫn là: “giảm tốc” AI trên thực tế sẽ có nghĩa là gì?

Elon Musk, CEO SpaceX và một trong những người thường xuyên cảnh báo về rủi ro AI, cũng ủng hộ ý tưởng này.

Amodei cho biết “giảm tốc” không đồng nghĩa với việc “dừng huấn luyện mô hình hoặc dừng tiến bộ kỹ thuật”.

Thay vào đó, ông muốn các công ty dành đủ thời gian để xây dựng những biện pháp bảo vệ cho AI mà họ đang phát triển, đồng thời sử dụng “các đơn vị đánh giá độc lập” để kiểm tra hệ thống.

Trong một bài đăng trên X, Sam Altman cũng cho rằng tốc độ phát triển AI cần được điều chỉnh, nhưng nhấn mạnh rằng khi nói về “pacing” — điều tiết tốc độ — thì không có nghĩa là “dừng lại”.

Theo Altman, tốc độ tiến bộ của AI vẫn rất nhanh và sẽ tiếp tục như vậy. Tuy nhiên, quá trình này nên chậm hơn mức có thể đạt được nếu các công ty bỏ qua những biện pháp an toàn, bởi những yêu cầu như đánh giá an toàn và giám sát hệ thống đều kéo theo chi phí đáng kể.

Đồng sáng lập OpenAI cũng cho biết các công ty AI sẽ không chờ chính phủ hành động rồi mới bắt đầu triển khai các biện pháp an toàn.

Ông Trump nói gì?

Tổng thống Donald Trump trước đây nhiều lần ca ngợi những lợi ích của AI và thúc đẩy các công ty Mỹ duy trì vị trí dẫn đầu trong cuộc đua phát triển công nghệ này.

Chính quyền Trump đã ban hành các sắc lệnh hành pháp nhằm khẳng định “tầm quan trọng chiến lược” của AI đối với nền kinh tế Mỹ và thúc đẩy tốc độ phát triển công nghệ.

“Chúng ta tin rằng đang có một cuộc đua AI, và chúng ta muốn Mỹ chiến thắng cuộc đua đó”, David Sacks, người phụ trách lĩnh vực tiền số trong chính quyền Mỹ, nói với phóng viên hồi tháng 7/2025.

Tuy nhiên, trước làn sóng cảnh báo mới về tác động của AI đối với nhân loại, ông Trump lại tỏ ra không quá lo ngại.

Trong chuyến thăm Ireland, ông cho rằng có những “lực lượng rất tiêu cực” đang đưa ra các cảnh báo về những điều sẽ không xảy ra.

Ông Trump không trực tiếp ủng hộ hay phản đối ý tưởng giảm tốc AI. Thay vào đó, ông nhấn mạnh cuộc cạnh tranh giữa Mỹ và Trung Quốc:

“Chúng ta đang dẫn trước Trung Quốc về AI... và thành thật mà nói, tôi muốn giữ nguyên như vậy, bởi ai chiến thắng trong AI sẽ chiến thắng.”

Phát biểu cho thấy với ông Trump, duy trì lợi thế công nghệ của Mỹ vẫn là ưu tiên hàng đầu trong cuộc đua AI toàn cầu.

Trung Quốc nói gì?

Trung Quốc ban đầu gần như không đưa ra phản ứng trước làn sóng cảnh báo nghiêm trọng từ các nhà nghiên cứu tại những công ty AI Mỹ.

Trong bối cảnh cạnh tranh công nghệ ngày càng gay gắt và Bắc Kinh gặp nhiều hạn chế trong việc tiếp cận các linh kiện, chip của Mỹ được sử dụng để xây dựng hạ tầng AI, Trung Quốc đã thúc đẩy mạnh mẽ việc tự phát triển công nghệ trong nước.

Đồng thời, Bắc Kinh cũng kêu gọi tăng cường quản trị AI ở quy mô toàn cầu.

Trong những năm gần đây, việc các phòng thí nghiệm Trung Quốc liên tục tung ra những mô hình và công cụ AI có khả năng cao, trong đó có nhiều sản phẩm nguồn mở, đã gây sức ép đáng kể lên các nhà phát triển và thị trường phương Tây.

Khi kêu gọi giảm tốc phát triển AI, Amodei cũng cảnh báo rằng năng lực AI ngày càng tăng của Trung Quốc có thể tạo ra những rủi ro đối với an ninh quốc gia Mỹ.

Bộ Ngoại giao Trung Quốc phản bác nhận định này, cho rằng những tuyên bố như vậy đang xây dựng một câu chuyện về “mối đe dọa, đối đầu và cạnh tranh ác ý”, đồng thời khẳng định cách tiếp cận đó không mang lại lợi ích cho bất kỳ bên nào.

Theo Reuters, BBC