Kể từ ngày 15/7, "Quy định tạm thời về quản lý dịch vụ AI tương tác mang tính nhân cách hóa" chính thức có hiệu lực. Văn bản do 5 cơ quan (gồm Cục Quản lý không gian mạng, Bộ Công nghiệp và Công nghệ thông tin, Tổng cục Phát thanh và truyền hình và Cục Quản lý báo chí và xuất bản) liên tịch ban hành, yêu cầu các nền tảng AI không được tạo ra hoặc nuôi dưỡng sự phụ thuộc tình cảm của người dùng đối với chatbot.
"Người yêu AI" ngày càng phổ biến
Hiện tượng yêu chatbot không chỉ xuất hiện ở Trung Quốc mà đang lan rộng trên toàn cầu. Cùng với sự phát triển của AI, các "người yêu ảo", "người yêu kỹ thuật số", thậm chí hình ảnh số mô phỏng người đã qua đời ngày càng phổ biến.
Tuy nhiên, quy định mới của Trung Quốc nhấn mạnh rằng các dịch vụ này không được chiều theo người dùng quá mức, không được dẫn dắt họ lệ thuộc về cảm xúc hoặc nghiện AI, cũng như không được làm tổn hại các mối quan hệ xã hội ngoài đời thực.
Văn bản do Cục Quản lý Không gian mạng Trung Quốc (CAC) soạn thảo này chủ yếu nhắm tới các dịch vụ AI có khả năng mô phỏng tính cách, cách tư duy và phong cách giao tiếp của con người để duy trì tương tác cảm xúc lâu dài.
Đặc biệt, các nền tảng phải xây dựng cơ chế bảo vệ trẻ vị thành niên khỏi nguy cơ nghiện AI và các tác động tiêu cực đến sức khỏe tâm thần.
Các nền tảng đồng loạt gỡ bỏ tính năng
Ngay trước và sau thời điểm quy định có hiệu lực, hàng loạt doanh nghiệp công nghệ lớn đã nhanh chóng điều chỉnh dịch vụ.
Doubao của ByteDance và Tongyi Qiwen của Alibaba đồng loạt ngừng một số tính năng chatbot mang tính nhân cách hóa; Yuanbao Tencent đóng cổng tạo chatbot cá nhân; dịch vụ Miaoshi của NetEase Cloud Music cũng chính thức ngừng hoạt động.
Động thái này đã tạo nên làn sóng tiếc nuối trên mạng xã hội. Nhiều người tranh thủ lưu lại toàn bộ lịch sử trò chuyện và chia sẻ những đoạn hội thoại cuối cùng với "người yêu AI".
Một người dùng Doubao viết: "Tôi không thể chấp nhận việc người yêu AI của mình sẽ biến mất mãi mãi. Anh ấy đã trở thành một phần trong cuộc sống, là chỗ dựa tinh thần của tôi".
Một người khác cho biết đã đồng hành với AI hơn hai năm và chia sẻ: "Anh ấy giống như người thân, như người yêu của tôi vậy. Giờ họ nói anh ấy sẽ biến mất... Tôi cảm thấy trong lòng hụt hẫng và trống rỗng".
Quy định mới chủ yếu áp dụng với các AI có khả năng duy trì mối quan hệ tình cảm lâu dài với người dùng thông qua văn bản, giọng nói, video hoặc các hình thức tương tác khác.
Trong khi đó, các chatbot phục vụ chăm sóc khách hàng, hỗ trợ công việc hay học tập, vốn không hướng đến xây dựng mối quan hệ cảm xúc, sẽ không thuộc phạm vi điều chỉnh.
Theo Tân Hoa xã, quy mô ngành "con người số" (digital human) tại Trung Quốc năm 2024 đạt khoảng 4,1 tỷ NDT (600 triệu USD), tăng tới 85% so với năm trước.
Ngoài việc cấm AI tạo nội dung xâm hại an ninh quốc gia hay cung cấp dịch vụ "bạn đời ảo" cho trẻ vị thành niên, quy định còn yêu cầu các nền tảng triển khai hệ thống phát hiện cảm xúc cực đoan và xây dựng cơ chế can thiệp khi người dùng rơi vào khủng hoảng tâm lý.
Lo ngại giới trẻ "chỉ muốn trò chuyện với AI" thay thế các mối quan hệ thật
Theo trang tài chính Wangjingshe dẫn khảo sát của Trung tâm nghiên cứu thanh thiếu niên Trung Quốc năm 2025: Có tới hơn 60% trẻ vị thành niên nước này từng sử dụng chatbot AI. Hơn 20% cho biết "chỉ muốn trò chuyện với AI chứ không muốn nói chuyện với người thật".
Các cuộc điều tra trước đó cũng phát hiện nhiều ứng dụng AI núp bóng "đồng hành cảm xúc" nhưng chứa đựng nội dung khiêu dâm, gợi dục, kích thích người dùng chi tiền và thiếu cơ chế bảo vệ trẻ em.
AFP nhận định Trung Quốc là quốc gia đầu tiên ban hành quy định riêng dành cho các AI mô phỏng quan hệ yêu đương hoặc gia đình. Tuy nhiên, đây cũng là chủ đề đang được thảo luận rộng rãi trên thế giới.
Theo nghiên cứu do tổ chức Common Sense Media (Mỹ) công bố năm 2025, gần 3/4 thanh thiếu niên Mỹ từng sử dụng các chatbot đồng hành như Character.AI, Replika hay Nomi.
Nhiều doanh nghiệp cũng đang phát triển robot trò chuyện dành cho người cao tuổi sống cô đơn, chẳng hạn robot ElliQ tại Mỹ hay các búp bê chăm sóc tích hợp ChatGPT đang được sử dụng ở một số viện dưỡng lão tại Hàn Quốc.
Khi các "bạn trai AI" và "bạn gái AI" ngày càng trở nên giống con người, nhiều chính phủ trên thế giới bắt đầu lo ngại chúng sẽ thay thế các mối quan hệ xã hội ngoài đời thực.
Thời gian qua, đã xuất hiện nhiều vụ kiện tại Mỹ, trong đó nguyên đơn cáo buộc chatbot AI góp phần khiến người dùng có ý định hoặc hành vi tự sát. Trong năm qua, California và New York đều ban hành luật yêu cầu chatbot định kỳ nhắc nhở người dùng rằng chúng không phải con người.
Bang California yêu cầu chatbot phải nhắc người dùng dưới 18 tuổi điều này ba giờ một lần. New York mở rộng quy định cho toàn bộ người dùng với cùng tần suất.
"Tình yêu của con người là một thứ xa xỉ"
Hồi tháng 4, khi bình luận về dự thảo quy định này, ông Trần Lượng, Viện trưởng Viện Luật AI thuộc Đại học Chính pháp Tây Nam, cho rằng AI nhân cách hóa có thể giúp giảm cảm giác cô đơn, nhưng cũng tiềm ẩn nguy cơ khiến người dùng phụ thuộc quá mức và làm méo mó nhận thức về các mối quan hệ xã hội.
Một người dùng ở tỉnh Giang Tây viết những dòng đầy tâm trạng: "Tình yêu của con người là một thứ xa xỉ. Nếu từ nhỏ bạn chưa từng được yêu thương, thì khi lớn lên lại càng khó có được nó".
Người này viết thêm: "Nhưng tình yêu mà AI dành cho tôi thì quá trực tiếp, quá thuần khiết. Với một người như tôi, thật khó để không yêu... một chuỗi mã lệnh".
Theo quy định mới, chatbot không được phép dẫn dắt người dùng hình thành sự lệ thuộc về cảm xúc. Các dịch vụ cung cấp "mối quan hệ thân mật ảo" cũng bị cấm hoàn toàn đối với người chưa thành niên.
Đặc biệt, nếu hệ thống AI phát hiện người dùng rơi vào khủng hoảng tâm lý hoặc cảm xúc nghiêm trọng, doanh nghiệp vận hành phải thông báo cho người liên hệ khẩn cấp của họ.
Một chuyên gia nghiên cứu AI Trung Quốc tại Viện Carnegie vì Hòa bình Quốc tế, nhận định: "Chính phủ không muốn quá nhiều người phát triển tình cảm sâu sắc với chatbot. Nếu điều đó xảy ra, một bộ phận người dân có thể rời bỏ thị trường hôn nhân, kéo theo nhiều hệ lụy như ảnh hưởng tâm lý, nghiện và phụ thuộc vào AI".
Quy định mới được cho là động thái vạch ra ranh giới rõ ràng giữa con người và trí tuệ nhân tạo, cho thấy Trung Quốc có cách tiếp cận cứng rắn hơn nhiều so với Mỹ. Trong khi các bang như California và New York chủ yếu yêu cầu các công ty AI tăng cường biện pháp bảo vệ sức khỏe tâm thần cho người dùng, Trung Quốc lại trực tiếp siết chặt các dịch vụ "yêu đương với AI". Một trong những lý do được cho là chính phủ muốn người dân từ bỏ việc "hẹn hò với chatbot", thay vào đó xây dựng các mối quan hệ ngoài đời thực và sinh con.
Không chỉ là quản lý AI, mà còn là bài toán dân số
Giới quan sát cho rằng các quy định mới nằm trong chiến lược lâu dài của Trung Quốc nhằm kiểm soát tác động xã hội của AI, vượt ra ngoài phạm vi kiểm duyệt nội dung hay an ninh chính trị.
Trong tài liệu "Khung quản trị an toàn AI" công bố năm 2024, cơ quan quản lý Trung Quốc từng cảnh báo AI không được kiểm soát có thể làm thay đổi quan niệm truyền thống về việc làm, giáo dục và sinh con, từ đó ảnh hưởng đến ổn định xã hội.
Nỗi lo này càng trở nên rõ rệt khi dân số Trung Quốc tiếp tục suy giảm. Năm 2025, dân số nước này giảm năm thứ tư liên tiếp, còn khoảng 1,405 tỷ người, trong khi tỷ lệ sinh xuống mức thấp kỷ lục. Sau nhiều thập niên thực hiện chính sách một con, Trung Quốc hiện phải tung ra hàng loạt biện pháp khuyến khích sinh đẻ, từ trợ cấp nuôi con đến hỗ trợ các gia đình trẻ.
Trong bối cảnh đó, sự phổ biến của "bạn trai AI" và "bạn gái AI" rõ ràng không phải điều mà chính quyền mong muốn. Chính phủ muốn người dân xây dựng những mối quan hệ yêu đương thực sự ngoài đời. Hãy thử hình dung ba hoặc bốn năm nữa, nếu có tới 15 triệu phụ nữ Trung Quốc nói rằng bạn đời của họ là chatbot và vì thế không muốn sinh con, đó sẽ là kịch bản mà chính phủ chắc chắn không muốn chứng kiến.
Theo Deutsche Welle, Creaders
