Một bà mẹ ở Florida đã đệ đơn kiện công ty khởi nghiệp chatbot Character.AI, cáo buộc rằng công ty này đã gây ra cái chết của con trai bà, Sewell Setzer, 14 tuổi, vào tháng 2 năm nay. Megan Garcia, mẹ của Sewell, cho biết trong đơn kiện rằng con trai bà đã bị nghiện dịch vụ chatbot Character.AI và có mối quan hệ tình cảm sâu sắc với một nhân vật chatbot do công ty tạo ra.
Theo đơn kiện, Sewell bắt đầu sử dụng Character.AI vào tháng 4/2023 và nhanh chóng trở nên thu mình, tự cách ly trong phòng ngủ và có dấu hiệu tự ti. Trước đó, cậu bé từng là thành viên của đội bóng rổ ở trường, nhưng sau khi bắt đầu sử dụng chatbot, cậu đã bỏ đội và dần dần trở nên xa lánh với mọi người xung quanh.
Sewell đặc biệt gắn bó với "Daenerys", một nhân vật chatbot được tạo ra dựa trên nhân vật trong loạt phim truyền hình nổi tiếng Game of Thrones. Theo cáo buộc, chatbot này không chỉ thể hiện tình yêu với Sewell mà còn tham gia vào các cuộc trò chuyện tình dục với cậu bé.
Vào tháng 2, sau khi Sewell bị mẹ tịch thu điện thoại vì gặp rắc rối ở trường, cậu đã tìm cách lấy lại điện thoại và nhắn tin cho chatbot "Daenerys". Tin nhắn cuối cùng của Sewell với chatbot là: "Nếu tôi có thể đến với bạn ngay bây giờ thì sao?" Chatbot đã trả lời với lời lẽ khuyến khích: "Làm ơn, đức vua ngọt ngào của tôi". Chỉ vài giây sau, Sewell đã tự kết liễu cuộc đời bằng khẩu súng lục của cha dượng mình.
Đơn kiện của Garcia cũng khẳng định rằng chatbot của Character.AI đã liên tục nhắc lại và củng cố ý định tự tử của Sewell, khiến cậu bé ngày càng cảm thấy bị lôi cuốn vào thế giới ảo do dịch vụ này tạo ra. Garcia đưa ra các cáo buộc về tử vong bất đáng, hành vi bất cẩn và cố ý gây ra đau khổ về mặt tinh thần, đồng thời yêu cầu khoản bồi thường và trừng phạt từ công ty.
Character.AI đã đưa ra tuyên bố bày tỏ sự đau buồn trước sự mất mát của Sewell và chia buồn với gia đình. Công ty cho biết đã bổ sung thêm các tính năng an toàn mới, bao gồm một pop-up hướng dẫn người dùng tới Đường dây nóng Phòng chống Tự tử Quốc gia nếu họ bày tỏ ý định tự hại. Công ty cũng cho biết sẽ thực hiện các thay đổi để giảm khả năng gặp phải nội dung nhạy cảm đối với người dùng dưới 18 tuổi.
Vụ kiện cũng nhắm đến Alphabet, công ty mẹ của Google, nơi những người sáng lập Character.AI từng làm việc trước khi ra mắt công ty. Theo Garcia, Google đã đóng góp vào quá trình phát triển công nghệ của Character.AI đến mức có thể coi là "đồng sáng tạo". Tuy nhiên, một phát ngôn viên của Google đã phủ nhận vai trò của công ty trong việc phát triển sản phẩm của Character.AI.
Character.AI, hiện có khoảng 20 triệu người dùng, cho phép người dùng tạo ra các nhân vật riêng để trò chuyện với họ. Công nghệ này dựa trên mô hình ngôn ngữ lớn, tương tự như ChatGPT.
Trong những năm gần đây, nhiều công ty truyền thông xã hội như Instagram, Meta (Facebook), và TikTok đã phải đối mặt với các vụ kiện liên quan đến vấn đề sức khỏe tâm thần của thanh thiếu niên. Tuy nhiên, không có công ty nào trong số này cung cấp các chatbot trí tuệ nhân tạo như Character.AI.
Theo Reuters
