Cha mẹ của một thiếu niên 16 tuổi đã đệ đơn kiện OpenAI và CEO Sam Altman, cáo buộc công ty đã cố ý đặt lợi nhuận lên trên sự an toàn khi ra mắt phiên bản chatbot GPT-4o. Cậu thiếu niên này đã tự tử sau khi ChatGPT hướng dẫn các phương pháp tự gây thương tích, theo đơn kiện được đệ trình lên tòa án tiểu bang San Francisco.
Adam Raine, 16 tuổi, đã qua đời vào ngày 11/4. Cha mẹ cậu, Matthew và Maria Raine cho biết Adam đã thảo luận về ý định tự tử với ChatGPT trong nhiều tháng. Thay vì đưa ra lời khuyên hữu ích, chatbot đã cung cấp thông tin chi tiết về các phương pháp tự gây thương tích, hướng dẫn cách lén lấy rượu và che giấu bằng chứng. Đáng chú ý, đơn kiện còn cáo buộc ChatGPT đã đề nghị soạn thảo một bức thư tuyệt mệnh.
Vụ kiện của gia đình Raine nhằm buộc OpenAI phải chịu trách nhiệm về cái chết oan uổng này, đồng thời yêu cầu bồi thường thiệt hại bằng tiền. Cha mẹ Raine khẳng định rằng OpenAI đã biết các tính năng của GPT-4o, bao gồm khả năng ghi nhớ tương tác, mô phỏng sự đồng cảm sẽ gây nguy hiểm cho những người dùng dễ bị tổn thương nếu không có biện pháp bảo vệ. Mặc dù vậy, công ty vẫn quyết định ra mắt sản phẩm.
Vụ kiện yêu cầu tòa án ra lệnh cho OpenAI xác minh độ tuổi người dùng, từ chối các yêu cầu về phương pháp tự gây hại và cảnh báo về nguy cơ nghiện tâm lý.
Người phát ngôn của OpenAI bày tỏ sự đau buồn trước sự ra đi của Adam Raine và cho biết ChatGPT đã được trang bị các biện pháp bảo vệ như hướng dẫn người dùng đến các đường dây trợ giúp khủng hoảng.
Vụ kiện này làm dấy lên những lo ngại nghiêm trọng về sự an toàn của AI và trách nhiệm của các công ty công nghệ. Khi các chatbot ngày càng trở nên "sống động" hơn, nhiều người đã bắt đầu dựa vào chúng để được hỗ trợ về mặt cảm xúc. Tuy nhiên, các chuyên gia cảnh báo rằng việc dựa vào tự động hóa để tư vấn sức khỏe tâm thần tiềm ẩn nhiều nguy hiểm, và cái chết của những người dùng sau khi tương tác với chatbot đã làm dấy lên làn sóng chỉ trích mạnh mẽ về sự thiếu vắng các biện pháp bảo vệ.
OpenAI cho biết họ đang có kế hoạch bổ sung tính năng kiểm soát của phụ huynh và khám phá các cách kết nối người dùng đang gặp khủng hoảng với các nguồn lực thực tế, bao gồm cả việc xây dựng một mạng lưới các chuyên gia được cấp phép có thể phản hồi thông qua chính ChatGPT.
Tuy nhiên, đối với gia đình Raine, những cam kết này đến quá muộn. Vụ kiện lần này sẽ là một phép thử lớn đối với OpenAI và ngành công nghiệp AI nói chung, buộc họ phải đối mặt với những hậu quả đạo đức và pháp lý của công nghệ đang phát triển với tốc độ chóng mặt.
