Các nhà nghiên cứu dịch tễ học, từ các trường đại học Cambridge và Leicester, cảnh báo rằng các mô hình ngôn ngữ lớn (LLM) có thể tạo ra sự bất bình đẳng cho các dân tộc thiểu số và các nước có thu nhập thấp.
Mối quan tâm của họ bắt nguồn từ những sai lệch dữ liệu hệ thống. Các mô hình AI được sử dụng trong chăm sóc sức khỏe được đào tạo dựa trên thông tin từ các trang web và tài liệu khoa học. Nhưng bằng chứng cho thấy những dữ liệu về các dân tộc thiểu số và các nước có thu nhập thấp gần như bị bỏ trống. Do đó, các công cụ AI có thể đưa ra những lời khuyên thiếu chính xác đối với những người dân ở những địa điểm kể trên.
Các nhà khoa học cũng lo ngại về mối đe dọa đối với các nước thu nhập thấp và trung bình (LMICs). Các mô hình AI chủ yếu được phát triển ở các quốc gia giàu có hơn, những quốc gia chiếm ưu thế trong việc tài trợ cho nghiên cứu y học.
Do đó các dữ liệu đào tạo về chăm sóc sức khỏe của các nước LMICs là rất hạn chế. Điều này có thể khiến các công cụ AI đưa ra lời khuyên không chính xác cho những người dân thuộc các quốc gia này.
Bất chấp những lo ngại này, các nhà nghiên cứu nhận ra những lợi ích mà AI có thể mang lại cho y học. Để giảm thiểu rủi ro, họ đề xuất một số biện pháp.
Đầu tiên, họ muốn các mô hình mô tả rõ ràng dữ liệu được sử dụng trong quá trình phát triển. Họ cũng kêu gọi tiếp tục làm việc để giải quyết sự bất bình đẳng về sức khỏe trong nghiên cứu.
Tiến sĩ Mohammad Ali từ Đại học Leicester cho biết: "Chúng ta cần thừa nhận rằng AI đang ngày càng phát triển, chúng ta cần phải sử dụng nó một cách thận trọng và đúng đắn".
Theo The Next Web
