Mạng xã hội lớn nhất thế giới Facebook vừa cho biết sẽ mở rộng phần mềm nhận dạng khuôn mẫu sang cho các nước khác sau khi trải qua các bài kiểm tra thành công tại Hoa Kỳ phát hiện ra người dùng có ý định tự sát.
Facebook đã bắt đầu thử nghiệm phần mềm ở Hoa Kỳ từ hồi tháng 3, khi công ty bắt đầu quét văn bản các bài đăng và comment trên Facebook để lọc ra các cụm từ có thể là dấu hiệu của một vụ tự sát sắp xảy ra.
Facebook không tiết lộ nhiều chi tiết kỹ thuật của chương trình, nhưng cho biết phầm mềm của họ tìm kiếm các cụm từ nhất định có thể là manh mối của thảm kịch, chẳng hạn như các câu hỏi "Bạn có ổn không?" và "Tôi có thể giúp gì được không?".
Nếu phần mềm phát hiện ra khả năng xảy ra vụ tự tử, nó sẽ thông báo cho một đội ngũ nhân viên của Facebook chuyên xử lý các báo cáo đó. Hệ thống gợi ý các nguồn lực cho người dùng hoặc bạn bè của người đó như một đường dây trợ giúp qua điện thoại. Nhân viên Facebook đôi khi báo cho các nhà chức trách địa phương để can thiệp.
Guy Rosen - Phó Chủ tịch phụ trách sản phẩm của Facebook cho hay, công ty đã cho triển khai chương trình này bên ngoài lãnh thổ Hoa Kỳ vì các cuộc thử nghiệm đã đạt được kết quả tốt. Trong những tháng qua, những người nhận được thông báo đã kiểm tra người đăng bài và comment hơn 100 lần sau khi phần mềm của Facebook phát hiện ra ý định tự tử của họ.
Facebook cho biết họ luôn nỗ lực để các nhân viên chuyên môn có mặt vào bất kỳ giờ nào trong ngày để báo cho các nhà chức trách bằng tiếng địa phương. "Tốc độ thực sự quan trọng. Chúng tôi phải giúp đỡ mọi người ngay trong thời gian thực" - Rosen nói.
Năm ngoái, khi Facebook tung ra chương trình phát video trực tiếp, đã có các đoạn băng video phát tán các hành vi bạo lực bao gồm tự sát và giết người. Điều đó đã trở thành mối đe dọa cho hình ảnh của công ty. Vào tháng 5 vừa qua, Facebook cho biết, họ sẽ thuê thêm 3.000 người nữa để theo dõi các băng video và nội dung khác.
Rosen không nêu tên các quốc gia mà Facebook đang triển khai phần mềm này, nhưng ông nói rằng nó sẽ được sử dụng trên toàn thế giới, ngoại trừ tại Liên minh châu Âu do tính nhạy cảm mà ông từ chối trao đổi.
Các công ty công nghệ khác cũng cố gắng ngăn ngừa nạn tự tử. Công cụ tìm kiếm của Google cho hiển thị số điện thoại của một đường dây nóng về vụ tự sát để trả lời cho các tìm kiếm nhất định.
Facebook biết rất rõ về 2,1 tỷ người dùng của mình - dữ liệu mà họ sử dụng cho quảng cáo nhằm tới mục tiêu - nhưng nhìn chung, người ta vẫn chưa biết rằng công ty trước đó đã quét một cách có hệ thống các cuộc đối thoại về các hành vi có thể gây tổn hại.
Tuy nhiên, có một ngoại lệ là công ty đã có những nỗ lực nhằm phát hiện những cuộc trò chuyện đáng ngờ giữa trẻ em và những yêu râu xanh lớn tuổi. Đôi khi Facebook liên lạc với các nhà chức trách khi màn hình tự động của nó nhận ra ngôn ngữ không phù hợp.
Tuy nhiên, theo giáo sư luật Ryan Calo, Đại học Washington, các công ty công nghệ có thể sẽ khó khăn hơn trong việc biện hộ cho việc scan các cuộc đối thoại trong các tình huống khác.
"Một khi bạn mở cánh cửa ra, bạn có thể sẽ tự hỏi, vậy những thứ khác mà chúng ta tìm kiếm là gì" - giáo sư Calo nói.
Còn ông Rosen thì từ chối nói về chuyện Facebook đang xem xét phần mềm nhận dạng khuôn mẫu trong các lĩnh vực khác, chẳng hạn như các tội phạm không liên quan tới tình dục.
