Tập đoàn Meta đang mở rộng công nghệ trí tuệ nhân tạo (AI) tự động ước tính độ tuổi người dùng trên phạm vi toàn cầu ngay trong tháng này, sau khi phải đối mặt với các vụ kiện và thỏa thuận dàn xếp trị giá hàng tỷ USD liên quan đến cáo buộc không bảo vệ thanh thiếu niên trước những tác động tiêu cực trên mạng xã hội.
“Chúng tôi sử dụng công nghệ AI để phát hiện những người bị nghi là thanh thiếu niên, ngay cả khi họ khai ngày sinh của người trưởng thành, sau đó đưa các tài khoản này vào chế độ bảo vệ dành cho thanh thiếu niên”, Meta thông báo hôm đầu tuần này.
“Kể từ khi lần đầu triển khai công nghệ này, chúng tôi đã đưa thêm nhiều thanh thiếu niên vào các chế độ bảo vệ phù hợp với độ tuổi và ghi nhận những kết quả tích cực. Dựa trên thành công đó, hôm nay chúng tôi mở rộng công nghệ này ra toàn cầu”, công ty cho biết.
Tài khoản dành cho thanh thiếu niên có nhiều giới hạn và biện pháp bảo vệ hơn, trong đó hạn chế người có thể liên hệ, loại nội dung được tiếp cận và thời gian sử dụng nền tảng. Tuy nhiên, nhiều người trẻ tìm cách né các quy định này bằng cách khai ngày sinh giả khi tạo tài khoản. Điều đó làm dấy lên lo ngại trẻ vị thành niên có thể vượt qua các biện pháp kiểm soát của phụ huynh và tiếp xúc với nội dung độc hại.
Trong tháng này, phụ huynh tại Mỹ đã thiết lập tài khoản Instagram dành cho thanh thiếu niên sẽ nhận được thông báo về những biện pháp mới. Meta cho biết sẽ mở rộng thuật toán ước tính độ tuổi sang Facebook và Threads vào cuối năm nay.
Công nghệ AI nói trên đã được Meta thử nghiệm tại một số quốc gia, trong đó có Mỹ, Anh, Canada và Australia. Hệ thống phân tích hành vi sử dụng và các bài đăng của người dùng để ước tính độ tuổi.
Phụ huynh có thể tự tạo tài khoản cho con và xếp tài khoản vào nhóm dành cho thanh thiếu niên với các giới hạn phù hợp. Tuy nhiên, tính năng ước tính độ tuổi hiện cũng có thể tự động chuyển tài khoản sang nhóm này, ngay cả khi người dùng đã nhập ngày sinh giả để khiến hệ thống tưởng rằng họ là người trưởng thành.
Meta áp dụng nhiều cấp độ hạn chế tùy theo độ tuổi. Trẻ em dưới 13 tuổi bị cấm sử dụng các ứng dụng của công ty. Với thanh thiếu niên, Instagram sẽ nhắc người dùng rời ứng dụng sau 60 phút hoạt động và tắt tiếng thông báo vào ban đêm, thời điểm các em thường đi ngủ.
Tài khoản dành cho thanh thiếu niên cũng bị giới hạn thời gian sử dụng ở mức 2 giờ mỗi ngày, đồng thời không được xem các tính năng có thể thúc đẩy việc so sánh bản thân với người khác trên mạng xã hội, chẳng hạn lượt thích và cảm xúc tương tác trên bài đăng của những người dùng cùng độ tuổi.
Siết kiểm soát sau hàng loạt vụ kiện
Meta đang đối mặt với ngày càng nhiều vụ kiện trên toàn cầu liên quan đến cách thanh thiếu niên sử dụng các nền tảng của tập đoàn. Các chuyên gia về phát triển trẻ em cho rằng những nền tảng như Instagram và Facebook có sức gây nghiện cao đối với người trẻ, có thể làm gia tăng áp lực xã hội thông qua các lượt tương tác trên bài đăng, đồng thời khiến họ tiếp xúc với những nội dung độc hại khác trên mạng.
Năm ngoái, Australia thông qua luật cấm người dưới 16 tuổi sử dụng các nền tảng mạng xã hội. Tuy nhiên, trong tháng này, một số tổ chức, trong đó có nhóm vận động Digital Freedom Project và mạng xã hội Reddit, đã đệ đơn kiện nhằm thách thức tính hợp hiến của đạo luật. Các bên cũng đặt câu hỏi về cơ sở khoa học của việc tìm cách ngăn trẻ em hoàn toàn tiếp cận những nền tảng như YouTube, Facebook và TikTok.
Tại Mỹ, Meta phải đối mặt với các vụ kiện do tổng chưởng lý nhiều bang khởi xướng, liên quan đến những tác động được cho là có hại của các nền tảng đối với trẻ em. Trong quá trình dàn xếp, công ty đồng ý cải thiện cách nhận diện người dùng chưa thành niên.
Các bang cáo buộc nền tảng của Meta “khuyến khích hành vi gây nghiện, không xác minh độ tuổi người dùng, tạo điều kiện để thanh thiếu niên vượt qua các biện pháp kiểm soát của phụ huynh và không có biện pháp bảo vệ đầy đủ trước nội dung độc hại, hoặc cố ý khuếch đại những nội dung mang tính bóc lột và gây tổn hại”.
Tháng 8, Meta đồng ý chi trả 18 tỷ USD cho các bang, đồng thời triển khai hàng loạt thay đổi đối với cách thanh thiếu niên tương tác trên nền tảng. Những thiết lập bảo vệ này chỉ có thể được gỡ bỏ khi phụ huynh hoặc người giám hộ cho phép.
Các thay đổi bao gồm giới hạn người dùng dưới 18 tuổi sử dụng nền tảng tối đa 2 giờ mỗi ngày và áp dụng khung giờ hạn chế hoạt động từ 0h đến 6h sáng. Theo thiết lập mặc định, người dùng cũng bị hạn chế tiếp cận các tính năng thúc đẩy so sánh bản thân với người khác, như xem lượt thích và cảm xúc trên bài đăng, cũng như các bộ lọc làm thay đổi ngoại hình nhằm mô phỏng kết quả phẫu thuật thẩm mỹ.
Thông báo đẩy trên tài khoản thanh thiếu niên sẽ bị chặn trong khoảng thời gian từ 8h đến 15h, khi các em thường đang ở trường.
Meta cũng sẽ khuyến khích người trẻ nghỉ giải lao bằng cách hiển thị lời nhắc sau mỗi 15 phút sử dụng liên tục, cũng như khi tổng thời gian hoạt động trong ngày đạt 60 phút và 90 phút.
Phụ huynh và người giám hộ sẽ nhận được thông tin cập nhật về hoạt động của tài khoản thanh thiếu niên, đồng thời được thông báo mỗi khi con em họ lần đầu nhắn tin cho một người trưởng thành. Những lượt tìm kiếm liên quan đến các chủ đề như tự tử, tự làm tổn thương bản thân hoặc rối loạn ăn uống cũng sẽ kích hoạt thông báo gửi tới phụ huynh.
Trong thông báo hôm thứ Hai về việc triển khai công nghệ ước tính độ tuổi tự động, Meta tiếp tục kêu gọi các tập đoàn công nghệ khác áp dụng những biện pháp tương tự.
“Instagram chỉ là một trong rất nhiều ứng dụng mà thanh thiếu niên sử dụng. Vì vậy, chúng tôi cũng kêu gọi các đối tác trong ngành, gồm TikTok và YouTube, áp dụng những biện pháp này để bảo vệ người trẻ”, Meta tuyên bố.
Theo AJ
