Facebook và Instagram kích hoạt công cụ hỗ trợ xóa nội dung nhạy cảm trên diện rộng

Theo đó, Facebook và Instagram đã tham gia thành lập sáng kiến “Hãy gỡ bỏ” của Trung tâm Quốc gia về trẻ em mất tích và bị bóc lột Hoa Kỳ (NCMEC). Sáng kiến có mục tiêu hỗ trợ trẻ em và các bậc phụ huynh loại bỏ những hình ảnh nhạy cảm bị đăng tải ngoài ý muốn trên internet. 

Sáng kiến triển khai một hệ thống nhận diện trên diện rộng, sử dụng ảnh/video clip lưu trên máy tính của người dùng để sàng lọc các nội dung tương tự trên mạng. Tuy nhiên, thay vì phải đăng tải nội dung trực tiếp lên mạng để yêu cầu gỡ bỏ, người dùng gửi vào Take It Down (https://takeitdown.ncmec.org/). 

Hệ thống khi nhận được tập tin sẽ tạo ra một mã nhận diện hash cho tập tin, rồi đối chiếu mã này nhằm nhận diện các bức ảnh tương tự trên Facebook, Instagram, cũng như một số nền tảng khác đã tham gia Take It Down (như Mindgeek hay Yubo), rồi tiến hành chặn lan truyền, thậm chí gỡ bỏ nếu có thể. 

Meta cho biết, tính năng mới không khả dụng với người dưới 18 tuổi. Thay vào đó, các bậc phụ huynh hoàn toàn có thể đại diện cho con cái họ thực thi tác vụ. Người trưởng thành cũng có thể tận dụng công cụ để loại bỏ những nội dung không mong muốn, ví dụ như những bức hình mà họ đã dại dột đăng lên thời trẻ… 

Theo NCMEC, toàn bộ thông tin liên quan tới người dùng sẽ được bảo mật, và được sử dụng đúng mục đích. Cơ quan này cũng nhấn mạnh, Take It Down trong giai đoạn đầu có thể chưa hoàn hảo trong việc kiểm soát nội dung, nhưng việc triển khai sẽ hạn chế tối đa những tác hại của việc các nội dung nhạy cảm bị lan truyền. 

Động thái lần này là một phần trong chiến dịch chống lại các hành vi xâm phạm tình dục mà Meta đã triển khai từ cuối năm 2022. Hiện nay, công ty đã có nhiều giải pháp khá hiệu quả, như hạn chế nội dung nhạy cảm đối với các tài khoản của thiếu niên trên Instagram, hạn chế quảng cáo hướng đối tượng tiếp cận người dùng trẻ tuổi…