YouTube gỡ bỏ 11,4 triệu video vi phạm nhờ công cụ kiểm duyệt tự động

Trong báo cáo quản trị cộng đồng vừa được công bố, YouTube cho biết đã gỡ bỏ 11,4 triệu video trong quý II-2020, nhiều hơn đáng kể con số dưới 9 triệu video của cùng kỳ năm 2019.

Một trong những nguyên nhân chính là việc công ty thuộc Google này sử dụng công cụ kiểm duyệt tự động thay cho các quản trị viên trong bối cảnh dịch Covid-19 tác động nghiêm trọng tới nguồn nhân lực.

Lâu nay, YouTube vẫn yêu cầu toàn bộ nhân sự làm công việc kiểm duyệt phải tập trung trong các văn phòng riêng với thiết kế đặc thù nhằm hạn chế tối đa dữ liệu người dùng, đặc biệt là các đoạn video nhạy cảm, bị tiết lộ. Tuy nhiên, dịch bệnh khiến mô hình này trở nên hết sức rủi ro.

YouTube cũng khẳng định, việc đưa ra lựa chọn chuyển đổi là không dễ dàng. Trong một bài đăng blog, công ty này cho biết: “Khi nhận thấy năng lực kiểm duyệt bằng nhân lực suy giảm đáng kể do dịch Covid-19, chúng tôi buộc phải chọn một trong hai phương án, hoặc chấp nhận mức kiểm duyệt yếu kém hơn, hoặc đối mặt với nguy cơ kiểm duyệt quá mức. Tuy nhiên, với quan điểm trách nhiệm là ưu tiên hàng đầu, chúng tôi đã đi theo hướng thứ hai và sử dụng công nghệ để trám những khoảng trống công việc vốn thường do con người đảm nhận”.

Hồi tháng 3, Google từng thông báo với các nhân viên của mình về việc kéo dài quá trình làm việc tại nhà tới hết năm 2020 nhằm hạn chế sự lây lan của Covid-19.

Cùng với đó, hãng tìm kiếm trực tuyến hàng đầu thế giới cũng cho biết, phương án này sẽ được tiến hành song song với các nỗ lực ứng dụng công nghệ cho việc kiểm duyệt nội dung thay cho con người, đồng thời cảnh báo các hệ thống tự động có thể tạo ra những lỗi nhất định. Nói cách khác, nhiều nội dung video trước đây có thể tồn tại “an toàn” trên YouTube, giờ đây có thể vô tình bị gỡ bỏ.

Để khắc phục vấn đề này, YouTube tạm thời tăng cường năng lực xử lý các khiếu nại từ phía người dùng. Hãng cũng cho biết, số lượng khiếu nại liên quan tới các nội dung bị gỡ bỏ đã tăng nhanh trong quý II-2020, lên tới 325.000 lượt. Đây là mức gấp đôi so với con số 166.000 lượt của quý đầu năm. Số video được chấp thuận đăng tải trở lại cũng lên hơn 160.000 thay vì chỉ 41.000 trước đó.

Liên quan tới các nội dung bị gỡ bỏ, YouTube cho biết, quý II-2020 chứng kiến sự trỗi dậy của nhiều video bạo lực và video với biểu hiện xâm hại an toàn trẻ em. Hai nội dung này có số video bị gỡ bỏ tăng gấp 3 lần.