Facebook sẽ tạo hai bộ thuật toán mã nguồn mở để phát hiện việc lợi dụng tình dục trẻ em, tuyên truyền khủng bố và lan truyền hình ảnh bạo lực. PDQ và TKM+PDQF là hai bộ công nghệ lưu trữ các file như các hàm mã băm (mã Hash) và so sánh chúng với các mẫu nội dung có hại đã được ra mắt trên Github.

Facebook mong muốn rằng các công ty công nghệ, tổ chức phi lợi nhuận và các cá nhân sẽ sử dụng công nghệ này để xác định thêm các nội dung có hại và thêm chúng vào cơ sở dữ liệu chung đã được chia sẻ. Qua đó giúp các nền tảng mạng xã hội loại bỏ các nội dung nguy hiểm nhanh hơn khi có người cố gắng đăng tải chúng.

Facebook cũng phát biểu: “Đối với những ai đang sử dụng công nghệ so sánh nội dung như thế rồi thì công nghệ của Facebook sẽ giúp tạo thêm một lớp phòng thủ nữa và cho phép các hệ thống chia sẻ mã hash giao tiếp với nhau, cho khiến cho hệ thống này mạnh hơn nữa”.

Các nền tảng mạng xã hội trong năm nay đang phải chịu nhiều áp lực trong việc loại bỏ các nội dung độc hại. Sau vụ xả súng tại nhà thờ Hồ giáo Christchurch ở New Zealand, Australia cảnh báo các giám đốc điều hành sẽ bị phạt nặng hay thậm chí là phạt tù nếu họ không gỡ hết được đoạn video về vụ xả súng này. Hồi tháng 5, Facebook cùng với các nền tảng khác của các công ty công nghệ lớn đã cùng tham gia vào cuộc kêu gọi Christchurch, một sự cam kết sẽ đầu tư nhiều tài nguyên hơn vào việc loại bỏ các nội dung độc hại trên mạng xã hội và sự hợp tác chặt chẽ giữa các công ty.

Động thái của Facebook đưa ra trong bối cảnh những video làm dụng trẻ em đang bị đăng tải nhiều lên mạng. Ông John Clark, giám đốc và CEO của Trung tâm Quốc gia về trẻ em bị bóc lột và mất tích (NCMEC), chỉ ra trong một bài viết trên blog: “Chỉ trong 1 năm, theo báo cáo của CyberTipline, số lượng video về trẻ em bị lạm dụng tình dục trên mạng đã tăng tới 541%. Bởi vậy, chúng tôi tin rằng sự chia sẻ hào phóng này của Facebook với các công nghệ mã nguồn mở sẽ giúp xác định và cứu giúp thêm nhiều trẻ em là nạn nhân của lạm dụng tình dục”.

Đây cũng là lần đầu tiên Facebook công bố công nghệ đối chiếu ảnh và video mã nguồn mở. Microsoft và Google trước đó cũng đã đóng góp công nghệ tương tự mà họ phát triển.