Facebook mengatakan sedang meningkatkan cara memoderasi konten di platformnya dengan menggunakan kecerdasan buatan (AI). Raksasa jejaring sosial, yang memiliki tim peninjau konten sekitar 15.000 peninjau yang meninjau konten di lebih dari 50 zona waktu, menerima sejumlah besar laporan pengguna tentang konten yang tidak pantas secara aktif. Namun, karena meninjau laporan tersebut penting untuk membangun jejaring sosial yang efektif, Facebook sekarang menerapkan pembelajaran mesin. Ini membantu memprioritaskan konten yang dilaporkan. Facebook juga meningkatkan perlindungan hak cipta dengan mengizinkan admin halaman untuk mengirimkan permintaan hak cipta.
Moderasi konten adalah keharusan untuk platform besar seperti Facebook . Tetapi dengan ribuan dan jutaan pengguna memposting konten secara bersamaan, bukanlah tugas yang mudah untuk menyaring sesuatu yang tidak berbahaya atau tidak menyenangkan pada pandangan pertama. Meningkatnya perkataan yang mendorong kebencian dan postingan berisi kekerasan di media sosial juga menyulitkan pengulas manusia untuk menghentikan semua konten yang tidak pantas. Karenanya, Facebook ingin menggunakan keterampilan AI dan pembelajaran mesinnya untuk mempercepat proses pemfilteran.
Facebook awalnya mengandalkan model kronologis untuk menangani moderasi konten. Namun, seiring waktu mulai beralih ke AI dan memungkinkan sistem untuk secara otomatis menemukan dan menghapus konten yang tidak sesuai untuk massa. Otomatisasi tersebut membantu mengenali laporan duplikasi dari pengguna Facebook, mengidentifikasi konten seperti foto dan video telanjang dan pornografi, membatasi sirkulasi spam, dan mencegah pengguna mengupload konten kekerasan.
Sekarang, Facebook ingin melampaui otomatisasi dan menggunakan algoritme pembelajaran mesinnya untuk mengurutkan konten yang dilaporkan berdasarkan prioritas untuk membantu memanfaatkan peninjau manusianya secara optimal.
"Kami ingin memastikan kami mendapatkan yang terburuk dari yang terburuk, memprioritaskan bahaya yang akan segera terjadi di dunia nyata di atas segalanya," kata Ryan Barnes, manajer produk Facebook yang bekerja dengan tim integritas komunitasnya, kepada wartawan selama konferensi pers pada hari Selasa. .
Facebook menggunakan algoritmanya untuk secara cerdas memberi peringkat pada laporan pengguna sedemikian rupa sehingga peninjau manusianya dapat meninjau dan menyaring semua konten yang tidak dapat ditangkap oleh komputer tetapi berbahaya bagi masyarakat. Salah satu faktor kunci yang dipertimbangkan perusahaan adalah seputar seberapa populer konten yang melanggar berpotensi berada di platform.
"Kami mencari tingkat keparahan, di mana ada kerusakan dunia nyata, seperti bunuh diri atau terorisme atau pornografi anak, bukan spam, yang tidak begitu mendesak," kata Barnes.
Selain itu, Facebook sedang mempertimbangkan kemungkinan pelanggaran dan mencari konten yang mirip dengan yang sudah melanggar kebijakan. Ini akan membantu memprioritaskan area di mana tinjauan manusia itu penting.
Karena itu, Facebook tahu bahwa AI bukanlah solusi sempurna untuk semua masalah dan tidak dapat hanya membantu memoderasi konten di platformnya.
“Kami telah mengoptimalkan AI untuk fokus pada posting yang paling viral dan paling berbahaya, dan memberi manusia lebih banyak waktu untuk dihabiskan pada keputusan yang paling penting,” kata Chris Palow, seorang insinyur perangkat lunak di tim integritas interaksi Facebook.
Facebook juga telah mengembangkan konteks pasar lokal yang membantu memahami masalah khusus pasar. Ini akan memungkinkan algoritme pembelajaran mesin mempertimbangkan konteks lokal dan membantu menandai konten yang dapat memengaruhi sekelompok orang tertentu, jelas Palow.
Selain perubahan baru pada moderasi kontennya, Facebook telah mengumumkan bahwa mereka memperluas akses ke Manajer Haknya untuk memberikan semua admin halaman di platformnya dan Instagram dengan kemampuan untuk mengirimkan aplikasi perlindungan hak cipta. Ini akan memungkinkan lebih banyak pembuat dan merek untuk mengeluarkan permintaan penghapusan konten yang diunggah ulang di Facebook dan Instagram . Manajer Hak diujicobakan dengan mitra tertentu pada bulan September.
