TikTok Mengecek 160 Juta Video Setiap Hari, Begini Caranya

SINGAPURA, KOMPAS.com - Setiap hari, TikTok mengecek lebih dari 160 juta video yang diunggah oleh penggunanya di seluruh dunia.

Dari 160 juta itu, ada 1 persen atau sekitar 1,5 juta-1,6 juta konten yang melanggar pedoman komunitas setiap harinya.

Di balik layar, ada tiga langkah yang memastikan keamanan konten di TikTok: pengecekan oleh AI, laporan komunitas, dan tinjauan ulang moderator manusia.

1. Otomatisasi yang Ketat dengan Pembelajaran Mesin

Langkah pertama dalam penyaringan video dilakukan oleh sistem kecerdasan buatan (AI). AI TikTok dilatih untuk mengenali pola tertentu dalam konten, seperti kekerasan, ujaran kebencian, dan ketelanjangan.

Sistem ini dapat secara otomatis memfilter video berdasarkan pedoman komunitas yang berlaku.

Baca juga: TikTok Uji Coba Fitur Khusus Artis, Termasuk di Indonesia

Ini mencakup deteksi obyek berbahaya bagi anak-anak dan remaja seperti senjata, rokok, dan alkohol; bagian tubuh yang memperlihatkan ketelanjangan; hingga simbol atau bendera organisasi terlarang.

Walaupun efektif, TikTok mengakui sistem otomatis ini tidak sempurna. Sistem pembelajaran mesin sangat bergantung pada dataset atau kumpulan data yang tersedia. Semakin besar dan beragam data, semakin mudah bagi mesin untuk mengenali.

2. Tinjauan Ulang oleh Manusia

Setelah melewati pemeriksaan otomatis, konten tertentu akan diperiksa ulang oleh moderator manusia—terutama yang mengandung ambiguitas atau perlu penilaian kontekstual.

Meskipun AI dapat mendeteksi potensi pelanggaran, hanya manusia yang dapat benar-benar memahami konteks dan nuansa secara menyeluruh.

Baca juga: Fitur Baru TikTok, Bantu Orang Tua Awasi Anak saat TikTokan

Hal ini sangat penting karena terkadang konten yang terlihat melanggar, sebenarnya tidak mengandung intensi berbahaya.

Contohnya, sebuah video yang memperlihatkan pisau mungkin terlihat berbahaya, padahal bisa jadi itu adalah dokumentasi pembuatan pisau di pabrik. Konteks inilah yang hanya bisa dipahami manusia, bukan mesin.

TikTok mempekerjakan ribuan moderator manusia tersebar di berbagai belahan dunia. Mereka beroperasi 24 jam sehari, 7 hari seminggu, untuk meninjau konten yang ditandai oleh sistem otomatis atau dilaporkan pengguna.

Bagi pengguna yang merasa kontennya tidak adil dihapus atau dibatasi, TikTok menyediakan mekanisme koreksi yang dikenal dengan istilah banding atau appeal. Ketika sebuah video ditandai atau dihapus, pengguna dapat mengajukan banding untuk meminta tinjauan ulang oleh moderator manusia.

3. Keterlibatan Komunitas lewat Mekanisme Pelaporan

Selain AI dan tim internal, TikTok juga mengandalkan komunitasnya untuk membantu menjaga platform tetap aman. Pengguna dapat melaporkan video yang dianggap melanggar melalui fitur pelaporan (reporting) yang tersedia di setiap konten.

Baca juga: Kronologi TikTok Diblokir di AS hingga Dibuka Kembali dan Alasannya

Laporan yang masuk akan terlebih dahulu diproses oleh sistem otomatis. Bila ditemukan potensi pelanggaran, konten dapat langsung dihapus atau masuk antrean peninjauan moderator.

Pelaporan komunitas ini sangat membantu, terutama untuk konten berbahasa lokal atau konteks budaya yang mungkin tidak dapat dipahami AI.

Dalam beberapa kasus, TikTok juga mengirimkan notifikasi kepada pengguna yang melaporkan untuk memberi tahu status konten yang dilaporkannya, sebagai bentuk transparansi dan apresiasi atas partisipasi mereka.

Dengan kombinasi kecanggihan teknologi, pengawasan manusia, dan partisipasi komunitas, TikTok terus berupaya menciptakan ruang digital yang aman, inklusif, dan bertanggung jawab.