Glosari istilah moderasi kandungan dalam bahasa mudah

Jawapan ringkas. Moderasi kandungan ialah kerja menentukan apa yang disiarkan di ruang bersama dan apa yang tidak. Kosa katanya datang sebahagiannya daripada pasukan trust-and-safety platform besar dan sebahagiannya daripada pembelajaran mesin. Istilah di bawah ialah yang benar-benar ditemui oleh admin sukarelawan, setiap satunya dengan catatan mengapa ia penting dalam amalan.

Moderasi telah mempunyai kosa katanya sendiri, sebahagiannya daripada pasukan trust-and-safety platform besar dan sebahagiannya daripada pembelajaran mesin. Kebanyakannya berguna setelah diterjemahkan. Glosari ini menerangkan istilah yang berkemungkinan ditemui oleh admin sukarelawan, mengikut susunan abjad istilah Inggerisnya, dengan catatan mengapa setiap satunya penting dalam amalan.

A hingga C

Appeal (rayuan). Permintaan supaya sesuatu keputusan moderasi dilihat semula. Halaman kecil pun mendapat manfaat daripada mempunyai cara untuk meminta, walau sekadar alamat e-mel, kerana sesetengah keputusan pasti silap.

Astroturfing. Aktiviti terselaras yang direka supaya kelihatan seperti perasaan orang ramai yang spontan. Di halaman confession ia berbentuk banyak kiriman yang menolak pandangan yang sama, ditulis supaya kelihatan bebas antara satu sama lain. Lihat brigading.

Automated moderation (moderasi automatik). Penggunaan perisian untuk menyaring kandungan tanpa penglibatan manusia, atau sebelum manusia melihatnya. Berguna untuk mengisih dan menangkap yang jelas, dan tidak boleh diharap sebagai hakim muktamad. Diterangkan dalam Cara moderasi kandungan AI berfungsi.

Blocklist (senarai sekatan). Senarai perkataan atau frasa yang menyebabkan hantaran atau komen disembunyikan atau ditahan. Cepat disediakan dan kasar kesannya: ia menangkap penggunaan yang tidak bersalah dan terlepas ejaan yang kreatif.

Brigading (serbuan). Sekumpulan orang berpakat di satu tempat untuk menyerbu tempat lain — menghantar, mengulas atau melapor beramai-ramai. Jumlahnya dimaksudkan supaya kelihatan seperti kesepakatan.

CAPTCHA. Ujian yang bertujuan membezakan manusia daripada program. Berkesan terhadap bot; menambah geseran dan boleh menimbulkan kebimbangan kebolehcapaian dan privasi.

Classifier (pengelas). Model yang dilatih untuk memberi skor sekuat mana sesuatu kandungan sepadan dengan kategori seperti "gangguan" atau "seksual". Ia menghasilkan nombor, bukan keputusan.

Community guidelines (garis panduan komuniti). Peraturan yang diterbitkan bagi sesuatu ruang. Istilah ini digunakan untuk peraturan platform, yang mesti anda patuhi, dan juga untuk peraturan halaman anda sendiri, yang anda tulis.

Content warning (amaran kandungan). Notis ringkas sebelum bahan yang mungkin meresahkan sesetengah pembaca, supaya mereka boleh memilih sama ada mahu terus membaca. Membantu apabila digunakan berhemat; diabaikan apabila diletakkan pada semuanya.

Context collapse (keruntuhan konteks). Apa yang berlaku apabila kata-kata yang ditulis untuk satu khalayak dibaca oleh khalayak lain. Jenaka antara kawan, apabila disiarkan kepada lima ribu orang asing, bukan lagi kenyataan yang sama.

CSAM. Bahan penderaan seksual kanak-kanak. Menyalahi undang-undang untuk dimiliki atau diedarkan. Ia mesti dilaporkan dan tidak boleh dimajukan, walaupun untuk tujuan melaporkannya.

D hingga H

Decision log (log keputusan). Rekod keputusan moderasi yang tidak jelas dan sebab-sebabnya. Alat paling murah yang ada pada sesebuah pasukan untuk kekal konsisten.

Defamation (fitnah). Kenyataan palsu, yang disampaikan kepada orang lain, yang merosakkan nama baik seseorang. Dalam bentuk bertulis atau bentuk kekal lain ia dipanggil libel. Lihat Fitnah dan halaman confession.

Doxxing. Menyiarkan maklumat pengenalan atau peribadi seseorang — alamat, tempat kerja, nombor telefon, dokumen pengenalan — untuk mendedahkannya kepada gangguan. Kesalahan jenayah di Malaysia sejak 2025 apabila dilakukan dengan niat atau kesan itu.

Escalation (eskalasi). Menyerahkan keputusan kepada seseorang yang lebih berkuasa atau berpengalaman, atau menghendaki orang kedua bersetuju. Pasukan memerlukan senarai jelas tentang apa yang mencetuskannya.

Evasion (pengelakan). Cubaan sengaja untuk melepasi penapis: menukar huruf dengan nombor, menyelitkan ruang, menggunakan aksara serupa, atau meletakkan teks dalam imej.

False negative (negatif palsu). Kandungan memudaratkan yang gagal ditandai oleh sesuatu semakan. Kesilapan yang anda ketahui daripada aduan.

False positive (positif palsu). Kandungan tidak memudaratkan yang ditandai secara silap oleh sesuatu semakan. Kesilapan yang anda ketahui daripada penghantar yang jengkel.

Flag (tanda). Penanda bahawa sesuatu kandungan memerlukan perhatian. Ia boleh dibangkitkan oleh perisian atau oleh laporan pengguna. Tanda ialah soalan, bukan jawapan.

Hash matching (padanan cincang). Membandingkan cap jari digital sesuatu fail dengan pangkalan data fail memudaratkan yang diketahui. Platform besar menggunakannya untuk mengesan imej penderaan yang diketahui tanpa sesiapa perlu melihatnya.

Hate speech (ucapan kebencian). Serangan terhadap orang berdasarkan ciri seperti bangsa, agama, kewarganegaraan, jantina, seksualiti atau ketidakupayaan. Takrifannya berbeza antara platform dan antara negara.

Human in the loop (manusia dalam gelung). Reka bentuk sistem di mana perisian membuat cadangan dan manusia membuat keputusan muktamad. Lalai yang wajar bagi apa-apa yang ada akibatnya.

I hingga N

Identifiability (kebolehkenalpastian). Sama ada seseorang boleh dicam daripada sesuatu kandungan oleh orang yang mengenalinya. Ia tidak memerlukan nama.

Impersonation (penyamaran). Berpura-pura menjadi orang atau organisasi tertentu. Di halaman confession ini termasuk kiriman yang ditulis seolah-olah oleh orang lain untuk memalukannya.

Jigsaw identification (pengenalpastian jigsaw). Mengenal pasti seseorang dengan mencantumkan beberapa butiran, yang setiap satunya tidak berbahaya secara berasingan. Kursus, tahun dan jawatan dalam persatuan, apabila digabungkan, boleh menunjuk tepat kepada seorang.

Large language model, LLM (model bahasa besar). Teknologi di sebalik pembantu sembang. Ia boleh diberi arahan dalam bahasa biasa dan diminta menilai kandungan berdasarkannya. Fleksibel, dan mampu tersilap dengan penuh yakin.

Metadata. Maklumat tentang sesuatu fail, berbeza daripada kandungannya: bila gambar diambil, dengan peranti apa, dan kadangkala di mana. Ia boleh mengenal pasti seseorang walaupun imej itu sendiri tidak.

Moderation queue (giliran moderasi). Senarai item yang menunggu keputusan. Usia item tertua di dalamnya ialah ukuran tunggal terbaik bagi kesihatan sesebuah pasukan.

Named-person detection (pengesanan nama orang). Penandaan automatik kiriman yang kelihatan mengandungi nama peribadi, supaya manusia boleh mempertimbangkan sama ada seseorang sedang dikenal pasti. Ia mengesan bahawa ada nama. Ia tidak dapat menilai sama ada menyiarkannya memudaratkan.

Non-consensual intimate imagery (imej intim tanpa persetujuan). Imej seksual yang dikongsi tanpa persetujuan orang yang ditunjukkan, termasuk imej yang direka. Kadangkala dipanggil "revenge porn", istilah yang dielakkan ramai kerana ia membayangkan mangsa melakukan sesuatu yang mencetuskannya.

NSFW. "Not safe for work" — singkatan bagi kandungan lucah atau ngeri, dan label biasa bagi pengelas yang mengesannya.

P hingga S

Pile-on (serangan beramai-ramai). Sebilangan besar orang menghalakan kritikan atau cacian kepada seorang dalam masa yang singkat. Setiap peserta menghantar satu mesej; sasarannya menerima ratusan.

Pre-moderation (pra-moderasi). Menyemak kandungan sebelum ia disiarkan. Beginilah halaman confession berfungsi, dan sebab itulah admin halaman begitu jelas bertanggungjawab atas apa yang tersiar.

Post-moderation (pasca-moderasi). Menyiarkan dahulu dan menyemak kemudian, biasanya apabila sesuatu dilaporkan. Beginilah ruangan komen biasanya berfungsi.

Proof of work (bukti kerja). Tugas pengiraan kecil yang mesti diselesaikan oleh pelayar sebelum borang menerima kiriman. Ia tidak terasa bagi seorang dan mahal bagi orang yang menghantar ribuan. Ia mengehadkan penyalahgunaan tanpa mengenal pasti sesiapa.

Rate limiting (pengehadan kadar). Mengehadkan kekerapan satu sumber boleh melakukan sesuatu tindakan dalam tempoh tertentu. Pertahanan utama terhadap banjir kiriman.

Recall. Dalam pembelajaran mesin, bahagian daripada semua item memudaratkan yang berjaya ditangkap oleh sesuatu semakan. Recall tinggi bermakna sedikit yang terlepas; ia biasanya datang dengan lebih banyak positif palsu. (Secara berasingan, sesetengah alat kiriman menggunakan "recall" untuk bermaksud penghantar menarik balik hantarannya sendiri.)

Precision (kepersisan). Bahagian daripada item yang ditandai yang benar-benar memudaratkan. Kepersisan tinggi bermakna tanda boleh dipercayai; ia biasanya datang dengan lebih banyak yang terlepas.

Republication (penerbitan semula). Mengulangi kenyataan yang asalnya dibuat oleh orang lain. Dalam undang-undang fitnah, orang yang mengulangi sesuatu kenyataan bertanggungjawab ke atasnya seolah-olah dia yang menulisnya.

Safe messaging (mesej selamat). Panduan mantap tentang membincangkan bunuh diri dan mencederakan diri dengan cara yang tidak meningkatkan risiko kepada pembaca yang rapuh: tiada kaedah, tiada bahasa sensasi, sentiasa bersama sumber bantuan. Lihat Apabila kiriman menyebut tentang mencederakan diri.

Shadow banning. Mengehadkan keterlihatan kandungan seseorang pengguna tanpa memberitahunya. Kontroversi kerana ia, mengikut reka bentuknya, tidak telus.

Sockpuppet (akaun boneka). Akaun atau identiti kedua yang digunakan oleh seorang untuk kelihatan seperti beberapa orang. Pada borang tanpa nama, setiap pembanjir pada dasarnya mengendalikan akaun boneka.

T hingga Z

Takedown (penurunan). Pembuangan kandungan yang telah disiarkan, biasanya sebagai tindak balas kepada permintaan atau aduan. Lihat Cara mengendalikan permintaan pembuangan.

Threshold (ambang). Skor yang apabila dilepasi, output pengelas dianggap sebagai tanda. Rendahkan dan anda menangkap lebih banyak serta tersilap menanda lebih banyak; naikkan dan sebaliknya berlaku. Tiada nilai yang betul, hanya tolak ansur yang sesuai dengan tujuan anda.

Triage (triaj). Mengisih item yang masuk mengikut kesegeraan dan kesukaran sebelum menguruskannya, supaya perhatian pergi ke tempat yang diperlukan.

Trust and safety. Nama yang diberikan oleh platform besar kepada pasukan dan dasar yang menangani penyalahgunaan, kandungan memudaratkan dan perlindungan pengguna. Pasukan admin sukarelawan melakukan kerja yang sama pada skala lebih kecil.

Two-person rule (peraturan dua orang). Syarat bahawa dua orang bersetuju sebelum tindakan sensitif diambil. Dalam pasukan kecil, inilah perlindungan utama terhadap hari buruk seorang individu.

User-generated content, UGC (kandungan janaan pengguna). Bahan yang dicipta oleh pengguna sesuatu perkhidmatan dan bukan oleh pengendalinya. Halaman confession terdiri sepenuhnya daripada UGC yang dipilih oleh adminnya untuk disiarkan — dan pilihan itulah sebabnya mereka bertanggungjawab ke atasnya.

Vicarious trauma (trauma vikarius). Kesan terkumpul pada moderator akibat pendedahan berulang kepada bahan yang meresahkan. Ia nyata, ia menjejaskan sukarelawan dan juga profesional, dan ia sebab untuk menggilirkan tugas serta memendekkan sesi.

Menggunakan kosa kata ini

Mengetahui istilah kurang penting daripada bertanya soalan di sebaliknya. Apabila sesuatu alat mendakwa "99% tepat", tanya sama ada angka itu merujuk kepada kepersisan atau recall, dan pada bahasa mana ia diukur. Apabila seseorang berkata sesuatu hantaran "tak sebut nama sesiapa", tanya sama ada orang itu boleh dikenal pasti. Dan apabila banjir kiriman semuanya mengatakan perkara yang sama, tanya sama ada anda sedang melihat pendapat komuniti atau satu serbuan.

Soalan lazim

Apakah positif palsu (false positive) dalam moderasi kandungan?

Kandungan tidak memudaratkan yang ditandai secara silap oleh sesuatu semakan — kesilapan yang anda ketahui daripada penghantar yang jengkel. Lawannya, negatif palsu, ialah kandungan memudaratkan yang gagal ditandai, yang anda ketahui daripada aduan.

Apa itu brigading?

Sekumpulan orang berpakat di satu tempat untuk menyerbu tempat lain — menghantar, mengulas atau melapor beramai-ramai. Jumlahnya dimaksudkan supaya kelihatan seperti kesepakatan.

Apa itu doxxing?

Menyiarkan maklumat pengenalan atau peribadi seseorang — alamat, tempat kerja, nombor telefon, dokumen pengenalan — untuk mendedahkannya kepada gangguan. Ia kesalahan jenayah di Malaysia sejak 2025 apabila dilakukan dengan niat atau kesan itu.

Apakah beza pra-moderasi dan pasca-moderasi?

Pra-moderasi menyemak kandungan sebelum ia disiarkan; beginilah halaman confession berfungsi dan sebab itulah adminnya begitu jelas bertanggungjawab atas apa yang tersiar. Pasca-moderasi menyiarkan dahulu dan menyemak kemudian, biasanya apabila sesuatu dilaporkan; beginilah ruangan komen biasanya berfungsi.

Apakah pengenalpastian jigsaw?

Mengenal pasti seseorang dengan mencantumkan beberapa butiran, yang setiap satunya tidak berbahaya secara berasingan. Kursus, tahun dan jawatan dalam persatuan, apabila digabungkan, boleh menunjuk tepat kepada seorang.

Apakah maksud kepersisan (precision) dan recall bagi alat moderasi?

Recall ialah bahagian daripada semua item memudaratkan yang berjaya ditangkap oleh sesuatu semakan; kepersisan ialah bahagian daripada item yang ditandai yang benar-benar memudaratkan. Recall tinggi biasanya datang dengan lebih banyak positif palsu, dan kepersisan tinggi dengan lebih banyak yang terlepas, jadi dakwaan "99% tepat" tidak bermakna selagi anda tidak tahu ia merujuk kepada yang mana.