內容審核術語白話詞彙表

簡短回答。 內容審核，就是決定一個公共空間裡什麼可以發布、什麼不可以發布的工作。它的用語一部分來自大型平臺的「信任與安全」團隊，一部分來自機器學習。下面是志願管理員實際會遇到的術語，每一條都附上它在實務上為什麼重要。

內容審核已經有了一套自己的用語，一部分來自大型平臺的「信任與安全」團隊，一部分來自機器學習。其中許多用語，翻成白話之後很有用。這份詞彙表解釋志願管理員最可能遇到的術語，按英文字母順序排列，並說明每一個在實務上為什麼重要。

A 至 C

Appeal（申訴）。 要求重新檢視一項審核決定。即使是小專頁，有一個可以提出要求的途徑也有好處——哪怕只是一個電子郵件地址——因為總有些決定是錯的。

Astroturfing（偽草根行動）。 有組織的行動，卻刻意裝成自發的民意。在告白專頁上，它表現為許多投稿推銷同一種說法，卻寫得好像彼此無關。見 brigading。

Automated moderation（自動審核）。 用軟體篩查內容，完全不經人手，或在人看到之前先篩一遍。它適合用來分類和抓出明顯的問題，但不能當作最後的裁判。詳見《AI 內容審核是怎樣運作的》。

Blocklist（封鎖字詞清單）。 一份字詞清單，含有這些字詞的貼文或留言會被隱藏或扣住。設定起來很快，效果卻很粗糙：它會誤傷無辜的用法，又會漏掉變著花樣的寫法。

Brigading（圍攻）。 一群人在某處串連好，再湧向另一處——大量投稿、留言或檢舉。目的是讓數量看起來像共識。

CAPTCHA（驗證碼）。 用來分辨真人和程式的測試。對付機器人有效；但會增加使用上的阻力，也可能引起無障礙和隱私方面的顧慮。

Classifier（分類器）。 一種經過訓練的模型，會為內容與某個類別（例如「騷擾」或「色情」）的吻合程度打分。它給出的是一個數字，不是一個決定。

Community guidelines（社群守則）。 一個空間公開訂下的規則。這個詞既指平臺的規則——你必須遵守——也指你自己專頁的規則——由你來寫。

Content warning（內容警示）。 放在可能令部分讀者不適的內容之前的簡短提示，讓他們選擇要不要往下讀。用得節制時有幫助；什麼都加上時就沒人理會。

Context collapse（語境崩塌）。 為某一群人寫的話，被另一群人讀到時發生的事。朋友之間的玩笑，發布給五千個陌生人之後，就不再是同一句話了。

CSAM（兒童性虐待材料）。 持有或散佈都屬違法。必須檢舉，而且絕不可以轉發，即使是為了檢舉。

D 至 H

Decision log（決定記錄）。 記錄那些不是一目瞭然的審核決定及其理由。這是團隊保持前後一致最省錢的工具。

Defamation（誹謗）。 向他人傳達的、損害某人名譽的不實言論。以書面或其他永久形式作出的，稱為書面誹謗（libel）。見《誹謗與告白專頁》。

Doxxing（人肉搜索）。 公開某人的身份資料或私人資料——住址、工作地點、電話號碼、身分證件——使他遭受騷擾。自 2025 年起，帶有這種意圖或造成這種後果的行為，在馬來西亞屬於刑事罪行。

Escalation（上報）。 把決定交給更有權限或更有經驗的人，或要求第二個人同意。團隊需要一份清楚的清單，列明什麼情況要上報。

Evasion（規避）。 刻意繞過過濾的手法：用數字代替字母、插入空格、使用形似字元，或把文字放進圖片裡。

False negative（漏報）。 檢查沒有標記出來的有害內容。這種錯誤，你是從投訴裡得知的。

False positive（誤報）。 被檢查錯誤標記的無害內容。這種錯誤，你是從不高興的投稿者那裡得知的。

Flag（標記）。 表示某項內容需要留意的記號。可以由軟體發出，也可以來自使用者的檢舉。標記是一個問題，不是一個答案。

Hash matching（雜湊比對）。 把檔案的數位指紋和已知有害檔案的資料庫比對。大型平臺用它來偵測已知的虐待影像，而不必有人親眼去看。

Hate speech（仇恨言論）。 基於種族、宗教、國籍、性別、性傾向或殘障等特徵對人的攻擊。各平臺、各國的定義不盡相同。

Human in the loop（人在迴路中）。 一種系統設計：軟體提出建議，由人作最後決定。凡是會帶來後果的事，這都是合理的預設做法。

I 至 N

Identifiability（可識別性）。 認識當事人的人，能不能從一則內容裡認出他。這並不需要名字。

Impersonation（冒充）。 假扮成某個特定的人或組織。在告白專頁上，這包括為了讓別人出醜而假託其名寫的投稿。

Jigsaw identification（拼圖式識別）。 把幾項單獨看都無害的細節拼在一起，認出一個人。科系、年級和學會職務合起來，可能恰好只指向一個人。

Large language model，LLM（大型語言模型）。 聊天助手背後的技術。可以用日常語言給它指示，並要求它據此判斷內容。它很靈活，也可能錯得理直氣壯。

Metadata（中繼資料）。 關於檔案本身、而不是其內容的資訊：照片是什麼時候拍的、用什麼裝置拍的，有時還有在哪裡拍的。即使圖片本身認不出人，它也可能認得出。

Moderation queue（待審清單）。 等待決定的項目清單。其中最舊的一項等了多久，是衡量團隊狀況最好的單一指標。

Named-person detection（人名偵測）。 自動標記看來含有人名的投稿，讓人來判斷是否有人被指認。它偵測到的是「有名字」，判斷不了發布出來是否有害。

Non-consensual intimate imagery（未經同意的私密影像）。 未經當事人同意而分享的色情影像，包括偽造的影像。有時被稱為「復仇式色情」，但許多人避用這個說法，因為它暗示受害者做了什麼事才招來報復。

NSFW。 「Not safe for work」（不適合在工作場所觀看）——露骨或血腥內容的簡稱，也是偵測這類內容的分類器常用的標籤。

P 至 S

Pile-on（群起圍剿）。 一大群人在短時間內把批評或謾罵指向同一個人。每個參與者只發了一則訊息，被針對的人卻收到幾百則。

Pre-moderation（事先審核）。 在內容發布之前審查。告白專頁就是這樣運作的，這也是專頁管理員對刊出的內容負有如此明確責任的原因。

Post-moderation（事後審核）。 先發布，之後再審查，通常是在有人檢舉的時候。留言區一般就是這樣運作的。

Proof of work（工作量證明）。 瀏覽器必須先完成的一小項運算，表單才會接受投稿。對一個人來說幾乎感覺不到，對一次傳送幾千則的人來說代價很高。它限制了濫用，卻不必識別任何人的身份。

Rate limiting（頻率限制）。 限制同一來源在一段時間內執行某項操作的次數。這是對付洗版的主要防線。

Recall（召回率）。 在機器學習裡，指所有有害項目當中被檢查抓到的比例。召回率高，表示漏網的少；但通常也帶來更多誤報。（另外，有些投稿工具用「recall」來指投稿者撤回自己的貼文。）

Precision（精確率）。 被標記的項目當中確實有害的比例。精確率高，表示標記可以信賴；但通常也帶來更多漏報。

Republication（再發布）。 重複別人原先說過的話。在誹謗法裡，重複一則言論的人要為它負責，就像是他自己寫的一樣。

Safe messaging（安全訊息準則）。 關於怎樣討論自殺和自我傷害、而不致增加脆弱讀者風險的既定指引：不提方法，不用渲染的語言，一定附上求助資源。見《投稿提到自我傷害時》。

Shadow banning（影子封禁）。 在不告知使用者的情況下，限制其內容的能見度。它之所以有爭議，是因為這種做法本來就不透明。

Sockpuppet（分身帳號）。 一個人用來假裝成好幾個人的第二個帳號或身份。在匿名表單上，每一個洗版的人實際上都在操作分身帳號。

T 至 Z

Takedown（下架）。 移除已發布的內容，通常是回應某項要求或投訴。見《如何處理下架要求》。

Threshold（閾值）。 分類器的輸出超過這個分數，就被當作標記。調低，抓到的更多，誤報的也更多；調高則相反。沒有所謂正確的數值，只有適合你目的的取捨。

Triage（分流）。 在動手處理之前，先按緊急程度和難度把進來的項目分類，讓注意力用在需要的地方。

Trust and safety（信任與安全）。 大型平臺對處理濫用、有害內容和使用者保護的團隊與政策的稱呼。志願管理員團隊做的是同一件事，只是規模較小。

Two-person rule（雙人規則）。 規定在採取敏感行動之前，必須有兩個人同意。在小團隊裡，這是防範某一個人狀態不好的主要保障。

User-generated content，UGC（使用者生成內容）。 由服務的使用者而不是經營者創作的內容。告白專頁完全由管理員選擇發布的 UGC 構成——而正是這個選擇，使他們要為內容負責。

Vicarious trauma（替代性創傷）。 審核人員反覆接觸令人不安的內容所累積的影響。它是真實的，志願者和專業人員都會受到影響，這也是要輪流值勤、縮短每次工作時間的理由。

怎樣運用這些術語

認識術語，不如問出術語背後的問題來得重要。當一款工具自稱「準確率 99%」，要問這個數字指的是精確率還是召回率，又是在哪些語言上量出來的。當有人說某篇貼文「沒有點任何人的名」，要問當事人是否可被認出。而當一大波投稿都在說同一件事，要問你看到的是社群的意見，還是一場圍攻。

常見問題

內容審核裡的「誤報」是什麼意思？

被檢查錯誤標記的無害內容——這種錯誤，你是從不高興的投稿者那裡得知的。與它相對的是漏報，也就是檢查沒有標記出來的有害內容，那是你從投訴裡得知的。

什麼是 brigading（圍攻）？

一群人在某處串連好，再湧向另一處——大量投稿、留言或檢舉。目的是讓數量看起來像共識。

什麼是人肉搜索（doxxing）？

公開某人的身份資料或私人資料——住址、工作地點、電話號碼、身分證件——使他遭受騷擾。自 2025 年起，帶有這種意圖或造成這種後果的行為，在馬來西亞屬於刑事罪行。

事先審核和事後審核有什麼分別？

事先審核是在內容發布之前審查；告白專頁就是這樣運作的，這也是管理員對刊出的內容負有明確責任的原因。事後審核是先發布、之後再審查，通常在有人檢舉的時候；留言區一般就是這樣運作的。

什麼是拼圖式識別？

把幾項單獨看都無害的細節拼在一起，認出一個人。科系、年級和學會職務合起來，可能恰好只指向一個人。

對審核工具來說，精確率和召回率是什麼意思？

召回率是所有有害項目當中被檢查抓到的比例；精確率是被標記的項目當中確實有害的比例。召回率高通常帶來更多誤報，精確率高通常帶來更多漏報，所以「準確率 99%」這種說法，在你知道它指的是哪一個之前，意義不大。