EN BM 中文

VibeFlow

为什么点名讲师是最难审核的事情

通用的内容审核API没有“指名道姓”的概念。在马来西亚的告白页面上,这正是您大部分的法律风险所在。

VibeFlow 团队 · · 已更新 · 阅读 5 分钟

询问一个通用的内容审核API,“陈老师评分不公”是否有害,它会告诉您没有。没有诽谤,没有威胁,没有露骨内容。根据其分类法,该帖子是干净的。

在大学告白页面上,这个帖子就是问题的症结所在。它指明了一个真实的人,并指责他们做了某事,这类帖子最终会演变成对您学院的投诉。

检测它需要本地知识,而不是更大的模型。在一个小社区里,一个姓氏就能识别一个人。“陈”、“林”、“黄”旁边跟着关于评分或班级的词语,就是指名道姓;同样的姓氏在“培华华小”或“新山康卡普莱”中,则是一所学校和一个社区。

VibeFlow 会检查这里重要的模式:

  • 称谓加姓名——Dr, Prof, Encik, Puan, Cikgu, Ustaz, Ustazah, Haji。
  • bin / binti / bte 血统标记。
  • 一个已知的马来西亚华裔、马来人或印度人的姓氏,旁边有教育相关的词语——教导、班级、成绩、不及格、不公平、偏颇、cikgu、pensyarah。
  • 汉字姓名序列出现在相同的上下文词语旁边。

同样重要的是它不会标记的内容:地名、学校和机构名称、组织和活动名称,以及合法活动海报上列出的联系人。一个带有协调员姓名和电话号码的营地公告不是指名道姓的攻击,一个将其视为攻击的审核队列会在一周内被忽略。

正则表达式能廉价地捕捉明显的模式;Llama 4 Scout 能捕捉到模式遗漏的罗马拼音和不寻常的姓名。两者都会在您的面板中单独报告,因此您可以看到是哪一个标记了问题。

旗帜无法告诉你的事

姓名检测器只回答一个狭窄的问题:这段文字中是否包含类似人名的内容,并且靠近暗示指控的词语?它不知道指控是否属实,也无法识别那些完全没有使用姓名的指认。

  • “那位在星期二早上8点上热力学辅导课的讲师”没有指名道姓,却能准确识别一个人。
  • 姓名首字母、全班同学都用的昵称、房间号、一辆车、在一个小圈子里的职位头衔——这些都足以让相关的人知道指的是谁。
  • 一个帖子本身可能无害,但在评论区却可能变成指名道姓的帖子,因为有人会在一小时内提供姓名。

所以,旗帜是提醒你仔细阅读,而不是取代阅读。一个没有旗帜的帖子仍然需要被问及这个问题:这个人周围的人能知道这是谁吗?

当帖子被标记时该怎么做

有三种诚实的选择,而原样发布很少是正确的选择。

  • 拒绝发布。对于针对可识别个人的不当行为指控,这是默认做法。忏悔页面不是投诉程序,大学或学校有自己的投诉程序。
  • 发布经历,但不提及个人。例如,“我系里的一位讲师在我质疑分数后给我打了低分”保留了提交者需要表达的内容,并去除了使其具有风险的部分。只编辑以删除身份识别信息,绝不为了强化指控而修改。
  • 按原文发布——仅当被点名的人不会因此受到伤害时:例如感谢、祝贺、失物招领通知。

更多博客内容

所有帖子 → · 页面管理员指南 →