Censorly

Censorly 是什么

Censorly 被描述为一个内容审核接口，帮助企业、社交网络与游戏社区检测文本里的仇恨、有毒与政策违规。本次检查中官网没有加载，所以这里的细节来自第三方条目而不是线上页面。

它做什么

条目描述的是把文本送过这个接口，由训练好的模型标出仇恨言论、辱骂与其他有风险的内容，让你可以隐藏、复核或移除它。于是流程是发送、标记、处置。

它的卖点是替代人工审核与基础关键词清单。这个框架诚实地承认了多数团队的起点：关键词清单便宜、容易解释，而且任何想绕过的人都能轻易绕过，所以一个能读上下文的模型对一个已经超出自己屏蔽清单规模的社区来说是一次真正的升级。

条目把它描述成一个审核服务，带一个为帖子、评论与聊天做实时检查的接口，不过这里页面不可达，所以功能需要在线上站点确认。价格没有显示，所以需要索取套餐。它是一个带处置动作的检测器，而不是独立的涂黑或归档工具。

适合谁使用

它面向需要大规模自动化毒性言论与仇恨检测的平台、社区与游戏公司。游戏是要求最高的情形，因为聊天量大、语言变化快，而审核必须在对话还在进行时发生。

需要留意什么

因为这个产品联系不上，把上面每一条说法都当作未核实，并在围绕它搭建任何东西之前从线上页面确认。一个审核依赖一旦进了发布路径就很难移除。

审核接口作用于言论，所以要调阈值，并为边界情况保留人工复核。两种失败模式都会造成伤害：漏放会让被辱骂的对象暴露，过度拦截则会删掉正当评论并被读成审查。而游戏社区尤其容易出现第二种，因为俚语、玩笑与被重新接纳的语言都很容易被误读。

条目里没有点名任何诸如 GDPR 或 CCPA 的认证，所以要去读政策，看你提交的数据以及它落在哪里。把用户消息发送给第三方是一条你应该能向用户描述清楚的数据流，而条款应当说明内容是否被留存或用于训练。

还要问模型怎么处理你的用户实际使用的语言，因为毒性检测的质量在不同语言与方言之间差异很大，一个在英语上表现良好的服务，在你社区用得最多的语言上可能并不可靠。用你自己的消息而不是一套演示样本来测试，因为没有什么别的能揭示一个模型如何处理你用户实际在写的俚语。