Censorfy

Censorfy 是什么

Censorfy 是一个内容审核平台，让开发者与企业通过一次接口调用筛查文本与图像。它是 API 优先的审核而不是一个仪表盘产品，也就是说它被设计成嵌进你自己已有的工作流里。

它做什么

你在一个请求里提交内容，拿回一个带自定义规则与分类的实时判定。于是流程是提交、分类、处置。

自定义才是这份服务的实质。你定义在你的场景里什么算不安全，这一点很重要，因为同一个词在医疗论坛里可以接受、在游戏聊天里模棱两可、在儿童产品里不可接受。可配置的分类让一个论坛、一个聊天和一个评论区共用一个按各自规则调好的服务，于是团队是调整过滤器而不是重建它。

因为它是接口优先的，同一个调用可以分开或一起给文本与图像打分，而团队通常把它接在发布之前，让被标记的内容路由进复核队列。这让审核留在流程里，而不是变成事后的审计。Webhook 与工作流被描述为即将推出而不是已可用，这一点值得注意，因为它意味着当前的集成工作在你身上。

价格与套餐限额没有完全确认，所以每次调用的成本或每个席位的成本需要查。

适合谁使用

它面向把内容过滤器建进自己产品的开发者与信任与安全团队。有工程能力的团队获益最多，因为没有现成的界面可以退回去。

需要留意什么

告诫与每一个自动化审核器相同：模型会过度拦截，也会漏放，而两者都要你付出代价。为边界情况保留一条人工复核路径，而不是对每一个判定都自动处置；留意你写的自定义规则里的偏见，因为你自己的定义可能编码了你没打算的假设；并为内容被移除的用户建一条申诉路径。

你提交的内容会被这个服务处理，所以要去检视数据与留存条款，对可能含个人数据的用户生成内容尤其如此。而当被标记的内容为复核而留存时，那份留存也是你的数据，一个用户问「我的消息为什么被删」时，他有权得到一个反映实际存储了什么的回答。

在动手搭建之前确认接口限额：速率限制、最大载荷大小、以及负载下的延迟，决定这次调用能不能放在实时用户输入前面，而对一个交互式产品来说，这些数字比准确率说法更重要。

既然 Webhook 被描述为即将推出，如果你现在就需要自动化动作，就自己规划一条队列与重试路径。还值得决定的是当没有人可用时一个被标记的内容会怎样，因为一个没人扫的队列是一堆积压的未发布内容，而不是一个审核判定。