tencent cloud

文档反馈

论坛评论区内容审核

最后更新时间:2024-01-22 18:09:36
    可以直接调用文本内容检测(TextModeration)接口,对论坛评论区内容(如购物网站评论、社区回帖、视频评论区等)进行识别。
    说明:
    请在调用前确保目前账号至少拥有文本内容安全服务的访问权限,有关权限配置的相关信息,敬请参阅 CAM 授权指引 文档。
    若无法访问文本内容安全服务,则请开通服务/检查计费信息(主账号),或向管理员或主账号申请相应权限(子账号/协作者账号)。

    步骤1:配置任务策略(可选)

    建议您使用配置任务策略,可根据业务需求配置审核策略,用于个性化服务体验。
    说明:
    腾讯云内容安全服务已预设有默认策略,如使用默认策略,可略过此步骤。
    默认策略为天御多行业模型沉淀的策略配置,适用于大部分的内容安全需求。

    前提条件

    已获取腾讯云主账号或子账号。
    登录账号已拥有文本内容安全服务的读写权限。
    登录账号已开通文本内容安全服务。

    操作步骤

    1. 登录 内容安全控制台,在左侧导航栏中,选择文本内容安全 > 策略管理
    2. 在策略管理页面,单击创建策略,进入创建策略页面。
    
    
    3. 在策略信息填写页面,填写策略的相关信息,完成后单击下一步
    
    
    
    参数说明
    参数名称
    描述
    策略名称
    策略的文字描述,可使用中文、英文、数字及下划线组合,长度不超过30个字符
    Biztype 名称
    策略的具体编号,以便用于接口调用,可使用英文、数字及下划线组合,长度为3-32个字符。 注:Biztype 名称必须唯一,不可重复
    行业分类
    策略涉及的行业场景分类
    使用行业模板
    行业分类有设置时显示。 选择是否使用腾讯云预设的行业模板进行审核
    4. 在识别策略配置页面,根据业务需求,选择是否需要审核不同类型的识别内容,单击下一步
    5. 在管理自定义库配置页面,在自定义词库下拉列表中选择是否需要使用自定义词库用于内容审核,如暂无自定义库,可单击下一步跳过,或保存当前策略后,前往 步骤2:配置自定义词库
    
    
    
    6. 在创建完成页面,可总览策略配置信息,确认后单击完成,完成审核策略配置。
    7. 在策略管理页面右侧列表中,将显示刚创建的这一条策略。
    
    

    步骤2:配置自定义词库(可选)

    自定义词库用于添加个性化的审核词库,识别图片上是否含有违规文本。
    说明:
    如无需配置自定义词库,可略过此步骤。

    前提条件

    已获取腾讯云主账号或子账号。
    登录账号已拥有文本内容安全服务的读写权限。
    登录账号已开通文本内容安全服务。

    操作步骤

    1. 登录 内容安全控制台,在左侧导航栏中,选择文本内容安全 > 自定义库管理 > 自定义词库
    2. 在自定义词库页面,单击添加词库,弹出创建词库弹窗。
    
    
    3. 在创建词库弹窗,填写自定义库的相关信息,结合业务需求配置自定义库。
    
    
    
    参数说明
    参数名称
    描述
    词库名称
    词库的文字描述,可使用中文、英文、数字及下划线组合,长度不超过32个字符
    处理建议
    可选择违规或疑似
    违规:确认为不良信息
    疑似:可能为不良信息,需要人工审核
    匹配模式
    可选择精确匹配或模糊匹配
    精确匹配:对输入文本进行匹配,匹配对象需完全一致
    模糊匹配:可检测变体后的输入词,支持拆分字、形似字、音似字、简繁体、大小写、大写数字等形式的相似词进行匹配
    4. 单击确认,即可创建自定义库。
    5. 在自定义词库页面下方的列表中,将显示刚创建的词库。
    说明:
    自定义词库的不同颜色代表不同的屏蔽逻辑,红色代表违规,橙色代表疑似。
    
    
    
    6. 在自定义词库页面,选择刚创建的词库,单击操作栏下的管理,进入管理词库页面。
    
    
    7. 在管理词库页面,单击添加样本,弹出添加样本弹窗。
    8. 在添加样本弹窗,选择处理建议,输入关键词,单击确定,即可保存关键词至当前词库。
    
    
    
    参数说明
    参数名称
    描述
    处理建议
    识别模型对应的违规类型
    关键词
    单个关键词以换行来确定,长度在20个汉字或字母以内
    关键词支持批量添加,单次最多可批量添加500个关键词
    关键词添加个数上限为2000个
    说明:
    自定义词库配置完成后,可以在 步骤1:配置任务策略 时将自定义词库与策略关联使用。

    步骤3:创建任务及获取识别结果

    在完成以上步骤后,可以调用文本内容检测(TextModeration)接口创建评论内容审核任务,具体方法如下:
    确保您的待审核文本内容符合接口传入的 文件格式要求
    参考接口的 接口文档说明,填入相应的输入参数。
    若任务创建成功,接口会返回详细识别结果,请参考 文本内容识别示例 进一步了解返回参数示例;若任务创建失败,接口会返回错误码,请参考 业务错误码公共错误码 进行问题排查。
    说明:
    在进行服务接入时,可以使用 API Explorer工具进行在线调试。
    联系我们

    联系我们,为您的业务提供专属服务。

    技术支持

    如果你想寻求进一步的帮助,通过工单与我们进行联络。我们提供7x24的工单服务。

    7x24 电话支持