腾讯云天御内容安全
腾讯云天御内容安全 是面向生成式 AI、模型、RAG 或 Agent 风险控制的 AI 安全工具。
分类：中文多模态内容安全与 AIGC 风险检测
公司 / 团队：腾讯云
详细介绍
该工具的主要能力包括文本、图片、音频、视频与 AIGC 内容审核，违规内容、攻击指令、AI 生成内容和伪造内容识别，策略配置、API 与行业解决方案。
AI 安全工具的真实效果取决于模型、语言、攻击方法、上下文长度、输入模态、系统提示、RAG 数据、工具权限、部署位置、阈值、规则、版本和业务容错。详情页应把防护位置、风险类型、模态、动作、API、延迟、部署方式、数据处理、日志、评测结果和产品状态拆成动态字段维护。
适合场景
- UGC 平台
- AIGC 内容审核
- 文本攻击指令
- 图片与视频风险
- 国内合规
使用注意
- 不同模态可能对应独立产品、接口和标签体系
- AI 生成识别与内容违规审核不能合并为同一结论
- 业务阈值和人工审核流程需按行业配置
- 上线前应建立正常样本、边界样本、已知攻击、未知变体、跨语言、多模态和故障场景测试集，并完成权限审查、红队、安全评审、日志、回滚和应急预案。