Azure AI 内容安全

原名：azure-content-safety

检测文本和图片中的风险内容，并设计可解释的审核与申诉流程。

中文 Skills 技能说明

适合生成式 AI、社区和客服产品增加内容安全门禁。模型结果只能作为风险信号，不能替代人工判断；阈值、语言覆盖和误判要用真实样本验证，上传用户内容前确认授权、区域和保存策略。

上游能力依据

上游原始适用说明：Expert knowledge for Content Safety in Foundry Control Plane development including troubleshooting, best practices, decision making, architecture & design patterns, limits & quotas, security, configuration, integrations & coding patterns, and deployment. Use when using Content Moderator limits, Docker CS containers, blocklists, media provenance, or groundedness APIs, and other Content Safety in Foundry Control Plane related development tasks. Not for Azure Content Understanding in Foundry Tools (use azure-content-understanding), Azure Speech in Foundry Tools (use azure-speech), Azure Security (use azure-security), Azure Defender For Cloud (use azure-defender-for-cloud).

上游 SKILL.md 主要章节（保留原文标题）：

• How to Use This Skill
• Category Index
• Troubleshooting
• Best Practices
• Decision Making
• Architecture & Design Patterns
• Limits & Quotas
• Security
• Configuration
• Integrations & Coding Patterns

使用边界

先读取项目约定、依赖版本和现有测试，再提出最小改动。写文件、运行脚本、提交代码或发布前应检查差异并保留回退路径。

作者、翻译与许可证

原作者

Microsoft Corporation 与 MicrosoftDocs/Agent-Skills contributors

中文翻译

CEOFans翻译

许可证

CC-BY-4.0

上游来源

https://github.com/MicrosoftDocs/Agent-Skills/tree/c579bb4b37e7969ffc8bc071ca0f53048c3bfe41/skills/azure-content-safety

适用范围

平台：linux、macos、windows；标签：AI 工程、Azure AI 内容安全

安全提示

基础静态扫描不等于绝对安全。技能可能调用命令、浏览器、云服务或本地文件，请在最小权限环境中使用，高风险操作必须人工确认。

如发现侵权、许可证或安全问题，可在本页前台提交投诉，管理员复核后可立即下架。