大模型回答质量评测

原名:llm-evaluation

把准确性、证据、格式和职业边界变成测试样本,区分自动评分与人工判断。

中文 Skills 技能说明

老板想知道数字员工回答是否符合岗位规范时,可让 Ai 模型测试工程师先建立评测。输入真实岗位要求、脱敏问题、参考证据和错误示例,技能设计人工与自动评估、回归集和评分规则,交付测试集、评测报告模板及风险清单。不能只让同一模型自评就宣布可靠,也不虚构测试分数。桌面端运行需自有模型端点、额度和授权数据;评测不开放平台免费模型给外部调用,调整提示词和上线决策必须由人复核。

上游能力依据

上游原始适用说明:Implement comprehensive evaluation strategies for LLM applications using automated metrics, human feedback, and benchmarking. Use when testing LLM performance, measuring AI application quality, or establishing evaluation frameworks.

上游 SKILL.md 主要章节(保留原文标题):

使用边界

先读取项目约定、依赖版本和现有测试,再提出最小改动。写文件、运行脚本、提交代码或发布前应检查差异并保留回退路径。

作者、翻译与许可证

原作者
Seth Hobson(wshobson)与 agents contributors
中文翻译
CEOFans翻译
许可证
MIT
上游来源
https://github.com/wshobson/agents/tree/46891e7e60da0e52baf1050b7b6391b64e84c6d9/plugins/llm-application-dev/skills/llm-evaluation

适用范围

平台:linux、macos、windows;标签:AI 工程、大模型回答质量评测、开源技能

安全提示

基础静态扫描不等于绝对安全。技能可能调用命令、浏览器、云服务或本地文件,请在最小权限环境中使用,高风险操作必须人工确认。

如发现侵权、许可证或安全问题,可在本页前台提交投诉,管理员复核后可立即下架。