企业知识问答测试集怎么做:从真实问题开始

企业知识问答测试集应从真实工作问题开始,再补充容易出错的边界场景。只把文件标题改写成问题,通常只能证明系统能找到同词内容,不能说明它理解了员工的实际需求。每道测试题都需要知道为什么问、依据在哪里,以及怎样算答对。

先确定要代表哪些工作

可以从咨询记录、搜索失败、培训现场提问和内容负责人常被问到的事项中收集问题。保留原始用词与缺失条件,再做必要去标识处理。不同部门的问法可能不同,不应为了让模型容易回答,把所有问题都润色成文档里的正式表述。

建立问题清单时记录业务意图、来源渠道、常见程度和影响。常见程度若没有可靠数据,应使用待确认或抽样观察,不要随手写成高频。测试集可以兼顾常见问题与低频高影响问题,但两者的选取理由应清楚。

归并重复意图,保留有价值的变体

“培训费用怎么报”和“外部课程的票据交哪里”可能相关,却不一定是同一个任务。前者需要费用规则,后者关注提交路径。归并时看预期证据与用户要完成的事,而不是只看句子相似度。

样本类型检验作用
日常完整问题检查主要工作是否可回答
简称或口语问法检查表达差异是否导致漏检
条件不足问题检查是否请求必要补充
无依据问题检查是否停止猜测

给每道题配上证据,而非一句标准话术

标注原始问题、对应文档及版本、必要条款、答案必须包含的点和不能推出的结论。例如询问材料清单时,不仅标出材料名称,也标出适用人群与例外。系统可以使用不同措辞,只要结论与依据一致,就不应因为文字不相同而判错。

若标注者意见不同,先回到源资料解决分歧。无法解决的题目可以保留为待核样本,但不要混进已经确定的准确率分母。没有可靠标准的题目,用来发现内容问题很有价值,用来计算模型排名则容易误导。

分开改进样本与检验样本

团队会反复查看失败题并修改系统,因此需要保留一组未用于日常调参的检验题,观察改进是否泛化到相近但未见的问题。规模可先小后大,关键是用途清楚、版本固定,不把同一道题换几个词就当成独立覆盖。

每轮评测记录问题集版本、文档快照、运行配置和结果。新增真实失败题时形成新版本,并说明覆盖范围怎样变化。这样结果升降才有解释基础,不会把题目变简单误当成系统变好。

测试集的价值不在题数本身,而在它能否暴露工作中的缺口。先让每道题有可靠依据、代表明确任务,再逐步扩大,比一次生成大量无人核对的问题更容易形成可持续的质量判断。

企业知识问答测试集怎么做
本文提出的工作流程示意;不代表具体产品已实现或经过性能实测。

在企业文档中验证

如果要把本文方法用于企业文档,可预约演示,结合实际资料核对协作、权限与集成方式。

需要在自己的环境中验证时,可先了解私有化部署方案,再确定试用范围与验收要求。

参考资料

相关文章