baize白泽明理

安全可信

提示词库怎么收口不乱建?

各部门各自维护提示词库,共享文档里常混入账号凭据、内部审批额度和系统架构说明。企业可通过集中盘点、明确入库负责人与版本记录、剥离敏感数据并实行分级复核来收口管理。

白泽明理

深墨绿底座上:左边小人把散落的空白卡片收成一叠;中间圆点眼灰色小机器把卡片放进文件柜抽屉,旁边盒里有泛绿边的卡片;右边小人端着一层泛绿光的托盘,下面还有两层托盘,最右一本铜色书面

提示词库不能任由各业务团队在本地表格或共享文档里散乱堆放,企业要把在用提示词当成正式资产统一收口。先全面盘点各部门现存的提示词,列清存放位置、编写人与关联流程,没人认领的先标停用;入库时写明负责人、用途、适用模型、版本和最后审核日期;入库前清理掉账号密码、内部额度和客户数据,把权限和额度控制留在模型外部系统里;按用途分级审批,并在更换模型或调整流程时集中复核。

从左到右四个小模型:小人整理散落卡片和文件夹;圆点眼小机器和小人一起把卡片放进盒子;小人把一张泛绿边的卡片放进盒中;小机器端着一层泛绿光的托盘,下面还有两层,各配中文标注板
图:「提示词库」|「提示词治理」

先盘点散落在各部门的提示词

不少企业的业务部门自己建提示词库,共享文档里堆着不少提示词,有的写着内部规则、额度甚至账号,时间一长谁也说不清哪条还在用。收口的第一步是全面盘点,由信息技术部门配合各业务线负责人,把散落在个人表格、部门文档和工作流节点里的提示词摸排出来,列出一张统一清单。

这张盘点清单要记清每条提示词放在哪、谁写的、接到哪个流程。摸排时常会遇到历史遗留的提示词,原编写人已经调岗或离职,所在部门也说不清它服务哪项任务。对于没人认领的提示词,先标为停用,观察一段周期确认没有业务受影响后再清理。盘点提示词时,往往也会顺带发现各部门私下搭建的自动化流程,提示词和自建 Agent 可以一起盘,做法见 Agent 管理先盘点:自建 Agent 谁在跑。

入库要有负责人与版本记录

完成初步盘点后,保留下来的提示词要迁入企业统一的提示词库,不能继续留在随手可改的在线表格里。每条进库的提示词都要有负责人、用途、适用模型、版本和最后审核日期。哪怕是几句话的简短指令,只要接进了日常办公或业务流转,台账上就要找得到对应的维护人。

日常改动提示词要走版本记录,不能直接覆盖原文本。业务人员调整了提示词的措辞、输出格式或判断口径后,要在库里生成新版本,写清改动原因、修改人和生效时间,保留历史版本以便比对和回退。有的工具支持对提示词条目做权限控制和变更留痕,企业可以配置成只有登记在册的负责人和审核人才能提交新版本,避免其他人在共享文档里随手改动。

入库前剥离敏感信息与权限控制

提示词入库前要逐条过一遍,把夹杂在里面的敏感信息剥离出来。根据 OWASP 发布的大模型应用风险清单,系统提示词用来引导模型行为,可能含有本不该被发现的敏感信息;系统提示词不应被当作秘密,也不应被当作安全控制手段,凭据、连接串这类敏感数据不应写进系统提示词。该页面举的风险例子包括:提示词暴露敏感功能或系统架构、暴露交易额度等内部决策规则、暴露过滤条件,以及暴露权限和用户角色结构。

因此,企业在做提示词治理时,入库前要先筛查文本,不放账号密码、内部额度和客户数据。OWASP 发布的大模型应用风险清单建议把敏感信息放到模型不直接访问的系统里,不要依赖系统提示词做严格的行为控制,要依赖模型之外的系统。落到日常管理上,提示词只写任务说明,权限和额度在系统里控制。至于任务执行时需要的业务资料,也放在别处管理,不塞进提示词文本,见 企业上下文管理:AI 时代不脱节的基础设施。

按风险分级管理与定期集中复核

把所有日常提示词都卡在信息安全团队手里,业务部门很快又会绕开统一库自己建表。更务实的提示词治理方式是按风险分级:平时用于润色邮件、整理纪要、写普通文案的通用写作类提示词,不接触核心数据也不触发外部操作,由部门自己管即可。

一旦提示词接入了业务系统、能触发操作,就要信息安全看过、确认没有夹带敏感凭据与越权风险后才能上线。此外,遇到模型更换或流程变化时,相关部门要把关联的提示词拉出来集中复核一次,核对原有指令在新模型或新流程下是否适用,过期的提示词及时下线。复核频率由企业自己定。

提示词库:常见问题

员工自己收藏的提示词也要进提示词库吗?

员工个人日常用来辅助写周报、翻译段落或做头脑风暴的提示词,不接企业业务系统、不共享给他人、也不含内部敏感信息的,留在个人笔记里即可,不用收进企业统一的提示词库。只要某条提示词开始在团队内部共用,或者嵌进了固定业务流程,就要登记负责人并入库管理。

提示词里写了内部流程,算泄密吗?

看写进去的具体内容。如果只是交代公开的业务步骤或通用格式说明,不涉及机密;但如果写进了交易额度等内部决策规则、敏感功能或系统架构、过滤条件,或者暴露了权限和用户角色结构,一旦系统提示词泄露就会导致内部信息外泄。这类内部规则和权限控制应当放到模型之外的系统里,不写进提示词。

提示词治理该归 IT 还是业务部门?

提示词治理需要业务部门、IT 与信息安全分工配合。通用写作类的提示词由业务部门自己管;IT 负责提供统一的提示词库台账与版本记录工具;接业务系统、能触发操作的提示词,由业务部门起草,经信息安全看过后再上线。