AI 开发安全与脱敏边界

内容类型：资料与信息安全难度：基础适合：需要在项目中安全使用 AI 的开发者阅读时间：约 8 分钟

本页主要回答：哪些源码、协议、日志和现场资料可以提供给 AI，哪些必须脱敏，哪些不能离开受控环境。

如果你要确认的是“AI 能不能自动连接高压电源、运动平台、阀门或其它真实设备执行验证”，请直接看 真实设备操作与验证安全边界。资料安全和设备动作安全是两件不同的事。

1. 不要直接上传的内容

1. 客户源码和未公开项目文件，除非当前受控工具和组织规则明确允许。
2. 未公开通信协议、设备参数和工艺参数。
3. IP、账号、密码、Token、API Key、证书和私钥。
4. 内网地址、服务器地址、数据库连接串。
5. 涉密、保密或受合同限制的项目资料。
6. 日志里的客户名称、人员信息、订单/产品身份信息。
7. 商业合同、报价和未经授权的客户现场资料。

项目内部允许使用什么，以组织、客户、合同和数据治理要求为准；不要用通用 AI 使用习惯替代正式安全规定。

2. 脱敏不是简单把名字删掉

原始内容	可考虑的脱敏方式
客户名、项目名	客户A、项目X
IP、账号	保留结构，删除真实身份和值
设备型号	只有分析确实需要型号时再保留，否则用设备角色代替
协议命令字	分析字段结构时可保留结构，业务含义按权限脱敏
日志	保留时间线、方向、错误码、长度、必要数值，删除身份信息
路径	保留层级语义，去掉用户名、项目密级和客户名称

如果删除某个字段会让问题无法判断，就不要假装“脱敏后仍然等价”。应说明：当前材料不足以确认结论。

3. 最小充分材料原则

不要默认上传整个 solution 或几十 MB 日志。

推荐顺序：

现象和目标
→ 最短相关代码/配置
→ 必要日志时间线
→ 必要协议片段
→ 证据仍不足才扩大

这既降低信息暴露，也符合 V10 Context Budget。

4. 只读分析和修改任务的材料要求不同

Read-Only Trace

通常只需要：

• 目标符号/现象；
• 最短调用链；
• 相关配置或日志片段。

不应因为“想确认一个判断位置”就把所有协议和项目文档都交出去。

修改/Bug

按 affected scope 增加：

• 当前 Diff；
• known-good；
• focused test/replay；
• 必要的设备证据。

仍然遵守最小充分原则。

5. 日志怎么脱敏才不破坏诊断价值

通信/现场问题优先保留：

Timestamp
Direction
Session / Device Role
Raw Length
必要的 Raw HEX
Command / Result Category
Error Code
State Transition

可以脱敏：

• 用户姓名；
• 订单号；
• 客户地址；
• 服务器真实 IP；
• 不相关业务字段。

不要只留下“通信失败”四个字，把能够定位问题的时间线和错误码一起删掉。

6. 协议材料不完整时，不要让 AI 猜

如果只能提供协议片段：

Confirmed
→ 材料明确支持的字段/行为

Inferred
→ 可以从样例合理推断但尚未确认

Unknown
→ 因脱敏或缺资料无法判断

特别是 CRC、字节序、缩放倍率、异常码和设备动作语义，不能靠“常见协议习惯”冒充项目事实。

7. E-SafeNet / DLP 环境另看写入安全

如果项目目录有 E-SafeNet、DocGuard 或其它 DLP：

• 不随意改后缀绕过保护；
• 不因为构建污染修改业务逻辑；
• 文档/源码写入按受保护环境策略处理；
• 环境阻断明确标记 EnvironmentBlocked。

详见 加密软件环境下的 AI 开发注意事项。

8. 真实设备安全是独立维度

下面这些不能从“资料可以给 AI 看”推导出“AI 可以自动执行”：

• 高压/信号输出；
• 电机/运动平台；
• 阀门/气路；
• 继电器/加热；
• 联锁、急停、保护参数；
• 任何可能改变真实设备状态的命令。

V10 默认 HardwareAction: ForbiddenByDefault。详见 真实设备操作与验证安全边界。

9. 最小安全提问方式

我正在处理一个上位机问题，但当前资料有安全/保密限制。
我会先提供脱敏后的现象和最小证据。

请你：
1. 先判断当前材料能确认什么；
2. 区分 Confirmed / Inferred / Unknown；
3. 只列真正缺少的下一组证据；
4. 不要求我一次上传整个项目；
5. 如果某项必须依赖未脱敏材料，请明确说明原因，不要猜测。

10. 两类安全入口

我担心的问题	看哪里
源码、协议、日志能不能给 AI	本页
E-SafeNet/DLP 写文件和构建	加密环境注意事项
AI 能不能自动动真实设备	真实设备操作安全
联锁/报警到底停不停机	行为与告警语义

一句话原则

只提供解决当前问题所需的最小充分材料；脱敏不能破坏证据含义，资料可读也不等于真实设备动作可以自动执行。