AI 应用开发指南

Appearance

安全与合规 ​

保护 AI 应用免受攻击，满足合规要求

学习目标 ​

  • 理解 AI 应用面临的安全威胁
  • 掌握 Guardrails 的实现方法
  • 了解数据隐私与合规要求

1. Prompt Injection ​

1.1 攻击类型 ​

1.2 防护策略 ​

1.3 检测方法 ​

2. Guardrails ​

2.1 输入防护 ​

2.2 输出防护 ​

2.3 工具与框架 ​

2.4 自定义 Guardrails ​

3. 数据隐私 ​

3.1 PII 检测与脱敏 ​

3.2 数据传输安全 ​

3.3 本地部署 vs 云端 API ​

4. 合规要求 ​

4.1 GDPR ​

4.2 SOC 2 ​

4.3 行业特定要求 ​

5. 审计与治理 ​

5.1 审计日志 ​

5.2 模型治理 ​

5.3 内容安全策略 ​

练习 ​

  1. 实现一个 Prompt Injection 检测管道
  2. 用 NeMo Guardrails 为聊天机器人添加防护
  3. 实现 PII 检测与自动脱敏

延伸阅读 ​