企业AI安全攻防实战:从单点防御到分层治理

企业AI安全攻防实战:从单点防御到分层治理

输入过滤+内容控制+质量保障,构建企业级AI安全护城河

¥99.9
本课程包括
  • 5小时11分钟的视频随时观看
  • 可在APP随时观看
  • 结业证书
你将收获
  • 学会用户鉴权、访问控制、自定义正则规则等实战手段,能够完成威胁演示、代码分析,独立落地 AI 安全防御方案。
  • 实操 AI 安全卫士项目,学会使用 LLMGuard 等工具,针对代码注入、隐私泄露、违禁话题等场景配置防御策略。
  • 掌握 AI 安全三层防护架构:输入扫描层、内容控制层、质量保障层,学会搭建分层输入过滤机制。
  • 理解提示词注入、模型越狱底层原理,掌握系统提示词防护规则,能够识别各类大模型提示词攻击手段。
浏览相关主题
课程介绍

随着企业大模型应用大规模落地,提示词注入、模型越狱、隐私泄露、Token 耗尽等 AI 安全威胁持续增多。很多企业上线 AI 应用时只关注业务功能,缺少分层安全防护体系,极易出现数据泄露、内容违规、系统被绕过攻击等风险,给企业带来合规与财产损失,AI 安全治理已经成为企业数字化建设不可缺少的一环。

本课程的三节课由浅入深,从提示词攻击原理入手,逐层拆解三层安全防护体系,结合大量真实攻防案例、代码演示与项目实操,把抽象的 AI 安全概念转化为可落地的防御手段。学员可以跟着课程复现攻击与防御全过程,理解各类威胁的特征,掌握可直接复用的防护代码与配置方案,补齐大模型应用安全能力短板。

课程围绕企业 AI 安全攻防实战展开,依次讲解提示词注入与越狱原理、安全防护工具部署、三层输入过滤机制以及各类威胁场景的防御方案。课程旨在帮助学员系统掌握大模型应用的安全攻防知识,具备识别、检测、防御 AI 安全风险的实操能力,帮助企业从单点防御升级为分层治理,筑牢企业 AI 业务的安全防线。

适合人群
  • 企业 AI 产品研发、算法与后端开发工程师,需要识别大模型应用中的提示词注入、越权等安全漏洞,保障 AI 系统稳定运行。
  • 企业信息安全、网络安全、风控合规岗位人员,负责管控企业 AI 应用风险,防范数据泄露、内容违规等安全事件。
  • 数字化项目负责人、AI 产品经理,需要掌握 AI 安全分层防护思路,在项目落地阶段搭建安全治理体系。
讲师介绍
AI系统架构师
擅长领域:
  • DeepSeek
● 一句话定位: AI 讲师、大模型架构师 ● 核心背书: a. 著作:《大模型定制开发》《LangChain 实战:大模型应用开发实例 》《分布式架构原理与实践》 b. 教学战绩: AI 讲师、全网学员 20w+ c. 专业领域:AI 应用开发与架构设计、智能体集成与应用
课程大纲
共0节 时长0分钟 全部收起
第一章 提示词过滤-注入原理
10分钟
第二章 提示词过滤-越狱原理
11分钟
第三章 提示词过滤-系统提示词防御规则
9分钟
第四章 提示词过滤-项目验证码防御案例介绍与程序安装
11分钟
第五章 提示词过滤-验证码威胁演示
10分钟
第六章 提示词过滤-验证码防御演示
15分钟
第七章 提示词过滤-测试防御机制威胁防御与正常响应
8分钟
第八章 提示词过滤-用户鉴权和访问控制双管齐下
18分钟
第九章 安全防护-输入安全防护原理介绍
7分钟
第十章 安全防护-LLMGurad与依赖模型介绍
10分钟
第十一章 安全防护-AI安全卫士项目的安装和使用
9分钟
第十二章 安全防护-输入过滤的分层机制和过滤器列表介绍
6分钟
第十三章 输入过滤第一层-扫描器介绍
4分钟
第十四章 输入过滤第一层-提示词注入防御案例演示与代码分析
16分钟
第十五章 输入过滤第一层-为空的Unicode提示词威胁与防御案例
14分钟
第十六章 输入过滤第一层-禁止违禁词威胁与防御案例
14分钟
第十七章 输入过滤第一层-密钥泄露与检测案例
17分钟
第十八章 内容控制第二层-防御分类介绍
5分钟
第十九章 内容控制第二层-代码注入的威胁与防御
15分钟
第二十章 内容控制第二层-有害内容的威胁与防御
11分钟
第二十一章 内容控制第二层-竞品词的威胁与防御
10分钟
第二十二章 内容控制第二层-话题禁止的威胁与防御
13分钟
第二十三章 内容控制第二层-隐私泄露的威胁与防御
11分钟
第二十四章 内容控制第二层-自定义正则表达式应用
8分钟
第二十五章 质量保障第三层-乱码输入的威胁和防御
10分钟
第二十六章 质量保障第三层-语言匹配的威胁和防御
9分钟
第二十七章 质量保障第三层-情感威胁和防御
11分钟
第二十八章 质量保障第三层-Token耗尽威胁和防御
10分钟
第二十九章 质量保障第三层-输入扫描器分层总结
6分钟
购课须知

课程有效期:

自购买课程之日起 365 天,部分参与营销活动产品以活动规则为准,请同学在有效期内学习、观看课程。

上课模式:

课程采取录播模式,请注意自学课无班级微信群、班主任带班及助教批改服务。

注:自学课不支持退款,确保你是真的需要再进行报名,报完名之后还请认真学习。