AI SECURITY
人工智能安全
五门课 · 四大攻击威胁 · 攻防治理闭环
人工智能安全方向面向大模型与智能体时代的新型威胁,覆盖隐私计算、联邦学习、模型安全与可信治理,构建完整安全防护闭环。
申请试用
方向概述
课程以项目制为主,强调工程实战,帮助学生掌握「攻得懂、防得住、治得了」的综合能力。
攻什么 · 怎么防
课程围绕「攻得懂、防得住、治得了」组织:左边是必须认识的四类攻击,右边是把安全要求落地的两类工程化手段。
- 01规避攻击
让模型在关键输入上给出攻击者想要的结果。
- 02完整性攻击
投毒与后门,破坏模型判断的可信基础。
- 03隐私 / 知识产权攻击
成员推断、模型窃取与数据泄露。
- 04大模型 / 智能体攻击
提示词攻击、越狱与工具滥用。
- 01供应链安全与威胁建模
从数据、模型到依赖,先把威胁面画清楚。
- 02风险治理
把安全要求落成可执行的治理流程与基线。
五个环节由《隐私保护与人工智能安全综合项目》打通,构建完整的安全防护闭环。
课程体系
全部为项目制实践课,从密码学与隐私计算的基础技术,到联邦学习、系统安全、网络攻防,最后落到综合项目闭环。
隐私保护与人工智能安全综合项目
项目制实践课,融合现代密码学、隐私计算、联邦学习、模型与大模型安全、安全智能体及 MLSecOps,打通各安全环节构建完整防护闭环,检验复杂系统下的综合实战与系统防御能力。
人工智能驱动的网络攻防项目实践
以「本地 DeepSeek + 安全智能体 + 智慧校园靶场」为技术主线,打破重理论教学模式,聚焦工程实战,沉浸真实场景下的网络安全项目实操。
人工智能系统安全与可信治理
聚焦规避、完整性、隐私/知识产权及大模型与智能体四大核心攻击威胁,结合供应链安全与威胁建模、风险治理两大工程化防御手段。
联邦学习与分布式智能安全
剖析联邦学习底层运行逻辑与实际应用中的攻击威胁,综合运用鲁棒聚合、密码学与差分隐私构建安全防御体系。
现代密码学与隐私计算
聚焦「密码技术如何保护 AI 数据、模型与协同计算」,精讲认证加密、哈希与数字签名、秘密共享、私有集合求交、同态加密及差分隐私。
以「本地 DeepSeek + 安全智能体 + 智慧校园靶场」为技术主线,把大模型能力留在校内; 配套联邦学习框架、同态加密与差分隐私等隐私计算工具链。
- 本地 DeepSeek
- 安全智能体
- 智慧校园靶场
- 联邦学习框架
- 同态加密 / 差分隐私
面向大模型与智能体时代的新型安全岗位,强调工程实战与系统防御能力。
