跳到主要内容

AI SECURITY

人工智能安全

五门课 · 四大攻击威胁 · 攻防治理闭环

人工智能安全方向面向大模型与智能体时代的新型威胁,覆盖隐私计算、联邦学习、模型安全与可信治理,构建完整安全防护闭环。

申请试用
人工智能安全主视觉 2400×900

方向概述

课程以项目制为主,强调工程实战,帮助学生掌握「攻得懂、防得住、治得了」的综合能力。

5门项目制课
4大攻击威胁
4类岗位方向

攻什么 · 怎么防

课程围绕「攻得懂、防得住、治得了」组织:左边是必须认识的四类攻击,右边是把安全要求落地的两类工程化手段。

四大核心攻击威胁
  1. 01
    规避攻击

    让模型在关键输入上给出攻击者想要的结果。

  2. 02
    完整性攻击

    投毒与后门,破坏模型判断的可信基础。

  3. 03
    隐私 / 知识产权攻击

    成员推断、模型窃取与数据泄露。

  4. 04
    大模型 / 智能体攻击

    提示词攻击、越狱与工具滥用。

两大工程化防御手段
  1. 01
    供应链安全与威胁建模

    从数据、模型到依赖,先把威胁面画清楚。

  2. 02
    风险治理

    把安全要求落成可执行的治理流程与基线。

最后收成一个闭环

五个环节由《隐私保护与人工智能安全综合项目》打通,构建完整的安全防护闭环。

课程体系

五门项目制课程

全部为项目制实践课,从密码学与隐私计算的基础技术,到联邦学习、系统安全、网络攻防,最后落到综合项目闭环。

  1. 隐私保护与人工智能安全综合项目

    项目制实践课,融合现代密码学、隐私计算、联邦学习、模型与大模型安全、安全智能体及 MLSecOps,打通各安全环节构建完整防护闭环,检验复杂系统下的综合实战与系统防御能力。

  2. 人工智能驱动的网络攻防项目实践

    以「本地 DeepSeek + 安全智能体 + 智慧校园靶场」为技术主线,打破重理论教学模式,聚焦工程实战,沉浸真实场景下的网络安全项目实操。

  3. 人工智能系统安全与可信治理

    聚焦规避、完整性、隐私/知识产权及大模型与智能体四大核心攻击威胁,结合供应链安全与威胁建模、风险治理两大工程化防御手段。

  4. 联邦学习与分布式智能安全

    剖析联邦学习底层运行逻辑与实际应用中的攻击威胁,综合运用鲁棒聚合、密码学与差分隐私构建安全防御体系。

  5. 现代密码学与隐私计算

    聚焦「密码技术如何保护 AI 数据、模型与协同计算」,精讲认证加密、哈希与数字签名、秘密共享、私有集合求交、同态加密及差分隐私。

实验与平台环境

以「本地 DeepSeek + 安全智能体 + 智慧校园靶场」为技术主线,把大模型能力留在校内; 配套联邦学习框架、同态加密与差分隐私等隐私计算工具链。

  • 本地 DeepSeek
  • 安全智能体
  • 智慧校园靶场
  • 联邦学习框架
  • 同态加密 / 差分隐私
就业出口

面向大模型与智能体时代的新型安全岗位,强调工程实战与系统防御能力。

AI 安全工程师隐私计算工程师大模型安全运营安全智能体开发

想把人工智能安全方向建起来吗?

提交单位名称与工号后,我们会结合现有实训条件安排课程、实验与平台演示。