一、课程背景

  人工智能技术的快速迭代正面临内生安全缺陷与外部合规约束的双重挑战:大模型的内容生成不可控性、算法黑箱导致的决策偏差、训练数据污染等安全问题,与《生成式人工智能服务管理暂行办法》《网络安全法》等法规的算法透明度、数据合法性要求形成交织风险。企业亟需构建“安全-合规双轮驱动”的治理体系,同步解决模型安全防护与算法透明度提升的双重目标。

  本课程以“技术安全为基,法律合规为纲”,系统解析大模型对抗攻击防御、生成内容溯源、数据标注污染检测等安全技术方案,同步融合算法备案、伦理审查、跨境评估等合规实施路径,助力企业实现从代码到合同的AI全生命周期风险管理。

  二、课程安排

  第一课:AIGC 认知——解锁人工智能新范式

  (一)人工智能的发展历程

  从早期人工智能研究到深度学习的兴起

  重要技术节点与里程碑事件

  (二)人工智能的能力进化

  机器学习、深度学习、生成式AI与决策式AI的区别

  生成式AI:在创意内容生成和自动化操作方面的潜力

  决策式AI:精准数据分析与推理场景的核心优势

  AIGC与决策式AI协同:从内容创作到数据洞察的全方位赋能

  (三)大语言模型的发展阶段梳理

  大模型的演进

  细分专业化模型vs.通用模型

  推理模型与通用模型的区别、应用场景

  DeepSeek的重大影响与全球震荡

  (四)AIGC对商业版图的影响与行业变革路径

  传统商业模式的颠覆与新兴岗位、行业的崛起

  从Solopreneur到超级个体

  企业如何进行AI变革:策略、流程与能力要求

  (五)国内外AIGC工具全景介绍

  全球主流AIGC工具在对话、视觉、音乐、视频等领域的技术进展

  各工具的应用价值、适用场景与迭代前瞻

  第二课:人工智能监管框架与合规要点

  (一)全球人工智能立法和监管框架

  (二)国内人工智能监管框架

  (三)人工智能相关国家标准讲解

  《人工智能安全标准体系(V1.0)》(征求意见稿)

  《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》

  《网络安全技术 生成式人工智能数据标注安全规范》

  《网络安全技术 人工智能生成合成内容标识方法》

  (四)国内人工智能法规核心要求讲解

  生成式人工智能服务监管三大主要手续:生成式AI服务备案、算法备案、科技伦理审查登记

  ‌《生成式人工智能服务管理暂行办法》核心义务

  大模型不同部署模式的合规要点

  员工使用大模型的合规要点

  数据合法性要求

  (五)生成式AI专项合规

  内容合规

  知识产权合规

  (六)人工智能监管处罚案例及整改路径

  典型处罚案例讲解

  合规整改路径及经验

  课程三:大模型安全全景治理——威胁识别与应对策略

  (一)大模型内生安全风险

  模型算法安全风险

  数据安全风险

  系统安全风险

  (二)大模型应用安全风险

  网络域风险

  算法安全

  伦理安全

  (三)大模型安全治理框架

  (四)风险分析与评估方法

  (五)安全风险应对策略

  课程四:大模型对齐与防护——技术路线与实施框架

  (一)大模型对齐的核心目标与挑战

  (二)大模型防护体系设计

  防护体系架构

  防护技术与工具

  防护策略

  最佳实践分享

  (三)实施框架与行业实践

  阶段划分

  关键步骤与里程碑、资源需求

  行业实践案例

  成功实施的关键要素

  三、培训亮点

  1.系统化治理框架,直击企业痛点:

  课程涵盖大模型从内生安全到应用安全的全景治理,结合实际案例,为企业提供从风险识别到应对策略的全流程解决方案,助力企业突破AI治理难题。

  2. 法规与技术深度融合,AI合规无忧:

  深入解析国内外人工智能监管框架、核心法规及合规要点,结合生成式AI专项合规内容,帮助企业在技术发展的同时满足法律要求,避免合规风险。

  3. 权威专家授课,实战经验分享:

  邀请行业资深专家,分别从技术、法律不同角度授课,结合实际案例分享前沿技术、合规路径和行业最佳实践。

  4. 权威CCRC证书,助力职业发展:

  完成课程后,学员可获得由中国网络安全审查认证和市场监管大数据中心(CCRC)颁发的结业证书,提升个人在AI治理领域的专业资质,为职业发展加分。

  四、培训对象

  1. 企业决策规划团队:

  CTO、AI产品总监、政府事务负责人等需统筹AI合规战略与资源投入的高层决策者。

  2. 企业技术团队:

  AI算法工程师、数据标注负责人、模型测试工程师等需直接落实合规技术要求的一线人员。

  3. 律师及合规管理团队:

  律师、企业法务、数据安全官、内审负责人等负责AI业务合规审查与风险管控的中层管理者。

  六、开班详情

  培训时间:咨询时间(周六日)

  培训地点、方式:上海(同步线上直播授课)

  培训证书:完成全部课程,可获得由中国网络安全审查认证和市场监管大数据中心(CCRC)颁发的结业证书。

  培训费用:3680元/人 (包含培训费、教材、结业证书)

      报名机构:赛虎学院