新書推薦:
《
英国简史(刘金源教授作品)
》
售價:HK$
98.6
《
便宜货:廉价商品与美国消费社会的形成
》
售價:HK$
77.3
《
读书是一辈子的事(2024年新版)
》
售價:HK$
77.3
《
乐道文库·什么是秦汉史
》
售價:HK$
80.6
《
汉娜·阿伦特与以赛亚·伯林 : 自由、政治与人性
》
售價:HK$
109.8
《
女性与疯狂(女性主义里程碑式著作,全球售出300万册)
》
售價:HK$
109.8
《
药食同源中药鉴别图典
》
售價:HK$
67.0
《
设计中的比例密码:建筑与室内设计
》
售價:HK$
87.4
|
編輯推薦: |
在-阿里云产学合作协同育人项目的支持下,本书结合大数据驱动的人工智能发展背景,对人工智能安全理论与实践技术进行了全面梳理。本书作为一本产学兼顾的教材,具有如下特色:1. 围绕大数据驱动的人工智能发展背景,充分考虑数据在人工智能中的重要性,提炼出人工智能数据安全的相关技术。把网络空间安全智能防御的数据处理、人工智能模型训练阶段数据安全、推理阶段数据安全以及数据角度的防御技术,作为知识体系的主干。2. 从网络空间安全攻击与防御的视角来组织人工智能模型算法的安全技术知识体系。人工智能模型算法安全仍然符合网络空间安全的基本特征和规律,这种知识体系的安排充分体现了两个学科方向的内在联系,有利于读者更深入地理解人工智能安全。3. 既注重人工智能安全的相关理论,也强调实践技术的掌握。人工智能安全涉及到大量模型和算法,并需要一定的线性代数、数学分析等基础理论。除此之外,不论是人工智能本身的安全或是人工智能用于解决安全问题,都具有很强的实践要求。
|
內容簡介: |
本书对人工智能安全的理论与实践技术进行了梳理,全面完整地覆盖了人工智能安全技术的主要方面,把相关知识体系划分为五部分,即人工智能的安全观、人工智能安全的数据处理、人工智能用于网络安全的攻击与防御、人工智能模型的对抗攻击与防御以及人工智能平台的安全与工具。第一部分对人工智能安全问题、基本属性、技术体系等进行了归纳梳理。第二部分介绍人工智能安全数据处理的三个主要方法,即非平衡数据分类、噪声数据处理和小样本学习方法。第三部分从人工智能技术赋能网络空间安全的攻击与防御问题角度出发,从三个典型实例及攻击图的角度介绍典型人工智能方法在攻击与防御中的应用。第四部分围绕机器学习模型的安全问题,对攻击者、对抗攻击的理论与方法、典型的对抗攻击方法、隐私安全、聚类模型的攻击以及对抗攻击的防御方法进行了梳理。第五部分介绍人工智能平台的安全与工具,以及基于阿里云天池AI学习平台的若干案例与实验。 本书可以作为高等院校网络空间安全、人工智能、大数据、计算机以及电子信息等相关专业研究生和高年级本科生的教材,也可以作为网络空间安全、人工智能安全、大数据、计算机等领域研究人员、专业技术人员和管理人员的参考书。
|
目錄:
|
第一部分人工智能的安全观
第1章人工智能安全概述
1.1什么是人工智能安全
1.2人工智能安全问题与脆弱性
1.2.1人工智能及其安全问题的出现
1.2.2人工智能安全的层次结构
1.2.3人工智能的脆弱性
1.3人工智能安全的基本属性
1.4人工智能安全的技术体系
1.4.1人工智能安全的数据处理
1.4.2人工智能用于网络安全攻击与防御
1.4.3人工智能对抗攻击与防御
1.4.4机器学习隐私攻击与保护
1.4.5人工智能安全治理技术
1.4.6人工智能平台安全
1.5人工智能安全的数学基础
1.6人工智能安全的相关法律与规范
1.7人工智能安全的发展趋势
第二部分人工智能安全的数据处理
第2章非平衡数据分类
2.1数据非平衡现象与影响
2.2非平衡数据分类方法
2.2.1数据欠采样
2.2.2数据过采样
2.2.3数据组合采样
2.2.4特征层的不平衡数据分类
2.2.5算法层的非平衡数据分类
2.3非平衡数据分类方法的实现
第3章噪声数据处理
3.1噪声的分类、产生原因与影响
3.2噪声处理的理论与方法
3.3基于数据清洗的噪声过滤
3.4主动式噪声迭代过滤
3.5噪声鲁棒模型
3.5.1错误样本权重调整
3.5.2损失函数设计
第4章小样本学习方法
4.1小样本学习基础
4.1.1小样本学习的类型
4.1.2小样本学习与其他机器学习的关系
4.1.3小样本学习的PAC理论
4.1.4小样本学习方法体系
4.2小样本的数据增强方法
4.3基于模型的小样本学习
4.3.1多任务学习
4.3.2嵌入学习
4.3.3生成式模型
4.4基于算法的小样本学习
4.5小样本学习的相关资源
第三部分人工智能用于网络安全的攻击与防御
第5章基于机器学习的安全检测
5.1网络入侵检测
5.1.1概述
5.1.2数据集
5.1.3数据预处理
5.1.4特征工程
5.1.5在天池AI平台上的开发
5.1.6入侵检测的棘手问题
5.2SQL注入检测
5.2.1概述
5.2.2SQL注入方法
5.2.3SQL注入的检测方法
5.2.4SQL语句的特征提取
5.2.5在天池AI平台上的开发
5.3虚假新闻检测
5.3.1概述
5.3.2基于统计学习的检测
5.3.3基于多任务学习的检测
5.3.4有待人工智能解决的问题
第6章攻击与防御的智能技术
6.1概述
6.2攻击图简介
6.2.1攻击图的基本概念
6.2.2攻击图生成方法
6.2.3攻击图的计算任务
6.3基于图论的方法
6.3.1图的路径算法
6.3.2图节点排序算法
6.4基于贝叶斯网络的方法
6.5基于马尔可夫理论的方法
6.5.1马尔可夫链
6.5.2马尔可夫决策过程
6.5.3隐马尔可夫模型
6.5.4部分可观测马尔可夫决策过程
6.6基于博弈论的方法
6.7攻击图智能技术的发展趋势
第四部分人工智能模型的对抗攻击与防御
第7章机器学习系统的攻击者
7.1从垃圾邮件检测谈起
7.2机器学习系统的漏洞
7.3攻击者及其目的
7.4知识及攻击者能力
7.4.1知识
7.4.2攻击者能力
7.5攻击者的代价与收益
7.6攻击行为与分类
7.6.1攻击行为
7.6.2攻击行为分类
第8章对抗攻击的理论与方法
8.1对抗样本与方法
8.1.1对抗样本及其存在性
8.1.2对抗样本生成方法概述
8.2对抗样本生成方法
8.2.1基于梯度的方法
8.2.2基于优化的方法
8.2.3ZOO对抗样本生成
8.2.4决策树对抗样本生成
8.2.5普适扰动对抗样本生成
8.2.6基于生成对抗网络的生成方法
第9章典型的对抗攻击方法
9.1投毒攻击
9.1.1投毒攻击场景
9.1.2投毒攻击的原理
9.1.3基于天池AI的SVM投毒实现
9.1.4手写数字分类器的投毒
9.2后门攻击
9.3逃避攻击
9.3.1逃避攻击场景
9.3.2逃避攻击原理
9.3.3手写数字识别的逃避攻击
9.4迁移攻击
9.5自然语言对抗样本生成
9.5.1自然语言对抗攻击的场景
9.5.2文本情感分类的逃避攻击
9.5.3原文本的对抗样本生成
9.5.4伪文本生成
9.6口令对抗网络样本生成
9.6.1PassGAN设计原理
9.6.2PassGAN的应用
第10章机器学习系统的隐私安全
10.1概述
10.2机器学习模型的隐私
10.3隐私保护技术基础
10.3.1隐私及其度量
10.3.2匿名化及其攻击
10.3.3差分隐私
10.3.4同态加密
10.4大数据隐私攻击与保护
10.4.1关系型数据隐私保护
10.4.2位置隐私保护
10.4.3社交网络隐私保护
10.5隐私计算架构
10.5.1安全多方计算
10.5.2联邦学习
10.6典型应用中的隐私保护
10.6.1LBS推荐中的隐私保护
10.6.2苹果手机中的差分隐私
第11章聚类模型的攻击
11.1聚类攻击场景
11.2聚类算法的攻击模型
11.2.1攻击者的目标
11.2.2攻击者的知识
11.2.3攻击者的能力
11.2.4攻击方式
11.2.5攻击性能评价
11.3聚类算法的攻击方法
11.3.1桥接攻击
11.3.2扩展攻击
11.4天池AI上的聚类攻击实现
11.4.1桥接攻击
11.4.2扩展攻击
第12章对抗攻击的防御方法
12.1防御技术概况
12.2数据层的防御
12.3模型层
12.3.1正则化
12.3.2蒸馏网络
12.4算法层的防御
12.4.1对抗训练
12.4.2防御蒸馏
12.4.3算法鲁棒性增强
第五部分人工智能平台的安全与工具
第13章机器学习平台的安全
13.1机器学习平台漏洞
13.1.1机器学习平台自身的漏洞
13.1.2依赖库漏洞
13.2TensorFlow的模型安全
13.2.1TensorFlow的模型机制与使用
13.2.2TensorFlow的模型风险与攻击
13.2.3安全措施
第14章阿里云天池AI学习平台与实验
14.1阿里云天池AI学习平台
14.2本书实训案例介绍
14.3配置与使用
14.3.1Adversarial Robustness Toolbox
14.3.2使用方法
14.4实验案例的说明
|
內容試閱:
|
近年来,人工智能理论与技术无论在学术研究还是在实际应用中,都得到了广泛关注,成为当今信息科技的发展潮流。但同时,诸如自动驾驶、客服机器人等人工智能应用中发生了一系列安全事件,引发了人们对人工智能应用前景的担忧。由此,人工智能安全被提上重要议程,学术界加快了人工智能安全理论与实践的研究步伐。从学科发展的角度看,人工智能和网络空间安全存在密切的联系。一方面,人工智能理论和技术有效地提升了网络空间安全攻击与防御的智能化水平; 另一方面,人工智能模型应用越来越多地被发现存在漏洞和安全风险,并成为网络空间安全的新问题。人工智能安全则是这两个学科方向发展和交叉的必然结果。
在阿里云产学合作协同育人项目的支持下,本书结合大数据驱动的人工智能发展背景,对人工智能安全的理论与实践技术进行了全面梳理。从人工智能的安全观、人工智能安全的数据处理、人工智能用于网络安全的攻击与防御、人工智能模型的对抗攻击与防御以及人工智能平台的安全与工具五个角度,建立人工智能安全的完整知识体系。
本书作为一本产学兼顾的教材,具有如下特色:
(1) 围绕大数据驱动的人工智能发展背景,充分考虑数据在人工智能中的重要性,提炼出人工智能安全的数据主线。把网络空间安全智能防御的数据处理、人工智能模型训练阶段的数据安全、推理阶段的数据安全以及数据角度的防御技术,作为知识体系的主干。
(2) 从安全观的角度来组织人工智能安全的知识体系。人工智能安全是人工智能和网络空间安全的交叉学科,网络空间安全的基本特征和规律对于人工智能安全仍然适用。这种知识体系安排充分考虑了两个学科方向的内在联系,有利于读者更深刻地理解人工智能安全。
(3) 既注重人工智能安全的相关理论,也强调人工智能安全实践技术。一方面,围绕人工智能安全模型和算法,介绍了相关数学和对抗攻击的基础理论; 另一方面,基于阿里云天池实验室构建了十个实践案例,极大方便了读者进行在线实验,并理解人工智能安全技术的实际运用。
本书共分五部分,第一部分对人工智能安全问题、基本属性、技术体系等进行了归纳梳理。第二部分着重介绍人工智能安全数据处理的三个重要方法,即非平衡数据分类、噪声数据处理和小样本学习方法。第三部分从人工智能技术用于解决网络空间安全的攻击与防御问题角度,以网络入侵检测、SQL注入检测、虚假新闻检测为例介绍人工智能方法的应用,从攻击图的角度介绍典型人工智能方法在攻击与防御中的应用。第四部分围绕机器学习模型的安全问题,对攻击者、对抗攻击的理论与方法、典型的对抗攻击方法、隐私安全、聚类模型的攻击以及对抗攻击的防御方法进行了梳理。第五部分介绍机器学习平台的安全和基于阿里云天池AI学习平台的若干案例与实验。这五部分所构成的人工智能安全知识体系如下图所示。
本书作者及其科研团队十多年来一直从事网络空间安全、人工智能和大数据技术相关科研和教学工作。在包括国家自然科学基金项目在内的各类科研项目支持下,对网络空间安全防御、互联网内容安全、机器学习模型算法及应用做了大量研究,积累了一定的经验。此外,作者从2011年开始先后为复旦大学信息安全专业的本科生、研究生开设了“信息内容安全”“大数据安全”等课程,经过多年的教学实践,累积了丰富的教学资源。
全书由曾剑平负责内容安排、编写和统稿,由人工智能安全理论和技术的研究人员参与编写。王从一、肖杨、柴颖、朱哲元、段江娇编写并验证了本书的案例。吴爽和陈彦羽参与了第6章的编写。曾睿对全书进行了校对。在本书编写过程中,得到了阿里云计算有限公司多名技术专家的大力支持,在产学合作教材编写项目申请、立项、跟踪、结题以及应用案例构建方面给予了很多帮助和指导。此外,在教材编写过程中,参考和引用了许多论文、技术报告,均已在参考文献中列出。在此,一并表示衷心的感谢。
由于时间仓促和作者的学识水平限制,并且人工智能安全技术仍在快速发展中,诸多问题逐渐暴露,书中难免存在不足和疏漏,恳请读者不吝批评指正,以利于再版时修订完善。
读者可关注微信公众号IntBigData(互联网大数据处理技术与应用),订阅与本书相关的文章,并与作者互动。
作者2022年3月
|
|