学号 2018-2019-2 《密码与安全新技术专题》第三周作业

课程：《密码与安全新技术专题》

班级： 92班
姓名：张宇翔
学号：20189211
上课教师：谢四江
上课日期：2019年3月2日
必修/选修： 选修

SRE实战 互联网时代守护先锋，助力企业售后服务体系运筹帷幄！一键直达领取阿里云限量特价优惠。

1.本次讲座的学习总结

人工智能（Artificial Intelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门

新的技术科学。同时，人工智能所涉及的领域很多，机器学习只是其中的一个研究方向。

《密码与安全新技术专题》第三周作业 随笔 第1张

由上图可以看到，人工智能的领域十分广泛，包括

planning and scheduling 规划与调度
Expert System 专家系统
专家们的知识——即解决问题的方法与方式，可被保存和习得，它可被保存放在计算机设备中，并可被别人需要时使用。在人工智能中，专家系

统是模拟人类专家决策能力的计算机系统。专家系统旨在通过知识体系推理来解决复杂问题，主要表现为if-then规则而不是传统的程序代码。
multi-agent systems 多代理体系或自组织系统
是多个交互的组成的计算机系统的智能代理。多代理系统可以解决单个代理或单个系统难以或不可能解决的问题。智能可以包括方法，功能，程

序方法，算法搜索或强化学习。
Evolutionary Computation 进化计算
在计算机科学领域，进化计算（Evolutionary Computation）是人工智能（Artificial Intelligence），进一步说是智能计算（Computational

Intelligence）中涉及到组合优化问题的一个子域。其算法是受生物进化过程中“优胜劣汰”的自然选择机制和遗传信息的传递规律的影响，通

过程序迭代模拟这一过程，把要解决的问题看作环境，在一些可能的解组成的种群中，通过自然演化寻求最优解。
Fussy Logic and Rough Set 粗糙逻辑模糊集
Knowledge Learning
Knowledge Representation 知识表示
知识表示（knowledge representation）是指把知识客体中的知识因子与知识关联起来，便于人们识别和理解知识。知识表示是知识组织的前提

和基础，任何知识组织方法都是要建立在知识表示的基础上。知识表示有主观知识表示和客观知识表示两种。
Recommender Systems 推荐系统
Robotics and Perception 机器人与感知
还有许多其他的方向，在这里不详细介绍，接下来介绍机器学习。

机器学习的研究人员是试图从多个样本与标签配对来进行机器学习模型的求解（训练）。
密码分析与机器学习之间有天然的相似性，在密码分析中，攻击者试图通过推算出密钥来破解密码系统。解密函数是从一个由密钥索引的已知函

数空间（解空间）求解出。攻击者的目的是发现解密函数的精确解。如果攻击者能够获取多个获取密文与明文配对来进行密码分析，其与机器学

习的概念相似。

《密码与安全新技术专题》第三周作业 随笔 第2张

在机器学习中，x为输入样本，F（x）为机器学习的模型（可以理解为一个函数），y为输出。如果是分类，则y是分类标签，如果是回归，则y是

真实值向量。
在密码分析中，x为输入的明文，F（x）为密钥（可以理解为一个函数），y为加密后得到的密文。

2.学习中遇到的问题及解决

- 问题1：基于卷积神经网络的侧信道攻击？

https://eprint.iacr.org/2018/004.pdf
节选：

考虑到准确性，卷积神经网络确实优于机器学习。然而，经常没有令人信服的理由使用如此复杂的技术。事实上，如果比较没有额外步骤（如

预处理）的技术，我们会发现卷积神经网络只有在噪声水平很小、测量次数和特征值较高的情况下才具有明显的优势。其他测试设置表明，更简

单的机器学习技术，以显著更低的计算成本，执行类似甚至更好。对所研究的数据集，用猜测熵度量法进行的实验表明，简单的方法，如随机森

林或xgboost比卷积神经网络的性能更好。最后，我们进行了一个小实验，打开了这样一个问题：卷积神经网络是否是边信道分析环境中的最佳选

择，因为在保留测量拓扑方面似乎没有优势。

- 问题2：基于循环神经网络的明文破译

  • 问题2解决方案：原有的主题模型是基于词袋模型的假设，很大程度上忽略单词的前后顺序或其主题连贯性。本文提出一个基于神经网络的话题

生成模型，假定每个词的生成取决于句子中的历史单词，通过使用基于递归神经网络(RNN)的框架考虑句子中单词序列性，将句子的分布式表示作

为神经网络模型的基本输入，通过将topic model与神经网络结合，利用周围单词的上下文关系来建模。实验结果表明，本文提出的LDA-LSTM算法

对于文档语义性表达方面的提升具有重要作用。

3.本次讲座的学习感悟、思考等）

在信息化时代所带来的网络冲击，把社会组织结构中每一个单元个体的社会活动范围从物理空间扩展到网络空间，这个扩展速度有可能是以年为

单位，也有可能是以五年为一个迭代周期，所以我们需要与时代同行，与自我革命相伴在人工智能迅速占领市场的今天，改变了我们曾经对网络

安全已经确信的认知例如，具备深度自我学习功能的人工智能，在以天为单位的时间内就已经学习完成人类积累了数千年的棋谱在迎接 未来已来

的理性视角下，理所当然地要求我们重视网络安全，直面人工智能加速网络犯罪异化的现实问题，在更新网络安全在国家层面和公私领域价值取

向的同时，在刑事法律体系中也应该进行有所裨益的探索

4.最新研究现状

[《Demystifying Membership Inference Attacks in Machine Learning as a Service》]成员关系推断攻击旨在通过机器学习即服务API推断对

手拥有黑盒访问权限的模型的单个训练实例的成员关系。为了深入描述针对机器学习模型的成员隐私风险，本文从两个角度对成员推理攻击进行

了全面的研究。首先，给出了黑盒成员推理攻击模型的一个推广公式。其次，我们通过使用多个数据集对各种机器学习模型和模型组合进行系统

评估，说明模型选择对模型脆弱性的重要性。通过形式分析和大量实验的经验证据，我们描述了模型在什么条件下可能容易受到这种黑盒成员关

系推理攻击。我们发现成员推断漏洞是数据驱动的，其攻击模型在很大程度上是可转移的。尽管不同的模型类型显示出不同的成员资格推断漏洞

，但不同的数据集也存在漏洞。此外，我们的实证结果还表明：（1）在攻击模型中使用被攻击的目标模型类型可能不会提高攻击效率；（2）协

作学习在对手是参与者时暴露出成员关系推理风险的弱点。我们还讨论了对策和缓解策略。

[《SecureML: A System for Scalable Privacy-Preserving Machine Learning》]机器学习在实践中被广泛地用于为图像处理、语音和文本识别

等应用生成预测模型。当对从不同来源收集的大量数据进行培训时，这些模型更准确。然而，大量的数据收集引发了隐私问题。本文采用随机梯

度下降法，提出了一种新的高效的线性回归、逻辑回归和神经网络训练保密机器学习协议。我们的协议属于两个服务器模型，数据所有者将他们

的私有数据分配给两个非协作服务器，这些服务器使用安全的双方计算（2PC）对联合数据上的各种模型进行培训。我们开发了新的技术来支持共

享十进制数的安全算术运算，并提出了对非线性函数（如sigmoid和softmax）的MPC友好的替代方案，这些函数优于以前的工作。我们在C++中实

现了我们的系统。我们的实验验证了我们的协议比最先进的隐私保护线性和逻辑回归的实现快几个数量级，并且可以扩展到具有数千个特性的数

百万个数据样本。我们还实现了第一个训练神经网络的隐私保护系统。

[《IEEE Transactions on Geoscience and Remote Sensing ( Early Access ) Date of Publication: 27 March 2019》]成员关系推断攻击旨

在通过机器学习即服务API推断对手拥有黑盒访问权限的模型的单个训练实例的成员关系。为了深入描述针对机器学习模型的成员隐私风险，本文

从两个角度对成员推理攻击进行了全面的研究。首先，给出了黑盒成员推理攻击模型的一个推广公式。其次，我们通过使用多个数据集对各种机

器学习模型和模型组合进行系统评估，说明模型选择对模型脆弱性的重要性。通过形式分析和大量实验的经验证据，我们描述了模型在什么条件

下可能容易受到这种黑盒成员关系推理攻击。我们发现成员推断漏洞是数据驱动的，其攻击模型在很大程度上是可转移的。尽管不同的模型类型

显示出不同的成员资格推断漏洞，但不同的数据集也存在漏洞。此外，我们的实证结果还表明：（1）在攻击模型中使用被攻击的目标模型类型可

能不会提高攻击效率；（2）协作学习在对手是参与者时暴露出成员关系推理风险的弱点。我们还讨论了对策和缓解策略。

[《Using Support Vector Machines to Classify Student Attentiveness for the Development of Personalized Learning Systems》]有许

多研究试图将学生的注意力分类。其中许多方法依赖于定性分析，缺乏任何定量分析。因此，本研究的重点是弥合定性和定量方法之间的差距，

将学生注意力分类。因此，本研究应用机器学习演算法（k-means与svm），利用使用者rgb-d传感器的资料，自动将学生分类为注意力集中或注意

力不集中。研究结果可用于改善各级教师的教学策略，并可协助教师实施个性化学习系统，这是国家工程院面临的重大挑战。本研究将机器学习

算法应用于教育环境。教师可以利用这些算法的数据，就教学策略和教学方法的有效性提供有价值的反馈。教师可以利用这一反馈来改进他们的

教学策略，学生将受益于改进的学习和科目掌握。最终，这将导致学生在各自领域的工作能力提高。总的来说，这项工作有助于推进教育和教学

领域的许多努力。预计改进教学策略和实施个性化学习将有助于为未来的劳动力创造更具能力、能力和准备的人才。

[《The application of machine learning algorithm in underwriting process》]本文首先分析了我国寿险公司的实际承保方式，指出了这些

承保方式的优缺点。然后利用数据挖掘的关联规则算法对保险公司不完全数据库进行挖掘。第三，将支持向量机（SVM）应用于承销过程中，对申

请人进行分类。最后指出了该算法的改进方向。本文提出的算法在承销过程中具有广阔的应用前景。

[《A new heuristic of the decision tree induction》]决策树归纳法是从一组基于特征的实例中提取分类知识的有效方法之一。决策树生成

中最常用的启发式信息是最小熵。这种启发式信息有一个严重的缺点，即泛化能力差[3]。支持向量机（SVM）是一种基于统计学习理论的机器学

习分类技术。它具有良好的泛化性。考虑到支持向量机分类裕度与泛化能力的关系，支持向量机的大裕度可以作为决策树的启发式信息，以提高

其泛化能力。提出了一种基于大边际启发式的决策树归纳算法。实验结果表明，与以最小熵为启发式信息的二叉决策树相比，新的启发式方法提

高了系统的泛化能力。

人工智能时代的网络安全:

复合性"交融性网络犯罪衍生的过程是与网络技术发展同步的，该类犯罪以突破时空界限"跨越主权国家"跨越洲际边界实施犯罪行为著称网络犯罪

的衍生经历了前网络犯罪时代和后网络犯罪时代，在前网络犯罪时代，网络犯罪的样态经历了把网络作为犯罪对象"犯罪工具到犯罪空间，学界对

该类犯罪的犯罪特征"行为方式 及危害后果达成了一致的共识:呼唤着刑事立法"刑法理论与时俱进的回应在后网络时代的今天，网络犯罪对网络

安全的威胁经历了从系统安全"信息安全"应用安全"使用安全"内容安全到空间安全，公众对对网络安全的关注和要求也随着网络犯罪的多样化日

益提高从网络安全内容的演进可以发现，网络安全的作为一种全新的安全法益，不仅覆盖了国家安全"公共安全"经济安全可见，网络安全是一个

集多种法益为一体的复合法益，反映了网络安全在网络犯罪衍化进程中的法益的延伸和内容的升级#M 网络安全的法益延伸: 三维复合法益过去，

我们对网络安全的法益认识主要集中在数据保护和系统稳定之上在网络犯罪化的今天，全社会对 安全的要求随着科技的发展也水涨船高，在经历

了数据安全"系统安全之后，网络安全被赋予了时代的特征，不能单独的以它们的物理功能来认定即使从最初的关于网络安全的狭义概念 计算机

系统安全来看，计算机系统安全也是一个复合概念，它涉及公民的个人财产安全"隐私权保护和社会秩序的稳定从 互联网 !M "时代开始至今，网

络成为整个社会生活和工作的主要平台，普通在网用户成为了网络的参与主体，网络违法行为也迅速调整 挑衅方向，以普通在网用户为首要目标

例如，以人工智能网络犯罪为代表的网络攻击，都是通过入侵计算机信息系统来完成的，但此时的网络攻击有直奔个人的财产权的"有直指个人隐

私权"还有直接以破坏公共安全"威胁国家安全为目的，经中央网络安全和信息化领导小组批准，国家互联网信息办公室发布的 +国家网络空间安

全战略,也体现了这一观点: 网络安全事关人类共同利益，事关世界和平与发展，事关各国国家安全&&一旦数据泄露或遭到破坏可能严重危害国家

安全"公共利益的信息设施，包括但不限于提供公共通信"广播电视传输等服务的基础信息网络，能源"金融"交通"教育"科研"水利"工业制造"医疗

卫生"社会保障"公用事业等领域和国家机关的重要信息系统，重要互联网应用系统等!该战略反映了网络安全的演进，同时也折射出网络安全法益

的覆盖范围，国家安全"公共安全和公民个人的信息安全是网络安全的现实载体可见，在人工智能时代的网络安全所包含的法益不是单一法益，是

复合法益伴随着全社会对网络的高度依赖。

网络黑产案件

这是国内破获的首起利用人工智能诈骗的案件"若以涉案金额论，该案不大，但情节令人睁舌，因为该案出现一个犯罪新趋势: 犯罪分子通过人工

智能技术，在破解互联网公司的验证码安全体系后，获得大量公民各类交友网站的账号密码"好友信息等内容后，利用软件修改 84 地址定位到各

个城市甚至是每个人身边，利用聊天机器人软件，在微信"各种网页上冒充 美女，以聊天交友之名，行犯罪之实不少人就在这些 虚拟美女的诱惑

中，上当受骗科技是一把双刃剑，人工智能亦然被好人利用，用在为人类自身服务，为世界创造美好未来; 若不幸被歹人所用，用来坑蒙拐骗"实

施罪恶，破坏秩序"挑战道德与法律底线，那就值得我们警惕网络诈骗用上人工智能，无疑是向人工智能未来发展拉响的一次警报对于人工智能发

展出现偏离正常轨道的趋向，必须未雨绸缪，现在就予以重视

dbcode=CJFQ&dbname=CJFD2014&filename=LZGX201404007&uid=WEEvREcwSlJHSldRa1FhdXNXaEd1OFFrUEhDM1lyalM0WlhVOTYwSllRYz0=

$9A4hF_YAuvQ5obgVAqNKPCYcEjKensW4IQMovwHtwkF4VYPoHbKxJw!!

&v=MjA5Njg3RGgxVDNxVHJXTTFGckNVUkxPZlpPZHNGeTNsVWI3TEtUZk1kckc0SDlYTXE0OUZZNFI4ZVgxTHV4WVM=)

  • [《量子密码实验新进展--13km自由空间纠缠光子分发:朝向基于人造卫星的全球化量子通信》]

(http://www.wanfangdata.com.cn/details/detail.do?_type=perio&id=wl200510001)

扫码关注我们
微信号：SRE实战
拒绝背锅 运筹帷幄