1、网络安全风险：

1）中国人工智能的产品与研发，是基于微软、IBM、亚马逊、脸书、百度、谷歌等大公司发布的构件与框架。如果这些构件……存在漏洞或者被一些恶意者利用，就会危及智能产品的安全和使用。人工智能，也可以成为黑客的帮手，5G部署将扩大攻击面。机器（系统或者硬件）存在漏洞，如果黑客，让人工智能挖掘漏洞、执行攻击。人工智能，就渐渐成为奸邪，人工的奸邪。

2）齐向东：网络安全是人与人的对抗、人与机器的对抗，以及人工智能的对抗。人工智能时代，再聪明的机器也替代不了人，因为人工智能是对已有经验的学习，而安全是逆向思维、不走寻常路。但是，网络安全领域也离不开人工智能，我们已经将人工智能应用到了反病毒、防火墙、行为数据分析等方方面面，及时告警、快速响应都需要采用“人+机器”的方法，未来的网络安全是“人+机器”的共同努力。

3）在主动安全防护、主动防御、策略配置方面，人工智能，发挥的作用越来越大，但仍旧处于探索阶段。比如：基于神经网络，在入侵检测、识别垃圾邮件、发现蠕虫病毒、侦测和清除僵尸网络设备、发现和阻断未知类型恶意软件执行等方面，进行了大量的探索;基于专家系统，在安全规划、提高安全运行中心效率、量化风险评估、威胁情报等方面，也做了很多探索，收到了良好的效果-----来源于网络。

2、数据安全风险：

1）相关数据预测，到2025年，全球数据圈将可能增至175ZB；但只有不到一半的数据可能是安全的-----来源于网络。

2）当全球数据环境变得更加复杂时……物联网、嵌入式系统、机器学习和实时数据分析……都可以被应用于自动驾驶汽车和无人机等。数据传输的步骤越多，恶意攻击者，潜入系统的机会，就越多-----来源于网络。

3）计算机与人工智能，被下一代的病毒，攻击：Wanna Decryptor（“蠕虫式”勒索病毒）、Globelmposter（勒索病毒）、永恒之石（勒索病毒）、Anatova（勒索软件系列）、Vengeance Justice Worm（Vjworm）（结合了蠕虫和远程访问木马的能力，低水平的黑客，也可以使用它，来攻击任意组织）、驱魔病毒家族（以流量暗刷与劫持，为主要攻击目的的老牌僵尸家族）、熊猫烧香（免杀病毒----通过对病毒进行再次保护，如：使用汇编加花指令或者给文档加壳，就可以轻易躲过杀毒软件而免于被查杀）、IBM的DeepLocker、人工智能病毒（对资产和数据的网络敲诈）。

3、算法安全风险

1）算法设计或实施有误，可产生与预期不符甚至伤害性结果；算法潜藏偏见和歧视，导致决策结果可能存在不公；算法黑箱导致人工智能决策不可解释，引发监督审查困境；含有噪声或偏差的训练数据可影响算法模型准确性；对抗样本攻击可诱使算法识别出现误判漏判，产生错误结果。

2）强化标准引领，构建安全评估体系；让人工智能变得安全，例如：利用半监督学习算法、强化学习算法----生成模型、低密度分离、基于图形的方法、联合训练、状态-行动-奖励-状态-行动……算法……在给定的环境下，如果人工智能做出正确行为，就给予奖励。人工智能系统，可以逐渐学会如何追逐奖励，通过更好地解释人工的评判，来学会达成目标。这样的算法，会调整人工智能自身的行为，并不断寻求人工的认同。

3）加密算法与量子计算机：RSA 算法与秀尔算法（舒尔算法）。

4、信息安全风险

1）目标：对信息的使用和处理，均需经过所有权人的授权，严格按所有权人的要求，真实顺畅合理地进行。

（1）经过所有权人授权，主要是指，身份识别问题。身份，是有所有权的信息，需经过授权，才能使用。（2）在使用中，信息是可读、可写还是可改？需要按照授权人的授权要求进行。（3）真实，指被使用的信息，要真实，不能经过篡改或者伪造;顺畅，是指，信息能够保证系统正常使用;合理性，主要是指，对信息能够管控，对有害信息能够有效地治理。

2）对信息采集、传输、存储和管理的要求。对个人信息安全的要求。

（1）信息采集，要严格按照规定、按照真实情况，进行。（2）信息传输，要保证它的真实性，不被篡改，保证传输的过程可靠，能够抗干扰。（3）信息存储和管理，强调的是，信息的真实性和保密性，不会被滥用。（4）保证个人信息的安全：云的管理者，必须是可信的；每个用户的信息，对他也是保密。每个用户的身份，能够被识别；每个用户被授予的权限，能够被有效地管理。（5）对信息处理的结果，进行签名，保证它的真实性；对信息使用的整个生命周期，可以进行追溯。

5、社会安全风险

1）人工智能技术对于经济安全的影响：主要依赖重复性劳动的劳动密集型产业和依赖信息不对称而存在的部分服务行业的工作岗位,将首先被人工智能所取代……实际的失业规模将越来越大，失业的持续时间也将越来越长。这种趋势的演进，对于社会稳定的影响，将是巨大的。

2）进一步加剧了贫富分化与不平等现象。

6、国家安全风险

1）不断发展成熟的人工智能技术，可以为技术领先国家带来经济竞争中的战略优势。

2）人工智能技术对于政治安全的影响：人工智能技术及其背后的大数据和算法，能够潜移默化地影响人类行为，直接对国内政治行为产生干扰。人工智能带来的社会经济结构调整，会使资本的权力，在政治体系中，呈现扩张态势；最终，在政治权力分配中，获得相应的反映。人工智能技术的介入，还将影响国际竞争的内容与形态。

3）在人工智能时代，数据和算法就是权力，这也意味着新的政治风险；这种技术，干涉国内政治的风险，对于所有国家都普遍存在。

4）资本权力依托技术和数据垄断的地位持续扩张，将成为新时代国家治理结构调整的重要特征。民族国家能否为资本权力的扩张设定合理的边界，则是关系到传统治理模式能否继续存在的重要问题，这种不确定性，将成为未来民族国家所面对的普遍性政治安全风险。

5）人工智能技术的进步，使得技术落后的国家，在国际战略博弈中，长期处于不利地位。人工智能技术的介入和参与，还会进一步拉大国家间的战略设计与战略执行能力的差距……发展中国家，将面临更加严酷的国际竞争环境。

6）人工智能技术对于军事安全的影响：人工智能技术，是军事安全领域的颠覆性力量-----致命的自主化武器，取代人工控制的武器系统，将成为军事力量的主要组成部分；自主机器人“定点清除”行动将越发普遍，且难以溯源；自主技术，将赋予恐怖分子，将简易爆炸装置，改造为，低成本精确打击武器的能力；军事力量，将不再与人口规模和经济力量，直接相关；人工智能，将取代人类，掌握战争过程的控制权；自主化系统偶然的意外交互，可能造成军事平衡的“闪电崩盘”；机器学习纳入军事系统，将创造新的系统漏洞和网络攻击手段……

零基础学习心理学与人工智能