论人工智能安全问题及其解决途径

董皓然

摘 要：近年来，人工智能的发展迅速，人工智能的应用领域也越来越广泛。于此同时，人们对人工智能安全问题的讨论也越来越激烈，不管人工智能最后的发展会不会超过人类智慧，其对人工智能安全问题的研究有着重要意义，是人工智能的科学发展的前提和保证。在解决人工智能安全途径上，可以从内部、外部同时进行，采取有效的科学措施，保证人工智能能够给人类带来福利。

中图分类号：TP18 文献标识码：A 文章编号：1003-9082（2018）11-0-01

一、探究人工智能安全问题的必要性

1.人工智能超越人类智能的可能性

目前，关于人工智能能否超越人类智慧一直是学术界讨论的话题，很多学者在此问题上存在很大的差异，但是这些讨论恰恰体现了人类对人工智能理解的多样性，这是人类对人工智能更加深入了解的发展过程。从发展的角度考虑，科学家对人工智能的发展和探究也只是时间的问题。从技术考度考虑，计算机的发展速度、云计算、云储存等技术的发展推进了人工智能的发展。人工智能能否超越人类智慧并不是目前可以预测的，但是目前而言，人类是无法阻止人工智能的发展脚步。

2.人工智能产生危害的可能性与后果的严重性

人工智能在短时间内是无法超越人类智慧的，但是如果不加以控制，人工智能也可能给人类带来相当严重的危害，著名科学家波斯特洛姆就曾提出，如果一种人工智能不加以控制，很可能会产生最大产量的智能系统，这种智能系统有无法满足的胃口，不断地获取物质和能力。此外，互联网等技术的发展，让网络黑客、木马病毒等成为对人工智能产品的潜在威胁元素，使人类对计算机等人工智能产品的依赖有可能变成灾难，比如黑客能够控制人类的计算机、机器人，能够远程操作这些智能系统，由此导致的后果将不堪设想。

二、解决人工智能安全问题的内部途径

解决人工智能的安全问题，就必须要先从内部途径着手。

第一，加强伦理设计。对人工智能相关产品的理论设计是解决其安全问题的基本途径之一。近年来，人工智能方面的伦理问题受到了西方发达国家的关注，对人工智能的伦理进行研究，就是让机器人与人类之间的互动，有道德判断的标准和行为准则判断的标准，让人工智能的行为符合人类基本的道德标准。对人工智能进行理论设计，让其成为只能做好事的“楷模”，在某种程度上可以避免人工智能不正确的使用造成对人类的危害。

第二，应用范围的限定。为了保证社会的和谐与发展，对于一些不成熟的技术或者容易引起社会安全问题讨论的技术都会进行对其应用范围的设定。例如克隆技术，英国在首次克隆羊成功之后，又成功克隆出牛、猪、狗等动物，但是是否对人类进行克隆技術一直处于争议的状态，对克隆技术的应用范围需要限定。人工智能技术同样如此，随着人工智能的不断发展，必须要对其应用范围进行限定。

第三，建立人工智能安全标准与规范。人工智能的安全问题，归根到底是对人工智能能否能为一种安全可靠的使用工具进行讨论，其最终的决定权利还是人类，为了实现对人工智能绝对的控制目标，首先就要对其进行自主程序的设定，要建立一套完善的安全标准和规范。

三、解决人工智能安全问题的外部途径

第一，加强科学家的社会责任。人工智能作为一种产品，其设计和研发的主体是人，解决其安全问题的关键也是人。因此，解决人工智能安全问题要加强研发者的社会责任，首先要明确人工智能的专家学者的设计目的，如何通过人工智能来为人类社会提供服务，不能仅仅追求个人利益而忽略社会责任。其次明确人工智能安全问题的后果，一旦出现安全问题，能够有专家承担相应的责任，而不是把责任归咎于人工智能本身的不确定性与复杂性。在一定程度上，解决其人工智能的安全问题其核心还是相关科学家的责任心。

第二，公众的接纳及其观念的调整。人工智能的安全问题，客观而言是指技术本身的安全问题，主观来说是指受众对人工智能的主观判断或者体验，随着人工智能所涉及到的领域越来越多，人们对人工智能的科技风险也越来越敏感，例如，人工智能取代了一部分人工劳动，这对于一部分人来说就变成了威胁。因此，解决人工智能的安全问题，还在于加强公众对其观念的调整和改变。

第三，加强人工智能安全评估与管理。随着人工智能的发展越来越快速，对其可能产生的危害进行评估就变得越来越重要。安全评估的意义在于对于那些潜在的、还未发生但可能发生的危险进行预防，并将这种可能量化，制定安全的指标，从而能够计算事故发生的概率，划分危险等级。在措施上，安全评估是预防事故发生的有效措施，是安全生产管理的一个重要组成部分，在人工智能系统中引人安全评估是必然之举。

结语

人工智能的发展给人类带来了新的发展，同时也可能产生一定的安全隐患，在人工智能时代，人们对其安全也越来越重视，人工智能的安全问题是一个涉及到哲学和科技的复杂问题，解决其安全也需要从多个角度综合考虑。本文对人工智能的安全问题的研究还处于较为初级的阶段，但这并不妨碍所讨论问题的重要性，只有真正重视人工智能的安全问题，才能给人工智能的发展只能正确的方向。

参考文献

[1]徐英瑾：《心智、语言和机器—维特根斯坦哲学和人工智能科学的对话》，人民出版社，2013.

[2]库兹韦尔：《奇点临近》，李庆诚、董振华、田源译，机械工业出版社，2014.

[3]松尾丰：《人工智能狂潮—机器人会超越人类吗？》，赵函宏、高华彬译，机械工业出版社，2016.

[4]波斯特洛姆：《超级智能》，张体伟、张玉青译，中信出版社，2015.

[5]贝克、威尔姆斯：《自由与资本主义》，路国林译，浙江人民出版社，2001，第121页。