人工智能应用实例的伦理风险与突围策略

孙舒雨

（江苏省南京市南京信息工程大学,江苏 南京 211800）

一、引论

面对人类与人工智能技术之间逐渐升温的融合和摩擦，将人工智能技术的伦理思考放在关注个人权利保护、群体权益保障和社会关系稳固上显得尤为重要。不仅要探究其AI技术产生伦理困境的成因，更要结合道德规范、社会评价、行业规则，国际精神以及法律体系来构筑完整的AI技术伦理问题的应对策略。

二、人工智能的伦理风险分析

（一）人脸识别技术的伦理风险

人工智能与大数据结合的时代背景下，个人信息被看作是机遇和利益。人脸,由于其生理性、标识性等特点,毋庸置疑地属于个人信息,且其为一种不同于传统类别的新型信息,即生物识别信息[1]。在趋利心理以及好奇心的驱动下，人脸识别及置换技术如雨后春笋般大量出现在公众视线中。

对于人脸识别技术失去控制而得到的滥用，首当其冲的反应表现为对个人权益的侵犯。对于人脸识别技术滥用而引发的个人风险，若不加以谨慎对待和严格规制，必然掀起对人工智能伦理问题的强烈冲击。

（二）医疗应用的伦理风险

现如今的智能医疗打造了更加全面的信息档案平台，结合了物联网技术，逐步缩小了患者与医生之间的信息鸿沟，并且借助人工智能的医疗嵌入系统、云计算技术、AI医疗产品等等技术手段使人们获得了更高科技的医疗服务。但目前人工医疗应用在主体及责任分配中尚处于模糊阶段，而导致的伦理风险值得进一步探讨。主导性诊断类医疗人工智能产品指的是在医疗服务中，承担主导性诊断诊疗作用，而大大弱化医疗人员的参与。而有关于主导性诊断类医疗人工智能产品的相关人员是否具有和医疗机构、医务人员同样的法律定位，其纠纷可能适用的责任究竟定位为“医疗损害责任”或是“产品责任”，甚至竞合的责任状态，则需要进一步深入探讨与研究。阿萨罗在对当前法律下人工智能机器的形势进行分析时提出，法律法规是应对人工智能伦理道德问题时的最佳选择，但是在法律所照不见的地方，人工智能的伦理问题依旧被忽视[1]。

（三）军事领域的伦理风险

目前，自主武器在经过算法推演的智能化改造以及与军用物理器械的结合下，逐渐暴露出伦理风险。如“机器人杀手禁令运动（Campaign to Stop Killer Robots）”组织公布的一段模拟视频显示：在AI控制下的杀人蜂机器人，在通过算法内嵌的推演下锁定一群学生，并对他们进行瞬间屠杀。欧盟议会提出赋予人工智能“电子人”的法律主体地位，由人工智能对其造成的损害直接承担责任[2]。而在国际人道主义的伦理辩论中，人们普遍承认在使用武力的决定之下，人类的代理性及其主观意图是至关重要的。

三、人工智能应用中伦理风险的突围策略

（一）在伦理侵害行为发生的前端采取打击行动。是指在信息的流动渠道中，应当设置科学的AI技术评价监督机制。要求增加市场准入的壁垒，严格要求媒介提供商及其产品的合法性、合理性。

（二）在伦理侵害行为发生的末端采取打击措施。是指在人工智能技术损害个人权益的情形之下，该利用立法、司法、执法部门的统筹规划来对伦理和法律问题进行解决。如果法律不允许人工智能对用户的隐私进行监视，则人工智能的运行不能随意读取用户的个人信息[3]。目前我国已经出台《个人信息安全规范》，以及于2020年3月1号实施的《网络信息内容生态治理规定》等法规。其中《网络信息内容生态治理规定》第七章规定了法律责任，在《网络信息内容生态治理规定》第34条至40条详细说明了当信息网络内容生产者、网络信息内容服务平台等给他人造成权益损害时，法律如何对网络违法行为进行责任分配等问题。我国这种法律观念使得学者更关心实在的法律，更加看重法律的体系性[4]。除此之外还可以考虑，在匿名用户通过AI技术侵犯了他人信息时，除了媒体平台应该暴露其用户的真实身份信息之外，法律应当详尽规定匿名用户身份信息的使用范围以及保护规范，以免对他人信息权益进行二次伤害。

结语

目前仍需集中国际社会组织、公权力部门以及相关智能应用参与者、智能技术设计人员、应用技术使用者的力量来突破人工智能发展至今对于个人风险、群体风险、国家风险的伦理困境。首先要求各界充分发挥效能影响，从源头控制人工智能应用技术的不利影响，同时配合行业内置和社会各界的监管以及监督；其次必须明确人工智能应用技术的责任分担机制；还要利用法律的公权职能，在人工智能算法程序内部嵌入道德标准以及法律决策；最后，国际各界在对伦理问题应用对策的同时，还要积极构筑人工智能应用技术在操作规范国际化、透明化、合法化；深化发展公平、公正、公开的人工智能技术联动机制。