智能网联汽车的法律伦理及侵权问题研究

2024-03-02 08:31树宏玲
法制博览 2024年4期
关键词:智能网伦理人工智能

树宏玲

广东圣马律师事务所,广东 深圳 518000

一、智能网联汽车的概述

(一)智能网联汽车的发展背景

人工智能引领了“第四次工业革命”。“2016国是论坛”提出了“人工智能要上升到与‘中国制造2025’一样的国家战略高度”的观点。2017 年7 月,国务院印发《新一代人工智能发展规划》,其后,工业和信息化部于同年12 月印发《促进新一代人工智能产业发展三年行动计划(2018—2020 年)》。人工智能在国家系统规划与布局的推动下,产业化与集成应用得到了高速发展,涉及17 个国家重点培育和发展的方向或领域,智能网联汽车是其中之一。

根据观研报告网发布的《中国智能网联汽车行业现状深度研究与发展前景分析报告(2023—2030 年)》的研究数据与分析,经济发展、城市交通拥堵、环保和能源政策、汽车电动化趋势、5G 技术的推广和应用、人工智能和大数据的广泛推广和应用等多方面因素推动加速了汽车工业的智能化进程。政府的一系列政策和规划引导,为智能网联汽车的发展提供了保障。

(二)智能网联汽车的概念与技术

智能网联汽车,是车联网与智能车的有机结合,是将人工智能应用于汽车驾驶场景模拟、延伸、扩展,实现车与人、路、后台等智能信息交换共享,最终可替代人来操作的新一代汽车[1]。智能网联汽车研究的重点包括人机共驾、无人驾驶和人车路云协同驾驶,对应自动驾驶等级为L1 至L5 级,如表1 所示:

表1 自动驾驶等级图解

作为人工智能的产业之一,智能网联汽车的核心也是“人机交互”[2],包括车辆与周边环境进行交互与适应、与其他车辆进行信息交换、与车内/车外人员进行交互等,根据自动化程度的不同,分为功能机(融合型)与智能机(替代型)两个层级。无论哪种层级的人机交互,其技术基础离不开计算机对包括感知计算、通信计算、场景识别、路径规划、车辆控制等在内的算法与模型设置,以及大量的数据训练。

二、智能网联汽车的法律伦理探讨

法律伦理,理论上是哲学范畴的关系概念,探究的是法律与伦理之间的关系,要求人们在从事各种民事活动时应当以法律为行为边界,以道德准则为内在价值约束。智能网联汽车作为人工智能应用的代表性成果,追求的是无限接近甚至超越人脑,但人类独特的伦理道德体系(目标、规范、主体)构建对于人工智能而言仍较为复杂。因此,法律伦理问题,是智能网联汽车发展需要面临的现实问题。

(一)人工智能算法规则与法律伦理的冲突适用

人工智能的核心是算法,算法则是利用计算机数学程式完成编码设置、数据运算与操作,以实现机器自动判断与决策的规则。人工智能算法与法律伦理在目的与价值观、规则与约束、决策与责任、人机关系等方面都存在着一定差异,二者之间力求平衡才能保证人工智能的健康合法发展,具体分析如下:

1.目的与价值观

人工智能算法的设计目的主要是推动技术的发展,提高自动化和智能化水平,以实现更高的生产力和效率。然而,法律伦理强调的是人类价值观的引导,如公平、正义、善良等。因此,对生活中的大量碎片化数据信息应以是否符合社会公认的道德标准为首要筛选标准,以获得相对最优质的数据信息,进而实现算法与法律伦理平衡的优质自动化处理决策。

2.规则与约束

人工智能算法在应用过程中应当受到诸多规则和约束,例如数据隐私保护、信息安全等。这些规则和约束旨在限制算法的不当使用,防止对人类权益的侵害。然而,人工智能算法的设计和实现也需要考虑其不同的应用场景和范围,与各类行业发展相适应,以符合不同应用场景和范围的差异化规则对算法进行不同的规制。因此,在人工智能高速发展的当下,各行各业首先需要完善自身的规则体系建设,例如不同行业设置尺度标准不同的数据保护机制,确保数据的合法使用和存储。同时,需要建立数据要素市场的规范制度,以保护公共数据、企业数据、个人数据的信息安全,保障数据的合法交易流通。

3.决策与责任

在人工智能算法的应用过程中,责任的分配是一个重要的伦理问题,算法的决策可能对责任的承担产生重大影响。例如,某些情况下,不考虑伦理而仅考虑效率的人工智能算法,其决策可能导致无辜人员受到伤害或损失。因此,算法设计应做到以下几方面:第一,算法应当以社会公认道德准则及法律为伦理性与公平性审视标准;第二,算法的决策过程应当做到清晰透明可解释,以便人们理解算法的运作原理,并对决策结果的正当性进行评估;第三,对算法的研发者设置较高的事前准入标准,应尽量从源头避免偏见和歧视的算法应用;第四,建立有效的反馈和修正机制,通过收集用户反馈和社会意见,对算法进行定期审查、持续改进和修正,使其更符合法律伦理的要求和社会的期望。

4.人机关系

人工智能技术与人类社会的关系是复杂而多变的。在人工智能算法设计时,应当充分考虑人机之间的关系,尊重人类的自主权和人格尊严。人机关系的设计应当坚持做到:第一,强化人类主导。在人工智能技术的发展过程中,我们需要探索人类与机器互动的模式,建立人机共生的社会结构,人类的主导地位是不容忽视的,应确保人类的决策和控制权,防止机器失控或失序。第二,明确人工智能的执行者定位,发展人工智能的目的不是完全替代人类的判断和创造力,而是为了执行特定的任务,不能排除人类的接管。因此,人工智能的算法设计时需要明确机器的功能,并将其限制在合理的范围内,较高级别人工智能的设计也需要法律伦理边界的约束。第三,优化交互体验,优化人机交互体验是正确处理人工智能人机关系的关键之一。我们需要结合人类社会和科技发展的背景,提出适合的交互界面和操作方式,确保人类操控权的随时切换,才能使机器更好地融入人类生活,提高交互效率和用户体验。

(二)智能网联汽车人工智能算法的法律伦理检视

人工智能算法规则设置的不足,以及智能网联汽车的高速发展,使智能网联汽车法律伦理及侵权问题逐渐凸显。目前,智能网联汽车涉及的法律伦理问题主要包括隐私保护、道路交通安全和人工智能伦理等方面。

1.数据及隐私保护方面

智能网联汽车的数据采集和处理引发了数据及个人隐私泄露的风险,智能汽车通过感知设备、通信技术和人工智能算法等手段,能够获取车辆位置、行驶数据、驾驶行为习惯等个人隐私信息。而智能网联汽车的运行离不开数据共享和数据交互,这些环节给个人隐私带来了潜在的威胁。此外,智能网联汽车的产业链条长,涉及多个行业和领域,如汽车、电子、通信、交通、车辆管理等,这也增加了风险管理的复杂性。在这些环节中,任何一个环节被植入“后门”,都可能影响到整车的数据信息安全,而且极难排查。因此,确保智能网联汽车在数据处理和共享过程中能够充分保护用户的隐私权成为一个重要的法律伦理问题。

2.道路交通安全方面

车辆技术安全、人为驾驶因素、道路智能化程度等多重问题,局限了人工智能算法的应用。智能网联汽车的技术安全问题涉及黑客攻击、数据篡改和系统故障等,这些问题可能导致智能网联汽车的控制权被他人非法获取,从而引发道路交通事故。而智能网联汽车与传统人为驾驶汽车的驾驶模式交织在一起,对人为驾驶和智能驾驶算法的设计提出了较高要求。此外,道路智能化程度的相对滞后,使得智能网联汽车无法充分获取道路信息,例如路况、交通信号、道路标志等,导致算法丧失或不能安全监控和评估,从而影响其安全性,不正确的评估、决策造成责任分担法律伦理风险的发生概率增大,因此亟须完善相关的法律责任和道路交通管理规定。

3.人工智能伦理方面

L3 级及以上级别智能网联汽车的智能系统替代型“人机交互”在驾驶中就起主要甚至全部的决策或决定作用,而这种决策或决定是通过计算机系统算法完成,不同的算法会导致遇到危险时产生不同的避险趋向。如前所述,替代人类不应当是人工智能的目的,保证驾驶人的接管是底线。因此,即便是L3 级及以上级别智能网联汽车,其算法设计的价值冲突的取舍原则、决策过程是否公正、决策结果是否符合道德价值等算法规范问题,都需要通过法律伦理规范的研究予以明确,即使真正的无人驾驶也不能排除后台的人员接管。

(三)智能网联汽车法律伦理问题的解决方案

中国倡导负责任的人工智能,将法律伦理规范作为促进人工智能发展的重要保障措施。因此,对应现存的智能网联汽车法律伦理问题,法律伦理框架及规范的构建可以从以下几方面着手:

1.数据及隐私保护方面

建议制定契合智能网联汽车运行实际的隐私保护标准和规定,以确保智能网联汽车收集、处理和共享个人信息的合法性和合规性。在制定这些法规时,应明确规定个人信息的范围和使用目的,并明确用户对个人信息的控制权和知情权。此外,还应加强对智能网联汽车制造商和相关服务提供商等各个产业配套链条的监管,确保他们遵守数据及隐私保护的法律法规,严禁未经用户授权擅自采集、使用个人信息,坚持信息与数据的最少够用原则。

2.道路交通安全方面

第一,建议建立智能网联汽车的安全认证和标准体系。这些认证和标准应覆盖车辆硬件和软件的安全性能要求,确保智能网联汽车在不同条件下的可靠性和稳定性;第二,还应加强对智能驾驶技术和人工智能算法的研究和监管,确保其安全性和合规性;第三,应建立智能网联汽车的安全漏洞披露和漏洞修复机制,及时发现和解决安全漏洞,保障道路交通的安全;第四,加快推进智能网联汽车和道路基础设施的智能化建设,实现车路协同,提高智能网联汽车的安全性和行驶效率。

3.人工智能法律伦理方面

建议制定智能网联汽车领域的人工智能法律伦理准则和原则。这些准则和原则应明确规定人工智能在智能网联汽车中的使用范围和限制,对于涉及生命安全和基本道德的决策(如紧急情况下紧急避险与他人人身安全的取舍),应确保人工智能能够按照伦理和道德准则进行决策,诸如交通事故应急应遵循无辜优先、多数优先、车内乘客优先、行人优先。此外,还应加强对人工智能算法的透明度和可解释性研究,确保人们可以理解和验证智能网联汽车的决策逻辑和依据。

4.伦理教育和责任认知方面

加强伦理教育和责任认知是解决智能网联汽车法律伦理问题的重要环节。智能网联汽车的发展离不开研发者、产业链供给配套者正确的价值追求,也离不开广大驾驶者和消费者的支持和配合。因此,有必要加强对人工智能研发者、产业链供给配套者进行正确的价值引导,树立他们关于人工智能的法律伦理边界意识。此外,还需要加强驾驶者和消费者的法律意识和伦理教育,使其深刻理解和遵守交通法规和道德准则,提高驾驶者和消费者的法律遵从意识,自觉维护交通安全和道路秩序。

三、人工智能算法影响下的智能网联汽车侵权问题

智能网联汽车的侵权问题与智能网联汽车法律伦理问题密切相关,前为果,后为因,侵权类型主要分为隐私侵权、道路交通安全侵权、人工智能伦理相关侵权。这也是本文将二者共同讨论的主要原因。由于现行法律法规相对滞后,本文暂不论述侵权问题的一般结构问题,仅对相关问题作比较及梳理分析。

(一)普通汽车与智能网联汽车的侵权责任比较

1.侵权责任主体存在差异

普通汽车与智能网联汽车属于不同技术水平的汽车形态,侵权责任主体存在差异。普通汽车的驾驶操作主要由人类驾驶员完成,人为因素是造成事故和侵权的主要原因,因此侵权责任主要由驾驶员承担。而智能网联汽车则借助先进的自动驾驶技术和传感器设备,由车辆智能系统主要或完全独立完成驾驶操作,因此当事故是由于车辆智能系统故障或技术缺陷、配套服务平台的服务缺陷等原因导致时,智能网联汽车制造商、智能系统的技术提供商、配套服务平台的运营商等也应当承担相应的侵权责任。

2.普通汽车与智能网联汽车的归责原则不同

普通汽车在发生道路交通事故时,通常适用事故责任归属原则(过错责任原则和过错推定原则)来确定责任,并进行相应的赔偿。而智能网联汽车由于“人机交互”使得车辆具备了自主驾驶能力,车辆与周边环境、其他车辆、车内/车外人员的交互等对驾驶起到了至关重要的作用,因此智能网联汽车发生事故时的归责,不仅需要考虑驾驶员的责任,还需要考虑车辆自身质量智能系统的运行情况,这就涉及产品质量责任,需要适用严格责任和过错责任相结合的双重归责原则来确定责任。

3.普通汽车与智能网联汽车的责任确认方式不同

普通汽车在事故责任的确认上,主要依靠人工勘查和司法程序,而智能网联汽车通过传感器、摄像头等设备可以实时获取到大量的行驶数据。这些数据可以用于对事故发生原因的追踪和责任的确认,从而更加准确地判断侵权责任。因此,在智能网联汽车中,技术手段的应用有望提供更加精确和客观的侵权责任判断依据。

(二)智能网联汽车侵权责任的制度梳理

1.国内

目前国内智能网联汽车侵权责任的法规主要包括《中华人民共和国道路交通安全法》(以下简称《道路交通安全法》)、《中华人民共和国民法典》(以下简称《民法典》)、《中华人民共和国消费者权益保护法》(以下简称《消费者权益保护法》)、《中华人民共和国产品质量法》(以下简称《产品质量法》)、《中华人民共和国网络安全法》(以下简称《网络安全法》)、《中华人民共和国数据安全法》(以下简称《数据安全法》)、《中华人民共和国个人信息保护法》(以下简称《个人信息保护法》)等。其中,《道路交通安全法》作为基础法律对机动车、机动车驾驶人、道路交通安全、交通事故处理等作了规定,但尚不能作为智能网联汽车行驶的法定依据,因为法定的驾驶主体目前仅为具备驾驶资格和能力的自然人。《民法典》侵权责任编则明确了侵权行为所需具备的要件和侵权责任的范围,为侵权行为和侵权责任的认定提供了法律依据。《消费者权益保护法》《产品质量法》则主要关注智能网联汽车使用者的权益保护。《网络安全法》《数据安全法》《个人信息保护法》为智能网联汽车个人信息保护提供了制度保障。

2.国际

目前国际上关于智能网联汽车侵权责任的法规主要包括《联合国道路交通公约》和一些国际标准。这些法规和标准主要规定了智能网联汽车的技术要求、安全标准以及行驶规则等方面的内容。通过制定这些法规和标准,国际社会在智能网联汽车侵权责任领域形成了一定的共识,为不同国家和地区的智能网联汽车侵权责任司法实践提供了参考依据。

3.存在的问题

第一,智能网联汽车的技术规范体系建设(数据安全、算法设计、隐私保护等)、产业链合规体系建设(风险管理、行业应用规范和知识产权保护等)、监管体系的构建远滞后于智能网联汽车技术的快速发展,制约了智能网联汽车及配套产业的健康、有序和可持续发展;第二,缺乏智能网联汽车的事故认定规范与标准,导致事故原因、事故责任判定处于“无法可依”状态,不能实现与传统汽车责任事故认定的区别化,严重影响相关判定的准确性;第三,对于智能网联汽车的侵权责任认定标准(责任主体、责任类型、过错标准、责任划分标准等)尚不清晰,缺乏明确的法律规定,司法解释等也尚未能弥补不足;第四,救援救济配套规定与措施的不足,不利于智能网联汽车侵权风险的前端防控、损害结果的及时有效控制、衍生矛盾的妥善化解。以上制造服务、事故发生、争议解决等各环节存在的问题给智能网联汽车侵权责任的追责形成了一定的障碍。

(三)智能网联汽车侵权责任的制度建议

1.建立智能网联汽车的专门行政监管制度

2022 年6 月,深圳市第七届人民代表大会常务委员会第十次会议审议通过了国内首部智能网联汽车管理地方性法规,即《深圳经济特区智能网联汽车管理条例》,该条例除总则与附则外,从道路测试和示范应用、准入和登记、使用管理、车路协同基础设施、网络安全和数据保护、交通违法和事故处理、法律责任七个方面,对包括侵权责任处理在内的相关法律问题进行了体系化的规定,为规范智能网联汽车行业各项体系建设及发展确立了总体方向,非常值得借鉴,并在全国推广。

2.完善事故认定规范、标准以及配套机制

制定智能网联汽车的事故认定规范与标准,配套具备相应专业能力的执法工作人员及工作机制。2016 年全球首例特斯拉自动驾驶侵权案司法鉴定结论与交警事故认定结论的差异,充分说明普通汽车的事故技术分析规范并不适用于智能网联汽车事故认定。

3.完善智能网联汽车的网络安全和数据保护制度

建议强化车载通信设备的实名注册制度,建立车联网身份认证,建立健全数据记录及证据采集相应规范(明确智能网联汽车的行驶记录的记录、管理、保存规范,防止数据篡改,保障车—路—云—设备等场景通信安全),设备及数据应当接入政府监管平台,既保证数据安全,也便于侵权责任纠纷中进行相应的鉴定和调查。

4.重新构建智能网联汽车侵权责任认定标准

第一,建议加快智能网联汽车人格拟制(有限人格)的法制进程,除了政策支持外,智能网联汽车“人工智能”的驾驶主体资格需要法律准确的定性,驾驶资格的取得需要法定的流程,应当参照自然人规定执照准入,避免责任主体的空白或错纠于驾驶人员;第二,建议将智能网联汽车的车辆制造商、智能系统技术提供商、配套服务商或机构、智能道路管理部门纳入侵权责任主体中,从源头加强智能网联汽车技术或服务,配套道路设施的安全性、稳定性的保障,减少智能网联汽车侵权行为发生的概率;第三,明确用户在使用智能网联汽车时的安全义务(例如:用户应当按照智能网联汽车使用手册的要求,使用和维护智能网联汽车,不得私自拆改、破坏智能网联汽车相关设备等),以利于用户责任的认定。

5.完善自动驾驶汽车的交通事故救援机制

一是建议建立交通管理、医疗、保险、消防等部门与智能网联汽车生产或服务企业的联动机制,在事故发生时快速判断事故原因,迅速决策启动救援配合方案;二是建议建立技术支撑体系,应研发应用先进的紧急救援技术,如利用大数据技术对事故进行远程诊断,利用人工智能技术对伤员进行初步急救,利用物联网技术对救援现场进行远程指挥等。

6.完善智能网联汽车的保险制度

一是建议扩大强制投保主体,包含车主、汽车生产商以及系统开发商或服务商,上海市2018年施行的《上海市智能网联汽车道路测试管理办法(试行)》中的车企强制投保制度非常值得借鉴;二是建议根据智能网联汽车的驾驶特点和固有风险,制定相应的投保制度、设置相应的保险险种及理赔规则,例如车损险、第三人责任保险以及车上人员责任保险中都需要考虑如“黑客侵袭”“智能驾驶系统的其他缺陷”“汽车设备装置缺陷”等责任条款的设置。

四、总结与展望

本文旨在探讨智能网联汽车的法律伦理及侵权问题,并进行相关解决路径的设想。通过梳理研究,我们对智能网联汽车在技术规范、人工智能法律伦理、行业建设、监管体系、侵权责任问题等方面存在的法律风险和道德困境进行了揭示。

研究结果表明,当前我国在智能网联汽车领域的法律规定和制度相对薄弱,导致智能网联汽车的法律伦理问题尚未得到妥善解决。第一,智能网联汽车所依赖的人工智能算法存在隐含的伦理价值问题,如算法歧视性、人工智能决策的可解释性、道德选择困境等;第二,数据安全及隐私保护方面,智能网联汽车所收集的大量数据及个人信息存在泄露的风险,但又缺乏相应精准匹配适用的保护法律规范;第三,道路交通的监管及智能化配套建设整体滞后;第四,现有侵权法律体系缺失智能网联汽车等人工智能领域侵权风险控制、法律规制、责任体系的设置。因此,鉴于以上问题,本文强调了建立健全相关法律法规以及强化监管措施的重要性。在完善智能网联汽车的相关法律法规方面,应加强对算法设计、数据安全、隐私保护、人工智能伦理的规范,明确各方责任和义务。同时,通过加大对智能网联汽车行业的伦理教育和责任认知,提高相关从业人员和用户的法律意识和道德水平,进一步减少侵权行为的发生。

未来,建议在智能网联汽车领域开展更深入的研究。一方面,可以进一步完善智能网联汽车的法律法规,建立相应的制度框架,以推动智能网联汽车的可持续发展;另一方面,还可以开展更多的实践研究,探索智能网联汽车与其他领域的交叉融合,如人工智能、大数据等,为智能网联汽车的发展提供更加全面和系统的支持。

综上所述,本研究通过对智能网联汽车的法律伦理及侵权问题进行全面分析,呼吁建立相关法律法规和加强监管措施,以应对智能网联汽车发展中的法律挑战。只有通过社会各方的共同努力,才能确保智能网联汽车的可持续发展并维护公众利益。

猜你喜欢
智能网伦理人工智能
《心之死》的趣味与伦理焦虑
5G赋能智能网联汽车
护生眼中的伦理修养
2019:人工智能
智能网联硬实力趋强
迎战智能网联大爆发
人工智能与就业
数读人工智能
下一幕,人工智能!
基于SJA1000的CAN总线智能网桥设计