脑机接口技术的伦理问题及规约路径

吉姜蒲 叶民英

摘要：作为神经科学发展的产物、作为解放大脑的新兴技术——脑机接口技术受到了各界学者的广泛关注。随着人工智能等技术的发展，脑机接口技术在诸多领域取得突破性成就，但其可能引发的伦理问题却值得深思。脑机接口技术造成的伦理问题包括人机关系的伦理冲突、伦理信任困境和责任归属问题，科学有效破解其存在的道德困境，需要明确人机界限、做好隐私保护、建立伦理规约制度等，从而最大限度避免该技术异化或滥用。

关键词：脑机接口;道德风险;伦理规约;治理

中图分类号：B82    文献标志码：A    文章编号：1009-3605（2021）04-0083-06

近年来，脑机接口技术迅猛发展，应用领域逐渐扩大，其在康复治疗、智能机器人、人机交互以及“加强人”等领域展现了巨大的发展潜力。2020年8月，美国企业家埃隆·马斯克在线直播展示了大脑被植入脑机接口设备的小猪，其脑部活动信号可以被实时读取，这场全球瞩目的“三只小猪”直播再次激发了人们对脑机接口技术的热情和期待，同时也引发了对这项技术的深度思考。

一、问题的提出：脑机接口技术的风险挑战

脑机接口技术蓬勃发展的同时，其本身的不确定性也可能极大地加剧社会不平等，为别有用心之人提供新的利用和操纵人的方式，导致对人的异化和控制，从而形成许多新的风险难题。澳大利亚伦理学家弗雷德里克·吉尔伯特曾访问了6名参与首次预测性脑机接口临床试验的患者，以帮助了解与检测脑活动的电脑一起生活会对患者的心理造成何种影响。其中一位患者说：“它变成了你的一部分”。吉尔伯特描述她和脑机接口的关系是一种“共生关系”。然而，提供脑机接口设备的公司破产，临床实验也被迫终止。该患者悲惨地说：“我失去了自我”。其中的另一位患者变得喜欢赌博了。吉尔伯特认为，使用脑机接口设备后，有些患者实际上成为这家公司创造出来的新人，不是原来的人了，从而衍生出一系列社会问题。①脑机接口技术所带来的风险问题体现在以下几个方面：

首先，脑机接口技术带来的社会公平公正问题值得人们深思。随着脑机接口和认知增强技术的发展，数字鸿沟进一步增大，从而引起一系列的社会公平公正问题。脑机接口技术可以增强人的智力和记忆力，从而使其在学习、工作中有更突出的表现。但由于技术、经济和环境的差异，导致了只有部分的“上层人”才可以使用这项技术，不同的人群在信息获取、资源占有、财富积累间的差距越来越大，进而引发一系列的社会矛盾。脑机接口技术还可以增强人的逻辑思维能力、精神控制能力、注意力甚至是可以实现自控意识，使被告在法庭中进行自我辩解，从而逃避罪责。现有的法律、经济等手段不足以解决这些问题。因此，技术研发者应不断完善这项技术，借助脑机接口技术来弥补人们之间的数据鸿沟，及时分析处理其存在的问题，最终促进社会的公平公正。

其次，脑机接口技术触及个人隐私安全问题。技术迅猛发展给人们带来巨大便利的同时，也引发了许多隐私安全问题。前几年facebook的用户信息泄露事件中，就存在数据公司将所得信息非法运用于政治活动中，进而控制选民选票，而脑机接口技术则会加剧这些问题的发生。该技术可以对人进行“脑控”，其传递的神经信号中携带大量的数据信息，“脑控”过程中便会读取人脑中的数据信息，比如健康状况、婚姻状况、经济情况、心理特征等，从而可以预测人的思维方式。当人们使用脑机接口技术时，个人的思维想法可能随时暴露在外，成为“透明人”。如卡内基梅隆大学利用功能核磁共振成像收集数据，利用人工智能机器学习算法来精确定位，寻找大脑数据图像和复杂句子对应的图像，根据大脑数据图像预测表达的思想，准确度可达87%。[1]此外，通过脑机接口技术所获得的信息还可能成为商家牟利的手段。如何限制脑机接口技术对人脑信息的采集，保证其安全、可靠的进行传播、保存和使用，是当前需要解决的重要问题。

最后，脑机接口技术对人类社会产生深远影响。脑机接口技术如果取得重大突破，意味着未来人类所需要的只是通过接口直接将信息输入大脑之中，就像是将我们把资料直接下载到大脑中一样，只要我们需要可以随时翻阅它，学习周期将大幅度缩短，人的记忆力将得到大幅度的提升。与此同时，人们可以借助各种电信号进行沟通，完全摆脱语言、肢体、情感等限制。这种情况是否会导致人类语言文字的消失？毫无疑问，脑机接口技术的广泛应用，将使得学习知识的规模呈指数级增长，每个人都会变成非常博学的智者。人们不会再去进行一些艺术创作，可能会改变当前的社会秩序。

脑机接口技术想要在多领域实现大规模的应用，目前还面临着许多的问题和挑战。当今，没有相应的法律制度对其进行规制，缺乏严格有效的监管，同时也存在许多安全方面的隐患亟待解决。因此，脑机接口技术的伦理治理就显得格外重要。

二、脑机接口技术的概念界定与伦理审视

脑机接口是一种将有机生命与任何可以进行计算的设备进行直接连接的通讯与控制技术。[2]一个典型的脑机接口主要包含四个部分：信号采集、信号处理、控制设备和结果反馈。[3]根据脑电信号（electroen cephalogram，简称EEG）获取方式的不同，可分为非植入式的脑机接口和植入式的脑机接口。非植入式的脑机接口是直接从大脑外部采集脑电信号。植入式的脑机接口在大脑内部植入芯片直接获取脑电信号。[4]因此，非植入式脑机接口所接收的脑电信号少，质量差，只能够进行简单的操作，比如：拿水杯、打字等。而植入式脑机接口所得的脑电信号多、质量高，可以进行一系列高难度的复杂活动。2020年初，浙江大学完成了中国首例植入式脑机接口的临床转化研究。

脑机接口（Brain Computer Interface，簡称BCI）通过采集和分析大脑生物电信号，在大脑与计算机或其它电子设备之间建立起直接交流和控制的通道。[5]通过这种通道，人们可以通过意念操纵设备 ，代替人类身体的部分机能，从而不需要语言或动作也可以让身体有严重残疾的患者与外界进行交流或控制外界物质，提高患者们的生活质量。

脑机接口技术的广泛应用是很有必要的，其发展到一定的程度以后，不仅能帮助修复残疾人的受损功能，也可以增强正常人的功能，例如深部脑刺激技术可以用来治疗抑郁症和帕金森氏病，将来也可能用来改变正常人的一些脑功能和个性;又如海马体神经芯片可能用来增强正常人的记忆。[6-7]在马斯克的“三只小猪”的试验后，马斯克研究团队又在大脑控制研究上取得了重大的突破，通过一只名为“帕格”（Pager）猕猴，在其脑内植入Neuralink设备，利用脑机接口技术，让一只猴子能够在没有游戏操纵杆的情况下，仅用大脑意念方式来控制一台电脑，并玩转“MindPong”游戏。从三只小猪到这只帕格猴的实验，表明此项技术距离应用于人的身上更进一步。脑机接口技术在诸多领域迅速发展的同时，也引发了很多的社会风险问题，比如安全问题、隐私和知情同意问题、社会的公平公正问题、道德责任问题、人机界限模糊以及影响人类社会发展等多方面的问题。因此，脑机接口技术的伦理困境和伦理治理，是当前需要关注的重点问题。

三、脑机接口技术的伦理困境

（一）人机关系的伦理冲突：机器操纵意识

脑机接口技术是对人的大脑信息进行简单的单向传递，但实验表明，信号可以进行双向传递，智能装备会根据外界的条件对大脑进行信息的反馈，从而使人们改变自己的思维和决定。[8]例如，高级的智能轮椅在使用时就会采取逆向思维，来避免一些危险，当坐着轮椅的人要过马路时，机器识别到路口是红灯，这个时候过马路可能会产生危险，机器便把这种信号逆向传入大脑，从而阻止大脑做出的判断。这也便让我们想到，脑机接口技术是否会迫使大脑发生一些改变，反过来控制大脑？此外，在脑机接口技术使用的过程中，使用者需要进行大量的反复训练，在训练的过程中受试者要学会并去适应脑机接口设备。在这种反复训练的过程中，受试者会不会去改变自己的想法，以适应脑机接口系统。脑机接口在对人进行“脑控”的同时，如果出现故障，导致机器失灵，不能实现人的意念控制，那么人的自主性也将受到影响。如果，机器可以代替人的判断，那么是人控制机器还是机器去控制人？如此以来，人-机的界限就会逐渐模糊，人和机器融为一体，被操纵的人是否还是真正意义上的人？

在脑机接口情境下我们不得不考虑：主要由或者仅由一个设备引致的一个人的行动是否能够真正归因于这个人？一个自主的人能够根据自己的计划采取行动，外部装置造成人们失去自主性，会给人们带来很大的伤害并且会引发很多道德上的问题。尤其是脑机接口技术所带来的机器操纵问题需要我们认真考虑，正视这种机器操纵导致人的自主性丧失，更加全面、更加具体地分析这项技术所导致的后果。

（二）伦理信任困境：“读心术”造成的透明人问题

目前的很多研究涉及到“脑控”“读脑”和“控脑”等领域，这也就涉及到了很多的隐私安全问题。[9]“脑控”时需要收集大脑中的脑电信息，大脑的神经信号中含有大量的脑电信息，涉及到人的最核心的内容，容易造成各方面信息的泄露。“脑控”最早应用到医疗康复领域，多用于辅助运动技能丧失患者控制轮椅和一些智能设备。[10]比如2014年巴西世界杯开幕式上，一名瘫痪少年通过大脑控制外骨骼踢球。“读脑”时，脑机接口技术会对采集到的信息进行分析、加工和处理，从而可以预测到人的思维方式及行为习惯。2021年5月13日，《Nature》封面重磅发布了“意念打字”，可以将脑中想象的“笔迹”转为屏幕文本，准确率超99%。“控脑”目前主要在动物身上进行试验，主要是依据人的意图，通过一定的设备对动物进行控制。若这项技术运用到人体，一些不法分子可以通过控制人脑，得到被控者的银行卡账号及密码等信息，从而造成被试者对这项技术的极大的不信任。

（三）责任归属不清：如何界定责任主体

如果驾驶员驾驶了一辆配有脑机接口系统的自动驾驶汽车，由于疲劳，没有注意到前面的行人，这时候汽车的自动驾驶系统检测到了这个情况，紧急启动了刹车系统，避免了重大交通事故的发生。[11]但如果正在驾驶这辆汽车的人有了自杀的念头，想要把车开到悬崖又或者想要撞到其他的车辆，这个时候机器对读取的信息会如何反应？采取怎样的方式才可以让自由意志和人的安全性达到统一？脑机接口是否可以设置一些报警系统来阻止这些情况的发生？如果有这种设置，但仍未阻止灾难的发生，那么如何区分是机器的故障或是人的故意操作还是因为失误？对他人、对社会产生的危害该由谁来负责？如果阻止了这场灾难，人的意志此后是否会受到束缚？由于脑机接口技术具有特殊性，在使用的过程中可能会出现上述的一些情况，但没有负责任的主体，道德责任就会出现真空的状态。政府作为脑机接口技术发展的领导者和监督者，必须要消除脑机接口发展过程中可能产生的各种不良影响。研究人员在研发应用这项技术时，也应当着重考虑如何才能使人的自由意志和责任归属达成统一。

四、脑机接口技术的伦理治理路径

当今社会，任何技术的发展都是一把“双刃剑”，对于脑机接口技术，我们更应该以一种理性的、探索的眼光来看待。同时对其引发的伦理问题，必须予以重视，要遵从脑机接口技术的伦理规范和制度约束，持续有效地推进脑机接口技术的伦理治理。

（一）人-机界限：保持人的自主性

自主性通常指一个人自我决定的能力。在脑机接口的情境下，一个很严重的问题就是，因为这项技术的使用而失去自我控制。机器通过逆向思维对人进行控制，正是基于这个层面上，人才会被机器所控制。在正常情况下，使用脑机接口技术时，设备在读取信息后，应让这项技术去适应人的思维方式，根据人的思维和想法做出相应改变，而不是让机器去控制人，让受试者去改变自己的思维，迎合机器，从而模糊人-机间的界限。如果机器反过来控制人，在某種层面上，人也就成为了边沁提出的“圆形监狱效应”①中的人，让机器对人进行间接控制。我们要正视脑机接口技术可能带来的人-机界限模糊以及自主性丧失的问题，更加全面、更加系统地研究其可能产生的后果，在确保人独立自主判断的前提下，更好地制约研究者和使用者，从而对技术施以更好的改进。

（二）个人隐私安全：设置严密的信息保障制度

当今社会，人们在运用各项技术的同时，个人信息泄露问题日趋严重，侵犯隐私的事件频频发生。英国《卫报》揭露苹果公司通过Siri收集手机用户的各方面信息。与此同时，谷歌也被披露借助智能音箱和语音助手窃取广大用户的谈话信息。脑机接口技术不仅能够收集人们已经表达出来的信息，而且能够采集人的大脑深处的信息，因此，脑机接口技术所引发的个人隐私安全问题更加令人堪忧，其面临的更大的挑战就是对受试者隐私的全部侵犯。脑机接口技术使用过程中个人的全部信息被系统掌握，如果数据流入不法分子手中，可能导致受试者主体性丧失，自我控制也受到一定的威胁。因此，脑机接口技术所面临的隐私问题比安全问题更加严重，使人们完全透明化地生存，人们的所有信息随时可能遭到侵犯。因此，要设置严密的信息保障制度，在技术层面增加其安全性和可控性，规范这项技术的使用，同时增强人们的隐私安全和隐私保护意识。

（三）脑机接口技术使用界限：制定相关的伦理制度

根据界限来划分，脑机接口技术的用途可划分为治疗型和加强型。对于治疗型脑机接口技术，人们一般比较容易接受，因为其可以改善患者的生存状况。而对于加强型脑机接口技术，人们则褒贬不一。脑机接口技术要想广泛的应用，必须有一定的伦理制度作为支撑，要设置一定的伦理审查机制。同时，要形成相应的伦理准则和管理建议。要避免脑机接口技术的滥用，首先应该运用到医疗康复方面，优先治疗帕金森患者和抑郁症患者。“加强人”的脑机接口技术目前还尚未成熟，存在很多不确定的因素，也不是人们所必需的，贸然使用会产生很大的风险，应该明确治疗型和加强型的界限是什么，以及这项技术的使用怎样才能做到对所有人都公平公正，而不仅是有钱人的“游戏”。因此，从伦理道德层面出发，要在技术更加完善并且有更加完备的法律作为支撑时，再视情运用到“加强人”等其他的领域，尽量做到技术的受益最大化和伤害最小化。

结语

总而言之，脑机接口技术的广泛运用将会对社会及人们的生活产生巨大的影响。脑机接口技术向更多领域延展时，所面临的技术难题和伦理困境还有很多，其能否保持积极正向发展，以人为本，造福人类，这在一定程度上取决于人类在技术发展中的态度，以及如何尽早地制定相关的伦理规约路径。当前对于这些问题的研究、思考和使用还在发展之中，十分有必要对脑机接口技术的内容、范围、步骤、原则进行伦理审思，探索发展伦理规约路径，从而对其所面临的伦理问题进行全面、细致和明确的规范，从根本上解决其可能带来的负面影响。

参考文献：

[1]中国人工智能学会.AI与脑科学结合的“读心术”：AI通过脑部扫描猜到你在想什么[EB/OL].（2017-07-06）[2021-03-05]https：//www.sohu.com/a/154461505_297710.

[2] 巫嘉陵，高忠科.腦机接口技术在神经外科中的应用进展[J].中国现代神经疾病杂志，2021（1）：3-8.

[3]吴敏文.脑机接口军事应用的潜力与挑战[J].军事文摘，2021（1）：56-60.

[4]宁晓路，曹永福，张颖，等.脑机接口技术应用的伦理问题分析[J].医学与哲学，2018（9）：35-38+44.

[5]胡剑锋.脑机接口综述[J].江西蓝天学院学报，2006（2）：81-88.

[6]Robert H F， Suzanne W F.Clinical Epidemiology：The Essentials[M].Philadelphia：Lippincott Williams and Wilkins，2005：132-133.

[7]张带荣，傅鹰.药物治疗心肌梗死随机试验基线均衡实证研究[J].药物流行病学杂志，2006（3）：179-182.

[8]叶岸滔.脑机接口技术：伦理问题与研究挑战[J].昆明理工大学学报：社会科学版，2016（6）：8-14.

[9]MCGEE E M，MAGUIRE G Q. Implantable Brain Chips Time for Debate[J].Hastings Cen Rep，1999（1）：7-13.

[10]张学义，潘平平，庄桂山.脑机融合技术的哲学审思[J].科学技术哲学研究，2020（6）：76-82.

[11]李佩瑄，薛贵.脑机接口的伦理问题及对策[J].科技导报，2018（12）：38-45.

责任编辑：詹花秀