个性化推荐算法的法律规制研究

[摘 要]大数据时代，算法的广泛运用极大提升了用户的消费体验，也存在平台滥用算法导致“大数据杀熟”等隐忧。科技日新月异，一方面给社会的生产和生活带来了更大的发展空间，另一方面，科技自身已经进入到传统的治理规则所不能适用的领域。对个性化推荐算法侵权的法律规制，本质上就是要对现行的法律规制进行创新。当前，我国个性化推荐算法行为的法律依据缺失、算法问责机制的缺位及个性化推荐算法侵权责任认定难等问题使规制算法行为具有必要性，为此，应从健全个性化推荐算法的立法完善路径、完善算法问责机制、推进个性化推荐算法侵权责任体系建设等方面，探索算法法律规制的路径。

[关键词]算法；法律规制；人工智能；算法侵害

伴随互联网的普及，信息传播突破了时空的局限，以个性化推荐算法为代表的信息过滤技术应运而生。一方面，个性化推荐算法辅助人类对各种类型的信息进行处理，实现了人类所不能企及的信息分布效果。另一方面，个性化推荐算法是一把双刃剑，在便利用户搜索的同时，也产生了一系列弊端。首先，运营商收集更多的数据以满足用户个性化推荐信息的需要，这与用户对个人信息控制和隐私保护等方面日益迫切的需求相悖。其次，算法数据的采集和获取都是隐蔽的，用户知情权与个性化推荐算法透明度之间存在矛盾。最后，个性化推荐算法作为算法创造者的产物，其适用受到创造者本身价值观念和利益导向的制约[1]。在科技迅速发展的今天，人和技术的冲突越来越尖锐，虽然个性化推荐算法不断丰富人类生活，但是，信息主体和信息之间的冲突日益明显。法律具有相对稳定性但同样具有滞后性，人们在享受个性化推荐算法服务的同时，需保持警惕防范其对公民个人信息保护与社会稳定秩序的冲击。

2021年，《数据安全法》与《个人信息保护法》先后获得通过，表明我国对数据安全和个人信息的保护问题给予了高度重视，并对其进行了积极的立法调整。与此同时，在用户数据和用户信息自动处理的基础上，运用个性化推荐算法，对数据进行法律监管和对个人信息的保护，也必然会促进对个性化推荐算法的法律规制。

一、个性化推荐算法的概念和特征

算法为解决某一类问题提供明确规范，是一系列解决问题的清晰指令，代表着用系统的方法描述解决问题的策略机制[2]。经营者利用算法针对用户的不同特性进行个性化推荐，力求满足用户最大限度的需求，对用户的判断及最终的决策产生重大影响。一套完整的算法设计包括三个阶段：第一，通过硬件设备对数据进行深度挖掘，获得用户的相关信息；第二，算法将经过处理后的数据转换为评估值；第三，该算法为用户提供自动的或者个性化的建议。

同时，一个算法的有效生成必须具备五个特征且五个特征缺一不可[3]。第一，有穷性是指经过一定的步骤，算法可以在一定时间内完成。该算法不可能是无休止地循环，而算法需要在合理的时限内完成；第二，确定性意味着在一种算法中，每个步骤的表达都是明确的；第三，一个算法有零个或多个输入，用来描述运算对象的初始情况；第四，一个算法有一个或多个输出，用于反映一个算法的运行结果；第五，可行性是指在求解某一类问题时，可以高效地进行各个步骤，获得确定性的结果。

二、个性化推荐算法的侵害界定

在信息爆炸式增长的背景下，个性化推荐算法给人们的生活带来了极大的冲击。一方面个性化推荐算法能够为用户、经营者及社会带来更多益处，另一方面个性化推荐算法也产生了一系列的弊端，用户个人权益受到侵害和信息茧房等问题层出不穷。然而，对个性化推荐算法而言，如何对侵害进行合理界定是一个值得探讨的问题[4]。

（一）个性化推荐算法的正当性

对用户而言，互联网飞速发展带来的信息良莠不齐，用户难以在庞大的信息中快速找到自己想要的信息，而个性化推荐算法则是通过对这些信息进行过滤，向用户提供更符合他们兴趣的信息以降低信息超载。同时网络的发展使资讯分散的情形变得常见，用户在搜寻所需资讯时，往往要耗费许多时间。个性化推荐算法能够有效地融合分布于各个站点和应用程序中的各种信息，为用户提供综合性信息服务，极大改善用户体验。

对经营者而言，电子商城的发展使消费者可以下单购物，但是经营者需要花费运营成本来维持好评、提高销量以延长用户停留。个性化推荐算法的出现极大地解决了经营者当前的难题，通过对用户进行个性化推荐，平台的广告点击率和商品销售量等指标得到提升，为平台带来更多收入。个性化推荐算法针对电商平台等具有精准营销需求企业，能够满足不同类型用户的差异化推荐，提升精准营销的有效性并增强客户黏性。

对社会而言，个性化推荐算法为用户提供个性化的推荐，可以有效防止虚假点击和评论等作弊行为，对维护平台公正和营造积极健康的网络环境起到了重要作用。除此之外，个性化推荐算法也在安全、科技、个人征信调查等方面起到了减负的作用，有助于提升社会发展效率，促进科技进步。

（二）个性化推荐算法的不法性

对于用户个人信息保护而言，个性化推荐算法运行的基础离不开广大的用户群体，一个算法的有效实施需要广大用户的个人信息进行支撑。在网络上浏览留下的数据为个性化推荐算法提供了参考借鉴，把个人信息推送给企业。企业个人信息具有可识别性，如果电子平台将用户的个人信息与用户资料进行比对，用户的个人信息则会受到侵害，以至于对用户的人身产生实际危险[5]。

对于经营者从事相关产业而言，个性化推荐算法的广泛应用，导致算法规则被滥用，给算法应用产业带来极大的负面影响。平台比用户具有更多的信息和技术上的优势，用户因为受到时间、范围及能力等主观因素的制约，很难得到关于产品或服务的完整信息，仅凭来自平台或关联企业的有限信息难以做出决策。个性化推荐算法的应用，使经营者将大量的财物人力用于雇佣刷手刷单，忽略了自身产品品质的提升。

对于社会总体秩序而言，个性化推荐算法基于固定特征向用户提供匹配对象，但用户基于算法获取的个性化推荐对象与本身需求往往相悖。个性化推荐算法更多变成一种牟利工具，而忽略了用户内在需求。同时个性化推荐算法在审查方面并没有得到有效贯彻落实，数据的真实性有待考究，大量的虚假数据充斥在人们的生活中并大肆传播，对社会总体秩序造成沖击。

三、個性化推荐算法的存在的问题

（一）个性化推荐算法行为的法律依据缺失

现阶段而言，我国对于算法的设计和实施过程还不够健全，当前没有具体的规定，没有明确的准则和监管，仅仅笼统地叙述了与算法相关的一些法律问题，这种规范程度还不足以约束算法引起的许多法律问题[6]。对于个性化推荐算法的立法，与其有关的法律也零散分布在各类法律中，个性化推荐算法有关法律体系仍待进一步完善。现有的法律法规很难应对当前算法权力膨胀和算法不恰当使用而引发的一系列问题。由于法律法规缺乏系统性，个性化推荐算法的相关法律在实践中出现了法律适用疑难、裁判标准不同及实际操作与理论不符等问题。

（二）个性化推荐算法问责机制缺位

当前我国法律对平台算法问责机制进行了初步的构建，并对其进行了进一步的规范。但是现阶段我国法律尚未建立起完善的算法问责机制，现行法律规定也太过零散，是一种“治标不治本”式的管理方式，很难从根本上遏制算法权力的膨胀和滥用[7]。我国对算法问责的追究是基于单一的事后责任的传统监管，而对算法权力进行管理的管理部门非常复杂，缺少明确管理部门且监管手段滞后。此外，我国对算法权力的规制还缺少直接的制度规范，对于个性化推荐算法的更新换代没有足够的应对能力，往往体现为被动防御的状态[8]。目前我国相关法律法规要求电子平台进行个性化推荐的过程中为保障多样性、真实性需尽到明示义务，对搜索结果提供多样性的展示，但是在现实条件下，电子商务利用算法牟利，违反相应规定的现象比比皆是，我国相应责任部门对发现的违法行为采取约谈、整改及罚款等手段，并不足以有效应对个性化推荐算法的伪装。

（三）个性化推荐算法侵权责任认定难

传统的归责制度具有滞后性，对于算法责任的认定很难适用于以社会行为因果关系为基础的归责理论。在个性化推荐算法侵权问题上，目前的法律法规也很难对其进行合理的界定。即便是将算法造成他人损害的责任归咎于算法的设计者或运营商，也必须证明其具有主观上的过错。尽管归责理论中无过错归责原则存在，但这只是在一些特定情况下适用的。在个性化推荐算法侵权的情况下，由于当前尚且没有法律法规予以规定，因此适用过失责任的归责原则。个性化推荐算法虽具备一定的分析判断能力，但是与人类这个主体相比，其判断能力极为有限且过失原则需对有无过错进行判断，即存在是否行为人履行了合理的注意义务，对此个性化推荐算法对过失归责原则并不能完全适用。同时，对于个性化推荐算法侵权行为进行取证存在困难。算法侵权行为多发生在智能平台与数据终端上。一般来说，智能平台在处理数据的时候，很难对数据进行保留和取证。在用户的数据终端上，用户也很难对其进行取证。

四、个性化推荐算法的规制路径

（一）健全个性化推荐算法的立法完善路径

对个性化推荐算法进行法律规制，需要从立法层面予以提高。个性化推荐算法的相关规定分散于不同法律当中，缺乏体系性。我国法律当务之急是健全个性化推荐算法的法律体系。从立法领域来看，需对关键领域和关键环节进行专项立法。同时要建立一套系统化和标准化的法律制度，保证法律涵盖了算法的整个运用过程，实现过程全覆盖，丰富完善个性化推荐算法监督、审查、评价和问责的具体机制，并制定法律法规。从立法价值来看，个性化推荐算法应当贯彻基本的立法价值，主要包括安全与自由。所谓安全是指个性化推荐算法在实践过程中不侵犯国家、社会和个人的合法利益，维护国家安全，社会稳定。所谓自由是指对公民个人的自由和经营者利用个性化推荐算法获取利益的自由，不过须在法律规定的限度内。对于两者之外的其他价值，则需要在法律的约束下，根据具体的算法应用来进行选择。

（二）完善个性化推荐算法问责机制

对个性化推荐算法权力的监管需要通过完善算法问责机制进行约束。基于单一的事后责任对算法问责的传统监管逻辑已经行不通，人们需要通过多元化的路径完善算法问责机制。首先，我国要改变当前多部门共同监管的局面，尽早地设立一个国家统一的算法监管机构，以技术探究与商业伦理平衡发展为根本途径去引导并调控算法的可持续和创新性发展。其次，监管部门在加强对个性化推荐算法日常监管的同时，也要加大对其监管力度。针对隐蔽的算法违法犯罪，通过监管创新来应对技术发展，主动运用大数据技术进行捕捉。与此同时，加强监管队伍的专业素质和业务能力，有助于更好地对个性化推荐算法违法行为进行识别。最后，监管部门要加强对数据采集和利用流程的管理，并对经营者进行正面指导。

（三）推进个性化推荐算法侵权责任体系建设

对于个性化推荐算法侵权责任认定难的困境，我国需推进个性化推荐算法侵权责任体系建设。首先，探讨互联网平台在无合同约束的情况下个性化推荐算法的侵权责任。在互联网平台故意实施算法侵权行为的情况下，可以认定在主观上具有实施故意侵犯算法权力的故意。除非互联网平台能够对侵害行为与最后损害结果之间的关联做出合理的解释，并能够证明其自身也采取相关措施防范损害结果的发生。否则，一旦因其算法行为侵犯了网络用户的利益，互联网平台应当承担侵权责任。再者，探讨基于合同履行的算法权力违约责任。互联网平台与用户之间基于合法有效的合同进行交易，交易双方为了便利高效和节约成本，在履行过程中，互联网平台会通过引入算法机制来帮助或代替自己作出决定，这就使得互联网用户处于算法侵权的风险之中，对此互联网平台需要为自己的“之前的危害行为”承担相应附随责任。

结束语

个性化推荐算法作为新兴信息科技的核心，是传统媒介工具发展到一定程度上的一个必然产物。在个性化推荐算法中，必须切实地确保它的应用能够为用户带来更好的体验。为了保证企业合法、合理地使用其所收集的用户数据和信息，还必须对其进行不断追踪。为了减少甚至防止它所造成的负面影响，就必须对所产生的问题与困境做出迅速反应，因此，人们要理性认识算法及人工智能等新技术将会对人类发展产生积极推动作用。

参考文献

[1]丁晓东.论算法的法律规制[J].中国社会科学，2020（12）：138-159+203.

[2]陈景辉.算法的法律性质：言论、商业秘密还是正当程序？[J].比较法研究，2020（2）：120-132.

[3]孟丹彤.算法的法律规制[D].武汉：华中师范大学，2020.

[4]王东伟.智能推荐算法的法律规制[D].武汉：华中师范大学，2020.

[5]郑智航.人工智能算法的伦理危机与法律规制[J].法律科学（西北政法大学学报），2021，39（1）：14-26.

[6]南楠.个性化推荐算法的法律规制研究[D].北京：中央民族大学，2021.

[7]成斌.论算法权力的法律规制[D].湘潭：湘潭大学，2020.

[8]姜野.算法的规训与规训的算法：人工智能时代算法的法律规制[J].河北法学，2018，36（12）：142-153.

作者简介：辛明玥（2000— ），女，汉族，山东安丘人，渤海大学法学院，在读硕士。

研究方向：法律研究。