中欧体育人工智能服务提供者的过错责任初探

发布时间：2023-07-01 13:53:56 丨 浏览次数：

　　中欧体育中欧体育中欧体育在可见的未来，人工智能技术必将持续、深入发展，迈进大规模商用阶段。但人工智能的前景虽令人憧憬，也存在一定法律风险。本文立足于人工智能发展现状，对应用层面的人工智能服务提供者的过错责任承担问题进行探究，以供感兴趣的读者参考。

　　目前，人工智能在视觉、语音等场景应用迅速，已成为一项引领未来诸多领域创新发展的颠覆性技术之一，已全面渗透到人类社会的各行各业，多个国家和地区极其重视人工智能发展，并通过出台的相关文件推动人工技术研发和产业化落地。同时，美国的苹果、脸书等科技巨头公司都将人工智能技术的研究视为决定其未来发展的重要战略部署，我国的互联网头部企业在搜索、社交、制造、零售、交通等多个领域持续推进“人工智能+”，将发展人工智能作为未来业务发展的新引擎。

　　在可见的未来，人工智能技术必将持续、深入发展，迈进大规模商用阶段。但人工智能的前景虽令人憧憬，也存在一定法律风险。本文将立足于人工智能发展现状，对应用层面的人工智能服务提供者的过错责任承担问题进行探究。

　　目前，对于人工智能产品是否具有法律主体地位存在一定争议。部分学者认为可以依据法人的相关规定类推赋予人工智能产品拟制法律人格，由其享有权利，并在人工智能产品给他人造成损害时，由其承担相应的民事或刑事责任。我们可以想见，如果将人工智能产品视为独立的法律人格主体，则可能将明显减轻人工智能服务提供者及人工智能产品生产者的法律责任。

　　但是鉴于人工智能目前还正处于由弱向强的过渡转变阶段，弱人工智能还不具备成为拟制人的条件。并且人工智能产品的相关行为是人类意志的结果，人工智能本质上是科技领域的人类智力劳动成果，其存在是为了服务于人类繁衍、生存、发展的终极目的，不管人工智能发展到何种高级阶段，其作为人类工具的属性不会改变，因此其仍可属于物的范围，人工智能不具有法律主体地位的观点目前也仍为主流。因其不能独立地做出意思表示，没有民事行为能力和民事权利能力，不具有承担责任的能力，因其产生的相关法律责任仍需由其他主体承担。

　　在处理人工智能侵权纠纷的司法实践中，法院对于人工智能侵权责任主体的确定仍持保守审慎态度，其认为人工智能属于平台服务的部分内容，对应的网络服务提供者在一定条件下需要为其服务活动承担责任。在最高人民法院发布的人格权司法保护典型民事案例中[1]，法院认为某AI软件擅自将某公众人物的的姓名、肖像、人格特点等综合而成的整体形象投射到AI角色上，形成了该公众人物的虚拟形象，属于对整体人格形象的使用。同时某AI软件运营者通过算法应用，将该角色开放给众多用户，用户可以与该AI角色设定身份关系、设定任意相互称谓、通过制作素材“”角色，从而形成与该公众人物真实互动的体验，对于案件的上述功能设置还涉及自然人的人格自由和人格尊严。虽然具体图文由用户上传，但某AI软件运营者的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为，直接决定了软件核心功能的实现，因此不再只是中立的技术服务提供者，最终判决该AI软件运营者作为内容服务提供者承担侵权责任。

　　根据《生成式人工智能服务管理办法（征求意见稿）》（以下简称“《办法》”）第五条规定，“利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务”，人工智能服务提供者需要承担人工智能的内容生产者责任，人工智能服务提供者包括研发、利用生成式人工智能产品的技术研发商、应用开发商与提供API接口等接入服务的提供商等。该《办法》虽未正式生效，也存在一定的争议，但是总体上反应了针对人工智能的立法趋势与考量。

　　我国《信息网络传播权保护条例》将网络服务提供者大致分为四个类型，分别为提供网络接入、传输中介的网络服务提供者；提供信息自动缓存的网络服务提供者；提供网络存储服务的网络服务提供者；提供网络信息定位（即搜索链接服务）的网络服务提供者。与人工智能服务提供者较为近似的为提供网络接入、传输中介的网络服务提供者及提供网络信息定位的网络服务提供者。

　　首先，《办法》第五条要求提供API接口接入服务的人工智能服务提供者承担人工智能产品的内容生产者责任。我们理解，该责任义务重于网络接入、传输中介的网络服务提供者所需承担的法律责任。网络接入、传输中介的网络服务提供者需承担一般性的“注意义务”，一般不包括承担事前的审查义务，但在知悉侵权行为存在时应及时采取删除、屏蔽、断开链接等必要措施。

　　其次，信息定位服务与人工智能服务均根据用户输入的关键词需求，通过算法匹配相应结果，但信息定位服务还需用户点击搜索结果链接跳转第三方网站获取内容，而人工智能服务则直接生成并向用户提供内容。信息定位服务通常并不涉及直接参与第三方网站侵权内容的生产，亦无法控制第三方网站侵权内容的产生，但人工智能服务对于侵权内容的产生具有控制力，因此我们倾向于认为，人工智能服务不应归属于信息定位服务范畴。

　　因此我们理解，人工智能服务提供者与我国现有的网络服务提供者类型暂未全面契合，属于新型的网络服务提供者类型，其承担人工智能侵权责任标准和范围目前需要进一步明确界定。

　　人工智能可能导致的侵权风险复杂多样，主要包括数据合规风险、生成内容滥用风险、算法滥用风险、隐私保护风险等法律风险。目前我国对其直接进行规制的相关法律法规有待进一步完善，针对人工智能服务提供者的侵权责任可依据我国侵权责任归责原则确定。我国规定的侵权责任归责原则包括过错责任原则、无过错责任原则和公平责任原则，过错责任原则是侵权责任中最基本、最主要的归责原则。

　　虽然人工智能因算法复杂并且由人工智能服务提供者所掌握，受害者证明人工智能服务提供者对侵权行为的产生具有过错、侵权行为与损害结果具有因果关系等构成要件具有较大难度；但如将人工智能产品适用产品责任进行归责，追究人工智能服务提供者的无过错责任目前也较难实现。因此针对人工智能侵权行为，要求人工智能服务提供者承担侵权责任仍需判定其具有主观过错，考察人工智能服务提供者主观对侵权行为是否知情。

　　通常而言，网络服务提供者不具有一般性审查义务，因此对于侵权内容的出现不会直接被认定为存在过错；但在其明知或应当知道侵权内容后，则网络服务提供者负有及时采取必要措施的义务，否则认定其存在过错。“明知”要求网络服务提供者明确知晓侵权行为的存在，比如人工智能服务提供者提供人工智能服务的用途仅为生成特定的侵权内容，积极追求侵权结果的发生，否则一般较难以“明知”标准认定过错。“应知”则通过规定人工智能服务提供者一定的注意义务，在其具备相应注意能力的情况下，应当或者能够认识到侵权行为的发生。我们理解，《办法》等相关法律法规对于人工智能服务提供者的规制着眼于事前预防，侧重对算法的直接规制，从而判断人工智能服务提供者对于算法生成侵权内容是否具有过错，与传统的网络服务提供者“通知-删除”义务有较大的区别。

　　对于人工智能服务提供者的过错判断，可参照《办法》规定的人工智能服务提供者所需履行的部分义务，包括安全评估及算法备案义务、用户信息保护义务、数据来源合法义务及内容合规义务等，如人工智能服务提供者违反相应的义务，则可能具有相应的过错。

　　首先，《办法》第六条规定，“利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续”，因此人工智能服务提供者具有对人工智能产品进行安全评估与算法备案义务，在其对外提供服务的产品的显著位置标明备案编号，并提供公示信息链接，便于监管部门通过算法备案了解相关人工智能服务的算法属性，并根据安全评估实现对相关人工智能服务信息的了解。

　　其次，算法的实施会带来“算法黑箱”，算法决策的规则通常会被算法开发者所隐蔽，缺乏透明性。此前国家互联网信息办公室等联合发布的《互联网信息服务算法推荐管理规定》[2]针对算法推荐提出了公开透明原则。《办法》第十七条[3]亦规定了人工智能服务提供者具有提高算法透明度和可解释性的义务，以应对相关监管部门的“算法服务检查”，履行披露义务。

　　最后，与其他类型的网络服务提供者一致，人工智能服务提供者亦负有设置便捷的用户申诉和公众投诉、举报入口义务，公布处理流程和反馈时限，方便公众或潜在被侵权人向人工智能服务提供者反馈意见或投诉。

　　《办法》第九条要求人工智能服务提供者承担用户实名管理义务，第十条要求其承担用户防沉迷义务，第十八条则要求其承担知道用户理性使用人工智能服务的义务，避免诱导用户实施不法行为，第十九条要求其对用户不当行为进行管理的义务。

　　算法是人工智能的核心，但人工智能服务提供者在利用算法技术提供服务时，也暴露出算法歧视、算法滥用在内的诸多风险，具体表现包括人工智能生成的虚假信息未作显著标识而夸大传播、人工智能仿制虚假内容造成混淆、人工智能扎堆推送负面信息诱发社会恐慌等。因此《办法》针对算法内容规定了事前、事中、事后全链条的义务。

　　首先，《办法》第七条[4]规定，人工智能服务提供者对于算法生成、优化的训练数据来源具有确认合法性的义务，应确保训练数据符合法律法规规定、不包含侵害知识产权的内容、个人信息取得同意、数据真实中欧体育、准确、客观、多样等。因此人工智能服务提供者在数据来源收集过程中，应取得数据主体的知情且同意，并且依据最小必要原则，确保数据来源的合法性以及合理性。

　　其次，算法推荐机制是形成算法歧视的手段，一定程度上也是对算法歧视的强化，也极易对个体形成“信息茧房”，剥夺了对于信息的选择空间，因此《办法》要求人工智能服务提供者承担显著标识义务，对人工智能生成内容及算法推荐内容明确标注，以保障用户的知情权。

　　最后，人工智能服务提供者负有算法纠偏义务，应定期审核、评估、验证生成合成类算法机制机理，在接到用户投诉通知时及时删除侵权内容，并应通过模型优化训练等方式防止侵权内容的再次生成。我们理解，该条实际对人工智能服务提供者施加了更为严格的注意义务。

　　《办法》第四条对于人工智能产生内容作出了相应的规定，即不得包含颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一中欧体育，宣扬、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容，不得出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视，不得生成虚假信息等。

　　该条款实际赋予人工智能服务提供者采取手段措施履行事前审查义务，要求其采取技术或者人工方式对用户输入数据和合成结果进行审核，以控制人工智能服务的算法运行和生成结果。虽然人工智能数据极为庞大，运营成本较高，人工智能服务提供者认为人工智能服务是种实质性非侵权用途的中立技术，要求其事前全面审查不具有可行性，但是在涉及推翻国家政权、民族亲属等侵权内容生成上，人工智能服务提供者却可较好地避免该侵权内容的产生，因此对于人工智能所产生其他类型的侵权内容，人工智能服务提供者亦应达到相应的注意义务标准，防止该类侵权内容的产生。

　　但是人工智能服务主体是否有能力做到全流程的审查监管，从而避免用户利用其服务产生侵权的内容，尚存在一定疑问，需根据行业的通常技术水平与技术水平的发展程度而确定。如果人工智能服务提供者可实现全流程的审查和监管，该行为亦存在侵害用户隐私权利的法律风险。

　　随着人工智能服务的迅速发展，人工智能可能在不久的未来全方位融入人们的日常生活，其所带来的法律风险影响亦将日渐突显，政府部门的监管要求也将日益细化。因此为减少侵权风险，人工智能服务提供者应在创新发展人工智能技术的同时，采取相应技术手段减少侵权内容的产生，并积极履行对人工智能产品生成内容符合监管要求的事前审核义务，及时清除侵权内容，从而降低承担人工智能侵权责任的法律风险。

　　[2]《互联网信息服务算法推荐管理规定》第十六条规定，“算法推荐服务提供者应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等”。

　　[3]《生成式人工智能服务管理办法(征求意见稿)》第十七条规定，“提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等”。

　　[4]《生成式人工智能服务管理办法(征求意见稿)》第七条规定，“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：（一）符合《中华人民共和国网络安全法》等法律法规的要求；（二）不含有侵犯知识产权的内容；（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；（四）能够保证数据的真实性、准确性、客观性、多样性；（五）国家网信部门关于生成式人工智能服务的其他监管要求”。

　　《“自媒体”时代下信息传播的合法性边界及维权路径探析》 《反法视域下数据不正当竞争案件的典型裁判观点》 《解读网文行业网络服务提供者的注意义务标准》 《电商平台知识产权治理的“权”与“责”——“平台权利与维权”篇》 《电商平台知识产权治理的“权”与“责”——“平台义务”篇》

　　以上所刊登的文章仅代表作者本人观点，不代表北京市中伦律师事务所或其律师出具的任何形式之法律意见或建议。