拟议的欧盟人工智能责任规则:轻松还是负担?2短讯
针对人工智能技术的商业开发和应用监管,科技公司和政府监管者正在全球激烈博弈。欧盟的监管者就要求科技公司确保其人工智能产品在开发时就采用一些减轻潜在危害的方法。
监管者的责任义务能否通过设定规则顺利实现?奥斯陆和平研究所(PRIO)研究员Samar Abbas Nawaz用一篇文章分析了其间存在的现实挑战。《互联网法律评论》今日摘译该文核心观点,供读者参考。
“谁该为人工智能(AI)系统造成的伤害负责?”是人们在使用人工智能系统时的普遍担忧。欧盟委员会自从2021年提出要对人工智能系统进行监管后,目前正在设法解决这个关键的责任问题。
(资料图片仅供参考)
监管人工智能技术的安全使用并不是一件容易的事,但是确保人工智能系统的安全使用对立法者来说是至关重要责任。根据拟议的两项指令(directives),欧盟委员会旨在通过强加责任的规则来保护人工智能的受害者。因此,我们有必要分析这些规则在多大程度上解决了责任问题,并使受害方更容易就所造成的损害获得损害赔偿。
1.欧盟人工智能责任规则的背景
2020 年,欧盟委员会发布了一份关于人工智能的白皮书,承诺解决与使用人工智能系统相关的各种风险。随后在 2021 年提出了一项提案——《人工智能法案》(AIA,目前尚未通过)。
拟议的法案通过区分被禁止的和高风险的人工智能系统,提出“对个人的有害风险降至最低”的重要要求。“被禁止”的人工智能系统包括实时生物特征识别、社会评分或操纵性人工智能系统(第 5 条)。更严格的要求适用于高风险人工智能系统。“高风险”人工智能系统受欧盟统一法规(第6条)的合格评估要求的约束,有更严格的要求——这些系统只有在符合规定的风险管理系统、透明度、人工监督、适当的数据质量和有效的网络安全要求的情况下才能使用。
但是,一旦这些风险成为现实并且有人受到伤害,后果如何?如何追究相关责任?为了解决这些问题,欧盟委员会最近提出了两项指令:即《人工智能责任指令》(AILD)和修订后的《产品责任指令》(PLD)。当人工智能系统造成伤害时,AILD为证明某人的错误铺平了道路。用法律术语来说,它可以被视为一种“基于过错的责任”机制。修订后的 PLD 在损害是由 人工智能系统的缺陷而不是由于某人的过错造成的情况下很有用。因此,它建立了“无过错责任”规则。这一努力背后的想法是增强公众对人工智能技术的信任,并为参与开发这些系统的企业提供法律上的明确性。
2.《人工智能责任指令》 (AILD)
AILD 的内容主要包含了人工智能系统之于受害者的两个假设,以及信息披露。
在拟议的指令中可以找到两个假设:一种适用于不遵守注意义务,另一种适用于过错与输出之间的联系,称为“因果关系推定”。
简单来说,“因果关系推定”假设人工智能系统造成的损害是由于提供者或用户的过错造成。如果提供者或用户(无论案件中的被告是谁)——即使在国家法院下令披露后——仍未提供有关相关系统的信息,则该推定生效。“供应商”在 AILD 框架的背景下,被定义为制造商或任何以自己的商品名称将给定的人工智能系统投放市场的机构。“用户”可以是在其授权下使用人工智能系统的任何人。
然而,被告可以通过举证来推翻这一因果推定——人工智能系统可访问信息足以证明是系统的错误(如果有的话)。如果供应商违反了相关法律规定的注意义务,以及AIA有关数据质量、透明度、人力监督、网络安全的任何要求,或在发现故障时未退出给定系统,则供应商将承担责任;另一方面,如果用户违反使用说明或将系统暴露于不相关的输入数据,则用户将承担责任。
关于如何提供有害的人工智能系统信息,AILD 允许受害者通过国家法院寻求信息披露(第 3 条)。为确保人工智能系统的透明度,拟议中的AIA第13条也有关于信息披露的类似规定。这些要求之间的主要区别在于:AIA 要求是针对系统用户的,而 AILD 要求向任何受 人工智能系统伤害的受害者披露信息。因此,AILD 旨在使索赔人更容易根据所披露的信息证明过失,从而为所遭受的任何损害寻求赔偿。例如,如果民用环境中的人工智能无人机发生故障并伤害旁观者,那么旁观者可以根据自然人的过错要求赔偿。AILD将允许索赔人从其供应商或用户那里寻求有关无人机的信息,以确定故障。
3.修订后的《产品责任指令》 (PLD)
《产品责任指令》(PLD)于 1985 年通过,在应用于人工智能系统时存在一些缺陷,因此早就应该对 PLD 进行修订。此次修订版的一个重要方面是将软件纳入其应用范围。这被视为背离了传统立场,即只有产品的制造商或进口商可以承担责任,而不是软件开发人员。与 AILD 相比,修订后的 PLD 允许基于产品缺陷而不是基于过错来追究提供商的责任。因此,如果人工智能驱动的无人机因某些缺陷对任何人造成伤害,则索赔人可以根据修订后的 PLD 寻求补救。
PLD第 9 条承认两种推定:缺陷推定,缺陷与损害之间存在因果关系的推定。在以下三种情况下会触发“缺陷推定”:
供应商未披露系统信息;
索赔人证明了系统的明显故障;
索赔人表明供应商违反了安全规则
如果损坏与缺陷“典型一致”,因果关系的假设就会启动。如果系统的技术复杂性导致难以识别缺陷,则可以同时做出两种假设。然而,为了能够依赖这些推定,索赔人仍然必须证明存在缺陷的可能性以及产品造成损害的可能性。但是,供应商可以通过证明不存在这种过度的技术困难来反驳上述假设。
4.两部指令面临的现实挑战:受害人沉重的举证责任
对以上两个指令——特别是AILD——的批评之一是,尽管提供了相关信息,但仍然很难证明复杂的人工智能系统故障。特别是,一些人工智能系统的行为是自主的,它们的功能很复杂,任何输出的原因都不容易理解。这一挑战涉及“黑箱”算法问题,当人工智能系统导致难以理解的特定结果的信息输入时,就会出现这种问题。在这种情况下,即便能够提供足够的系统信息,这对受害者是否真的有好处?
尽管提议的 AILD 在引言中提到了自治对于理解系统是一个问题,但该指令几乎没有使受害者更容易建立因果关系的假设。根据 AILD,受害方仍将面临沉重的举证责任:从提供证据支持索赔的合理性,到确定不符合 AIA 要求,并证明人工智能系统的行为与所遭受的损害之间存在联系。
证明不符合AIA 中规定的要求也可能非常困难。例如,要证明用于开发人工智能系统的数据集或给定系统的准确度水平确实不足,可能并不容易。因此,提议的 AILD 充其量是为受害者提供非常有限的程序便利。需要做更多的工作来有效地促进人工智能造成损害进而可获得的补救机制。
处理此问题的一种方法是,修订后的 PLD 使用基于缺陷的补救措施,无需证明过错。但是,根据 PLD,只有在发生实质性损害的情况下才能寻求赔偿。这意味着,任何金融机构的信用评分系统都不能因为存在缺陷而受到挑战,因为这些系统可能不会以实质性的方式伤害个人。在这种情况下,受害的人必须通过 AILD 证明过错才能获得赔偿。欧洲消费者组织 (BEUC) 副主任 Ursula Pachl在谈论拟议指令时已经表达了这种担忧——欧盟委员会的做法对开发商更有利,其中一些人反对在准备这些提案期间对非实质损害承担严格责任。
除此障碍外,PLD 还要求索赔人证明由于系统缺陷而造成损害的可能性,以利用缺陷推定。这就提出了一个问题,关于索赔人必须满足的可能性的参数,特别是当给定系统太复杂而无法理解时。
5.结论
欧盟委员会提议的AILD,主要是为以人工智能系统的信息来确定责任提供了便利。在某种程度上,这对 人工智能系统的透明性要求提出了硬性要求,该要求也包含在提议的 AIA 中。然而,在这样做的同时,拟议的责任指令也给索赔人带来了一些需要克服的棘手障碍——是否必须确定缺陷和因果关系的过错或假设,以及损害与缺陷或过错之间的联系。
欧盟委员会的提案处于最初的立法阶段,可能会在最终通过之前进行各种修改。而且,拟议 AIA 的潜在修改也可能仍会改变拟议责任指令的实施,因为这些指令依赖于 AIA 中规定的定义和要求。
确立人工智能责任的立法努力是朝着有效监管人工智能的正确方向迈出的重要一步。然而,仍然有必要对人工智能系统所涉及的复杂性保持谨慎,特别是当目标是保护受害者时。
原文链接:https://europeanlawblog.eu/2022/11/07/the-proposed-eu-ai-liability-rules-ease-or-burden/
作者简介:Samar Abbas Nawaz 是奥斯陆和平研究所 (PRIO) 的博士研究员。Samar 目前从事欧盟的无人机监管研究。
免责声明:本文撰写所需的信息采集自合法公开的渠道,我们无法对信息的真实性、完整性和准确性提供任何形式的保证。本文仅为分享、交流信息之目的,不构成对任何企业、组织和个人的决策依据。
相关推荐:
最新新闻:
- 出厂即6GHz i9-13900KS上架了 价格很贵
- 天天要闻:4款N卡停产 以后新卡只能买30系和40系了
- 环球动态:NUC玩跨界!英特尔公版NUC X15游戏本预售5999元
- 冠脉支架集采提价超25%,医药行业预期改变了吗?| 见智研究-全球焦点
- 《孤岛惊魂6》开启免费体验12月6日推出异界DLC
- 沉寂十年之后,大宗商品对冲基金强势归来
- 全球新消息丨类银河恶魔城射击游戏《魔骑少女》现已正式上市
- 动态焦点:华硕ROG幻16 2023款曝光 或将搭载13代酷睿和RTX 40显卡
- 损失严重!苹果iPhone产量极具下滑:预计减少5%至10%:环球快看点
- 每日热门:威尔士0-3不敌英格兰!英格兰队世界杯总进球数破百
- 补贴十三年,肥了谁?废了谁?|焦点精选
- 今日播报!高性价比推荐!一线大牌15.6英寸轻薄本3499元秒
- 特斯拉开始从它降价!每千瓦时降约0.35元
- 199元!网易UU加速盒2发布:支持所有游戏主机、VR
- SE公布《浪漫沙加:吟游诗人之歌》8名主角介绍预告:每日速读
- 《街头霸王6》日本相扑E·本田场景音乐欣赏-短讯
- 焦点资讯:任天堂公布《超级马里奥兄弟大电影》第二部预告
- 开发商表示《火星孤征》比《飞向月球》长得多
- 12月PS+会免游戏阵容爆料:《质量效应传奇版》等_观速讯
- 《重生边缘》国际版增加主机版 PC公测12/9-1/15进行:动态
- 天天百事通!《战神:诸神黄昏》幕后系列第七集 展示游戏电影如何构建
- 《最终幻想7:核心危机 再融合》发行预告片公布 全球快资讯
- 时讯:生活模拟游戏《花园小径》将于2023年春季推出
- 精选!世界杯“大嫂团” 内马尔的巴西模特女友热情火辣
- 快讯:影驰全家桶:冬日装机,纯白平价优选,颜值实力兼具
- 每日观察!AMD锐龙7000 3D版未发布即被封神,明年必买
- RGB控制一键超频 耕升GW-SOUL软件详解
- 谷歌手机广告造假 连带广告公司被FCC起诉
- 保护用户不力!Meta欧洲被罚2.65亿欧元_当前要闻
- 《如龙维新极》冈田以藏介绍:沉默寡言的危险剑客
- 天天快资讯:法拉利首款SUV停止接单!已经供不应求了
- 《传送门RTX》12月8日发售 DLSS 3特性展示_天天快看
- 一边办世界杯,一边狂“卖气”!卡塔尔与德国达成一份15年天然气供应协议
- 当前视讯!韩国罢工潮愈演愈烈!与工会谈崩后,政府下达强制开工令
- 出险房企等来了红包_全球快看点
- 【独家】传闻:《使命召唤》以幽灵为主角的内容正在开发
- 快播:苹果AirPods Pro 2耳机-500 只要1399
- 天天通讯!小米12 Pro降到2599 小米12s Ultra也只要4999
- 上财校长称40万博士生月收入仅3000元 建议提高博士生的收入_微动态
- C919大型客机获颁生产许可证_天天速读
- 世界快看点丨第二春?《大镖客2》Steam在线人数超6.6万创下新高
- 天文学家痛斥:美国一卫星比天上99.8%的星星都亮
- 《木卫四协议》前期2个小时视频被泄露
- 世界焦点!《亚当斯一家》真人剧《星期三》豆瓣开分8.1
- 每日热文:《FF7核心RE》新预告:预购开启、12月13日正式推出
- 《瞬息全宇宙》获哥谭奖“最佳影片”
- 角逐元宇宙,索尼也来了!推出360美元可穿戴VR设备 焦点简讯
- 每日讯息!如何在卡牌游戏里体验“满清十大酷刑”?
- 微软收购动视暴雪获得沙特、巴西和塞尔维亚的批准|快报
- 布兰妮在社交媒体疯狂输出 粉丝:她的眼神让人毛骨悚然
- 掌控4610亿美元资产,卡塔尔太后有多牛?:全球观点
- 焦点要闻:买飞机、建机场、收并购,中国物流如何“抄作业”?
- 得罪女性还能挣钱,婚恋博主的另类生意
- 大学生打电竞比赛聊考研 网友:学习好 游戏也打得好
- 今日讯!世界航空界首次:劳斯莱斯成功测试氢动力喷气发动机
- 小米首款台式机来了!小米迷你主机与小米13同步发布
- 火山引擎智能外呼上线抖店,双十一助力商家提升营销转化:全球报资讯
- 天天观天下!小米13跑《原神》30分钟测试:跑满帧 43度不发烫
- 网友曝小米13真机渲染图 你感觉如何?:世界新动态
- 特斯拉Model 3新款将开售:降到20万以内
- 【世界速看料】小米无线鼠标减价 史低价30元
- 发生了什么?上证50暴涨4%,离岸人民币狂拉800点,恒生科技飙升逾7%,债市延续大跌_最新资讯
- 高盛:对冲基金正在大规模做空能源股 环球微动态
- 印度首枚私人太空火箭发射升空,只有6米长、半吨重
- 《怪物猎人崛起:曙光》分享设计草图原画 凶恶怨虎龙霸气外露:环球热门
- LOL心之钢即将迎来削弱:伤害加成从10%下调至5%
- 加密货币贷款公司BlockFi 申请破产保护-当前速看
- 全球今头条!支付宝上线生僻字键盘 可方便6000万人
- 传《真人快打》正统续作或将于TGA公布 30周年纪念作品
- 全球速讯:多人跑团调查冒险游戏《志怪者》测试即将开启
- 拼多多三季度净赚百亿:我们以消费者为中心 规则简单 盈利不是优先目标
- 十六年来首次!日本央行国债持仓罕见亏损63亿美元
- 拼多多支棱起来了?-环球新要闻
- 《三体》动画发布希恩斯海报 他是第三位面壁者:环球新消息
- 《英雄联盟电竞经理》斩获苹果2022年App Store大奖年度中国游戏-滚动