欧盟的人工智能法案解读

添加时间:2023-05-10 点击次数:344

欧盟的人工智能法案解读

远望智库开源情报中心   亿竹  编译


欧盟正在考虑对人工智能(AI)进行意义深远的立法。拟议中的人工智能法案将根据风险对人工智能系统进行分类,并规定各种开发和使用要求。


欧盟正在考虑一个新的法律框架,旨在显著加强对人工智能开发和使用的监管。欧洲立法者仍在讨论细节,许多人强调既要促进人工智能创新,又要保护公众。拟议中的立法《人工智能(AI)法案》主要侧重于加强围绕数据质量、透明度、人工监督和问责制的规则。它还旨在解决从医疗卫生和教育到金融和能源等各个领域的道德问题和实施挑战。“人工智能已经存在了几十年,但在计算能力的推动下达到了新的能力,”欧盟内部市场专员蒂埃里·布雷顿在一份声明中说。《人工智能法案》旨在“加强欧洲作为从实验室到市场的人工智能全球卓越中心的地位,确保欧洲的人工智能尊重我们的价值观和规则,并利用人工智能的潜力进行工业应用。”《人工智能法案》的基石是一个分类系统,该系统确定人工智能技术可能对一个人的健康和安全或基本权利构成的风险水平。该框架包括四个风险等级:不可接受、高、有限和最低。风险有限和最低的人工智能系统——如垃圾邮件过滤器或视频游戏——被允许在除透明度义务外几乎没有要求的情况下使用。被认为会带来不可接受的风险AI的系统——如政府社会评分和公共场所的实时生物识别系统——几乎无一例外地被禁止。“在人工智能上,信任是必须的。”主管适合数字时代的欧洲的执行副总裁玛格丽特·维斯特格说。高风险的人工智能系统是允许的,但开发者和用户必须遵守规定,这些规定要求严格的测试、数据质量的适当记录以及详细说明人工监督的问责框架。人工智能认为高风险包括自动驾驶汽车、医疗设备和关键基础设施机械等。拟议的立法还概述了围绕所谓通用人工智能的法规,通用人工智能是可以用于不同目的的人工智能系统,具有不同程度的风险。这些技术包括,例如,大型语言模型生成人工智能系统,如ChatGPT。


欧盟人工智能法案:安全利用人工智能的全部潜力




世界经济论坛(WEF)人工智能负责人凯·弗斯-巴特菲尔德(Kay Firth-Butterfield)表示:“通过这一法案,欧盟正在率先尝试让人工智能系统适应我们人类想要的未来。”欧盟《人工智能法案》提出了严厉的违规处罚。对公司的罚款最高可达3000万英镑,相当于全球收入的6%。向监管机构提交虚假或误导性文件也可能导致罚款。“通过这些具有里程碑意义的规则,欧盟正在率先制定新的全球规范,以确保人工智能可以被信任,”欧洲适应数字时代执行副总裁玛格丽特·韦斯塔格尔在一份声明中补充说。“面向未来有利于创新,我们的规则将在严格需要的地方进行干预:当欧盟公民的安全和基本权利受到威胁时。”拟议的法律还旨在建立一个欧洲人工智能委员会,该委员会将监督该法规的实施,并确保整个欧盟的统一应用。该机构将负责就出现的问题发布意见和建议,并向国家当局提供指导。“该委员会应反映人工智能生态系统的各种利益,并由成员国的代表组成,”拟议的立法写道。《人工智能法案》最初由欧盟委员会于2021年4月提出。欧洲理事会于2022年底通过了关于该立法的所谓一般方法立场,该立法目前正在欧洲议会进行讨论。“人工智能对我们的未来至关重要,”捷克负责数字化的副总理伊万·巴尔托什(Ivan Barto)在理事会通过该决议后的声明中表示。“我们设法实现了微妙的平衡,这将推动整个欧洲的创新和人工智能技术的采用。”一旦欧洲议会通过了自己的立法立场,欧盟机构间的谈判,一个被称为“三步曲”的过程——将开始敲定和实施该法律。随着立法者协商症结和修改提案,三部曲在时间上可能会有很大不同。欧盟官员说,在处理像《人工智能法》这样复杂的立法时,三部曲往往是漫长的过程。