《人工智能罗马倡议》建议对AI监管，微软和IBM加入
添加时间：2020-03-03 点击次数：345
人工智能该如何使用，如何保证其安全、稳定和可靠？
面对新技术，梵蒂冈官员公布了促进人工智能伦理使用的原则，呼吁对人工智能的发展制定严格的道德标准。当地时间2月28日，微软、IBM两家科技公司签署了这份《人工智能伦理罗马倡议》（Rome Call for AI Ethics，下称“倡议”)。
倡议在开头的介绍中提到，“人工智能”（AI）正在给人类生活带来深刻变化，并将继续如此。人工智能在改善社会共存和个人福祉，增强人类能力，以及在实现或促进更有效地执行任务方面，具有巨大潜力。但是，这些并不是绝对的。人工智能还会影响执行这些任务的方式，以及我们感知现实和人性本身的方式，以至于它们还会影响我们的心理和人际习惯。因此，我们必须按照确保AI能在为整个“人类家庭”服务的标准下进行研究和生产，确保其会尊重每个成员和所有自然环境，并考虑到弱者的需求。
“AI是非常有前途的技术，它可以帮助我们让世界变得更加智能、更加健康、更加繁荣，”IBM副总裁John Kelly III在签署协议后表示，“但前提是它一开始就受到人类利益和价值观的影响。”
据John Kelly III表示，梵蒂冈提出的倡议源于一年多前教皇弗朗西斯( Pope Francis )对人工智能及其对社会影响的担忧。“他主要关心的是，这是不是人人都能得到的，还是会进一步分裂富人和无家可归者？”John Kelly III在接受采访时称，他还提到，梵蒂冈官员还担心 AI 会取代工作岗位。
梵蒂冈方面希望确保在未经个人同意的情况，公司不会将AI用作收集数据的手段，然后将这些数据用于商业或政治利益。最新的例子是，600多家执法机构和私人公司在使用面部识别公司Clearview AI开发的软件，该软件在人们不知情的情况下抓取面部数据。该公司的数据库能从各种在线站点提取30亿张图像。就在近日，Clearview AI遭遇重大数据泄露，完整客户名单在这次泄露中被盗，名单中的客户包括美国警方、执法机构和银行。
该倡议还提出，人类必须建立一种解释责任体制，基于AI的算法应向个人提供有关这些算法如何做出决策的信息，以确保没有偏见。
目前，微软和IBM成为首批签署倡议的科技公司。梵蒂冈方面希望在未来几个月内能够让AI伦理倡议的签署人数量继续增加。此外，他们还希望通过跟来自全球各地的大学展开合作，以此来推动更多的科学研究进入AI伦理指南领域。