人工智能在公共部门的机遇和风险

远望智库开源情报中心     亿竹  编译

2023年5月16日斯坦福大学以人为中心的人工智能研究所(HAI)副主任威廉·本杰明·斯科特和卢娜·M·斯科特法学教授向美国参议院国土安全和政府事务委员会提交“人工智能在公共部门的机遇和风险”的证词；该证词中表达的所有观点都是以个人身份提供的，不代表任何附属机构、机构或国家人工智能咨询委员会(NAIAC)的观点。

美国政府有一个难得的机会，可以抓住这一人工智能创新的时刻，实现联邦计划的现代化，提高机构效率，促进科学进步，保护公民权利和自由，造福所有美国人。这样做将会加强美国，但战略领导力、对联邦劳动力和数字基础设施的关键投资以及使采购适应人工智能是先决条件。

一. 公共部门人工智能的重要性

首先，政府应该以身作则，展示负责任的人工智能如何使联邦项目现代化。在我与行政法学者合著的一份提交给美国行政会议的报告中，我们展示了在142个最大的联邦机构中，近一半机构的早期人工智能创新如何改变退伍军人伤残赔偿等政府福利的管理，改善对公共健康风险和药物副作用的监控，并帮助保护工人、消费者和环境。

以社会保障管理局（SSA）为例，它每年向大约1800万美国人支付福利。SSA的行政法官每年可以审理50多万起残疾上诉。SSA凭借远见卓识，在20世纪90年代开始投资数据基础设施和工具，以实现案件裁决的现代化。在一个试点项目中，SSA使用人工智能按照相似性对案件进行重新排序，让裁决者更有效地学习复杂的法律。由此产生的“微专业化”提高了试点中裁决的速度和准确性。SSA的早期投资以一个人工智能工具达到高潮，该工具允许法官检查判决草案中的大约30个错误。这种创新可以加快和改善机构决策，以更好地服务于美国公民，一些人将开创这些早期投资的官员称为“社保局的史蒂夫·乔布斯”。

其次，政府机构当然也对监管至关重要，无论是FDA（联邦药品管理局）对人工智能医疗设备的批准还是交通部对自动驾驶汽车的方法。正确的监管方法——在创新和安全保障之间取得适当的平衡——需要政府机构的专业知识。政府机构如果不理解人工智能，就无法治理人工智能。

让技术人才进入联邦劳动力是美国政府内部采用人工智能、有效监管其风险以及成功实施国家安全委员会关于人工智能、NAIAC和其他关键人工智能政策建议的最大障碍。

二、面临的挑战

虽然已经取得了很多进展，包括推进美国《人工智能法案》，《人工智能培训收购劳动力法案》，以及该委员会的其他重要立法，但我们仍然有很长的路要走。

当我们在斯坦福的研究团队检查EO（行政指令）第13，960号，第13，859号和《政府人工智能法案》对联邦机构提出的人工智能相关法律要求的实施情况时，我们发现在领导力、战略规划和能力方面存在重大差距。例如:

（1）88%的机构未能提交人工智能计划，以确定监管机构和机制，促进负责任的人工智能，保护美国人的权利和安全；

（2）一项关键透明度措施——如机构通过公布清单披露其人工智能使用案例——的实施一直不一致；

（3）人事管理办公室尚未发布一份必需的报告来预测就业需求和创建人工智能招聘线。

这必须改变。联邦劳动力做着艰巨的工作，但面临着发展能够有效和负责任地设计、实施和监管人工智能的团队的根本挑战。斯坦福大学AI研究所(Stanford HAI)的最新人工智能指数报告强调，65%的人工智能博士进入了工业界，28%进入了学术界，不到2%进入了政府机构。或者，用一位企业家的话来说:“我们这一代最聪明的人正在思考如何让人们点击广告。”

加强公共部门技术人才的输送至关重要。确保机构拥有正确的数字基础设施、技术指令和职业道路来培养和发展技术人才也同样重要。正如人工智能国家安全委员会指出的那样，这不仅仅是薪酬：“这是一种看法，而且往往是现实，即政府中的数字人才很难从事有意义的工作。”我亲眼目睹了政府如何未能招募和留住技术专家。例如，一名斯坦福大学人工智能博士生对一个机构几十年的软件堆栈和先进（GPU）计算的缺乏感到非常沮丧，以至于他放弃了政府，回到工业界工作。

三、建议

美国政府在人工智能创新和负责任的人工智能方面的领导地位必须坚持四项建议。

第一，需要联邦政府的战略领导来协调和推动人工智能创新和值得信赖的采用。国会应该借鉴两党证据法案，该法案要求任命负责数据和评估的官员，并授权首席人工智能官确保机构内的高级领导层推动负责任的人工智能创新。白宫也必须组织起来，配备人员来迎接这一挑战。

第二，国会应该为政府中的技术人才建立新的途径和轨迹。我们需要更好的模式——建立在美国数字服务、公私合作和学术机构合作的基础上——来吸引人工智能人才加入公共服务并建立跨职能团队。留住人工智能人才需要给他们提供与其专业知识相关的有意义的职位。

第三，一个有效的采购系统应该利用美国的创新，刺激权利保护和隐私增强技术的发展。人工智能培训法案是朝着正确方向迈出的一大步，但我们不能只依赖采购官员。我们需要提高业务单位的技能，并实现更模块化的合同形式——国防部已经说明了这一点——这将使人工智能系统的开发、获取、评估和审计更加有效。

最后，我们必须投资数字基础设施。联邦任务组关于国家人工智能研究资源的提案将为人工智能研究人员、学生和小企业提供对高质量管理数据和计算资源的安全访问，以平衡工业、学术界和政府之间的竞争环境。人工智能需要高保真数据，我们观察到的人工智能的许多负面影响都源于在网络上的任何东西上训练大型模型，包括未经验证的有害信息。更高质量、更具代表性和更可靠的政府数据是解决方案的重要组成部分。当美国地质调查局在2008年向研究人员免费提供Landsat卫星图像时，它每年产生30至40亿美元的效益，促进了栖息地改造、气候变化和贫困方面的发现。这是让公共部门创新基础设施步入正轨的承诺。

美国政府应该迅速采取行动，促进负责任的人工智能采用。体现美国价值观并帮助机构更好地公平服务美国人的人工智能也可以建立公众的信任和信心。