编者按：2019年6月，美国白宫科技政策办公室（OSTP）人工智能特别委员会（Select Committee on Artificial Intelligence）发布了《2019年国家人工智能研发战略规划》（The National Artificial Intelligence Research and Development Strategic Plan: 2019 Update）报告。该报告是自2016年奥巴马政府首版发布后的第一次更新，旨在指导国家人工智能研发与投资，为改善和利用人工智能系统提供战略框架，主要目标为开发人机协作方法，解决人工智能的安全、伦理、法律和社会影响等相关问题，为人工智能培训创建公共数据集，并通过标准和基准评估人工智能技术。本报告分上、下两篇对规划文本进行摘编。
人工智能（AI）使得计算机与其他自动化系统能够完成过去需要人类去认知和决策的任务，AI技术在过去的几十年里有了长足的发展，时至今日有望提供更好、更精准的医疗服务，进一步增强国家安全，改善交通运输，更有效地发展教育。随着计算能力的提高，大型数据集和流数据的有效使用，以及机器学习（ML）技术的进步，使AI得以开创许多新兴产业与经济行业。
2016年，美国联邦政府发布了第一版《国家人工智能研发战略规划》，使人们认识到了AI的广阔前景和持续发展的需要。其发布是为了指导美国的AI研发与投资，为改善和利用AI提供战略框架，在未来几年为美国人民带来繁荣与安全，提高生活质量。在《国家人工智能研发战略规划》制定以来的3年里，新的科研、技术创新和现实部署发展迅速，因此，美国政府启动了《2019年国家人工智能研发战略规划》，以处理与这些进展——包括高速发展的国际AI环境——相关的问题。
一、人工智能作为行政优先事项
自2017年以来，美国政府通过在多个主要政策文件（包括《国家安全战略》《国防战略》和《2020年度财政研发预算优先事项备忘录》）中强调AI的作用，突显AI研发的重要性。
2018年5月，科技政策办公室主办了美国工业人工智能峰会，会上讨论了AI的未来，以及实现对美国人民的承诺，并使美国保持人工智能时代的世界领先地位所需的政策。峰会聚集了100多位政府高级官员，以及来自顶级学术机构的技术专家、工业研究实验室负责人和美国商界领袖。
2019年2月，特朗普在国情咨文演讲中强调了确保美国在发展未来产业的新兴技术（包括人工智能）方面发挥领导作用的重要性。
2019年2月，美国总统签署了13859号行政令《保持美国在人工智能领域的领导地位》，该命令启动了美国人工智能计划，旨在促进和保护美国的人工智能技术和创新。该计划通过与私营机构、学术界、公众和志同道合的国际伙伴合作，推行全面的政府战略。另外，该计划要求联邦机构优先考虑AI的研发投资，加强高质量网络架构建设和数据访问，确保国家在AI技术标准的制定方面处于世界领先地位，同时提供教育和培训，为人工智能新时代的美国劳动力资源储备打好基础，做好准备。
二、人工智能研发战略规划愿景
2016年《国家人工智能研发战略规划》建议，联邦机构应通过合作确定关键研发时机，使AI研发活动得到有效协调。基于政府对人工智能的优先考虑，美国国家科学技术委员会（NSTC）建立了全新的体系来实施这一建议，目的是实现①高级领导与战略愿景。②运营规划和战术实施。③科研和技术专长。该体系由三个独特的小组组成，小组成员均来自联邦研发机构，具体如下所述。
（1）人工智能特别委员会，主要由负责政府人工智能研发的部门和机构负责人组成，其职能为：就机构间人工智能研发优先事项向行政当局提出建议；考量与工业界和学术界搭建联邦伙伴关系；建立组织架构以改善政府规划并协调人工智能研发；通过利用联邦数据和计算资源支持国家AI研发生态系统的机遇；支持技术推动国家人工智能人才的增长。
（2）机器学习和人工智能小组委员会（MLAI），由机构人工智能领导和管理人员组成，是专责委员会的运作和实施部门，主要负责完成特别委员会的任务；创建并维护国家AI研发战略规划；解决重要政策问题，如人工智能研究、测试、标准、教育、实施、外联及相关领域或相关活动。
（3）人工智能研发跨部门工作组，在NSTC的美国网络与信息技术研发与发展项目（NITRD）小组委员会下运行，由来自联邦政府的研究项目经理和技术专家组成，向MLAI报告；帮助协调跨部门AI研发计划的工作，作为跨部门AI研发实践社区，并通过NITRD年度总统预算，报告政府范围内的AI研发支出。
三、人工智能研发战略规划目标
人工智能特别委员会、机器学习和人工智能小组委员会以及人工智能研发跨部门工作组，共同评估了关于《国家人工智能研发战略规划》的投入。2016年最初规划的7项重点战略中，每一项都得到了对公众和政府的多次访问调查确认，全部得以保留。这些战略在2019年战略规划中进行了更新，反映了当前的最新技术水平，包括：战略1：对AI研究进行长期投资。战略2：制定有效的人机协作方法。战略3：应对AI的伦理、法律和社会影响。战略4：确保AI系统的安全性。战略5：开发面向AI培训与测试的共享公共数据集和环境。战略6：建立标准和基准评估AI技术。战略7：更好地把握国家人工智能研发人才需求。鉴于私人投资AI研发的快速增长以及工业界对AI技术的快速应用，许多信息征询书的回应要求联邦政府加强与私营部门的研发合作。因此，2019年更新纳入了第8项战略：战略8：扩大公私合作，加速AI发展。
来自公众和联邦机构的反馈意见确定了一些有关AI进一步发展和应用的具体挑战。这些挑战增进了对《国家人工智能研发战略规划》如何指导美国AI研发的认识，许多与2019年的行政命令（《保持美国在人工智能领域的领导地位》）中提出的主题密切相关。主要内容如下：
（1）前沿研究。进一步推动机器学习的前沿研究，并开发出其他方法来应对人工智能所面临的严峻的技术挑战（战略1）。（2）积极影响。随着AI能力的增长，美国必须更加重视新方法的开发，以确保AI的影响对未来具有积极作用（战略1、战略3、战略4）。（3）可靠与可解释性。随着AI系统规模和复杂性的增长，真正可靠的人工智能需要可解释的人工智能。这需要用户和设计者对AI系统有全面的了解（战略1~战略4、战略6）。（4）安全保障。研究人员必须设计出保持AI系统及其使用数据安全的方法，以使国家能够利用这项技术提供的机会，同时保持机密性和安全性（战略4~战略6）。（5）技术标准。随着国家发展技术来扩展AI的能力和保障，必须对它们进行基准测试；当这些技术准备就绪时，应该成为世界的技术标准（战略6）。（6）劳动力水平。培养AI研发队伍。美国必须在培训和获得所需的熟练劳动力方面具有创造力和勇气，从而在AI研究和应用领域引领世界。（7）合作伙伴关系。AI研发的进步越来越需要联邦政府与学术界、企业界和其他非联邦实体之间建立有效的伙伴关系，在AI领域产生技术突破，并迅速将这些突破转化为能力（战略8）。（8）与盟国合作。该计划也认识到国际合作对于成功实现目标的重要性，同时可保护美国AI研发企业免受战略竞争对手的影响。
2016年10月，奥巴马在白宫前沿峰会上发布了《国家人工智能研究和发展战略计划》报告。2019年2月，特朗普签署了行政令《维护美国人工智能领导地位的行政命令》（Executive Order on Maintaining American Leadership in ArtificialIntelligence），就美国联邦政府层面人工智能（AI）的研究、推广和培训做出全面部署，以确保美国在AI研发及相关领域的全球领先优势。2019年6月，美国白宫科技政策办公室（OSTP）发布了《2019年国家人工智能研发战略规划》的最新版。本次更新包含了2016版原始文本中的7项战略，此外又增加了新的第8项战略，本报告就其主要内容进行摘编。
四、保持在基础人工智能研究上的长期投资
自2016年《国家人工智能研发战略计划》发布以来，人工智能在机器学习及其应用的能力上不断增强，并在各种不同的应用中形成巨大影响，如基因序列分类、无线频谱资源管理、解读医学图像以及对癌症分级等。这样迅猛的发展需要对技术和应用进行数十年的研究。为保持美国自身在AI其他领域取得进步，并努力实现AI的长期目标，联邦政府必须继续支持机器学习和人工智能的长期基础研究，以促进技术转型及应用。
在具有潜在的长期收益的领域中，我们需要对人工智能研究加大投资力度。虽然长期研究的一个重要组成部分是具有可预测结果的渐进式研究，但对高风险研究长期而持续的投资可以带来高回报，这些回报可以在未来五年、十年或更长时间内看到。战略1主要包括以下几个方面：推进以数据为中心的知识发现方法；增强AI系统的感知能力；理解AI的推理能力和边界；追究研究通用人工智能；开发可伸缩的AI系统；促进对类人AI的研究；开发更强大、更可靠的机器人；为AI的改进发展硬件；为改进硬件创建AI。
五、开发增强人类能力的人工智能系统
自2016年《国家人工智能研发战略计划》发布以来，人们对人机协作的研究兴趣日益浓厚。当人工智能系统补充和增强人类能力时，人类和人工智能将成为一系列共享甚至自主场景的合作伙伴。特别是在未来工作环境中，人类与人工智能的合作既是挑战也是机遇。
过去三年，联邦政府根据任务目标增加了人工智能投资，主要聚焦在人机认知、自主和代理，如在决策支持、风险建模、态势感知和可信的机器智能方面。通过这类研发投资，研究伙伴关系在许多方面得以发展，将计算科学家，行为、认知和心理科学家及其他领域的科学家和工程师聚集在一起。展望未来，联邦机构应继续促进AI研发和系统设计，以促进融合并适应用户情况和目标，以便人工智能系统和用户可以在预期和意外情况下协同工作。战略2的关键信息技术研究挑战主要包括以下几个方面：
为人工智能寻求新的算法；开发人工智能技术用于人类增强；开发可视化和人机界面技术；开发更有效的语言处理系统。六、应对人工智能的伦理、法律和社会影响
自2016年《国家人工智能研发战略计划》发布以来，针对人工智能系统开发和部署的伦理、法律和社会影响的研发活动有所增加。人们越来越认识到人工智能系统必须是“可信赖的”，并且人工智能可以改变社会和经济生活的许多领域，包括就业、医疗和制造业。经济合作与发展组织（OECD）和G7创新部长等国际组织都鼓励研发活动以增强对AI的信任。因此，需要深入开发AI架构，通过透明度和可解释性等技术机制，将伦理、法律和社会问题结合起来。联邦机构已针对这些关键领域推出了各种新的研究计划，迫切需要技术专家、利益相关者和其他领域的专家之间的密切合作。主要研究领域包括开发符合理论、法律和社会原则的人工智能设计方法。
2019年《维护美国人工智能领导地位的行政命令》强调，在促进创新和技术进步的同时，应培养公众对AI技术的信任与信心，保护公民的自由、隐私以及价值观，充分发挥AI技术的潜力。战略3的关键信息技术研究挑战主要包括以下几个方面：①通过设计提高公平、透明度和问责制：研究人员学习如何设计系统，以使其行为和决策是透明且易于人类理解的，其中的任何偏差都可以被检测到。此外，还要研究符合伦理的人工智能的体系结构设计。②建立道德人工智能：道德本质上是一个哲学问题，而AI技术依赖并受制于工程学。因此，在技术可行的范围内，研究人员必须努力开发与现有法律、社会规范和伦理相一致的算法和架构，这是一项极具挑战的任务。道德原则通常具有不同程度的模糊性，很难转化为精确的系统和算法设计。道德问题也因文化、宗教和信仰而异，然而可以开发可接受的道德参考框架来指导AI系统的推理和决策。③设计符合伦理道德的人工智能体系：随着AI系统变得更加通用，其架构可能会包含能在多个判断层级上处理道德问题的子系统。研究人员应关注如何最好地对AI系统进行总体设计，使之符合伦理、法律和社会目标。
七、建立安全可靠的人工智能系统
自2016年发布《国家人工智能研发战略计划》以来，人们对人工智能安全的科学性和社会性理解迅速增长。现在，人工智能系统如何实现通过对抗性的例子、数据中毒和模型反转来做错误的事情、学习错误的事情或揭示错误的事情则显得尤为重要。然而，针对这些AI安全和保障问题的技术解决方案仍悬而未决。
为解决这些问题，必须在AI系统生命周期的各个阶段都考虑AI系统的安全性，从初始设计和数据/模型构建，到验证、确认、部署、操作和监视。确实，“设计安全（或安全性）”的概念会带来一个错误的观念，即这些只是系统设计人员所关心的。相反，它们必须在整个系统生命周期中考虑，而不仅是在设计阶段，因此必须成为人工智能R＆D的重要组成部分。在广泛使用人工智能系统前，我们需保障该系统以可控的方式安全可靠地运行；我们需进行研究来解决并创建值得信赖的人工智能系统。与其他复杂系统一样，人工智能系统同样面临着安全挑战。战略4关键信息技术研究挑战主要包括以下几个方面：提高可解释性与透明度；建立信任；加强核查与验证；防范攻击等。
八、增加对数据集和相关挑战的访问
在2016年《国家人工智能研发战略计划》发布之时，公开可用的数据集和环境已在推进人工智能研发方面发挥了关键作用，尤其是在计算机视觉、自然语言处理和语音识别等领域。2019年《维护美国人工智能领导地位的行政命令》中明确指出：所有机构的负责人都应审查其联邦数据与模型，以确保更广泛的非联邦人工智能研究领域的访问和使用机会，同时还应保证安全、隐私和机密性。具体而言，各机构应改进数据和模型库存文档，以支持发现和可用性，并应根据人工智能研究领域的反馈，优先考虑改进相应的AI数据和模型的访问和质量。另外，还需针对各种AI应用程序开发高质量的数据集和环境，并使可靠地访问良好的数据集、测试和培训资源成为可能。我们还需额外的开源软件库和工具包来加速AI研发的进程，战略5的关键信息技术研究挑战主要包括以下几个方面：开发和访问各种数据集；以满足各种AI兴趣和应用程序的需求；根据商业和公共利益制定培训和测试资源、开发开源软件库和工具包。
九、支持人工智能技术标准和相关工具开发
2016年《国家人工智能研发战略计划》指出：AI领域的标准、基准、测试平台及人工智能的采用对于指导和促进人工智能技术的研发起到至关重要的作用。近三年，对于标准和基准的重视程度在美国及全球范围内不断提升，2019年《维护美国人工智能领导地位的行政命令》明确提出这些标准的重要性。
评估、促进并确保人工智能各方面的可信度都需要通过一定的基准和标准来衡量和评估AI技术性能。人工智能除了要安全、可靠、有弹性、可解释和透明，还必须能够在检测和避免不适当的偏见的同时保护隐私。随着人工智能技术的发展，开发新指标和测试需求来验证这些基本特征。战略6亟需进一步取得进展的领域包括：制定广泛的AI标准；建立AI技术基准；提高AI测试平台的可操作性；让AI领域参与标准和基准测试。
十、推进人工智能研发队伍的发展
自2016年《国家人工智能研发战略计划》发布以来，对AI研究人员和从业者的需求迅速增长。研究表明，在未来十年，就业机会有望增加到数百万。美国劳工统计局预测，2016—2026年，计算机和信息科学家与工程师的职位数量将增长19％，几乎是所有职业增长平均数的三倍。另外，各种报告呼吁继续支持各级计算机科学教材和教师的发展。2019年《维护美国人工智能领导地位的行政命令》要求：提供教育补助金被视为现有联邦奖学金和服务计划的优先事项；必须提高传统意义上在计算机及相关领域中代表性不足群体的参与度；AI研发人员由多学科团队组成，包括计算机和信息科学家及其他领域的专家，包括认知科学与心理学、经济学与博弈论、工程学与控制理论、伦理学、语言学、数学、哲学及可能应用AI的许多领域。因此，联邦机构必须继续培养跨学科和技能类别的人工智能研发人员的专业人才，以维持美国的领导地位。实现战略7概述的所需AI研发进程将需要：足够的AI研发人员；进一步的研究探索人工智能劳动市场的供需结构以预测未来的劳动需求；了解预计的AI研发的劳动力通道。
十一、公私合作伙伴关系对研发人工智能日益重要的地位
美国在科学和工程研究与创新方面的领导地位，植根于国家独特的政府-大学-产业研发生态系统。自2016年《国家人工智能研发战略计划》发布以来，通过与学术界、产业界、国际合作伙伴、盟国以及其他非联邦实体合作，促进对人工智能研发的持续投资，以促进人工智能和相关技术方面实现技术突破，并将这些突破迅速转化为有助于美国经济和国家安全的能力。自该战略计划发布以来，人们更加重视公私伙伴关系的益处，包含战略性地利用资源；包括设施、数据集和专业知识，以推动科学和工程创新；加速创新向实践的转变；加强对下一代研究人员、技术人员和领导者的教育和培训；加速将开放和已发表的研究成果转化为市场中可行的产品和服务，促进经济增长；通过将大学教师和学生与行业代表、行业环境和行业工作联系起来，提高研究和劳动力的能力。
战略8是2019年版本中新增的战略，其反映了公私合作伙伴关系对人工智能研发日益重要的地位。公私合作伙伴关系有许多结构和机制，包括以下几个方面：基于项目的个人协作；项目联合可以促进开放、竞争和基础研究；加强研究基础设施和合作部署；加强人力开发的合作，包括扩大参与范围。
联邦机构正在积极寻求公私伙伴关系以实现这些目标。因此，联邦机构必须继续寻求加强人工智能研发领域的公私合作，通过在政府、行业和学术界共同关心的领域中利用投资和专业知识来推动技术开发和经济增长。
