美国白宫：为人工智能的未来做好准备

10月13日，奥巴马主持白宫前沿峰会，展望美国在未来50年的发展，发布了《为人工智能的未来做好准备》和《国家人工智能研究与发展策略规划》两份重要报告。前者审视了人工智能的现状，现有和潜在的应用以及它在社会和公共政策方面存在的问题；后者确定了国家资助人工智能研究和发展的策略。本文是前者的总论，阐述了人工智能引发的若干政策机遇，包括利用人工智能提升社会福利和改进政府执政水平，如何在坚持鼓励创新并兼顾公众利益的原则下制定人工智能监管措施；如何确保人工智能应用是公正、安全和可控的。报告认为，该技术将开辟新的市场和机会，但也将产生就业等负面影响。现阶段政府对人工智能最重要的不是监管，而是指导和扶持。

人工智能（AI）在未来将发挥越来越重要的作用。为使美国对此未来做好准备，作为一项贡献，我们调查了人工智能的当前状态、其现有的和潜在的应用，以及人工智能的进步对社会和公共政策所提出的问题。我们还为联邦机构和其他参与者的具体进一步行动提出建议。另一份名为《国家人工智能研究与发展策略计划》的配套文件阐述了由联邦资助的人工智能研究与开发的战略计划。

（一）人工智能在公益方面的应用

人工智能和机器学习的一个非常积极的应用是，它们具备改善人们生活的潜力，可以帮助解决一些世界上最大的挑战和低效率，改善人们的生活。许多人将人工智能的潜力与移动计算带来的变革性进步相提并论。公共部门和私营部门对人工智能基础研发和应用投资，已经在卫生医疗、交通、环境、刑事司法和经济包容等领域为公众带来重大好处。随着各机构具备了更快、更灵敏和更高效地使用人工智能的能力，政府本身的效率也在提高。

（二）人工智能和监管

人工智能已应用在许多产品中，例如汽车和飞机，这些产品受到监管，旨在保护公众免受伤害并确保经济竞争中的公平性。这些产品使用人工智能将会如何影响相关的监管方式？总体而言，为保护公共安全而对使用人工智能的产品进行监管，应通过以下方式使得人们知情：评估使用人工智能后可能减少的风险，连同可能增加的风险。如果风险属于现有监管制度范围之内，那么政策讨论应首先考虑现有法规是否已经充分解决风险，或者现有法规是否需要针对人工智能的使用而进行调整。此外，如果监管对策使得人工智能的使用面临增加合规成本的威胁，或减缓有利创新的开发及采用，则政策制定者应考虑如何调整政策应对这些反应，以降低成本和创新壁垒，同时避免对安全或市场公平性产生不利影响。

当前，在自动驾驶汽车（AV）和配备人工智能的无人机系统（UAS）方面，出现了使用人工智能的产品挑战相关监管的实例。从长远来看，AV可能通过减少司机人为失误和增加个人移动性来挽救许多生命，而UAS将产生许多经济效益。然而，随着这些技术已经过测试并开始成熟，公共安全必须受到保护。交通部（DOT）正在使用一种方法来改进相关法规，该方法是基于在该部门建立专门知识、创建安全空间和试验台进行实验、与行业和民间社会合作，以制定基于绩效的法规，使得随着安全操作的案例不断累积，能有更多的使用。

（三）研究和劳动力

在促进人工智能方面，政府还可以通过支持研发以及具备多样化技能的劳动力的增长来发挥重要作用。除了本报告，由联邦资助的人工智能研究和开发的一份单独战略计划也正在发布。该计划讨论了联邦研发的作用，确定了机会领域，并建议了协调研发的方式，以最大限度地提高效益和培养训练有素的劳动力。

此外，鉴于人工智能的战略重要性，联邦政府应监测全球范围内的AI发展情况，以便对其他重要变化进行早期预警，以防美国政策需要因这些重要变化做出改变。

人工智能的快速增长极大地增加了对有相关技能人才的需求，以支持和推进该领域发展。人工智能世界需要能够读取、使用、解释和传达数据的通晓数据的公民，并参与关于受人工智能影响的事务的政策辩论。人工智能知识和教育在联邦科学、技术、工程和数学（STEM）教育计划中日益受到重视。人工智能教育也是"全民计算机科学"的组成部分，"全民计算机科学"是总统的倡议，目的是使得所有的美国学生，从幼儿园到高中都能学习计算机科学，并赋予他们在一个技术驱动的世界所需的计算思维技能。

（四）人工智能的经济影响

人工智能在短期内的主要经济影响是将以前无法自动化的任务自动化。这可能会提高生产力和创造财富，但它也可能以不同的方式影响特定类型的工作，减少对某些可以自动化的技能的需求，同时增加对与人工智能相辅相成的其他技能的需求。白宫经济顾问委员会（CEA）的分析表明，自动化对低工资岗位的负面影响将是最大的，并且存在风险--人工智能驱动的自动化会增加受教育程度较低和受教育程度较高的工人之间的工资差距，从而可能增加经济不平等。公共政策可以解决这些风险，确保工人被再培训并能够在与自动化互补而不是竞争的职业中取得成功。公共政策还可以确保人工智能创造的经济效益得到广泛共享，并确保人工智能负责任地迎接全球经济的新时代。

（五）公平、安全和治理

随着人工智能技术的更广泛部署，技术专家、政策分析师和伦理学家对人工智能广泛采用的非预期后果表示担忧。使用人工智能对人作出相应的决定，经常取代人类驱动的官僚程序所作出的决定，导致人们对如何确保公正、公平和问责制的关注--以前在政府的2014年的《大数据：抓住机遇，保护价值》报告以及总统科学和技术顾问委员会于2014年发表的向总统提交的《大数据和隐私：技术观点》报告中表达了同样的担忧。对透明度的关注不仅集中于所涉及的数据和算法，还集中于对任何基于人工智能的决定有某种形式解释的可能性。然而人工智能专家告诫说，在试图理解和预测高级人工智能系统的行为方面，存在固有的挑战。

使用人工智能来控制物质世界的设备导致人们对安全性产生担忧，特别是当系统暴露于十分复杂的人类环境时。人工智能安全方面的一个主要挑战是建立系统，这些系统可以从实验室的"封闭世界"安全地过渡到外部"开放世界"，而在外部"开放世界"，可能发生不可预测的事情。恰当地适应不可预见的情况对于安全操作来说是困难的，然而却是必要的。建立其他类型的安全攸关的系统和基础设施（比如飞机、发电厂、桥梁和车辆）方面的经验可以给人工智能从业人员很多借鉴--关于确认和验证，如何为某种技术建立安全案例，如何管理风险，以及如何与利益攸关方沟通风险。

在技术层面，对公平和安全的挑战是相关的。在这两种情况下，从业人员都努力避免意外的行为，并产生所需的证据，使利益攸关方有理由相信那些不可能发生意外的失败。

人工智能从业人员和学生的伦理培训是解决方案的一个必要的部分。在理想情况下，每个学习人工智能、计算机科学或数据科学的学生都将接触到相关的伦理和安全主题的课程和讨论。然而，仅仅有伦理是不够的。伦理可以帮助从业人员了解他们对所有利益攸关方的责任，但是应当使用技术工具和方法来加强伦理培训，通过做好防止不可接受结果所需的技术工作，将善意付诸实践。

（六）全球考量和安全

人工智能在国际关系和安全的一系列领域提出了政策问题。随着国家、多边机构和其他利益攸关方已开始获得人工智能的好处并受到其挑战，人工智能一直是最近国际讨论中感兴趣的话题。这些实体之间的对话和合作可能会有助于促进人工智能的研发并驾驭好人工智能，同时应对共同的挑战。

今天的人工智能在网络安全方面具有重要的应用，预计还将在防御性和攻击性网络措施方面发挥越来越大的作用。目前，设计和操作安全的系统需要专家的大量时间和关注。使这项专家工作部分或全部自动化，可以在大大降低成本的同时，在更广泛的系统和应用程序之间增加安全性，并可以提高国家网络防御的敏捷性。使用人工智能可以帮助保持所需的快速响应，以侦测不断变化的威胁并对其作出反应。

人工智能在武器系统中的使用引发潜在的挑战性问题。美国几十年来在某些武器系统中建立了自主权，允许更精确地使用武器和更安全、更人道的军事行动。然而，脱离人类对武器系统的直接控制涉及一些风险，并可能引起法律和伦理问题。

将自动和半自动武器系统纳入美国防御计划的关键是确保美国政府实体始终按照国际人道主义法行事，采取适当步骤控制扩散，并与合作伙伴和盟国共同制定与这种武器系统的开发和使用相关的标准。美国积极参加了关于致命自动武器系统的国际讨论，并预期对这些潜在武器系统的持续而强有力的国际讨论。关于自动和半自动武器，美国政府各机构正在努力根据国际人道主义法制定一项单一的政府范围的政策。

（七）为未来做准备

如果业界、公民社会、政府和公众共同努力，支持人工智能技术的发展，同时密切关注其潜力，管理其风险，则人工智能将成为经济增长和社会进步的主要驱动力。

美国政府可以承担多个角色。它可以召集有关重要问题的对话，并帮助制定公开辩论的议程。它可以监控应用程序开发时的安全性和公平性，并调整监管框架以鼓励创新，同时保护公众。它可以提供公共政策工具，以确保人工智能提供的工作手段和方法的中断能提高生产率，同时避免对某些部门的劳动力造成不利的经济后果。它可以支持人工智能的基础研究和应用于公共利益。它可以支持熟练、多样化的劳动力的发展。并且，政府可以使用人工智能，以更快、更有效且更低的成本为大众服务。从教育和经济安全网，到国防、环境保护和刑事司法等许多公共政策领域，将会看到人工智能持续进步所带来的新机会和新挑战。美国政府必须继续建立其理解和适应这些变化的能力。

随着人工智能技术的继续发展，从业人员必须确保人工智能系统是可控的；它们是开放、透明和可理解的；它们可以与人一起有效地工作；它们的行动将与人类价值观和愿望保持一致。研究人员和从业人员已经增加了对这些挑战的关注，并且应当继续关注它们。

开发和研究机器智能可以帮助我们更好地理解和欣赏我们人类的智能。如果使用经过深思熟虑，人工智能可以增强我们的智力，帮助我们绘制一条更美好、更聪明的道路。