奥巴马：我看好人工智能，但它也有摧垮股市的可能

记者：最近怎么样，总统先生？

奥巴马：很忙，很有建设性。你知道，许多地方发生了国际危机。

记者：我希望对话能围绕人工智能。人工智能正在从科幻小说变成现实，改变我们的生活。你是何时知道，真正的人工智能时代已经降临？

奥巴马：我的观察是，人工智能正在以各种方式渗透至人们的生活，但我们尚未察觉。部分原因在于，流行文化对人工智能的描绘存在偏见。读者可能已经知道，通用人工智能和专用人工智能之间存在差别。在科幻小说中，你看到的是通用人工智能。计算机比人类更聪明，而结论是人类变得越来越没用。随后，人工智能给我们灌输“毒品”，让我们在愉快中变得肥胖，或者我们将会陷入《黑客帝国》的世界。

根据高级科学顾问与我的对话，我们距离这样的现实还很遥远。思考这样的场景很有价值，这让我们想象力发散，促使我们思考选择和自由意志等问题，最终带来围绕专用人工智能的重要应用。我们已在生活的各个领域看到了专用人工智能，例如医药、交通，以及电力传输。这创造了更高效的经济。如果妥善应用，专用人工智能可以带来繁荣和机会。不过从导致就业机会减少来看，专用人工智能也存在不利的方面，而我们需要对此进行研究。这可能导致不平等，影响工资水平。

伊藤穰一：这也让我们麻省理工学院的学生们感到失望。然而我担心的问题之一在于，这一领域将被年轻的孩子，尤其是白人孩子们所主导。他们将围绕人工智能开发核心的计算技术。相对于与人交谈，与计算机的对话让他们更舒适。他们中许多人认为，如果能开发出类似科幻小说中的通用人工智能，我们将不必担心政治和社会等许多复杂问题。他们认为，机器将为我们指明所有一切。

奥巴马：是的。

伊藤穰一：然而他们低估了困难，我认为，今年人工智能将不再仅仅是计算机问题。所有人都需要理解人工智能的行为方式，这很重要。在媒体实验室，我们采用术语扩展智能（扩展智能意为通过机器学习技术去强化人类智能）。因为问题在于，我们要如何给人工智能带来社会价值？

奥巴马：在我们刚刚的午餐过程中，伊藤穰一用无人驾驶汽车来举例。技术已经在这里。我们的机器可以做出许多快速决策，大幅减少交通事故，提高交通路网的效率，协助解决导致全球变暖的碳排放等问题。然而，伊藤穰一提出了非常重要的一点，即我们可以给汽车加入什么价值？你可以做许多选择，而最典型的问题是：当自动驾驶时，车辆可以转向避免撞到行人，但汽车将会因此撞墙导致你自己的伤亡。这是个道德问题，而谁可以来制定这些规则？

伊藤穰一：在我们研究这一“搭车问题”时，我们发现许多人都更倾向于牺牲司机和乘客，确保更多人的安全。不过他们也表示，不会购买无人驾驶汽车。（笑）

记者：在我们探讨人工智能的道德问题时，政府将扮演什么角色？

奥巴马：我的看法是，在人工智能的早期发展阶段，监管框架应当支持百花齐放。政府应当施加相对较少的监管，更多地投资于科研，确保基础研究和应用研究之间的转化。随着技术的兴起和成熟，随后我们要考虑如何将其纳入现有监管框架中。这是个更难的问题，而政府需要更多参与。我们并不总是要让新技术去适应现存监管框架，而是确保监管符合更广泛的价值。否则我们可能会发现，某些人群将因此处于不利地位。

伊藤穰一：不知道你是否听过神经多元化运动。科罗拉多州立大学教授坦佩尔·格拉丁（Temple Grandin）认为，如果莫扎特、爱因斯坦和特斯拉仍然健在，那么都会被认为是自闭症患者。

奥巴马：他们可能属于自闭症谱系人群。

伊藤穰一：是的。如果我们消除自闭症，让所有人的精神都保持正常，我可以打赌，麻省理工学院的许多孩子们将不会是现在这样。无论我们讨论的是自闭症还是更广泛的多元化，问题之一都在于，我们何时才允许市场来做出决定。即使你可能不希望自己的孩子成为爱因斯坦，但简单地表态“我想要个普通孩子”，这也无法创造最大化的社会价值。

奥巴马：这是我们与人工智能打交道时面临的更大的问题。人类的一大特点就是会有奇思妙想。有时，一些突变或异常反而能创造出艺术和新发明。我们必须假定，如果系统是完美的，那么就是静态的。然而让人类发展到目前状态，确保人类生存的重要一部分在于，我们是动态的，我们常常干出乎意料的事。我们需要思考的挑战之一在于，何时何地让事情严格按照预想中发展才合适？

记者：关于将扩展智能用于政府、民营行业和学术界，开云全站官方下载 在哪，或者说是否有这样的中心？

伊藤穰一：我认为，麻省理工学院可能会说，应该是在麻省理工。（笑）以往，这通常是一群学术界人士，并获得了政府的协助。然而目前，大部分投资达到10亿美元的实验室都属于企业。

奥巴马：我们认识向人工智能投资的人士。如果你接触拉里·佩奇（Larry Page）或其他这些人，他们一般的态度是，“在我们寻求独角兽的过程中，最不想看到的是一系列官僚主义导致进度放慢”。这样的想法可以理解。

然而我们看到的问题的一部分是，社会对基础研究的投入正在减少。我们共同行动的信心正在消失，这部分是由于我们的思想和言论。

关于伟大的技术突破，我们仍在使用的类比是登月，即使登月已经过去了50年。有人提醒我，登月项目的耗资达到了 GDP 的0.5%。这听来不算什么，但按今天的情况来看相当于每年花800亿美元。实际上，我们目前每年对人工智能的投入只有不到10亿美元。这一数字毫无疑问将上升，但我们需要理解的一点是，如果希望这些突破性技术去代表多元化群体的价值，那么政府投资必须成为其中的一部分。如果政府不参与投资，那么伊藤穰一提出的关于技术价值的问题将不会得到解答，甚至不会被讨论。

记者：你提到了一种有趣的紧张关系，而伊藤穰一曾经也写过：边缘创新与发生在诸如太空项目中创新的差异。我们如何确保所有这些思想得到传播？

奥巴马：我想要强调的是，政府提供资金并收集数据并不意味着我们会隐瞒，或是军方需要这些。可以举个具体例子：在精确医疗的项目中，所做工作的一部分是通过足够多的美国人收集关于人类基因足够大的数据集。我们的做法不是向斯坦福大学或哈佛大学提供资金，让他们独享这些样本数据，而是提供了一个所有人都可以访问的基因数据库。我们提供了公共的数据值、公共的架构，确保研究可以被分享，而不是只被某个集团用于谋利。

记者：然而毫无疑问会存在一些风险。我们听到伊隆·马斯克（Elon Musk）和尼克·博斯特罗姆（Nick Bostrom）等人说，人工智能的发展有可能超过我们的理解能力。随着我们的进步，我们要如何看待他们的言论？我们不仅试图保护自己，还试图保护整个人类。

奥巴马：我们首先来谈谈最迫切的担心。在专用人工智能的领域，这是个可以解决的问题。我们需要警惕。如果你的计算机可以下围棋，一种有着许多变化的复杂棋类游戏，那么开发一种算法，让你在纽约股票交易所的利润最大化也并非遥不可及。如果有人或组织首先做到了这点，那么他们就可以迅速摧垮股市，或是导致我们对金融市场的完备性产生怀疑。

随后，可能会有一种算法说：“去渗透核武器密码，研究如何发射导弹。”如果这就是软件的全部工作，如果软件能自我学习，同时又是个非常有效的算法，那么你就会遇到麻烦。我对国家安全团队的指令是，目前还不用太担心机器会掌管世界。如果你担心的是非政府组织，或是怀有敌意的活动者去渗透这些系统，那么从理论上来说，这与我们目前所做的信息安全工作没有太大区别。这只是意味着，我们需要做得更好，因为可能部署这些系统的人也在变得更厉害。

伊藤穰一：总体上同意这一说法。唯一的警告是，有些人认为，有很高的概率通用人工智能会在未来10年中诞生。然而在我看来，如果希望开发出通用人工智能，那么我们需要十余项甚至二十余项突破。你可以看看，这些突破会发生在什么时间。

奥巴马：你可以让人坐在电源旁。（笑）如果你发现通用人工智能诞生，那么可以让他立即把电源拔了。

伊藤穰一：重要的是找到愿意将人工智能用于善意用途的人群，包括社区和领导者，随后研究如何给予他们帮助。

奥巴马：传统上，当我们思考安全问题，以及如何保护自己时，我们会想到盔甲和墙壁。然而目前我会越来越多地想到药品、病毒和抗体。信息安全问题依然很困难，部分原因在于，威胁并不像是一队坦克朝你冲来，而是整个系统很容易被蠕虫入侵。这意味着，对于安全问题我们需要有不同的思考，进行不同的投资。这样的投资可能并不性感，但却与其他东西一样重要。

很多时候我会担心诸如传染病的问题。你不可能建设一堵墙，将通过空气传播的致命流感阻挡在我们的土地外。我们需要具备的能力是建设体系，在全世界各个地方发展公共健康系统，在发现有异常时启动开关通知我们，确保我们有迅速执行的协议和系统，让疫苗更智能。因此，通过公共健康的模式，你就可以想象我们如何处理信息安全问题，以及如何以建设性的方式去思考人工智能威胁。

伊藤穰一：有趣的一方面在于我们如何看待微生物。有多方面证据显示，利用好细菌去攻击坏细菌，而非全面杀菌，是一种策略。

奥巴马：是这样。我不会允许宠物犬 Sunny 和 Bo5 去舔我，因为当我在路边草坪遛狗时，我发现他们会捡地上的东西咬。我可不想要这些。（笑）

伊藤穰一：我们需要思考，干净的定义是什么。信息安全和国家安全的情况也类似。我认为，如果你的思路是制定严格命令，或是清除一切可能的病原体，那么将非常困难。

记者：这是否可能带来新军备竞赛的风险？

奥巴马：毫无疑问，围绕信息安全和人工智能制定国际准则、协议和认证机制还处于起步阶段。这一问题之所以有趣，部分是因为攻击和防御之间的界线正在模糊。而在人们失去对政府信任的情况下，这尤为困难。全球许多国家都认为美国是信息霸主，因此是时候我们去说，“我们愿意自我限制，只要你们也愿意自我限制”。挑战在于最复杂的政府参与者，例如俄罗斯和伊朗，他们通常和我们有着不同的价值观和准则。然而，我们需要把这些定位成国际问题，从而有效地处理。

伊藤穰一：我认为，我们正处于人们愿意相互沟通的黄金时代。如果我们有能力保证，资金和能源可以带来公开的分享，那么将有很多好处。你无法凭空做得很好，目前仍是国际社会的问题。

奥巴马：我认为伊藤穰一的说法完全正确。我们与对此感兴趣的所有人举办了一系列会议。我们说得不多，而我想回头去看的一方面是，我们需要思考经济方面的意义。大部分人没有花很多时间去担心“奇点”，而是担心“我的工作是否会被机器取代”。

我倾向于持乐观态度。以往我们也曾接受过新技术，人们会看到新工作岗位被创造出来，而他们将会随之迁移，我们的生活标准将普遍上升。我认为，由于人工智能和其他技术的普遍适用性，目前我们处于一个略微不同的时期。在这样的体系下，高技能人才做得很好。他们可以利用自己的才能，可以通过机器界面去扩大覆盖，增加销售，拓展产品和服务。

低薪酬、弱技能的人群将越来越显得多余，他们的工作岗位可能不会被替代，但工资将持续受到压力。如果我们希望成功管理这样的过渡，那么关于如何进行管理，我们需要展开全社会的对话。如果我们完成更多的生产，但其中越来越多的部分只被少数人获取，那么我们如何确保经济具有包容性？我们如何确保，人们拥有维持生活的收入？从支持艺术和文化发展，或是确保老兵得到合适照顾的角度来看，这又意味着什么？社会契约需要容纳这些新技术，我们的经济模式也需要容纳这些技术。

伊藤穰一：很难猜测，什么样的工作将被取代。如果假定你有一台计算机，能理解医疗系统，非常善于诊断，那么相对于护士和药剂师，医生更容易被取代，因为护士和药剂师的成本更低。一些高端工作岗位，例如律师和审计师，也有可能不复存在。相对而言，许多服务行业工种，以及艺术类工作，即计算机不太擅长的领域，很难被替代。我不知道你如何看待普遍基本收入，但当我们看到有岗位被替代时，一种思路是我们去看看其他模式，例如学术研究和艺术，在这些领域人们的目标不与金钱直接相关。我认为，问题之一在于，我们有一种普遍的观念，如果你没钱，那么算什么聪明？但实际上，在学术界，我遇到过许多没钱的聪明人。

奥巴马：完全正确，这也是我所说的重新设计社会契约。目前，无论普遍基本收入是否是正确的模式，这一模式是否被广泛的人群所接受？这是个我们已经讨论了10年、20年的话题。人工智能取代的不仅是弱技能的工作，也可能会是高技能的工作，但这些工作的可重复性很强，因此计算机有能力胜任。毋庸置疑的是，随着人工智能得到更广泛的应用，社会可能会越来越富裕，生产和分配之间的关联，即干多少和挣多少之间的关联将越来越弱化。计算机将会去完成大量工作。因此，我们需要做一些更困难的决定。我们给老师们支付的报酬不足，尽管这是困难的工作，计算机也很难做得好。因此我们需要重新评估价值观，我们愿意为什么样的人支付更高的报酬，是教师、护士、护工、全职妈妈、艺术家？这些事都很有价值，但在我们的薪酬体系中排序不高。我们需要启动这样的对话。

记者：在解决政府中最大的挑战时，你会关心什么样的技术？

奥巴马：为了让政府对人民更友好，或者说至少让你的报税流程变得像点披萨或买机票一样简单，我们还有很多工作要做。无论是鼓励人们投票，还是推进大数据应用，帮助人们更快地完成在线表格处理，都需要做很多工作，推动联邦政府、州政府和地方政府进入21世纪。政府和企业界的人才差距并不是那么大。然而，技术的差距是巨大的。当我首次来到这里时，我认为白宫战情室肯定非常酷，就像是汤姆·克鲁斯在《少数派报告》中场景。实际上根本不是这样。（笑）特别是我们要打击地球另一边的恐怖分子时，电影会把我们描绘成为无所不能，实际并非如此。我们的资金不足，机制设置也不合理。

关于围绕技术更广泛的问题，我坚定地相信，如果我们希望正确处理气候改变，如果我们想要踩下刹车，阻止海平面上升6英尺，那么人类需要弄清一些问题。我是乐观主义者。我们已经完成了许多不错的工作，但还有很长的路要走。

关于我们要如何以负责任、透明、安全的方式管理互联网上的连接，帮助我们找出坏家伙，并保证政府不会对我们所有人的生活造成太大干扰，我们仍在进行研究。其中一些是技术问题，加密就是很好的例子。我多次见过自由主义者和与国家安全相关的人士。这是个棘手的问题，因为关于我们要如何调和这一问题，没有人能给我真正好的答案。

由于这是个前沿问题，我希望提到的最后一点是，我仍是个太空迷，而在对下一代太空旅行展开探索的过程中我们的资金投入不足。民营公司完成了很棒的工作，因为对疯狂概念的投资已经取代了政府投资。不过当我们设想太空飞行时，我们研究的仍然是“阿波罗”时代的化学反应。时间已经过了50年，我们应当取得一些突破。

记者：我知道你是《星际迷航》的粉丝。这部电影的灵感来自于对技术的乌托邦式理想。在你对未来的看法中，这带来了什么影响？

奥巴马：当我还是小孩子时，我就很喜欢《星际迷航》。电影很有趣。让这部电影经久不衰的是，这实际上与技术无关。这关于价值观和人际关系。这也说明了，为何特效不是那么重要。这部电影探讨的关键在于共同人性，以及我们解决问题能力的信心。

近期有部电影反映了同样的精神，这就是《火星救援》。不仅是因为这有着复杂的场景，也是由于电影中展示了许多不同人物尝试解决同一个问题。通过创造性和努力，并坚信最终能够成功，我们就可以做到。这是我最喜欢美国的一点，也是这部电影持续吸引全球各地观众的原因，即对于面临的问题，我们的精神是“我们可以解决这个问题”。以这种观念来看，科学最大的价值也是在于帮助我们解决问题。我们会尝试，如果不成功，我们将会探索为何不成功，随后再进行别的尝试。我们将暴露自己的错误，因为这最终将教会我们如何解决问题。如果失去这样的精神，我们将会失去美国的本质和人类的本质。

伊藤穰一：完全赞成。我喜欢《星际迷航》中的乐观精神。而我也看到，联邦的构成非常多元化，船员多元化，而坏家伙实际上并不是恶魔，他们只是被误导。

奥巴马：与任何优秀的故事一样，《星际迷航》所说的是，我们所有人都很复杂，我们总是有多个侧面。这就是我所说的解决问题。解决问题的一部分是克服障碍，弥合差异。我们相信理性，并保持一定的谦卑。对最优秀的艺术和科学来说，情况都是这样。我们已经掌握了可以为我所用的许多难以置信的思想。然而，我们仍只揭开了幕布一角，不应该过于自大。我们应当提醒自己，还有很多是我们不知道的。