Deep Dive
Shownotes Transcript
在本期特别节目中，Andrew 和 Gregory C. Allen 讨论了拜登政府于 10 月 24 日发布的关于人工智能的国家安全备忘录，其主要受众和主要目标，以及即将到来的美国大选对其实施可能意味着什么。</context> <raw_text>0 我是 Andrew Schwartz，您正在收听 CSIS 的播客《真相》，我们在此剖析当今最重要的政策问题，并与能够帮助我们最好地了解实际情况的人们进行交谈。
为了了解新发布的关于人工智能的国家安全备忘录的真相，我们正在做一个特别节目。它实际上是我们人工智能政策播客的一个交叉节目，我们邀请了 Gregory C. Allen 与我们一起讨论它，并解读这份重要的备忘录。10 月 24 日，拜登政府发布了关于人工智能的国家安全备忘录，
这份备忘录履行了政府 2023 年 10 月关于人工智能的行政命令中关于制定国家安全备忘录的要求。所以在深入探讨内容之前，让我们回顾一下这份备忘录的一些历史背景。Greg，你能否向我们介绍一下此类文件的历史先例？Andrew，很高兴再次和你交谈。
我认为从历史先例开始是有充分理由的。因为拜登政府正是从历史比较的角度来看待这份文件的。如果你想想冷战的历史，有一份传奇性的文件，NSC 68，它实际上是美国国家安全界对拥有核武器的生活对美国意味着什么的第一个声明。这份文件确实贯穿了
整个冷战时期的美国政策。在早期空间技术政策方面也有一些其他文件，主要来自陆军部和海军部。但这些文件确实是关于这些变革性技术将如何以及已经如何改变国家安全以及美国政策将如何应对的基准政策声明。
现在，对于这份关于人工智能的文件，我认为值得区分一下它所讨论的人工智能故事的哪一部分。所以，你知道，我30多岁，在人工智能政策领域算是老前辈了。当我开始从事人工智能政策时，它实际上完全是关于机器学习和深度学习的，这种技术
驱动着面部识别，驱动着语音识别。这份文件主要不关心人工智能的这一部分。这份文件完全是关于前沿人工智能系统的。所以，是当今存在的绝对最
尖端的技术。而且，也许更重要的是，我们人工智能发展轨迹。所以想想最好的 ChatGPT 版本。ChatGPT 不久前才进行了重大升级，以及谷歌、Anthropic 和其他公司推出的竞争产品。
这份文件将这项技术，即前沿人工智能、日益通用的 AI 系统，视为与核革命、与太空革命同等重要的变革性国家安全技术。美国政府正打算以此为目标采取重大举措。所以，Greg，这份文件实际上是给谁看的？它主要是公开的。为什么是这样？
好吧，回到我在国防部的经历，当时有一份未经分类的国防部人工智能战略，也有一份经过分类的国防部人工智能战略。我会告诉你，很多人阅读了未经分类的那一份，甚至拥有安全许可的人也不总是知道还有一份经过分类的。
有趣。所以，即使只是对你们自己的政府来说，让很多内容公开也是一件非常有益的事情。但我必须说，拜登政府试图同时与多个受众进行沟通。当你有一份未经分类的文件时，你会这样做。这份文件发布得非常高调。所以让我们想想他们是在和谁说话。我的意思是，我可以想象西雅图和海湾地区的人们今天都在仔细研究这份文件。确实，确实。这就是我们制作这个播客来帮助的原因。
他们和其他的人。这是他们的简明扼要版。确实。所以有多个受众。我认为最重要的受众是那些执行美国政府工作的人。这是一项政策声明。它提供了具体的指示。它提供了各机构必须在特定截止日期前完成的具体任务。这旨在成为美国试图实现的目标以及他们将为实现目标而采取的基本步骤的高级指导。所以这是第一个受众。第二个受众，我认为，是美国的盟友。
拜登政府已经采取了关于国家安全的人工智能政策的重大举措。你我曾多次讨论过 2022 年 10 月 7 日的人工智能芯片出口管制。我认为许多盟友对这项政策感到困惑，因为这项政策谈论的事情确实正在发生。你知道，中国使用
美国公司设计的人工智能芯片在其军事系统中，中国在其用于核武器建模的军事超级计算机中使用人工智能芯片。
但这种事情经常发生，并且在奥巴马政府、特朗普政府等时期也一直在发生。因此，它本身并不一定能向许多盟友解释，为什么对中国的贸易和技术姿态会发生如此大的转变。我从与政府官员的谈话中了解到了答案。但我想这是我们第一次看到一个重大的改变。
拜登政府公开承认的答案。当你理解拜登政府是前沿人工智能力量的真正信徒时，这项政策就更有意义了。我们现在所处的位置以及我们要去的地方，当你理解这一点时
他们认为这项技术绝对具有变革性，与核武器的早期阶段、太空的早期阶段不相上下。这就是你理解为什么他们认为必须彻底调整美国对华贸易和技术政策以及他们也采取的其他措施的原因。所以，我认为这对于向盟友解释这一点非常有帮助。好的，那么……
让我们谈谈这个。等等，我们应该再谈谈一个受众。谁？对手。当然。中国会阅读这份文件。中国会仔细研究这份文件。我认为这里真正有趣的是有一些信息。显然，它们并非针对中国，但我认为它们对中国会有特殊的意义。例如……
这份文件多次提到，我们将加倍努力进行反情报工作，并且美国的政策是保护人工智能产业的关键知识产权，保护其系统。因此，美国历史上对关键基础设施（如我们的电网、我们的水系统等）所采取的姿态，这份文件将人工智能技术、知识产权以及实际的基础设施
模型权重和基础设施都放在了同一个级别。如果我是中国，我会想，哇，这是一个大动作。嗯，这真的很有趣，因为美国从未将社交媒体视为关键基础设施，甚至远非如此。对。所以，你知道，转向这一类别是相当有趣的。这是一个大动作。好吧，让我们谈谈国家安全影响，因为它是一个大动作。
政府如何看待人工智能及其对国家安全的意义？你已经稍微触及到这一点，但他们最担心的是什么？
我认为实际上值得从文件中的一些内容来阅读。所以我们从第一节政策开始，他们在这里阐述了他们的目标。引用：“人工智能已成为一个时代定义的技术，并已显示出与国家安全相关的显著且日益增长的重要性。美国必须在负责任地将人工智能应用于适当的国家安全职能方面引领世界。”然后是更进一步的内容。那么在实践中这意味着什么？好吧，
美国必须领先。领先是国家安全的优先事项。好的。这是一件大事。没错。所以想想看。这是一项军民两用技术。目前人工智能领域的大部分工作并非在美国国家安全界进行。但由于这项技术的军民两用意义对国家安全如此深远，美国现在将其作为一项
正式的国家安全优先事项来引领这项技术。好的。那么举个例子说明一下。什么是军民两用事物，对国家安全具有真正的影响？我认为有趣的是，这是一份国家安全文件。有一节是关于移民政策的。
有一节是关于产业政策的。这就是我的意思。当他们说人工智能领域的领导地位是国家安全的优先事项，但它是一项军民两用技术时，那么所有这些通常不会被认为属于国家安全范畴的政策机制突然出现在一份国家安全备忘录中。这并不是因为拜登政府感到困惑。而是因为他们看到了我们正在参与的风险。以及这些竞争优势的来源。
如果我们不愿意采取必要的措施来推进这些事情，那么我们就不会获胜。例如，在华盛顿特区，我们一直在谈论“斯普特尼克时刻”，对吧？这段时间苏联在空间技术方面拥有明显的优势，这吓坏了基本上所有美国人，因为他们可以发射卫星，他们可以发射核弹。
之后，美国采取了一系列非常重大的举措。首先，我们创建了 NASA。我们创建了 DARPA 的前身机构。但我最喜欢的对斯普特尼克的回应，它绝对是对斯普特尼克的回应，是《国家安全教育法》。
我们实际上大幅增加了美国政府资助的 STEM 本科和博士学位数量，并在全国范围内彻底改革了高中阶段的科学技术教学。这是一项国家安全政策。再说一次，这并不是因为人们感到困惑或试图包装一项人们已经想要的教育政策。不，他们真的害怕苏联在科学技术方面的优势。
同样，我认为我们在这里看到了这种回声。所以你的意思是，作为一个国家，作为一个政府，我们可能需要以这种方式资助人工智能。
哦，是的。这里预计会有重大的产业政策变革。例如，我有幸参加了国家安全顾问杰克·沙利文今天上午的演讲。他所说的一件事让我感到非常惊奇，那就是，正如我们所知，现代人工智能系统，尤其是前沿人工智能系统，实际上非常耗能。
像 OpenAI 或微软这样的公司在考虑建设下一个数据中心时，他们实际上会将其建在发电站旁边，他们必须考虑是否存在所有电力连接基础设施。我们在弗吉尼亚州北部有很多数据中心。是的，是的。有趣的是，这份备忘录指示所有相关机构共同努力，想出他们将如何做才能更容易地指定
通过减少监管负担、减少许可类型的负担和加快速度来开发和建设新的发电站。杰克·沙利文说，他认为我们可能需要向美国电网增加数百吉瓦的电力是合理的。
整个美国电网目前的电力为 1250 吉瓦。所以他说，想想五年前。五年前，人工智能在电网中什么都不是。现在杰克·沙利文正在谈论一个世界，在这个世界中，到本十年末，人工智能可能占美国电网的 25% 左右。
这些正在考虑的都是非常重大的产业政策变革。但与《国家安全教育法》一样，这些都是以明确的国家安全理由来考虑的产业政策变革。所以它不仅是一个国家安全问题，也是一个能源安全问题。
问题。是的，但这与我们熟悉的能源安全问题不同。这就像，我们是否耗尽了石油？我们能否从我们信任的国家获得石油？这是一个与执行和实施有更多关系的能源安全问题。我们能否真正快速地建设发电厂？我们能否真正快速地建设电压互感器？我们能否真正将所有这些东西连接起来？
好消息是，这与很多工作有关。建筑业是一种非常好的、非常快速地雇佣大量人员的方式。但现在，将一座新的大型发电厂连接到美国电网，这是一项需要多年时间才能完成的工作。白宫在这份文件中所说的内容是——
人工智能领域的领导地位对国家安全至关重要，我们没有时间像以前那样做事了。将此与你在企业部门看到的一些举措联系起来，我相信你看到了微软正在重新启用三里岛核电站，这座核电站是在 1970 年代的一次安全事故后关闭的。我认为这是电力数量方面的一个重要举措，因为
是的，他们说的是我们需要大量的电力。我们需要清洁能源。是的。最清洁的是？核能和可再生能源。正确。可再生能源通常是间歇性的。因此，如果你想要一些能够全天候提供良好基载容量的电力，那么就是核能。所以，我认为微软选择三里岛的事实，我的意思是，三里岛不会产生数百吉瓦的电力。所以我认为它作为一个象征意义更为重大
他们致力于建设所有这些电力基础设施的程度。而且，你知道，我和我的团队以及来自华盛顿特区智库界的一些其他人刚刚结束了一次对阿联酋的研究之旅。像阿联酋这样的国家基本上会找到世界上最大的人工智能公司，并说，来这里吧。
因为我们拥有你所需要的东西。我们有能力非常快速地建设大量的发电能力和大量高质量的数据中心。这确实似乎是目前前沿人工智能竞争的焦点。美国对此满意吗？让我们的
数据公司在那里，在阿联酋生产人工智能产品？好问题。这在目前美国国家安全界颇有争议。我认为这场辩论的焦点在于，好吧，如果我们要成为人工智能领域的领导者，那必须是因为我们的技术得到了广泛采用，因为我们在世界各地都有客户，他们正在
推动这项技术的增长。阿联酋真正将自己定位为通往全球南方的门户。你知道，很多运往印度的东西都是通过阿联酋运输的。很多运往非洲的东西都是通过阿联酋运输的。这对于商品和数据都是如此。所以这是论点的一方面，即愿意在阿联酋建设很多东西。另一方面，人们非常担心保护这些类型的数据中心，对吧？我们不想花费……
200 亿美元来训练最新、最棒的人工智能模型，只是为了让中国在一次非常容易的网络攻击中窃取模型权重，而成本几乎为零。因此，有些人会告诉你，真正安全的唯一方法就是将其放在美国。在
就这份文件，即人工智能国家安全备忘录而言，我不知道它是否对这个问题采取了明确的立场。它试图两全其美。最重要的一点是，它明确表示我们需要在美国建设大量的人工智能基础设施。这就是为什么我们要增加，你知道，再次在杰克·沙利文的讲话中，我不知道他在这里是否真的在明确表示，而是在推测，对吧，我们可能需要建设数百吉瓦的电力并将其添加到电网中，仅仅是为了人工智能数据中心。
这是一个我们真的需要在这里建设的论点。这反映在这份文件中，这种优先级。与此同时，这份文件还谈到了我们如何需要在人工智能方面建立有效的伙伴关系，我们如何需要建立一种机制，使我们的盟友和伙伴能够看到自己在这个故事中，这不仅仅是美国独自垄断人工智能。但我认为，关于故事这一部分的政策指导要少得多，不那么明确。更多的是谈论目标，更少的是谈论行动。
所以，Greg，你从这份文件中获得的其他一些关键结论是什么，我们还没有讨论过？我认为这份文件有三个支柱。首先是确保美国继续在人工智能领域引领世界。你知道，我们已经讨论了其中的移民部分。我们已经讨论了其中的能源部分。还有研发部分。第二个是讨论这项技术的国家安全用途。对美国军方、美国情报界有很多指导，基本上是说，你
你需要尝试前沿人工智能模型。你需要确保你的数字基础设施、你的网络基础设施与最新的 AI 模型兼容并做好准备。想想美国国防部进入云计算花了多长时间。
在我们拥有云计算之后，商业行业已经过去了 10 年。我认为政府在这里所说的意思是，我们不能在人工智能系统方面再次落后于商业领域五到十年。如果你回想一下 Sam Altman 六个月前发表的一些言论，他会将当时他们拥有的最佳模型 GPT-4 的性能描述为，引用，“充其量只是有点令人尴尬”。
所以他知道该系统的局限性。那么你可能会问自己，好吧，这是销售这项技术的人对它的描述。为什么我们如此热衷于告诉国家安全界，他们必须立即采用它？我认为这里有一些答案。
首先是云计算的经验，对吧，落后于商业领域五到十年，并且假设在人工智能方面这是完全不可接受的。这项技术发展如此之快。它变得如此强大。你知道，GPT-4，
当你将其与 GPT-2 进行比较时，就像爱因斯坦与蟑螂的比较。所以，这并不一定意味着 GPT-4 现在，就在此刻，就是国家安全的灵丹妙药。只是这项技术的轨迹如此惊人。如果我们现在不开始积极行动，那么在不久的将来，我们将错过一个很大的机会。
第三个支柱，在利用人工智能造福国家安全之后，我想再强调一件事，我想说的是，关于利用人工智能造福国家安全，
它谈到了这方面的情报需求。杰克·沙利文明确表示，我们需要更多资金和更多人从事保护美国人工智能系统的工作，无论是在国家安全领域还是在商业领域。他没说的一件事，但我一直在我的 CSIS 文章中推荐的一件事是，情报界也需要在国际上提高其水平。
在评估对手的人工智能能力方面。在中国发生了什么？例如，我想想，吉娜·雷蒙多在 2023 年 8 月访问中国期间，对华为推出的使用违反美国出口管制芯片的智能手机感到惊讶。
为什么她在中国了解到这一点？为什么她没有从美国情报界了解到这一点？这份文件中没有这个说法。当然，这份文件还有另一个保密版本。我没有看过，但我希望它在谈论，你知道，那些类型的问题。这些真的很重要。现在，这份文件还有第三个支柱，那就是人工智能系统的治理。
你可能会问自己，嘿，这份文件基本上是在谈论将油门踩到底，以加速人工智能的发展。那么为什么故事的另一部分是围绕治理的，这在某些人的脑海中实际上与减缓速度有关？对，监管。没错。许多人将其视为监管的同义词。因此，拜登政府，尤其是杰克·沙利文，预料到了这种反对意见，并完全不同意。
这并不是因为他们说这个治理框架，也就是今天发布的配套文件，人工智能和国家安全的治理框架，这并不是因为他们说这种减速是值得的，仅仅是因为我们需要减轻风险。他们实际上说，缺乏治理一直是未采用这项技术的一个关键驱动因素。这就是他们的意思。
例如，考虑一下关于自主武器的辩论。你知道，有一项关于自主武器的政策。它在 2023 年 1 月进行了更新，最初是在 2012 年发布的。那……
这份文件被很多人误解了，包括国防部的人。你会看到军方的高级领导或国防部文职部门的高级领导实际上会说出关于这项政策实际内容的不正确说法。因此，他们真正需要做的一件事就是使这项政策更加清晰。
什么被允许，什么不被允许，在什么情况下，采取了什么风险缓解措施。因此，在官僚机构中，在政府机构中，如果你不知道某件事是否被允许，那么在采用这项技术或采取这种新方法方面，就会有很多激励措施变得保守和规避风险。
因此，拜登政府基本上是在说，我们在这里提出的这个治理框架实际上将加速人工智能的采用，因为我们消除了所有不确定性。我们消除了所有不清晰之处。
我们告诉人们，在人工智能国家安全方面，有一些被禁止的用例。两个没有在文件中提到，但我从其他政府官员那里听到的内容是，例如，任何将非法压制或妨碍言论自由权或获得法律咨询权的人工智能系统。
但另一件被禁止的事情是妨碍美国总统对核武器的指挥和控制权，无论是使用它们还是不使用它们，还是关闭它们，或者任何类似的事情。所以有一些被禁止的用例。然后还有一些高风险用例，这基本上表示这并没有被禁止，但需要额外的技术审查或额外的流程审查或额外的尽职调查。但是一旦你做了，它就被允许了。所以他们说，你知道，这些是治理——
我们需要到位才能在人工智能方面更快发展的机制。我认为这里一个有用的类比
我之前谈到过将汽车的油门踩到底。如果你没有刹车，你会开多快？当然，你会开得很慢。你会开得很慢，因为你害怕一直撞车。所以他们基本上是在说，我们正在给汽车安装刹车。对，因为每个人都对此感到害怕。没错。所以通过给汽车安装刹车，我们给了人们更多他们需要才能愿意开得更快的控制和清晰度。我明白了。所以他们认为这会加速它。
所以这些是文件的三个支柱和整体方法。好的。我们现在明白了，但是让我们谈谈接下来会发生什么。现在它已经发布了，接下来会发生什么，或者应该发生什么？
有很多“你应该”。有很多，你知道，这个组织应该，那个组织应该。所以，你知道，这份文件大约有 40 页长。对于许多不同的机构和政府来说，他们都有一个新的待办事项清单。白宫通常的做法是，你知道，他们并不声称自己是这方面的专家。
移民改革的每一个细枝末节。他们只是说，这是我们的政策，你，国土安全部，你们其他机构，去弄清楚如何在细枝末节的层面上实现这一点。
所以你会看到，例如，在本备忘录发布后 180 天内，经济顾问委员会主席应编制一份关于美国和海外人工智能人才市场的分析报告。然后，你知道，一旦我们了解了人才市场，就采取措施改变我们对那些拥有 AI 人才的人的移民政策，这是这方面的一个不同部分。人工智能安全研究所
它存在于商务部，很久以前就成立了。这份文件构成其第一个正式章程。我的意思是，它的作用和责任被定义到了一种以前从未有过的精确程度
情况并非如此。因此，现在人工智能安全研究所需要在 180 天内进行大量的红队分析，你知道，在自愿的基础上与许多领先的人工智能公司合作，以获得他们的结果。他们正在寻找许多国家安全用例。在这份文件中，你会看到人工智能安全风险贯穿始终
在生物和化学武器领域。那么他们在这里考虑的是什么？他们担心的原因是，现在制造生物武器有点困难。你需要很多专业知识。而人工智能正打算成为专家。当然。那么如果，你知道……就像它对……有很大的应用一样……
医学。健康的医学。没错。它有这个。没错。而且，你知道，有很多基因合成公司，他们会制造你发送的任何 DNA 链。所以这就是他们在红队分析中寻找的东西。还有一种关于隐私或公民自由类型问题的红队分析。但所有这些现在都交给了人工智能安全研究所。我们还可以讨论一百万个任务。但总而言之，华盛顿特区现在有很多人都有很多工作要做。
Greg，最后，你知道，我们正处于竞选季节。距离一场非常重要的选举还有大约两周的时间。即将到来的选举可能会如何影响这份文件的实施？好问题，因为你可能已经听到，对于那些仔细倾听的人来说，其中一些截止日期是 180 天后。没错。我们将有一位新总统。对。180。这是肯定的。这是肯定的。
那么问题就变成了，特朗普政府会继续所有这些行动吗？哈里斯政府会继续所有这些行动吗？如果是哈里斯政府，副总统哈里斯在拜登政府中某种程度上是人工智能的非官方负责人，或者至少担任过这一角色。我没有听到她竞选活动中任何表明她会反对这份文件中的任何内容的消息。
所以我最初的假设是，所有这些在哈里斯政府中都会继续进行。在特朗普政府中，前总统特朗普在共和党平台上明确表示，他将废除人工智能行政命令。
这份备忘录是在人工智能行政命令中提出的。共和党政策圈内，包括特朗普本人，都有人对任何与人工智能治理相关的努力表示怀疑，因为他们认为这过度监管，妨碍了行业创新。尽管事实上，就在本周早些时候，10月21日，有60家人工智能公司和行业组织
致信国会，表示他们希望采取行动将人工智能安全研究所的法律化。是的，他们希望受到监管，萨姆·奥特曼也为此作证。对于人工智能安全研究所来说，所有这些都是自愿进行的。它确实对诉讼中可能发生的事情有一些影响，因此存在监管影响。但人工智能安全研究所所做的是真正地为政府提供了一种——
“祝福”可能用词不当，但他们只是说，这就是在人工智能安全方面成为负责任行为者的指导方针。你是否进行了适当的尽职调查，所有这些？在这个阶段的测试是自愿的，但所有公司都说，我们想要这个。就像政府作为公正的第三方参与者为我们提供服务对我们来说非常有帮助。所以我对特朗普方面的看法是，这里有一些东西，
显然是特朗普政府想要的，对吧？你如何消除在许可和其他方面以建造大量发电厂的繁文缛节？我认为许多特朗普政府的人工智能政策人士会非常赞同这一点。移民改革，他们可能会对这种行动更加怀疑。这些人工智能治理方面的事情，
我认为这是有风险的，但我认为有可能，在这种情况下，从特朗普竞选活动过渡到特朗普政府。这些人会与行业接触。他们会听到最强的论点，也许他们会有不同的看法。所以它是流动的？它可能是流动的。我的意思是未来是不确定的。对于谁将在第二个特朗普政府中领导人工智能政策，还没有绝对的清晰度，因此很难说未来会怎样。
格雷格，这真的帮助我们更好地理解了这份文件及其含义。非常感谢你。谢谢。
如果您喜欢这个播客，请查看我们更多CSIS播客，包括《走进非洲》、《亚洲棋盘》、《中国力量》、《艾滋病2020》、《贸易人士》、《聪明女性，聪明力量》等等。您可以在iTunes和Spotify等主要流媒体平台上收听所有这些播客。访问csis.org/podcasts查看我们的完整目录。