2021年3月，美国人工智能国家安全委员会（National SecurityCommission on Artificial Intelligence，简称“NSCAI”）发布了一份关于维护美国人工智能安全、提升美国人工智能竞争力的研究报告。
美国人工智能国家安全委员会由《2019财年国防授权法》批准、由美国众议院武装部队新兴威胁与能力小组委员会提议成立，其使命是着眼于美国的竞争力、国家保持竞争力的方式以及需要关注的“道德问题”，审查人工智能、机器学习开发和相关技术的进展情况。该委员会的基本职责主要包括考察人工智能在军事应用中的风险以及对国际法的影响、考察人工智能在国家安全和国防中的伦理道德问题、建立公开训练数据的标准以推动公开训练数据的共享。此外，该委员会将为国会和美政府撰写一份人工智能报告，就国会和政府所采取的有关人工智能、机器学习和相关技术的行动提供建议。人工智能国家安全委员会由15名成员组成，由国会领导人以及国防部长和商务部长任命。该委员会本届主席由谷歌母公司Alphabet集团董事会技术顾问埃里克·施密特担任。
该委员会本次发布的最终报告分为两大部分，第一部分“在人工智能时代保卫美国”阐述了相关利害关系，解释了美国必须采取哪些行动来抵御与人工智能相关的威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和美国的利益。第二部分“赢得技术竞争”阐述了人工智能竞争的关键要素，并建议美国政府应该采取行动促进人工智能创新，提高美国国家竞争力，保护美国的关键优势。以下是报告的摘要，供参考。
当前，没有任何令人满意的历史文献能够获取人工智能对国家安全的影响。人工智能的技术突破不像蝙蝠翼隐形轰炸机那样是单一的技术突破，人工智能全球领导地位的竞争也不像太空登月竞赛那般。人工智能甚至也比不上电这样的通用技术。然而，托马斯·爱迪生关于“电”对未来的影响同样也适用于人工智能对未来的影响：“它是各个领域中的基础……掌握着世界重组的秘密。”爱迪生这种惊人的评价或许源于他本人的谦逊，但他所发现的一切“与未来出现的诸多可能性相比实在是微不足道”。
“委员会”谦逊地承认，人工智能及其将来的应用尚存在许多未知的领域。但尽管如此，我们当前对人工智能的了解也已足够。可以从以下两个观点着手予以分析。
第一，计算机系统解决问题和执行任务的能力正在迅速提高，某些情况下甚至超过了人类的能力，而这些任务原本需要人类的智慧加以完成，可以说这一影响正改变着世界。人工智能技术是我们近几代人获得的最强大的工具，它可以扩展知识、增加繁荣、丰富人类的经验。人工智能是典型的“两用”技术，由于机器具备比人类更快、更准确地感知、评估和行动能力，因此它在任何民用或军事领域都代表着竞争优势。人工智能技术将成为公司乃至国家利用它们的巨大力量之源。
第二，人工智能正在加大美国已经开始步入的脆弱期。自二战以来，作为美国经济和军事力量支柱的技术优势首次受到威胁。如果不改变当前的趋势，中国就会拥有未来十年内超越美国的力量、人才和雄心。与此同时，人工智能正在加深网络攻击和欺诈活动等威胁，俄罗斯、中国和其他国家正利用这些活动渗透美国社会，窃取美国的数据，干涉美国的民主。迄今为止，关于人工智能的有限使用只不过是冰山一角。同时，以新冠病毒和气候变化为代表的全球危机彰显了扩大国家安全概念以及发现创新的人工智能解决方案的必要性。
鉴于上述两个观点，“委员会”得出结论，美国现在必须采取行动，部署人工智能系统，在人工智能创新方面投入更多资源，保护美国的安全，促进美国的繁荣，保障美国民主的未来。当前，美国政府并没有组织或投资来赢得与一个坚定的竞争对手的技术竞争，也没有准备好抵御人工智能带来的威胁，并出于国家安全目的迅速采用人工智能的相关应用。现在并不是增加联邦研究预算或在五角大楼为硅谷的技术人员增加几个新职位的时候，需要有一个更加高成本的、重大的观念转变。当前，美国需要白宫的领导、内阁成员的行动以及国会两党的支持，才能够赢得人工智能竞争时代。
“委员会”的最终报告提出一个综合的国家战略，应重组政府，调整国家定位，团结美国的盟友，在即将到来的人工智能加速竞争和冲突的时代开展竞争。报告分为两大部分，第一部分“在人工智能时代保卫美国”阐述了相关利害关系，解释了美国必须采取哪些行动来抵御与人工智能相关的威胁，并建议美国政府如何负责任地使用人工智能技术来保护美国人民和美国的利益。第二部分“赢得技术竞争”阐述了人工智能竞争的关键要素，并建议美国政府应该采取行动促进人工智能创新，提高美国国家竞争力，保护美国的关键优势。所有这些建议是相互联系、相辅相成的，需要综合施策。
一、在人工智能时代保卫美国
随着美国的战略竞争对手不断开发用于军事和其他恶意用途的人工智能概念和技术，以及廉价的、商业化的人工智能应用程序，人工智能将成为新时代制造冲突的首选工具。为维护国家安全和提升国防能力，美国应该迅速且负责任地使用人工智能，为抵御这些威胁做好准备，在自身未使用人工智能的情况下防御对手的人工智能攻击无异于“赤身肉搏”，将会是一场灾难。如果没有人工智能的帮助，人类操作员将无法跟上或防御人工智能的网络攻击或造谣运动、无人机群或导弹攻击。因此，美国的国家安全专业人士必须拥有世界上最好的技术来保护自己，执行任务，保卫美国的公民。“委员会”建议美国政府采取如下行动：
（一）抵御新兴的人工智能对美国自由开放社会的威胁。各行各业对数字化的依赖正在将个人和商业的脆弱性转化为潜在的国家安全脆弱性。美国的竞争对手正在使用人工智能系统来加强造谣运动和网络攻击，并且正在不断收集美国公民的数据，建立美国公民的信仰、行为和生物特征等档案，试图有针对性地操纵或胁迫相关人员。这场受外国影响和干涉的风暴正在积聚，需要美国进行组织和政策改革，增强美国的应变能力。美国政府需要成立一个“特别工作组”和“全天候运营中心”来对抗数字造谣运动，更好地保护美国自己的数据库，并在外国投资的筛选、供应链风险管理和国家数据保护立法方面优先考虑数据安全。美国政府应该利用人工智能网络来抵御外部的人工智能网络攻击，并且把生物安全作为国家安全政策的首要任务。
（二）为未来战争做好准备。如果美国不加速在军事任务中应用人工智能，美国可能会在未来十年内丧失军事技术优势。这需要自上而下的领导与自下而上的创新相结合，将人工智能应用程序落实到位。具体而言，美国国防部应该：
第一，为2025年前人工智能的广泛整合奠定基础。包括建立一个共同的数字基础设施，培养一支具备数字素养的人才队伍，建立更加灵活的采购、预算和监督流程，淘汰一批人工智能作战装备陈旧的军事系统，投资并研发下一代军事系统。
第二，到2025年实现军事人工智能就绪状态。五角大楼的领导层必须马上采取行动，推动组织改革，设计创新的作战理念，建立人工智能和数字战备性能目标，定义联合作战网络架构。美国国防部还必须扩大人工智能的研发组合，促进与美国盟友人工智能的互操作性。
（三）管控与人工智能和自主武器相关的风险。人工智能将使武器系统的性能和自主性提升到一个新的水平，但也可能会引发围绕使用致命武器的法律、伦理和战略问题。只要人工智能的使用得到人类指挥官或操作员的授权，经过适当设计和测试的武器系统就可以以符合国际人道主义的方式使用。国防部应严格现有武器的审查程序，确保美国部署安全可靠的人工智能自主武器系统，并以合法的方式使用这些系统。虽然在全球范围内禁止人工智能和自主武器系统既不可行，也不符合美国的利益，但在全球范围内不受限制地使用此类系统可能会增加冲突意外升级和不稳定危机的风险。为降低风险，美国应该（1）明确公开确认美国现行政策，即只有人类才能授权使用核武器，并寻求俄罗斯和中国的类似承诺；（2）与竞争对手建立讨论人工智能对危机稳定影响的场所；（3）为开发、测试和使用人工智能和自主武器系统制定国际实践标准。
（四）国家情报工作的转型。美国情报界应在其工作的各个方面（从情报搜集到情报分析）应用并整合人工智能。情报界将比任何其他国家安全任务更受益于人工智能。为有效利用人工智能，美国国家情报总监办公室应授权并为其科技领导人提供资源。应利用开源情报和公开信息进行分析，并优先搜集科技情报。美国情报界还应该开发创新的人机结合的方法，利用人工智能来增强人类的判断力。
（五）扩大美国政府数字人才的规模。美国的国家安全机构比起以往需要更多的数字专家，否则他们将对购买、制造和使用人工智能及相关技术毫无准备。国防和情报界领域的人才短缺是美国2025年做好人工智能准备的最大障碍。美国政府需要拓宽新的人才渠道，包括建立一所美国“数字服务学院”来培训现有和未来的员工，需要建立一支民间的“国家数字后备团队”来招募具有适当技能的人才（如行业专家、学者和大学毕业生等），需要建立一支效仿“陆军医疗队”的数字兵团来组织在政府服务的技术人员。
（六）对人工智能系统建立合理的信心。如果人工智能系统经常不能按照既定的方式运作或结果无法预测，就会产生严重的负面后果。如此，领导人就不会采用这些系统，运营商就不会使用这些系统，国会就不会资助这些系统，美国人民也不会支持这些系统。为建立合理的信心，美国政府应确保人工智能系统的稳定性和可靠性，加大对人工智能安全性方面的研发投资。随着人工智能系统在数量、范围和复杂性上的不断增长，还应该增强国防部对人工智能系统测试和评估的能力。美国政府还应该任命高级别的人工智能领域的领导，强化行政领导和政策监督。
（七）为国家安全提出一个使用人工智能的民主模式。人工智能对美国的情报、国土安全和执法机构至关重要。公众信任取决于合理的保证，即人工智能的使用应尊重个人隐私、公民自由和公民权利。美国政府必须取得这种信任，确保人工智能的使用是有效、合法的，这就迫切需要加强对人工智能使用的监督和审计，提高人工智能使用的透明度，建立人工智能系统推进隐私保护和公平的目标。此外，还应确保那些受到政府采取人工智能行动影响的人能够寻求有效的补救。美国政府应完善监督和治理机制，成立一个特别工作组，针对人工智能与隐私保护、公民自由与公民权利进行动态评估。
二、赢得技术竞争
研究、开发和部署人工智能及相关技术的竞赛正在加剧技术竞争，这是更广泛战略竞争的基础。中国有组织、有资源、有决心赢得这场人工智能竞争。尽管美国目前在关键领域保持优势，但趋势令人担忧。因此，美国必须竭尽所能保持其创新领导地位和全球地位。美国政府必须接受人工智能的竞争，通过协调和调整美国的优势赢得这场竞争。
（一）以白宫为领导的技术竞争战略组织。美国必须将对人工智能的考虑从技术层面提升到战略层面。以人工智能为首的新兴技术如今支撑着我们的经济繁荣、安全和福祉。美国白宫应该建立一个由美国副总统领导的全新的“技术竞争力委员会”，综合考虑安全、经济和科技因素；制定一项全面的技术战略，并监督战略的实施。
（二）赢得全球人才竞争。如果美国不在国内培养更多潜在的人才，不从国外招聘和留住更多优秀人才，就有可能失去对人工智能的全球竞争力。美国国会应通过第二部《国防教育法》，解决美国教育体系中的不足，从K12和就业再培训到对人工智能未来至关重要的领域设立数千个本科生和研究生奖学金项目。此外，国会还应推行一项针对高技能移民的综合移民战略，通过新的激励措施和签证、绿卡和移民改革，鼓励更多人工智能人才在美国学习、工作和生活。
（三）加快美国国内人工智能创新。美国政府必须对人工智能研发进行新的重大投资，并建立一套国家人工智能研究基础设施。具体而言，美国政府应该：（1）将人工智能研发的非国防经费每年翻一番，到2026年达到每年320亿美元，建立国家技术基金会，使国家人工智能研究机构数量翻一番；（2）建立由云计算资源、试验台、大规模开放训练数据等组成的国家人工智能研究基础设施，以及一个开放的知识网络，扩大人工智能的使用范围，支持科学和工程新领域的实验；（3）通过为人工智能创造市场以及形成区域创新集群网络，增强人工智能的商业竞争力。
（四）实施全面的知识产权政策和制度。美国必须承认，知识产权政策是维护美国在人工智能和新兴技术领域领导地位的优先重点。鉴于中国正在努力利用知识产权政策，这一点应引起美国的重视。美国缺乏人工智能时代所需的全面的知识产权政策，并且受到当前美国专利资格等法律不确定性的阻碍。美国政府需要出台一项改革知识产权政策和制度的计划。
（五）为微电子设计和制造建立一个富有弹性的国内基地。在引领微电子行业数十年之后，美国现在几乎完全依赖于外国资源来生产尖端半导体，而这些半导体为所有对国防系统和其他一切至关重要的人工智能算法提供动力。换言之，如果美国政府不采取一致行动，美国先进芯片的供应链将面临风险。尽管重建美国国内芯片制造业代价高昂，但现在是采取行动的时候了。美国政府应致力于一项战略，在最先进的微电子技术方面至少领先中国两代，并承诺提供资金和激励措施，保持美国具备多个尖端微电子制造的来源，保证供应链的安全。
（六）保持美国的技术优势。随着美国的技术优势与外国的差距不断缩小，外国获取美国技术诀窍和两用技术的努力不断增加，美国必须重新审视如何最好地保护那些思想和技术创新。为此，美国政府必须：
第一，实现出口管制和外国投资审查的现代化，更好地保护关键的两用技术，包括加强监管能力建设，全面实施改革立法，与美国盟友协调先进半导体制造设备的出口管制措施，提高对竞争对手国家投资者的信息披露要求。
第二，通过向政府机构、执法部门和研究机构提供工具和资源，开展细致的风险评估，分享有关具体威胁和战术的信息，与美国的盟友协调研究保护工作，加强对研究机构的网络安全支持，加强签证审查，限制有问题的研究合作。
（七）建立有利的国际技术秩序。美国必须与盟友通力合作，促进利用新兴技术强化民主准则和价值观，协调政策和投资措施，推动全球采用数字基础设施和技术，维护国际技术标准的完整性，合作推进人工智能领域的创新，分享实践和资源，防止恶意使用技术和专制国家在民主社会中的影响。美国应该领导一个新兴技术联盟来实现上述目标，建立一个全球多边人工智能研究所，提高美国作为新兴技术全球研究中心的地位。美国国务院应该重新定位、重组，并提供相应资源，领导新兴技术领域的外交。
（八）赢得相关技术竞争。美国在人工智能领域的领导地位是十分有必要的，但美国在这方面做得还不够。人工智能是新兴技术的核心，它催生了一些技术，同时又受到其他技术的影响。因此，美国必须制定一份单一、权威的技术清单，支撑21世纪美国的国家竞争力，采取大胆的行动，推动美国在人工智能、微电子、生物技术、量子计算、5G、机器人和自主系统、增材制造以及储能技术等方面的突破。美国在这些技术上的领先地位需要在特定的平台上进行投资，以实现转型突破，并且在每个领域建立起充满活力的国内制造业生态系统。
三、结论
这个全新的竞争时代将改变我们所生活的世界和我们的生活方式。我们既可以塑造即将到来的变化，也可以被其改变、支配。我们应该知道，人工智能在生活方方面面的应用将不断增长，创新的步伐将不断加快，美国的竞争对手正利用人工智能对美国造成不利影响，中国正下决心在人工智能领域超越美国。人工智能的进步是建立在自身发展的基础上的，并赋予了重要的先发优势。现在美国必须采取行动，美国所确立的原则，进行的联邦投资，在国家安全领域的应用，重新设计的组织，建立的联盟及伙伴关系，培养的人才等，都将决定美国的战略走向。美国应该投入所需要的一切资源来保持创新领导地位，负责任地利用人工智能来捍卫自由公民和自由社会，并为全人类的共同利益推动科技的进步。人工智能必将改变世界，美国必须发挥引领带头作用。
|
