当前，人工智能技术的快速迭代发展，已成为经济发展的新引擎和国家竞争的新焦点。在促进技术快速发展的同时，如何制定合理有效的治理规则以防范人工智能带来的潜在风险，已成为国际社会的重要关切。中美作为人工智能技术和应用发展的两个大国，在人工智能治理上的竞争与合作受到各界高度关注。今年以来，DeepSeek的问世提振了中国企业突破美国技术封锁实现技术创新的信心，另一方面，“特朗普2.0”开启，美新政府对待人工智能治理以及对华科技竞争上的态度和政策尚未完全明晰。

近日，《纽约时报》刊登弗里德曼先生的文章，呼吁中美两国合作，共同应对通用人工智能可能给人类带来的风险。他认为，正如1970年代以来美苏核武器控制之于世界稳定的意义，未来确保人类有效掌控这些快速进化的人工智能系统，将取决于美中两国在人工智能领域的合作程度——这关乎明日世界的存续根基。通用人工智能（A.G.I.）诞生后，若不能达成共同的信任标准，美中将无法开展任何合作。

在人工智能治理中，“信任”一词常常被提及，包括对机器的信任，对人机协同的信任，对使用系统的人的信任，对机构的信任，对国家的信任等等。信任是最本的要素，也是最宝贵的资源。以色列历史学家尤瓦尔·赫拉利（Yuval NoahHarari）近日在中国发展论坛上的发言中从人类历史的宏观视角解读信任：“我们应当先增进人类之间的信任，再去开发真正意义上的超级人工智能体。……从本质上讲，信任是生存的必要条件。以人类身体为例，我们每秒钟都在呼吸，每一次呼吸都是一种信任——信任外界的空气，我们将氧气吸入肺中、融入身体，再将废气呼出到外界。这种信任和呼吸是生命的象征，如果失去对外部世界的信任，停止呼吸，生命也将终结。……历史告诉我们，信任比恐惧更为重要。为什么地球是由人类主宰？而不是被大象或者是其他的动物？并非是因为人类比其他动物更聪明，而是因为我们更懂得如何与陌生人建立信任并展开合作，这种能力经过了数千年的锤炼。在AI时代，想要生存和繁荣，我们需要更加信任他人，这一点比信任AI更为重要”。赫拉利同时也一针见血指出，“当前，人类之间的信任在瓦解，国际机制的基本范式和规则遭到破坏”。笔者最近出席联合国裁军署举办的首届全球人工智能峰会，会上，嘉宾们都无一例外提到地缘政治竞争破坏国与国之间的信任，延宕甚至破坏人工智能国际治理的进程。

然而，什么是信任？信任到底有什么标准？剑桥词典对Trust一词的解释为：相信某人是善良和诚实的，不会伤害自己，或者相信某个东西是安全、可靠的（to believe that someone is good and honest and will not harm you，or that something is safe and reliable）。韦氏词典的解释是，对某人或某物的品质、能力、实力或真相的放心依赖（assured reliance on the character，ability，strength，or truth of someone or something）。现代汉语词典对于信任一词的解释为“相信而敢于托付”。新华字词中对于“信任”一词中“信”字的解释为不怀疑，认为可靠，“任”字的解释为相信，信赖。在国际关系领域，信任是指国家或行为体对彼此意图、承诺和行动的正面预期。综上所述，信任需要包括以下基本要素：可相信、可预期、可解释。

中美两国之间能像弗里德曼先生期待的那样，至少建立基本的信任，在人工智能治理领域开展迫在眉睫的合作？要回答这个问题，不仅要从中美关系现状来分析，也要考虑人工智能技术本身的特性。

从中美关系来看，当前中美关系存在严重的信任赤字。中美两国之间相互怀疑和恐惧，对彼此意图的不确定一直影响两国关系走向。21世纪初，中国经济和军事力量的快速增长引发美国国内关于如何应对中国崛起的广泛辩论，美国国内学术和政策界开始关于中国的大辩论。中国积极推进“一带一路”倡议、发布《中国制造2025》、大幅提升对高科技产业投资等，使得美国政策界对中国的态度转向怀疑和警惕，担心中国挑战美国的领导地位。

2017年12月，特朗普政府在《国家安全战略》报告中将中国定位为竞争者，2021年3月，拜登政府发布《临时国家安全战略方针》强调，“中国是唯一一个有潜力综合运用经济、外交、军事以及科技力量来对稳定与开放的国际机制发起持续挑战的竞争者”。美国《2022年国防战略》宣称中国是“美国最重要的战略竞争者和紧迫的挑战者”，将中国置于美国的对立面，急剧压缩两国对话合作的领域。多位美国官员曾公开表示，要确保对华技术竞争的绝对优势。为实现这一目标，美国泛化“国家安全”概念，通过设立对外投资审查机制，加强对关键技术和设备的出口管制，限制对华技术转让，将中国企业列入出口管制“实体清单”等方式，极尽其能保护自身的技术优势和所谓“国家安全”。

另一方面，中国则认为，美方做法实为限制中国的发展，目的是维护自身霸权，剥夺中国正当发展的权利。此外，美国在特朗普第一任期的后期，开始突出对华战略中的意识形态因素。2020年5月20日，特朗普政府发布《美国对中华人民共和国的战略方针》，将中美两国的竞争上升到意识形态层面，认为“中美意识形态竞争体现在政治、经济和社会等所有领域”。此后，特朗普政府的多位重要官员就美中关系发表演讲，攻击中国的社会制度，指责中国的内外政策。在中美博弈和地缘政治大背景下，中美两大行为体的相互怀疑和恐惧，对彼此意图的不确定性愈演愈烈，构成两国信任赤字的最大因素，使“可相信”这一目标更加难以企及。而“特朗普2.0”初期在对外政策上的取向，使得“可预期”也成为两国关系的“稀缺资源”。

从人工智能技术本身来看，虽然近年来获得突飞猛进的发展，但仍然存在一些尚未解决的问题，包括不确定性、算法黑箱、不可解释性等。有AI“教父”之称的约书亚·本希奥教授于2025年1月领衔发布《国际人工智能安全报告》，其中列出通用人工智能（General-purpose AI）可能存在可靠性问题，包括虚构或幻觉——即不准确或具有误导性的内容；常识推理与推断失败——无法正确执行符合常识的逻辑推理；未能反映情境相关、最新且无偏见的知识与理解——输出内容脱离实际背景、过时或带有偏见。报告指出，可靠性问题的具体表现可能引发多种风险，包括对个人造成身体或心理伤害，对组织造成声誉、法律及经济损失，通过错误信息干扰治理流程等。而与此同时，虽然各国纷纷立法或制定规则对本国人工智能的发展予以约束，在国际层面针对人工智能技术尚无统一的、具有约束力的国际法律或条约。弗里德曼在文章中也预测，若中美各自发展人工智能系统，大量贸易将陷入停滞，只能互售大豆酿酱油。世界将沦为一个高科技封建主义世界。由此可见，人工智能技术本身不稳定性和不可解释性会让中美两国在这一领域的合作与竞争充满挑战。

2024年5月，中美人工智能政府间对话会议在日内瓦举行。从会后新闻稿看出，双方对此次对话均作出积极评价，认识到应确保人工智能技术的安全，重申继续致力于落实“旧金山共识”。但在治理侧重点上，双方存在较大分歧和错位。中方强调人工智能技术的发展，就美方在人工智能领域对华限制打压表明严正立场；强调人工智能发展的公平，认为AI全球治理应发挥联合国主渠道作用，建议建立具有广泛共识的全球人工智能治理框架和标准规范。而美国则倾向于将本次对话视为技术交流与交锋，聚焦人工智能的安全风险和治理，强调应确保建设AI系统安全、可靠、可信赖，并关注所谓中方“错用”（misuse）人工智能的做法。2024年11月，中美两国领导人在智利利马会晤，双方就有必要加强国际合作，促进人工智能向善普惠，维持由人类控制核武器使用的决定达成一致，获得国际社会广泛好评。如今，距离上一次中美人工智能政府间对话会议已经近一年，双方下次人工智能政府间对话仍未提上正式议程。而与此同时，仅2024年一年，美方共数次发布针对中国的人工智能管制措施和政策，拜登政府在针对中国的AI技术出口管制措施上仍在不断加码。

弗里德曼先生确实看到了中美两国在人工智能问题上进行合作的必要性和紧迫性，但在当前中美博弈的背景下，中美两国要想实现真正意义上的人工智能治理对话与合作，构建应对人工智能“生存性”风险的合作治理框架，必须首先跳出当前存在的“安全困境”。

“安全困境”是美国政治学者约翰·赫茨于1950年提出，指的是国家在追求自身安全的过程中，由于缺乏信任，可能导致军备竞赛、紧张局势升级，甚至引发冲突。这一困境的根本原因在于各国对彼此意图的不确定性，以及国际体系中无政府状态导致的安全焦虑。根据郝茨定义，安全困境存在以下几类要素：一是无政府状态的国际环境，缺乏规范行为和保护行为体免受攻击的权威组织或机构；二是行为体之间的相互怀疑和恐惧，对对方意图的不确定性；三是各行为体为寻求安全而强化竞争和采取安全措施；四是对所有行为体安全的减损。中美两国在人工智能上的竞争与合作呈现出“安全困境”的种种迹象。

中美之间进行人工智能治理合作，需要努力走出“安全困境”，而在当前背景下重建最基本的信任是唯一出路，需要双方都采取切实措施，一步一步做出调整。一是需要调整对彼此国家的认知和定位。如一定程度的竞争不可避免，那也要避免你死我活、非黑即白、零和博弈的恶性竞争。这是双方进行合作的认知前提。二是为国家安全设定红线，明确哪些为无法合作和交流的敏感领域，同时克制无限扩大这些领域的冲动。这是为双方合作提供确定性的基础。第三，在划定红线的基础上，可尝试在低敏感领域开展交流与合作，例如两国可围绕AI治理的政策和原则、最佳实践、能力建设上进行对话，以期增进相互了解，形成自身在对方眼中的可预测性和可解释性，逐步建立信任。第四，2024年两国在联合国大会相互联署各自关于人工智能的决议，为国际社会树立了良好典范，未来应继续在联合国框架下共同推动人工智能国际治理，探讨建立规范相关行为和保护行为体的权威组织或机构。第五，作为人工智能技术与能力的两个大国，中美应携手推动人工智能能力建设，为提高发展中国家人工智能能力水平，缩小数字鸿沟，推动实现联合国可持续发展目标贡献力量。

（作者为清华大学战略与安全研究中心副主任，文章转自“中美聚焦”）