Skip to content Skip to footer

人工智能的地缘政治

美丽新世界

image-20231126171854046

HAL没有像被蔑视的机器人那样的愤怒。

有朝一日,人工智能可能会被视为人类最伟大的发明和最强大的工具。

事实上,与有朝一日可能会说话、推理和发明的计算机相比,轮子、印刷机、青霉素和核武器都可能相形见绌,这并不少见。

查尔斯国王在最近举行的英国人工智能安全峰会开幕式上说:“我们正在见证人类努力史上最伟大的技术飞跃之一”。

然而,预测人工智能最终将如何“进化”是具有挑战性的。

乐观主义者希望人工智能能够提高生产力,加速科学进步,并将人类从工作的束缚中解放出来。悲观主义者担心人工智能会比人类更聪明,偷走我们的工作,并像弗兰肯斯坦的怪物一样,攻击它的创造者。

埃隆·马斯克(Elon Musk)在峰会上与英国首相里希·苏纳克(Rishi Sunak)的对话中,既体现了希望,也体现了恐惧,想象着一个世界,他笨拙的儿子会得到一个新的机器人朋友,同时担心它可能会突然变得“不再那么友好”。

虽然人工智能代表了一种技术飞跃,其后果不可预测,但人类的基本驱动力——从对权力的追求到对未知的恐惧——将保持不变。

人类固有的特征将决定社会如何整合人工智能,我们是以乐观还是怀疑的态度对待它的潜力,以及我们是把它作为善或恶的工具。地缘政治的根本驱动力——促进国家安全和繁荣——将塑造人工智能的发展和地缘政治本身。

布莱切利公园的恐惧和厌恶。

英国的人工智能安全峰会是第一次关于人工智能的大型外交会议,让人们了解各国政府将如何在人工智能方面进行竞争和合作。

28个国家的政府签署了一份官方声明,指出人工智能带来的反乌托邦风险,其“可能造成严重甚至灾难性的伤害”,并致力于“国际合作”。联合国表示打算设立一个类似于政府间气候变化专门委员会的专家小组。领先的人工智能公司签署了一项自愿协议,允许政府测试其最新的社会和国家安全风险模型。

事实上,这次峰会具有早期气候变化会议的基调:对新发现的“生存”风险敲响警钟;有前途的国际合作;并提议根据人工智能版的“预防原则”采取行动。

但是,与气候变化一样,国家利益可能凌驾于共同利益之上。

尽管召开了这次会议,但英国表达了成为“人工智能超级大国”的雄心壮志。在同一周,美国和欧盟推进了自己的法律法规。一些商界人士批评了中国的参与,称重点不应该是管理遥远的生存威胁,而应该支持当地工业。

人类的野心、控制力和自身利益与人工智能一样被展示出来。

迈向 AI 的一小步。

各国已经将人工智能视为实现经济增长、军事实力和全球影响力的途径。

毫无疑问,大国将推动技术霸权,而那些在采用技术方面落后的国家可能会面临经济停滞或对人工智能领先国家的依赖。因此,即使面对公认的风险,继续前进的动机也可能是压倒性的——就像世界继续燃烧化石燃料而无视IPCC气候变化专家的警告一样。

但即使撇开算法转变为恶意机器人霸主的(希望)长期风险,人工智能几乎肯定会影响国家之间的权力动态。它还将造成重大的国际安全困境。甚至可能改变国际体系的基本特征。

国家的兴衰往往是由经济、政治和外部压力驱动的。

由于国家的相对实力很大程度上取决于其经济基础,因此在各行各业有效部署人工智能以提高生产力的国家将变得更加强大。而那些不这样做的人将落后。

如果经济史可以作为指导,那么拥有健全的知识产权法、研究机构和支持性监管环境的国家可能在人工智能创新和部署方面具有优势。

但是,就像20世纪的太空或核军备竞赛一样,国家驱动的经济模式可能会让更多的自由放任方法为他们的钱而战。

毕竟,苏联击败了美国进入太空,但从未登上月球,而美国则击败了苏联的原子弹,但很快就面临着核平价的竞争对手。

美国目前在生成式人工智能方面对中国的优势可能同样是短暂的。而且,就像冷战期间一样,竞争可能以两匹马的比赛开始,但技术最终会传播开来。今天,有九个国家拥有核武器,世界上有 500 亿到 2 亿个特氟龙锅(根据 Chat GPT 的估计)。

各国如何处理人工智能带来的潜在社会、文化和政治破坏也将影响其相对实力。

民主社会在选举期间可能面临人工智能产生的错误信息的挑战,更不用说大规模失业或快速技术变革造成的社会阻力了。专制政权可能会发现人工智能对个人来说是一种不受欢迎的赋权工具。较贫穷的国家可能会遭受迅速扩大的“数字鸿沟”,导致更大的经济不平等。

各国将根据其现行的政治、社会和经济模式追求人工智能驱动的发展。

今年夏天,中国成为第一个对生成式人工智能进行监管的国家,这种做法具有典型的中国特色:算法必须经过“舆论或社会动员属性”的评估,而人工智能生成的内容必须“坚持社会主义核心价值观”,“不得煽动颠覆国家政权”。

欧盟技术官僚们走了一条典型的更懒散的道路:在过去四年中研究人工智能,以期尽快将研究结果立法,重点是保护公民的数据和隐私。

白宫在所有事情上都面临着不合作的国会,跳过了立法道路。本周,乔·拜登(Joe Biden)发布了一项行政命令,要求开发人员与政府分享构成国家安全风险的测试结果,同时还标记了“人工智能权利法案”。

企业不仅要适应指数级的技术进步,还要适应政府快速变化、分散和不一致的监管方法,因为他们正在追赶。

拯救世界的人。

随着各国在自主武器和监视系统等人工智能驱动的防御能力上投入巨资,它们可能会无意中加剧紧张局势。

乔治·奥威尔(George Orwell)虚构的《1984》经常被引用为一个关于极权主义和技术实现的大规模监控后果的警示故事。随着人工智能变得越来越强大,它被威权国家用作镇压工具的风险也在增加。在一个地缘政治路线日益分裂的世界里(与奥威尔笔下的大洋洲、欧亚大陆和东亚惊人地相似),人工智能赋予威权国家权力的潜力可能会增加敌意和摩擦。

但比1984年更重要的是1983年。

那一年,莫斯科的苏联预警卫星系统两次报告说,五枚美国洲际弹道导弹正朝着苏联飞去。当晚的值班军官斯坦尼斯拉夫·彼得罗夫(Stanislav Petrov)决定等待从未到来的确凿证据,而不是立即向指挥系统传达警告——这一决定很可能阻止了可能引发全面核战争的报复性核打击。

随着人工智能变得更加强大和无处不在,政府可能会试图用C3PO取代彼得罗夫。

将人类“带出圈子”——不仅是为了使用自主武器进行战场决策,也是为了如何应对可疑的核攻击等战略决策——可以被认为是威慑对手和展示实力的明智之举。但它也可能导致人工智能误读信号、误解数据或错误估计风险,并可能导致意外升级。

正如核军备竞赛的早期造成了不稳定,直到两个超级大国偶然发现了相互保证毁灭,目前的人工智能军备竞赛可能会导致不稳定,直到找到平衡点,各国政府制定出相互理解的信号、升级和降级协议。

地理的终结?

人工智能的日益突出——就像之前互联网的发明一样——也将改变“地缘政治”中的“地缘”。

获取数据、计算能力和熟练人力资本等资源将变得更加重要。拥有大量数字数据资源的国家(如中国)在训练复杂的人工智能模型方面将具有明显的优势。相互联系更紧密、对国际合作持开放态度的国家(如美国)可能会受益于更快的人工智能技术传播。促进商品、服务和资本自由交换的传统贸易协定可能变得不如促进数据流动的贸易协定重要。

早在1919年,地缘政治学之父哈尔福德·约翰·麦金德(Halford John Mackinder)就总结了他的国际关系“心脏地带理论”,他说,谁控制了东欧,谁就控制了中心地带(亚洲、非洲和欧洲相互联系的大陆的中心),谁控制了中心地带,谁就控制了世界。

在人工智能时代,该理论可能需要软件更新。

对“数字中心地带”——关键数字基础设施、数据中心、互联网阻塞点和卫星发射设施——的控制可能最终成为决定国家命运的最重要因素。或者,正如弗拉基米尔·普京(Vladimir Putin)最近所说:“谁成为人工智能的领导者,谁就将统治世界”。