
下週,川普總統與習近平主席將在北京舉行會晤,這可能是自1972年理查德·尼克森與毛澤東在北京會面以來中美兩國領導人之間最重要的一次會晤。
那次會晤緩和了中美之間長達數十年的敵意,促成了美中兩國針對蘇聯的默契同盟。本次會晤同樣發生在國際局勢發生類似變革的時刻,中美如今正面臨一個全新的共同威脅。這是一種不斷擴散的失序風險,若兩國無法在競爭的同時開展合作、應對日益增多的挑戰,這種風險或將動搖全球穩定,損害兩國利益。唯有中美兩國攜手行動,才能有效應對這些挑戰——首先,鑒於最新的人工智慧模型已展現出驚人的網路攻擊能力,中美兩國應攜手建立防護機制,防止人工智慧被惡意利用。
自尼克森與毛澤東會晤以來,兩大範式轉變重塑了世界。第一大轉變——儘管警鐘已響徹全球,但仍未被廣泛重視——正是新型非對稱人工智慧工具的出現。這類工具能為小型惡意行為體賦予極大的能力,無論是恐怖分子、無政府主義者、犯罪分子、政治團體,還是小型國家。
兩個人躲在山洞裡,僅用一台筆記型電腦、接入最新AI模型和星鏈終端,就能對任何國家的關鍵基礎設施發動攻擊。
第二大轉變與全球化有關。尼克森與毛澤東會晤,開啟了世界從彼此隔絕到緊密連接、進而深度交織的進程。當年,尼克森與毛澤東推動中國逐步融入全球經濟,隨後鄧小平大力加速這一進程,推動中國轉向國家主導的資本主義模式,由此釋放了一系列經濟與技術力量。
進入21世紀初,中國加入世界貿易組織以及全球互聯網的普及前所未有地讓更多地區、更多的人能以更低的成本、更多的方式在更多的領域展開競爭、聯結與協作。正因如此,我在2005年撰寫了《世界是平的》(The World Is Flat)一書。
然而,技術變革的本質在於,每一次重大進步都比前一次更快,因為它建立在前一時代所釋放的工具之上。因此,在我提出「世界是平的」多年後,技術與其他力量繼續演進,正如 HOW社會研究院 創始人多夫·賽德曼所言,世界從相互聯接走向了相互依存,或如他所說,是從「平的」走向了「 融合的 」。
在平的世界裡,你尚可選擇拔掉插頭;但在融合的世界裡,無人能夠逃離。如今,我們已是命運與共,休戚相關。
這不僅是因為互聯網、智慧型手機、光纖、衛星及無線通信技術讓我們在技術層面以前所未有的方式緊密相連;更因為一系列全球性挑戰讓我們的命運前所未有地交織在一起。這些挑戰影響範圍極廣,且不受國界限制,任何國家無論實力多強都無法獨自應對或逃避。
我們清楚這些挑戰是什麼:減緩氣候變化、防止核武器與生物武器擴散、管理全球移民、遏制疫情、維護如今我們都依賴的全球供應鏈順暢運轉,以及最重要且最緊迫的事項——管控我們親手創造的新型人工智慧物種。
在眾多全球性議題上,我們尚且能夠通過有限的合作來拖延或是勉強應對,但面對人工智慧的網路攻擊能力,我們已經沒有時間。再沒有拖延的餘地,已經無路可退。
微軟前研究與戰略主管、也是我研究人工智慧新威脅的導師與合作夥伴克雷格·蒙迪指出,多年來,美國和 中國 一直 在網路空間相互 試探、滲透,通過祕密網路行動在對方系統植入惡意軟體基礎設施並竊取信息 。但蒙迪指出,雙方也心知肚明,若中方癱瘓我們的電網,我們也能癱瘓中方電網;若中方能讓華盛頓斷電,我們也能讓北京斷電。這與核武器的邏輯如出一轍:「他們重現了相互確保摧毀的格局,」蒙迪說。
但現在猜猜誰又已經入局?一批新的、潛在極具危險性的行為體,它們不再局限於國家主體,卻能同時威脅中美兩國。
這就是Anthropic與OpenAI近期披露的代理式人工智慧系統。這類系統能為小型網路攻擊者提供工具,使其能以極低成本擾亂中美兩國乃至全球任何國家的經濟,而且幾乎無需專業技術。可以肯定的是,谷歌的Gemini等其他美國人工智慧模型以及中國後續推出的人工智慧模型也將具備同等能力。
蒙迪表示,由於中美企業率先研發出這類代理式系統,「兩國必須牽頭管控它們的傳播,並構建防禦體系——既要保護自身,也要防範技術洩漏後危害他人」。
Anthropic與OpenAI稱,其最新模型在發現和利用軟體漏洞方面能力極強,因此兩家公司目前選擇限制其傳播。但即使尚未洩漏,技術流入公開領域也只是時間問題。
蒙迪認為:「這應當成為兩國攜手合作的強大動力——哪怕僅限於這個狹窄的議題,它如今已經對雙方構成了迫在眉睫的威脅。」
這並非不切實際的要求。蒙迪指出,尼克森與毛澤東時代,中美能夠合作「是因為當時我們有共同的敵人蘇聯。如今,我們面臨另一個共同問題,它並非某個國家,而是一項技術——代理式人工智慧系統帶來的非對稱網路威脅引發的新興風險」。
過去的G2(即中美兩國)應當同我稱之為「新I7」的七家企業——Anthropic、谷歌/Alphabet、OpenAI、Meta、阿里巴巴、深度求索、字節跳動——攜手合作,在充分發揮新型人工智慧模型價值的同時有效防範其最壞影響。僅靠政府無法解決這一問題,企業同樣力有未逮。
由於伊朗戰爭的影響,這一動態未受到應有的關注,但據報導,川普 正考慮 在人工智慧模型公開前對其實施監管。川普此舉非常明智。人們必須清醒認識到:我們正進入一個新時代,私營企業如今掌握的力量堪比裂變原子,它們能夠釋放的影響力將輻射到各個領域。
「和裂變原子一樣,這項技術既可以用來發電,也能製造炸彈,」蒙迪說。代理式人工智慧亦是如此。「我們既可創造巨大福祉,也能製造武器——而且是極具非對稱破壞力的武器。」
代理式人工智慧預計將成為川普與習近平會晤的議題。而真正能讓本次會晤成為自毛澤東與尼克森會晤以來最重要中美峰會的,不僅僅是兩國領導人就此展開討論,而是他們決定現在就攜手應對——拖到以後就太遲了,技術發展速度已經不容拖延。
儘管華盛頓、北京乃至莫斯科的許多領導人尚未完全意識到這一點,但人類歷史已經第一次進入這樣一個全新階段:我們智人必須以地球為尺度,開展治理、創新、協作與共存,才能實現繁榮發展。我們要麼構建複雜且自適應的合作聯盟來實現這一目標;要麼就是一起沉淪。