美中 AI 對抗白熱化，但兩國學者共識一致：別讓 AI 迎來「車諾比時刻」

WIRED 親赴北京中關村 AI 年會，採訪中美頂尖學者後的最大結論是：前沿 AI 的網路安全風險已大到任何一方都無法單獨承擔，開源模型的能力邊界正逼近危險臨界點。
（前情提要：Anthropic 遭美國政府「封殺」撤下 Fable 模型，外媒指三大隱憂：恐助攻中國開源）
（背景補充：Nvidia 推出最強開源模型 Nemotron 3 Ultra！專注 AI 代理任務）

本文目錄

Toggle

一場 AI 軍備競賽，卻催生出核威懾
開源模型的邊界，正逼近危險臨界點
中國也在悄悄關門

WIRED 記者 Will Knight 親赴北京智源人工智慧研究院（BAAI）主辦的這場會議，現場聚集了從遞迴自我改進、類人機器人到量子安全的各路議題，與會者包括公鑰密碼學聯合發明人 Whitfield Diffie、以強化學習奠基研究獲得圖靈獎的 Andrew Barto。

Knight 在文中寫道，他離開會場時只剩下一個念頭：美中兩國必須把 AI 競賽的戾氣放下來。原因不是外交辭令，而是技術現實：前沿 AI 的網路安全風險正在以超過任何一國政策能追趕的速度擴張。

一場 AI 軍備競賽，卻催生出核威懾

華盛頓的標準框架，是把中國的 AI 進展視為經濟與國安威脅。出口管制持續收緊，限制高階晶片與製造裝置流向中國；今年六月，美國政府更進一步，以國家安全為由，要求 Anthropic 停止讓外國人士存取其最強的兩款模型 Mythos 5 與 Fable 5。

Anthropic 隨即對所有人關閉這兩款模型，原因之一是當局擔心 Fable 5 的防護機制遭到破解，進而解鎖 Mythos 的網路攻擊能力。

然而這場北京會議傳達了一個截然不同的訊號：開發速度過快、缺乏節制的 AI，對美中雙方都是風險，而不是單方面的籌碼。

MIT 電腦科學家 Stephen Casper 透過視訊在會中發言，他引用的一篇研究顯示，國際社會在 AI 風險上展開合作的收益，遠大於合作本身帶來的安全隱患。Casper 向 Knight 打了個比方：「幾乎所有人在 AI 領域都能同意的一件事，是 AI 不需要一場車諾比時刻。」

他指出，這與冷戰時期美蘇在核武上的矛盾邏輯如出一轍，雙方拼命擴充武器庫，同時又不得不建立核危機管控機制。讓他們最警惕的，正是愈來愈強的代理式 AI，一旦能力持續提升，稍有失控就可能造成大規模破壞。

開源模型的邊界，正逼近危險臨界點

如果說網路安全風險是理論層次的警示，那麼開源模型的能力擴張，則是眼前看得見的地雷。

近幾年，中國企業在開放權重模型領域走在前面：月之暗面的 Kimi、阿里巴巴的 Qwen、Z.ai 的 GLM，在美國研究社群都擁有大量用戶。美國的反擊則是 Nvidia 的 Nemotron，試圖重建開源競爭力。

但專家對 GLM 5.2 的分析顯示，Z.ai 最新一代模型已具備前沿等級的代理能力與程式撰寫能力。下一個世代的開源模型，能力可能就與 Fable 或 Mythos 並駕齊驅。

上海交通大學教授 Lin Yun 長期研究 AI 與資訊安全的交叉地帶，他向 Knight 指出，短期內駭客確實佔有優勢，但新的防禦手段、包括 AI 本身的反制應用，應該會在中長期扭轉這個局面。更核心的問題在於標準：「如果不同國家對風險的理解是相似的，就更容易建立共同的安全原則與技術標準，」Yun 說，「關鍵是找到那些能降低系統性風險、又不會暴露敏感作業細節的共享領域。」

Lin Yun 也提出一個棘手的開放問題：產業如何保證開源模型持續更新、沒有後門漏洞、並且符合安全標準？這個問題目前沒有答案。

中國也在悄悄關門

一個不應被忽視的細節，來自 Will Knight 採訪的匿名訊息人士：一位中國頂尖 AI 公司的內部人士，因未獲授權對媒體發言而要求匿名。他透露，安全顧慮已是部分先進模型不再對外開源的原因之一。

這是一個值得細讀的訊號。中國 AI 公司向來以開源姿態換取全球影響力，但如果連中國自己的頭部玩家都開始對部分模型設限，那麼開源與閉源的邊界正在被重新定義，畢竟出口管制管的是算力流向，但模型能力的擴散是軟性的、無國界的。當開源社群能夠複現閉源模型九成的能力，當開放模型本身就能成為網路武器，任何單邊管制都只是延緩而非阻止。

美中兩國是當今最先進模型的主要來源，也因此是這場風險裡責任最重的兩方。Casper 說得直白：「AI 是一項全球技術，它帶來全球性的利益，也帶來全球性的傷害，而新能力最終擴散到全世界，是它一貫的傾向。」不管北京和華盛頓在出口管制上的角力還要持續多久，這道邏輯都不會消失。