2026年2月19日，在印度新德里舉行的人工智慧影響力峰會期間，Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）與法國總統埃馬紐埃爾·馬克龍會晤後現身。（圖片來源：Ludovic MARIN / AFP via Getty Images）
【看中國2026年9月13日訊】（看中國記者路克編譯/綜合）路透社9月12日報導，人工智慧公司Anthropic首席執行官達里奧．阿莫代伊（Dario Amodei）呼籲全球領先AI企業放慢提升模型能力的速度，警告隨著人工智慧自主行動、網路攻擊乃至自我改進能力迅速增強，人類用於建立安全防線的時間正在縮短。
阿莫代伊在當天發表的一篇長文中提出三步方案，包括在領先AI公司內部引入獨立安全評估人員、推動前沿AI企業協調製定安全標準，以及尋求國際合作控制先進人工智慧帶來的風險。
他的表態獲得兩名主要競爭對手罕見響應。OpenAI首席執行官薩姆．奧爾特曼（Sam Altman）和xAI負責人埃隆．馬斯克（Elon Musk）均表示贊同。
AI能力狂奔 阿莫代伊呼籲主動「降速」
阿莫代伊稱，現在需要放慢的不是整個AI技術進步，而是模型能力不斷升級的速度。
「我們必須放慢提高AI模型能力的速度。」他表示，即使如此，AI進步在人們看來仍然會非常快，因此企業和政府必須充分利用爭取到的時間，解決模型對齊、安全評估和監管等問題。
按照他的設想，首先應允許獨立評估人員長期進入領先AI實驗室，並獲得接近內部員工級別的模型和風險評估許可權，而不是等到模型公開之後才進行有限測試。
奧爾特曼隨後表示，OpenAI也願意接受擁有「類似員工訪問許可權」的獨立評估人員。
第二步則是讓Anthropic、OpenAI、xAI等前沿模型開發者共同制定最低安全標準，在模型能力明顯超過現有控制水平時協調放慢研發速度。
不過，這種合作本身可能面臨反壟斷法律障礙。阿莫代伊因此認為，美國政府可能需要提供有針對性的反壟斷豁免，讓企業能夠在安全領域進行協調，而不必擔心因此承擔法律風險。
Anthropic曝真實案例 AI已被用於武器和監控
阿莫代伊選擇此時公開發出警告，與Anthropic剛剛發布的一份威脅情報報告密切相關。
Anthropic 9月10日公布報告稱，從2025年12月至今年8月，其團隊發現並阻止了多起利用Claude從事惡意活動的案例，涉及網路攻擊、政治監控、詐騙、生物技術濫用以及常規武器研發等七個領域。
其中一些案例已經遠遠超出過去利用聊天機器人生成釣魚郵件或詐騙話術的層次。
Anthropic稱，有行為者利用Claude協助開發導彈、無人機和電子戰系統相關軟體。一個項目涉及制導火箭，並實際進行了試射；其他項目則涉及反魚雷系統、無人機集群以及壓制防空系統的軟體設計。
該公司同時發現，中國境內的多個行為者曾利用Claude蒐集軍事情報、分析先進武器供應鏈，並撰寫供中共、軍方或國家安全系統內部使用的中文簡報。
在監控領域，Anthropic稱，與中國有關的人員曾利用Claude幫助搭建和操作監控系統，目標包括法輪功、國內維權人士、香港民主活動人士、六四紀念活動組織者、維吾爾相關團體以及海外異議人士。
Anthropic表示，已經封禁相關賬號，並將調查結果用於改進模型安全措施。
這些案例使AI風險的討論發生了變化：過去很多爭論集中在「超級智能未來是否可能失控」，現在的問題卻是，現有模型已經開始幫助現實中的政府、犯罪組織和武器開發人員提高效率。
研究員突然辭職 內部警告震動矽谷
與此同時，Anthropic內部也出現了罕見的公開警告。
Axios 9月9日報導，Anthropic研究員雅各布．考克森（Jacob Coxon）突然辭職，並公開表示，許多正在開發先進AI的人確實相信，這種技術可能在本十年結束前導致災難性後果。
考克森此前也曾在OpenAI工作。他辭職時距離部分公司股權歸屬只剩大約兩個月，因此主動放棄了潛在經濟利益。
更值得注意的是，他的說法隨後得到Anthropic內部其他研究人員公開呼應。
Anthropic對齊科學負責人埃文．休賓格（Evan Hubinger）表示，考克森對於行業內部擔憂程度的描述基本準確。他個人估計，未來十年AI導致人類災難性結局的概率超過10%，並承認業界目前仍沒有可靠方案解決超級智能的對齊問題。
Axios隨後報導，這些言論已經在美國國會引起明顯震動，一些兩黨議員開始要求國會更緊迫地討論先進AI監管問題。
不過，對於這種「末日風險論」，科技行業內部也存在強烈反對聲音。英偉達首席執行官黃仁勛（Jensen Huang）日前公開批評部分AI災難論過於誇張，並認為有關AI毀滅人類的說法缺乏現實依據。
想踩剎車又怕中國追上 AI競賽陷入兩難
阿莫代伊的方案存在一個非常現實的矛盾：即使美國領先企業認為AI發展速度已經過快，也沒有哪家公司願意單方面大幅減速。
商業利益是其中一個原因。
路透社指出，OpenAI和Anthropic都面臨巨大的融資和資本市場壓力。每一代更強大的模型，都可能直接影響企業估值、數據中心投資規模以及未來上市前景。
但另一個更重要的因素是中國。
阿莫代伊明確表示，民主國家能夠把AI研發速度放慢到什麼程度，最終受到美國對中國技術領先幅度的限制。
他尤其點名中共，稱如果中國在最先進人工智慧領域取得領先，將給美國帶來國家安全風險。因此，在要求美國AI企業提高安全標準的同時，他也主張進一步加強先進AI晶元出口管制，並防範模型蒸餾以及核心模型權重被竊取。
Anthropic最新測試也顯示，中國開發商的開放權重模型雖然總體仍落後於最先進的美國模型，但在識別軍事目標以及改善武器性能等任務上已經表現出值得警惕的能力。
這也使所謂「放慢AI競賽」變得遠比表面複雜。
美國企業一方面擔心自己的模型跑得太快，最終超過人類有效控制的能力；另一方面，又擔心如果主動踩下剎車，中國企業會利用這個窗口縮小差距。
因此，阿莫代伊真正提出的並不是停止AI研發，而是試圖建立一種機制：讓主要美國AI公司同時降低部分研發速度，同時通過政府監管和技術出口限制，盡量避免把戰略優勢讓給中國。
問題在於，在數萬億美元商業利益、美中科技競爭以及快速提升的模型能力共同推動之下，所有企業同時踩下剎車，可能比繼續製造更強大的AI更加困難。
