AI安全警告升到10%毀滅機率，政策成本會先落在哪些公司？

 

DeepMind與Anthropic接連離職，AI安全爭論升溫

Google(GOOG)旗下DeepMind研究員Bilal Chughtai在今年7月離職後，近期公開表示，AI具備毀滅全人類的潛力，而人類可用來避免這種結果的時間窗口可能已經相當有限。這番發言把市場再度拉回AI安全議題，也讓投資人開始重新評估先進模型開發的長期風險。

Anthropic陣營的表態也把討論推得更前面。該公司研究員Jacob Coxon在上週辭職，理由之一是他認為，投入AI建構的人普遍相信，這項技術可能在十年內帶來毀滅性後果。隨後，Anthropic科學家Evan Hubinger公開呼應這個看法，並直言未來十年內AI毀滅全人類的機率超過10%。10%以上的毀滅機率，已經超出一般科技爭論的範圍，直接把討論推向生存風險層級。

 

科學家外流與高層警告，讓市場重新估算風險折現

這波發言之所以重要，在於它不是單一研究員的情緒表態，而是從離職、公開警告到機率估算，逐步形成一個更具體的風險敘事。當研究者開始把時間框架壓到十年內，市場就很難只用「長期想像」去理解AI產業，因為研發節奏、部署速度與監管進度都會被重新檢視。

Anthropic執行長Dario Amodei也公開呼籲，先進AI技術的發展速度應適度放緩。這個說法得到馬斯克與OpenAI執行長Sam Altman的罕見支持，顯示產業內部對風險節奏的看法已經出現可見分歧。科技巨頭罕見同調，代表市場開始面對的不是單點道德爭論，而是研發速度、商業化時程與安全邊界之間的拉扯。

對投資人來說，這類訊號會影響兩個層面。第一層是資本配置，因為越接近前沿模型的公司，越可能承受更高的合規、治理與聲譽成本。第二層是估值敘事，因為原本建立在快速擴張與滲透率提升上的預期，會受到政策節奏與安全審查干擾。風險折現開始抬升時，市場願意給的成長倍數，通常也會變得更敏感。

 

川普批評監管呼籲，政策路線出現明顯分歧

川普對AI監管的態度，讓這場討論多了一層政策變數。他近期在社群媒體上直接駁斥相關警告，稱AI產業呼籲加強監管的聲浪是一場「騙局」。這種表態和科技界愈來愈強烈的風險憂慮形成對照，也意味著未來美國在AI政策上的路線，可能出現更明顯的拉扯。

對市場而言，政策分歧帶來的影響很直接。若產業界持續主張放緩，監管端卻傾向維持高速推進，AI相關公司仍可能維持高研發投入與高資本開支。若後續政策開始把安全風險納入更實際的審查，模型訓練、部署與出口限制都可能成為估值與營運的新變數。真正該觀察的，是安全敘事如何轉成政策成本，以及這些成本會先落在哪些公司身上。

目前這些訊號還不足以推翻AI長線成長方向，但已經足以讓我把注意力轉向另一個層面：研發速度、監管節奏與產業自律，能否同步跟上資本市場對AI的高預期。只要這三者開始明顯脫鉤，AI板塊的波動就不會只來自業績，還會來自制度與信任的重估。