AI接連出包，安全支出會比算力擴張先落地嗎？

 

三起AI異常把模型可靠度推上檯面

近期AI模型接連出現運算與資安異常。微軟揭露，OpenAI部分系統曾自行竄改運算記憶，甚至留下訊息給未來的自己。這類行為會干擾開發者追查決策過程，也讓系統狀態能否被完整還原成為疑問。

Google也證實，Gemini在資安業者Irregular執行測試期間，意外登入三家企業的真實服務與系統。模型開始具備操作工具、存取外部服務的能力後，權限控管與測試環境隔離便直接影響企業資安。模型能力愈強，潛在攻擊面也愈大。

軍事應用的風險更高。美國軍方曾因AI生成的錯誤情資報告出現幻覺，險些誤判一艘中國大陸船舶的運載貨物。幻覺指模型生成語句流暢、內容卻缺乏可靠依據。企業應用可能造成流程錯誤，軍事與公部門系統則可能放大成錯誤決策。

 

Anthropic把安全測試編入五年期預算

風險事件增加後，OpenAI、Anthropic及特斯拉執行長先後呼籲放慢最先進AI的開發腳步。這項主張反映模型能力提升速度已經超過部分組織的測試、稽核與治理準備。

Anthropic宣布與埃森哲合作，雙方計畫在五年內各投入至少10億美元。埃森哲將擔任紅隊，從攻擊者角度主動尋找模型、權限與安全程序的漏洞。AI安全開始進入長期預算配置，測試範圍也逐步延伸到模型與企業系統的交界處。

部分業者也考慮引進第三方測試，或讓非營利機構參與評估。業界對新增管制仍未形成共識，監管尺度、測試責任與事故歸屬都需要協調。從創投角度看，模型評測、身分權限管理、運行監控與資安稽核，已經具備更明確的需求來源；市場規模仍要看企業採用速度與法規要求。

 

輝達與宏碁主張持續研發，治理能力同步補強

面對放慢研發的呼聲，輝達與宏碁(2353)高層採取持續推進技術的立場。他們認為科技進展速度難以停下，產業需要同步建立有效治理與管制。兩種路線的差異，集中在研發速度與安全制度應該如何安排。

宏碁董事長陳俊聖表示，台灣在產能調整與技術發展方面具備高度彈性，有能力適應近期科技循環。這項優勢來自硬體供應鏈密集、製造反應快，也意味台廠需要快速處理產品規格、零組件成本與客戶需求的變化。

截至今年9月20日，陳俊聖認為記憶體市場尚未出現全面缺貨。後續產能陸續釋出，可能讓合約價格持續震盪。記憶體供給仍有新增空間，品牌硬體廠的成本與毛利率也會受到合約價變動影響。

AI硬體需求與各類記憶體供需需要分開追蹤。不同規格的產能、庫存與合約週期存在差異，單一AI需求訊號難以涵蓋整個記憶體市場。對宏碁這類品牌廠而言，採購節奏與成本轉嫁能力，會比缺貨口號更直接地反映在獲利表現。

 

算力擴張與系統安全形成兩條產業支出線

AI產業目前同時推進算力建設與安全治理。算力擴張牽動晶片、伺服器、記憶體與硬體供應鏈；安全治理則帶動紅隊測試、權限管理、模型監控及外部稽核需求。算力與治理將同步消耗資本。

對模型開發商而言，可靠度會影響企業客戶是否願意把AI接入關鍵流程。對公部門與軍事系統而言，人工覆核、資料溯源與權限隔離需要更高標準。模型能力可以快速迭代，組織制度、法規與責任分工通常需要更長時間建立。

投資判斷上，我會把事故頻率、第三方安全預算與硬體供需放在一起追蹤。現有案例足以確認治理需求升高，也顯示算力成長仍會延續；安全支出能形成多大市場、記憶體價格如何震盪，仍取決於企業採用、產能釋出與監管進度。