代理型AI走向端雲分工，企業導入會先落地在哪裡？

 

Qualcomm把代理型AI推進高階手機

Qualcomm(QCOM)今年在夏威夷Snapdragon峰會發表兩款2奈米行動平台，分別為Snapdragon 8 Elite Extreme Gen 6與Snapdragon 8 Elite Gen 6。兩者搭載重新設計的Oryon CPU、Adreno GPU與升級版Hexagon NPU，目標鎖定高階智慧型手機。

財務長暨營運長Akash Palkhiwala將產品定位放在遊戲、生產力與代理型AI。代理型AI可以理解使用者意圖、蒐集情境資訊，並自行完成多步驟任務。Meta(META)的Muse、Google(GOOG)(GOOGL)的Spark與Gemini，都是Qualcomm提到的潛在應用。

這類代理若要長時間駐留手機，晶片需要同時處理推論效能、功耗、記憶體頻寬與軟體相容性。2奈米製程只是起點，Oryon CPU、Adreno GPU與Hexagon NPU之間的工作分配，才會影響代理能否持續運作，又能維持合理的電池續航。

對Qualcomm來說，商業機會也會從單次硬體升級，延伸至平台黏著度。手機品牌、應用開發商與模型供應商若開始針對Snapdragon最佳化代理功能，Qualcomm在高階Android生態系的角色就有機會加深。後續仍要觀察終端功能是否帶動換機，以及軟體生態能否跟上晶片進度。

 

端雲協同改變AI工作負載的分配方式

Palkhiwala描述的運作方式，是由裝置判斷任務適合留在本地，或送往雲端處理。簡單推論、個人化資訊與高隱私資料可以交給手機NPU；需要大型模型、龐大記憶體或即時外部資料的任務，則呼叫雲端算力。

端雲協同會重新分配推論成本。部分高頻率、低複雜度工作移至手機，可降低網路延遲與雲端呼叫次數。大型模型訓練與複雜推論仍會留在資料中心，因此端側AI擴張不代表雲端需求消退，反而可能增加代理使用頻率，進一步推升整體推論量。

這也會牽動AI基礎建設的產品組合。Nvidia(NVDA)、Microsoft(MSFT)、Meta與Google持續投入模型和資料中心；Qualcomm則把推論能力推向手機、PC、汽車與穿戴裝置。未來CPU、GPU與NPU的比例，將依任務複雜度、延遲要求及電力預算重新調整。

Qualcomm也把策略延伸至資料中心、全堆疊實體AI，以及整合硬體與軟體的平台。公司同時布局裝置端與資料中心，代表其成長邏輯已超出手機晶片出貨。兩端產品能否形成共同軟體平台，會決定這項布局能否轉化成長期營收來源。

 

汽車與穿戴裝置擴大端側AI市場

Qualcomm預期，個人代理將進入汽車、智慧家庭、耳機與手錶。車載代理可以串接導航、娛樂與車況監控；家庭代理可協調家電與能源使用；穿戴裝置則能持續追蹤健康、行程及通知。

這些場景具有共同需求：低延遲、低功耗、持續感知與本地資料處理。手機通常由使用者主動開啟應用，車用與穿戴代理則可能長時間在背景運行，對晶片穩定性及資料權限提出更高要求。

市場規模因此會延伸至更多裝置類別，但營收轉換速度可能各有差異。手機產品週期較短，汽車設計導入時間較長，智慧家庭又受到裝置碎片化影響。Qualcomm的跨終端布局提供較大的潛在市場，實際貢獻仍取決於設計案、軟體支援與終端採用率。

 

TD用2,500萬美元測試企業級AI導入

多倫多道明銀行(TD)從企業應用端切入。公司宣布未來三年最多投入2,500萬美元，由旗下AI研究團隊Layer 6與Cohere合作，推進生產力、決策、客戶體驗、知識管理及AI安全。

這筆支出屬於TD五年1,500億美元大型投資承諾的一部分。2,500萬美元相較整體承諾規模有限，較適合視為企業級AI的導入與驗證預算。金融機構需要先確認模型準確度、資料隔離、監管合規與內部流程整合，才能逐步擴大部署。

潛在應用包括風險評估、自動合規檢查、客戶行為分析與產品推薦。這些流程涉及敏感資料及高風險決策，企業模型需要具備權限控管、紀錄追蹤與人工覆核。金融AI的價值取決於流程整合深度，聊天介面僅是最外層入口。

TD與Cohere的合作也反映企業AI市場的獲利機制。模型能力只是其中一環，後續支出還會流向資料整理、資安、治理、雲端運算與應用整合。軟體供應商能否把試驗專案轉成持續性合約，將影響企業AI收入的可預測性。

 

隱私與治理決定代理型AI的擴張速度

代理長期駐留裝置，代表資料蒐集範圍可能擴大。位置、行程、健康、通訊與使用習慣若被持續整合，使用者授權、資料保存及撤回機制都需要更清楚。端側運算可以減少敏感資料上傳，但模型仍可能在背景形成推論與決策。

金融業還要處理模型偏誤、黑箱決策與系統性風險。風險評估或產品推薦若缺乏審計軌跡，效率提升可能伴隨監管成本上升。企業需要保留人工監督、模型版本管理及異常處理流程。

Qualcomm提供端側算力，雲端巨頭供應模型與資料中心，TD等大型企業則掌握資料和使用場景。代理型AI已進入端雲分工階段。後續判斷可追蹤三項訊號：終端裝置的實際採用率、企業專案轉成正式部署的速度，以及監管規範對資料權限與模型責任的要求。