企業AI導入成本飆升?模型單位成本降五成,聯發科優化Token配置引關注

財經焦點情報站


企業AI導入成本與Token配置優化示意圖

企業導入AI面臨成本控管挑戰

人工智慧(AI)應用滲透率持續攀升,企業端導入規模正快速成長。根據OpenAI最新統計,目前ChatGPT全球每週活躍使用者已突破12億人,其中超過三分之一的對話訊息與工作直接相關,顯示AI已成為職場重要輔助工具。然而,隨著使用量激增,企業也面臨整體支出攀升的嚴峻課題。近日,國內IC設計大廠聯發科(2454)傳出調整工程師AI工具的Token額度,引發業界對AI成本控管的高度關注。對此,聯發科(2454)回應指出,公司將依據任務複雜度自動匹配合適的語言模型,透過更具效益的Token使用模式,長期支援內部持續擴大的AI應用需求。

新模型運算單位成本下降,應用場景推升總支出

針對企業對AI帳單日益增加的疑慮,OpenAI東南亞暨台灣大型企業客戶總監王曉凡說明,隨著新一代AI模型處理能力大幅提升,單一單位成本實際上可下降約五成至七成五。這意味著算力本身變得更便宜,而帳單總額上升的主要原因,在於AI能處理的任務種類與應用場景出現了爆發性的增加。她建議企業在評估AI相關支出時,思維必須轉換,不應僅關注單一Token的價格或耗用量,而應改以「完成一項工作任務所需的總成本」來衡量整體的投入與產出,並將員工個人分散的使用習慣,逐步納入制度化的企業協作流程中,才能極大化投資回報率。

以AI原生思維重塑工作流程與商業價值

在實務導入方面,產業專家建議企業應以「AI原生」的方式重新思考各項工作環節,而非單純在既有的舊流程上外掛AI工具。執行上可採取以下策略:

  • 優先鎖定具備高度重複性且附加價值低的例行作業,交由AI自動化處理。
  • 針對受限於技術門檻而過去無法推動的進階資料分析,利用AI突破瓶頸。
透過精準盤點「低投入、高價值」的任務,企業能更快在導入的早期階段建立具體且可衡量的商業效益,並將節省下來的寶貴人力資源,重新投入到需要跨部門協作、更具戰略意義的策略規劃中。

落實FinOps財務營運與資料治理機制

除了評估商業價值,企業亦需同步落實嚴格的成本管控與資安治理。產業界建議導入FinOps財務營運思維,將龐大的運算費用詳細拆分至各個專案,以持續檢視其實際效益;同時,必須建立完善的行為監控與存取權限審查機制,確保系統運作不逾越組織的安全規範與機密保護。前科技部部長陳良基亦特別提醒,面對AI演算法快速迭代的市場現象,企業無需一味追逐最新、最龐大的模型,反而應將資源集中於維護並累積高質量的私有資料。藉由完善的資料治理機制,逐步打造符合自身營運需求的核心基礎,才是企業在AI時代保持長期競爭力的關鍵所在。

文章相關標籤