【即時新聞】OpenAI(OPENAI)急籲同業制定AI開發限制,關鍵指標狂降恐引發失控危機!

權知道


OpenAI(OPENAI)正強烈呼籲前沿人工智慧開發商採取共同的限制措施,針對模型開發中的「困惑度」(perplexity)指標設定規範。該公司首席科學家Jakub Pachocki提出一項全新的業界標準,主張建立可衡量的門檻,在開發者對AI行為的理解和監控取得相應進展之前,同業應達成共識不跨越這些紅線。他強調,這項指標的改善可能會預示著強大且難以預測的新能力出現。市場上也持續關注相關AI概念發展,包含人工智慧與科技ETF(AIQ)、ETF(ARTY)、全球人工智慧ETF(THNQ)、機器人與人工智慧ETF(BOTZ)以及生成式AI ETF(CHAT)等標的。

解析AI困惑度指標與衡量標準

「困惑度」主要用於衡量AI模型預測下一個標記(token)的精準能力,數值越低代表模型效能越好。OpenAI(OPENAI)通常會追蹤其對數值(logarithm),也就是所謂的交叉熵損失(cross-entropy loss)。Pachocki指出,即便現有下游的AI基準測試迅速變得過時,這項衡量標準在追蹤預訓練期間產生的潛在智慧方面,依然保持著異常高的實用價值與準確性。

數值跌破特定門檻將展現突破性能力

根據OpenAI(OPENAI)內部的核心評估數據集顯示,GPT-3.5的對數困惑度約落在0.99,而GPT-4則進步至約0.91。當這項損失指標降至0.8以下時,公司開始在網路安全和數學等領域觀察到變革性的能力;當模型數值達到約0.76時,更開始產生Pachocki所稱的「突破性數學成果」。展望未來,OpenAI(OPENAI)預期當模型進入0.68至0.70的範圍時,將具備進一步的變革性能力,儘管目前公司仍無法確知這些能力具體為何。正是這種對於未知能力的龐大不確定性,成為提議制定開發限制的最核心基礎。

擔憂進展過快需建立安全監控機制

Pachocki建議,前沿實驗室應就共享的評估與紅隊測試(red-teaming)標準達成共識,並建立第一個防護門檻。在監控技術(例如現有思維鏈監控系統的後繼技術)達到既定里程碑之前,各方皆承諾不跨越該門檻。這項提議的背景在於,OpenAI(OPENAI)已觀察到AI開始為自身的開發做出實質貢獻。Pachocki警告,如果AI系統開始產生基礎演算法的突破,預訓練研究的加速最快可能在2027年就會爆發,這恐導致進展速度超越人類對齊與監控技術所能跟上的步伐。

指標並非完美但能提供科學評估基礎

儘管積極推動規範,OpenAI(OPENAI)也坦承「困惑度」並非完美的共通標準。由於開發者使用截然不同的數據集和訓練混合比例,實驗室之間的結果往往難以直接進行比較。此外,這項指標也無法捕捉所有的能力提升,包含由思維鏈推理(chain-of-thought reasoning)所產生的進步。儘管如此,Pachocki仍堅定主張,提高這項指標的透明度,能為整個科技產業提供一個共享的科學基礎,進而有效掌控能力日益強大的AI系統發展節奏。

【免責與製作說明】

本文內容僅供參考,不構成任何投資建議或買賣邀約。文中股價、漲跌幅、成交量等數據取自 CMoney 資料庫,即時數據可能隨時變動。投資一定有風險,請自行評估並審慎決策。

本文由 AI 輔助撰寫,數據及資料皆來自 CMoney 資料庫及公開平台,經「權知道編輯團隊」依規則審核後發布。

文章相關標籤