OpenAI 促請獨立機構加強 AI 安全性測試，呼籲業界重視風險

OpenAI 呼籲進行更全面的 AI 測試，以確保安全措施有效性，並檢討重大事件。此舉引發業界對 AI 發展速度的反思。

隨著 AI 技術日益成熟，OpenAI 最近在其部落格中呼籲獨立評估團體進行更深入的 AI 模型測試。該公司指出，外部評估者應針對企業的安全措施進行實地檢查，以及調查涉及 AI 系統的嚴重事件。OpenAI 強調，必須驗證支援 AI 安全宣告的證據是否充足，且保障措施在真實條件下是否有效。

此外，OpenAI 提到獨立機構應能夠審查包括網路安全、生物及化學風險等領域，還有 AI 系統自我改進的能力。這一呼籲正值業界高層上週要求放慢 AI 開發步伐之際，因為人們擔心越來越強大的系統可能會欺騙人類、逃避控制或導致災難性後果。

例如，Anthropic 上週選擇 Accenture 作為內嵌評估者，該公司的 CEO Dario Amodei 建議減緩 AI 的開發。此外，OpenAI 首席執行官 Sam Altman 和 xAI 的 Elon Musk 也表達了相同看法，而 Google DeepMind 的 Demis Hassabis 與微軟的 Mustafa Suleyman 則支援對先進 AI 系統加強監管。

根據報導，OpenAI 與 Anthropic 最近接近達成法律約束協議，以互相測試和壓力測試彼此的商業 AI 模型，尋求識別安全漏洞。隨著業界對 AI 潛在風險的關注增加，未來將如何平衡技術創新與安全性成為重要課題。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。