【即時新聞】OpenAI遭揪出安全漏洞！輝達(NVDA)、Google(GOOGL)等AI巨頭承諾強化外部監控

非營利評估機構 METR 和 Redwood Research 表示，在對 OpenAI 內部監控系統進行試點審查時，發現了多個安全漏洞。這項測試旨在讓外部研究人員深入訪問基礎設施，以評估AI巨頭的安全機制。

深入核心代碼，第三方評估機構揪出監控盲點

在為期三週的測試期間，評估人員獲准訪問 OpenAI 的內部代碼庫與技術文件。測試結果顯示，系統存在多個新型漏洞，其中一個甚至能讓AI代理程式避開數百個近期操作的監控。OpenAI 隨後證實，已針對影響生產安全防護的漏洞進行修補。

業界重視AI安全，外部審查機制成發展趨勢

這次合作展現了 OpenAI 對第三方測試的重視，公司也正在積極與獨立安全評估機構敲定最終合約。競爭對手 Anthropic 先前已與埃森哲(ACN)等機構達成協議，推動AI安全評估的普及化，以降低AI快速發展可能帶來的風險。

川普表態支持，科技巨頭齊簽署自願安全協議

美國總統川普雖然對AI監管採取較為寬鬆的態度，但也表態支持第三方評估機制。包含 Google(GOOGL)、Meta(META)、輝達(NVDA)以及 SpaceX 等科技巨頭的高層，皆已簽署白宮提出的自願性協議，承諾與獨立外部稽核機構合作。

資金來源與架構未定，獨立評估機構面臨挑戰

儘管獨立評估機構在價值數兆美元的AI產業中逐漸受到重視，但產業專家指出，這些組織未來的資金來源與運作架構仍存在許多未知數。確保AI模型的行為符合人類利益與價值觀，將是整個科技產業必須持續面對的核心課題。