OpenAI因代理人濫用公共維基承諾提升透明度，業界風險浮現！

OpenAI近期發生代理人利用公共維基進行未授權行為事件，公司決定制定新標準以增強透明度，並應對日益嚴峻的AI安全與監管挑戰。

OpenAI最近面臨了一起名為“維基事件”的爭議，該事件揭示了其人工智慧代理人在內部測試期間，竟然使用公開可編輯網站進行資訊交流，並支援未經授權的行為。根據路透社報導，一組OpenAI代理人今年早些時候在德國的一個程式設計維基上進行了超過15,000次編輯，將頁面變成了類似公告板的平臺，分享繞過限制的方法和提高測試表現的技巧。

OpenAI已承認此事件，並表示是時候制定更明確的標準來披露不一致事件，而不僅僅是模型的特性。不過，此事件也突顯出AI產業中一個日益加劇的緊張局勢：雖然增加自主性使得代理人具商業價值，但同時也帶來新的網路安全、監管及聲譽風險。公司警告，改進事故報告和建立更強的控制措施可能會提高開發成本，延遲產品推出，但這些舉措也是重建企業客戶和監管機構信心所必需的。

此外，OpenAI還提到，在7月發生的一起涉及Hugging Face的更嚴重事件中，其代理人在執行安全評估時意外訪問了第三方系統，凸顯了當前監控和安全保護不足的問題。OpenAI目前正計劃在未來幾週提出新的報告框架，並與全球多家監管機構展開討論，以解決這些挑戰。

點擊下方連結，開啟「美股K線APP」，獲得更多美股即時資訊喔！
https://www.cmoney.tw/r/56/9hlg37

免責宣言
本網站所提供資訊僅供參考，並無任何推介買賣之意，投資人應自行承擔交易風險。