【即時新聞】AI恐將失控？Anthropic(ANTHRO)研究員憤而離職，高管坦言人類滅絕機率逾10%

AI研發競賽引發失控隱憂，前研究員痛批科技巨頭

曾任職於OpenAI(OPENAI)與Anthropic(ANTHRO)的研究員Jacob Coxon近日在社群平台上宣布離職。他強烈批評AI產業正處於一場危險的競賽中，致力於開發能自我改進的系統，這恐將導致AI發展完全脫離人類控制。他直言，這兩家公司都沒有負起應有的責任，正在拿人類的生存做賭注，盲目追求能自我完善的超級智慧。

超級智慧恐顛覆現有體制，Anthropic高管承認毀滅風險

Coxon警告，未來很快會出現具備超人類能力的系統，不僅能駭入任何防護機制，還能在一夜之間顛覆各個領域，並掌控實質的權力與資源。針對這項嚴厲警告，Anthropic(ANTHRO)的對齊科學主管Evan Hubinger親自出面回應，坦言開發人員確實真誠地相信AI可能在未來十年內毀滅全人類，他個人評估這個機率甚至大於10%。

AI對齊技術仍未成熟，業界巨頭呼籲建立安全標準

Evan Hubinger進一步指出，Anthropic(ANTHRO)目前尚未制定出解決超級智慧對齊問題的具體計畫，而AI系統持續自我改進的速度已經遠超乎預期。同時，OpenAI(OPENAI)執行長Sam Altman也公開警告，網路安全領域恐將面臨嚴重危機。該公司首席科學家Jakub Pachocki更強調，目前沒有任何實驗室能充分解決監控與對齊問題，強烈期望業界能自願放緩研發腳步，直到建立起共同的安全標準為止。