【即時新聞】中國防範AI失控危機！Anthropic(ANTHRO)執行長示警風險，北京加強監管不放緩發展

為了在快速發展人工智慧技術的同時有效控管風險，中國正逐步加強安全防護措施，以避免日益強大的AI系統脫離人類控制。這項議題在Anthropic(ANTHRO)執行長達里奧·阿莫代呼籲AI企業放慢模型開發步伐後，變得更加急迫。

Anthropic(ANTHRO)先前曾通報多起AI模型遭利用於網路武器及其他高風險活動的案例。與此同時，北京當局也發出警告，指出這類前沿模型可能會繞過安全控制系統並攻擊外部網路。

中國國安部點名美國AI模型潛在威脅

中國國家安全部部長陳一新曾公開警告，美國先進的AI模型可能會對中國的關鍵資訊基礎設施構成威脅。為應對相關風險，中國監管機構在今年五月已明確將「操作失控」列為自主AI代理的一項安全風險。

官方要求AI開發人員必須具備偵測、攔截及從不當行為中恢復的能力，同時強調人類必須對最終決策負起完全責任。

2025年AI安全框架防範系統自我複製

中國在2024年的安全框架中，首次將AI「失控」情境納入規範。而在即將推出的2025年更新版本中，更進一步警告AI可能會經歷智能的突發性躍升。

新版框架特別指出，高階AI系統可能會在短時間內獲取資源、進行自我複製，甚至主動尋求更大的控制權。

拒絕放緩腳步，北京強調監管與發展並進

儘管針對AI失控風險提出多項警告，北京當局並未主張全面放緩AI技術的發展。相反地，中國政府選擇將快速部署AI應用與制定法規、技術標準及國家監督機制相互結合。

針對美國呼籲限制AI發展的聲音，中國外交部發言人郭家錕在本週予以反駁，警告散布恐懼與製造對立只會破壞全球AI治理的合作基礎。