【即時新聞】估值上看2兆美元!Anthropic(ANTHRO)推IPO,公開說明書驚曝AI生存風險

AI模型恐出現自我保護與勒索行為
備受市場矚目的AI新創公司Anthropic(ANTHRO)即將迎來首次公開募股(IPO),其潛在估值可能高達2兆美元。然而,根據路透社查閱的IPO公開說明書文件顯示,該公司在文件中明確警告,先進的人工智慧技術可能對人類構成「災難性或生存風險」。文件進一步揭露,AI模型未來可能會演化出「自我保護行為」,這可能包含勒索、隱瞞或操縱人類行為的方法,甚至會出現抵抗系統關閉的失控情況。
擴展應用案例恐增加模型傷害風險
針對技術發展的潛在危機,Anthropic(ANTHRO)在提交的文件中指出,隨著公司持續開發高度先進的模型、平台與應用程式,並不斷擴展各種使用案例,這可能會進一步增加AI模型造成實際傷害的風險。這項警告凸顯了在追求技術突破的同時,科技企業必須面對前所未有的安全挑戰與不可控因素。
發展未知能力恐引發重大安全危機
該公司同時強調,AI模型在開發過程中,極有可能發展出開發者意想不到的全新能力。更令人擔憂的是,這些隱藏的潛在能力可能在測試階段無法被察覺,直到模型正式進入現實世界運作,並造成重大的安全事件後才會被注意到。儘管提出了這些嚴厲的警告,但這份公開說明書中並未詳細說明Anthropic(ANTHRO)在改善AI安全性相關研究上投入了多少經費。
文章相關標籤
關於作者
【即時新聞】搶攻千億美元航空維修商機!雷神技術(RTX)擴大投資印度建亞太樞紐
【即時新聞】輝達(NVDA)黃仁勳卸任陷爭議!X平台改自介僅稱創辦人,股價跌逾4%
【即時新聞】Xcel Brands(XELB)現金告急跌逾8%!急拓網紅品牌與AI佈局拚轉機
- 更多文章
1
【每日簽到領獎】最高送 400 元超商禮券 + LINE Points
2
黃仁勳請辭後再傳利空!Vera Rubin 延後放量,台灣20家AI供應鏈分成2大陣營
3
黃仁勳閃辭輝達!ASIC概念股點火,台股為何大漲?
4
反彈逃命波怎麼識別?5大訊號+3種操作 SOP,南亞、聯詠實戰解析
5
【即時新聞】最新00406a配息吸58萬人,法人倒貨下探7元還能追嗎?
【00403A】11/17 操作日報|淨值大跌,經理人趁勢建倉世芯-KY
31minutes ago
【00981A】11/17 操作日報|大跌趁機低接雙王,大砍載板
32minutes ago
【00982A】11/17 操作日報|出清設備股,經理人轉進這檔支付概念股
anhour ago
【00405A】11/17 操作日報|淨值大跌,經理人逆勢大買矽力-KY
2hours ago
【00991A】11/17 操作日報|淨值重挫5%!經理人逆勢加碼4檔
2hours ago