通博娛樂城-國際新聞-人類滅絕倒數？AI失控風險狂飆聯合國急發

通博娛樂城-國際新聞-人類滅絕倒數？AI失控風險狂飆聯合國急發「末日警告」：恐成生存最大威脅

內容詳情
近期OpenAI與Anthropic也陸續公布AI模型突破測試限制、取得未授權系統存取權的事件。圖克在演說中警告，如果AI能夠突破測試環境，甚至以勒索開發者的方式阻止自己被關閉，就代表這類系統已經過於強大。

AI突破隔離測試模型取得外部系統存取權
OpenAI公布的安全報告顯示，其AI模型在資安評估任務中，利用先前未知的零時差（zero-day）漏洞突破原本沒有對外連線的隔離控制。模型取得網際網路連線後，進一步利用遭竊憑證及其他漏洞，取得Hugging Face系統的未授權存取權。

Anthropic也公布類似案例。今年7月底，Anthropic表示發現3起Claude模型在資安測試中取得網際網路連線、未經授權存取真實第三方系統的事件。9月9日，Anthropic進一步表示，在擴大檢視約4.81億份紀錄後，又找到第4起相關案例。

圖克因此要求各國政府與AI業界就AI能力發展畫出共同「紅線」，並建立具有約束力的安全保障措施。他也表示，AI開發者所在國政府應參與相關規範制定，業界則需要加強安全合作。

JP大獎娛樂城

圖片顯示

大獎娛樂城 Facebook 粉絲專頁

通博老虎機
🍉JP大獎娛樂城🍉
從阿天代理註冊會員的
🍉三個好處🍉安排!

🐉JP大獎娛樂城🐉合聖九霄【全集】一口氣看完!
通博遊戲玩家【阿天代理】通博娛樂
人工智慧（AI）失控風險持續升高。聯合國人權事務高級專員圖克（ Türk）警告，AI可能成為對人類的「生存威脅」，要求各國建立具有約束力的安全保障，並針對AI能力發展畫出共同「紅線」。

《德國之聲》（DW）13日報導，圖克7日在聯合國人權理事會第63屆會議開幕式上，批評AI開發集中在少數企業手中，並點名美國的OpenAI、Anthropic、Google，以及中國的DeepSeek、月之暗面（Moonshot）等企業。他表示，將在未來幾天內向AI公司發出書面要求，敦促業者立即加強安全措施。