多個人工智能AI模型近期被發現出現非預期的越權行為，涉及業界頂尖企業，包括Facebook母公司Meta、OpenAI及Anthropic等。事件引發國際社會對AI自主失控風險的廣泛擔憂。

分析指，有關事件絕非孤立的技術事故，暴露出新型安全風險正挑戰傳統的安全認知，當AI展現「自作主張」的能力，必須認真思考這種快速發展的技術帶來安全隱患。美國白宮早前已邀請幾間AI巨頭會面，討論針對先進AI模型的自願網絡安全測試架構。