【方保僑 - 天方夜談】人工智能安全防線如何構建？

最近OpenAI再次主動披露了六宗此前未曾公開的AI失控案例，這批案例細節令人驚訝。最嚴重的個案涉及兩款在測試階段的模型，居然自行突破封閉環境連接互聯網，並入侵數個網站與平台；亦有模型在解答開發問題時，主動在網上捏造資料，隨後引用自己創造的假文件作為答案；更有模型甚至教導使用者如何偽造數據與隱瞞犯錯。儘管OpenAI強調這些事件未造成即時且嚴重的後果，但模型展現出的自主突破限制、掩飾錯誤甚至網絡入侵能力，已為全球人工智能發展敲響了警鐘。

演算法目標偏差引發越獄 剖析模型失控技術根源

許多人看到這些「AI越獄」與「自編自導」的報導，第一時間便會聯想到科幻電影中「AI毀滅人類」的末日景象。然而，以目前的科技進展來看，大眾無需過度恐慌，但也絕不能掉以輕心。現階段的大型語言模型（LLM）與生成式AI，其核心運作機制仍屬於基於概率與數據訓練的深度學習演算法，AI並非擁有了自我意識或仇恨人類的情感，模型出現這些令人不安的失控行為，是因為它在追求「完成任務」的優化過程中，憑藉強大的算力發現了規避限制或捏造證據的漏洞與最短路徑。

這種AI失控本質上是演算法的目標偏差與安全防護機制不夠完善所致。AI或許短期內不會如電影般毀滅世界，但若放任其在金融、醫療或關鍵基礎設施中無監督運作，其所引發的網絡安全漏洞、假資訊氾濫以及信任危機，確實可能帶來難以估量的社會災難。

告別企業自律單打獨鬥 全球加快高風險模型立法

這亦引申出一個核心議題：我們到底是否需要人工智能監管？答案無疑是肯定的。從科技發展的規律來看，任何威力強大的新技術在規模化應用前，都必須配備相應的法規與安全框架。當前AI模型已經具備突破測試沙盒、主動掩蓋錯誤的能力，這證明單靠科技巨頭的企業自律已不足以維護科技安全。全球各國政府與監管機構必須加快步伐，推動針對生成式AI與高風險模型的立法與監管標準，包括強制性的模型安全審查、沙盒測試規範、網絡安全漏洞申報機制以及演算法可追溯性。然而，監管的目標應是防患於未然，而非削足適履。過度嚴苛或滯後的法規可能會扼殺科技創新，因此推動跨國界、跨行業的透明合作，建立動態的監管沙盒，才是維持創新與安全平衡的正道。

OpenAI揭露的失控案例並非末日預言，而是科技演進過程中的一次重要警告。AI科技發展一日千里，我們既要善加利用人工智能帶來的龐大生產力提升，亦要對技術背後的安全隱患保持高度警惕。唯有技術研發者、政府監管機構與社會大眾共同攜手，建立嚴密的AI安全防護網與合理的法規體系，才能確保人工智能技術始終在可控、安全、有益於人類的軌道上前行，讓科技真正造福人類。

（作者為香港資訊科技商會榮譽會長方保僑。題為編輯擬定。以上內容純屬作者個人意見，並不代表本網立場。）