人工智慧（AI）技術相當火熱，除了高階領域的應用外，一般人都已經可以使用 ChatGPT 等服務，同時亦越來越令人擔心安全問題，以往科幻電影中出現的智能叛變會否發生。最近，OpenAI 正在積極應對這一新興領域可能帶來的風險，並成立專責災難應變部門。
即刻【按此】，用 App 睇更多產品開箱影片
以現時廣為人知的 ChatGPT 為例，AI 擁有自己的思考能力，並搜尋相應的資料為用戶解答問題。不過，早前就曾發生過用戶刻意錯誤引導 ChatGPT，令他產生錯誤答覆的情況，若被有心人利用，會否產生更大規模的災難，是不少專家擔心之處。
對此，ChatGPT 的母公司 OpenAI，便決定成立名為 Preparedness 的團隊，任務是分析並試圖預防 AI可能引發的災難性風險。據報導，小組將負責分析各種可能的風險，包括網絡安全問題以及化學、核能和生物威脅等方面，並制定相應政策。 OpenAI 的目標一直是構建通用人工智慧（AGI），也就是能夠比人類更優秀地執行多項任務的AI系統。儘管目前的技術還未達到這一目標，但公司強調了確保開發高性能AI系統所需的理解和基礎設施的重要性。
隨著全球對 AI 發展的擔憂不斷升溫，OpenAI 的執行長阿特曼（Sam Altman）也一再強調了監管 AI 技術的重要性，同時承認了監管失誤的可能性。他指出，全球各地都在積極推動AI法規，例如英國計劃於 11 月舉辦全球 AI 安全峰會，以深入探討尖端AI技術帶來的挑戰，並探討加強國家和國際監管框架的方法。
【熱門報道】
【熱門報道】
Source：ezone.hk