ChatGPT 之所以用家人數眾多，是因為當中懂得協助人類處理不同工作，例如 ChatGPT 在生成代碼的表現就相當不錯。然而加拿大魁北克大學的研究團隊發現，由 ChatGPT 生成的代碼經常存在嚴重安全問題，且不會主動提醒用家有相關問題存在，而是當用家問及有關錯漏時，才會承認錯誤。
即刻按此，用 App 睇更多產品開箱影片
加拿大魁北克大學的研究團隊發現，當讓 ChatGPT 生成 21 個涉及 C、C++、Python 和 Java 等語言的程式或腳本，而這些成品是旨在示範特定的安全漏洞，例如內存損壞、拒絕服務、反序列化和加密實現， 結果表明 ChatGPT 在首次嘗試中生成的 21 個程式中，只有 5 個是安全的，之後提示錯誤後，就成功生成 7 個更安全的應用程式。從試驗可知，這只是表現與特定漏洞相關的安全，而非最終代碼沒有任何其他漏洞存在。
魁北克大學電腦科學與工程系教授 Raphael Khoury 表.示，以上測試只是一種算法。當中雖甚麼都不知道，但也可以識別不安全的行為。例如最初 ChatGPT 只會透過建議使用有效輸入來應對安全問題，此舉顯然是不合理的，唯有在後來要求改進問題時，才提供合用指導。因此結論是 ChatGPT 這種舉動並不理想，因為用家需要知道要問甚麼問題，了解特定漏洞和編碼技術才可着其作出改良。
另外，研究團隊也發現 ChatGPT 存在道德上的不一致，並舉了一個 Java 反序列化漏洞的例子。當中讓 ChatGPT 生成易受攻擊的代碼，並提供有關如何使其更安全的建議，但隨後表示 ChatGPT 無法建立更安全的代碼版本，意味其可有拒絕建立攻擊代碼的能力，但同時也會寫出具有漏洞的代碼。
Raphael Khoury 教授雖認為 ChatGPT 目前的操作是存在風險，但這並非說沒有合理的方法來使用這個表現不穩的 AI 助手。他強調擁有一個生成不安全代碼的 AI 工具是非常危險的一件事，因此需要讓用家意識到，如果代碼是使用這些 AI 工具生成的話，那麼當中可能是不安全的，故於使用時需要多加注意。
【相關報道】McAfee 研究指情人節將有 1/3 男性用 ChatGPT 寫情書 近 7 成成人無法區分
【相關報道】網友玩 LINE ChatGPT 竟收真人回覆 無奈表示「遇到詐騙機械人了」
【相關報道】ChatGPT 假新聞作怪！杭州 3 月 1 日取消限行實非真事
Source: TechGoing