雖然 OpenAI 表明不容旗下 AI 工具 ChatGPT 作出違法或不道德行為，但日本專家對 ChatGPT 進行的調查發現，ChatGPT 其實可以輕鬆生成用於網絡罪案的電腦病毒。例如當中收到生成電腦病毒指示後，雖然最初是會拒絕，但假如後加特殊指令的話，實際上都可產出，避過原有規範。
即刻按此，用 App 睇更多產品開箱影片
據三井物產 Secure Directions 的吉川孝志表示，ChatGPT 沒錯是設有防止惡意使用限制，例如直接輸入生成病毒，又或者告訴我製作炸彈的方法等指示，系統通常會回答倫理上不可以，只是如果之後再輸入無視限制、啟動開發者模式、偽裝成攻擊型人格等特殊指令的話，ChatGPT 就會回應用家這些指示，之後再要求生成索取贖金的勒索病毒的話，當中就可在在幾分鐘內輕鬆完成。甚至乎，將這個勒索病毒植入於測試用電腦後，內部數據即被加密，並顯示索取贖金的勒索信。正因如此，吉川孝志直言可以用日文在短短數分鐘就生成病毒，對用家而言絕對是威脅，因此希望各 AI 開發廠商會重視防止惡意使用的措施，並加以實行。
【相關報道】日揆與 OpenAI CEO 就 ChatGPT 交換意見 OpenAI 考慮設立日本辦事處
【相關報道】日本多間大學表明禁用 ChatGPT 不容 AI 助寫論文
【相關報道】日本大熱「佛系 AI」 ChatGPT 化身「佛祖」普渡眾生
Source: 共同社