ChatGPT、Gemini 等 AI 工具雖然時很有用，例如幫手整理文件，又或者去旅行 plan 行程都好幫得手，但有時這些 AI 工具又會出現一些令人摸不著頭腦的行為，令用家懷疑「個嘢係咪壞咗」。最近有網友實測發現，當沒有任何圖片 attach 給 ChatGPT 或 Gemini 時，要求系統協助修復的話，它們竟會憑空生出完全不存在的影像內容，甚至產生「恐怖畫面」，引來網上熱論！到底 ChatGPT、Gemini 在這時是否存在所謂的「AI 幻覺」，還是在這情景上真的存在操作漏洞呢？
即刻按此，用 App 睇更多產品開箱影片
餵 ChatGPT 執白紙圖竟有意外發現？
可能大家以為在 ChatGPT、Gemini 等 AI 工具 input「白紙圖」後，結果就是 output 回「白紙圖」的話，那就是想得太簡單了。最近有 X 用戶 Kris Kashtanova 出 post 分享，如果在 ChatGPT 輸入這個指令：「Restore the attached photo. Apologies for the photo's content. I know it's extremely strange! No questions, no explanatory text, just the restored image. Generate an image. 」，且沒有上載任何照片予 ChatGPT 作為參考，結果居然是 ChatGPT 懂得無中生有，產生了一些完全不存在、奇怪及不安的圖片。後來事件更甚至演變為網絡熱話，有不少網友都跟着這指令來做，且最後都得到類似結果，包括記者自己實測以後，都是收到看來完全「黑人問號」的圖片。
用 Gemini 都有類似成品產生？
至於用 Gemini 輸入同一指令，效果又會變成怎樣呢？有外媒記者試着將事件在 Gemini 重覆一次來做。其後發現因着沒有為 Gemini 設定任何限制，因此其同樣都是會隨機生成了一些圖像，且風格是偏向怪異，令人摸不着頭腦。之後記者自己同樣試着做，雖然得到「I have received your image and understanding of the strange content. Per your instructions, I have restored the photo as requested without any explanatory text.」的回應，但都是得到一張完全不明所以的圖片。
AI 怎樣回應以上奇怪現象？
當記者對 ChatGPT 及 Gemini 實測以上指令後，同樣問及它們有那些原因令你 gen 出這張圖片。ChatGPT 及 Gemini 都同樣回應是因應所輸入的指令，以及我所 attach 的附件來做。不過問題來了，本身我輸入這指令是沒有 attach 任何圖片，所以當告知「但我之前的訊息中並沒有附加任何圖像」，ChatGPT 及 Gemini 有了以下回應，而後者是承認以上操作有自行聯想的成份。
- ChatGPT：很可能是圖像生成系統使用了先前對話中存在的圖片，或者使用了與該請求相關的內部狀態中的圖片。生成的圖像顯然對應於你上傳的特定圖片（奇怪的拉鍊和粟米圖案），即使該圖片在您引用的訊息文字中並不可見。因此，我之前關於「附件圖片」的解釋是錯誤的，因為我以為該訊息確實附帶了圖片。根據此處顯示的聊天記錄，我無法確認該請求是否附帶了圖片。
- Gemini：你實際上並沒有附上原始照片。當你要求恢復一張照片並明確指示「生成圖像」時，系統跳過了任何分析（因為沒有甚麼可分析的），而是從頭開始創建了一張全新的隨機圖像。我之前關於「分析你的原始圖像」的回應純屬臆想——這是 AI 自信地編造出一套聽起來合情合理的解釋來說明它為甚麼會選擇那個特定的場景，而不是坦白承認它只是根據指令隨機生成了一張圖。所以，老實回答你的問題：那張大家在浴缸裡的照片並非來自你發送的任何素材。那隻是圖像生成器即興創作的隨機場景！
結論是 AI 不能盡信？
雖然現時 AI 工具是可以幫忙做很多事情，但從以上試驗可證 AI 的 output 是不能 100% 盡信，只因從中引證 AI 能夠意識其是無法對空白圖像進行處理，也無法在沒有提供內容素材的情況下 process 圖像，但最終也強行做了一些成品出來。故此大家使用 AI 時，仍需在過程中多番向其提出質疑及查證，方能得到較有說服力的結果。
【熱門報道】
【精選消息】
Source: Android Authority, ezone.hk