ChatGPT功能強大，但並非所有任務都適合交由AI處理。本文將深入剖析11個不應使用ChatGPT的場景，從醫療診斷、財務規劃到法律文件起草，詳細解釋為何過度依賴這款AI工具，可能會帶來嚴重的後果與風險，甚至造成無可挽回的損失。
即刻【按此】，用 App 睇更多產品開箱影片
AI並非萬能神丹 專家警告11種情況不應依賴ChatGPT
人工智能（AI）聊天機械人ChatGPT功能日趨強大，不少人視之為解決各種問題的萬能工具，從草擬預算到編寫程式碼，無所不能。然而，有專家警告，ChatGPT作為大型語言模型（LLM）工具，雖然能提供協助，但其固有的局限性不容忽視。該工具具備「幻覺」（hallucinate）現象，即會生成不準確的資訊並將其當作事實呈現。此外，ChatGPT的知識庫並非即時更新，這使得它在處理時事或快速變化的議題時，答案可能具有誤導性。
AI健康建議惹禍？美男服食溴化鈉中毒
一名60歲美國男子聽從熱門AI聊天機械人ChatGPT的飲食建議，將「溴化鈉」當作食鹽代替品，服用後引發嚴重中毒及精神異常，最終需入院留醫。他本身身體健康，沒有精神病史，因想減鹽而自行上網請教AI。過程中ChatGPT未有提供任何警告，錯誤地建議該男子使用這種鮮為人知的化學物質。
11個避免使用ChatGPT的場景
過度依賴ChatGPT可能帶來意想不到的嚴重後果，尤其是在涉及個人健康、財務及法律等高風險領域。有傳媒列出11個不應使用ChatGPT的場景，提醒大眾在使用AI時必須謹慎。
1. 診斷醫療問題
不要將 ChatGPT 作為醫療診斷工具。雖然它可以根據你提供的症狀生成可能的疾病清單，但這些資訊沒有任何醫學根據，可能會引起不必要的恐慌。專業的醫生才能進行身體檢查、化驗並提供準確的診斷和治療方案。
2. 處理精神健康問題
ChatGPT無法取代專業心理治療師。它雖然能提供一些應對技巧，但缺乏真正的人類同理心和判斷力。在面對嚴重的精神健康問題或危機時，應立即尋求專業人士的幫助，而不是依賴AI。
3. 應對緊急安全情況
在緊急情況下，例如聞到煤氣味或火警警報響起時，不應向 ChatGPT 尋求協助。AI 無法偵測真實環境的危險，回覆亦可能延遲。正確的做法應是立即疏散並撥打緊急求助電話。
4. 進行個人財務或稅務規劃
ChatGPT 不了解你的個人財務狀況、債務、稅率或投資風險偏好。它提供的財務建議可能過時或不準確。涉及個人金錢或稅務申報時，務必諮詢專業會計師或理財顧問。
5. 處理機密或受監管數據
切勿將任何機密資料，包括個人身份證號碼、銀行戶口資料、公司合約或商業機密，輸入 ChatGPT。你無法控制這些資訊的儲存位置，這些數據可能被用於訓練AI模型，存在嚴重的資料外洩風險。
6. 從事任何非法活動
這一點不言而喻，任何非法用途都應避免。
7. 學術作弊
雖然 ChatGPT 能快速生成文章或功課，但現時的抄襲和AI偵測工具越來越成熟。使用 AI 作弊除了會影響學業成績，甚至可能面臨被退學的風險。正確的做法應是將 ChatGPT 作為輔助學習的工具，而非代筆。
8. 監控即時新聞與資訊
ChatGPT 雖然可以從網絡搜尋最新資訊，但它無法像新聞直播或即時推送般提供持續更新。在需要掌握即時動態時，例如股價或突發新聞，最可靠的來源仍然是官方新聞機構或數據平台。
9. 賭博
ChatGPT 在分析體育賽事數據時可能出現「幻覺」，提供錯誤的球員數據或受傷資訊。它無法預測賽果，單純依賴AI進行賭博，只會增加虧損的風險。
10. 起草法律文件
ChatGPT 雖然可以解釋基本的法律概念，但不同地區的法律條文存在差異。在起草遺囑、合約或其他具法律約束力的文件時，必須聘請專業律師，以確保文件具備法律效力。
11. 創作藝術作品
使用 AI 創作藝術作品並將其冒充為自己的原創，是一種不道德行為。雖然 AI 可以作為輔助工具，但真正的藝術創作應源於人類的創意與情感，而非單純由演算法生成。
【相關報道】
Source：cnet