隨著生成式人工智能普及，用戶獲取資訊的模式正經歷變革，惟 AI 基於機率預測的運作機制衍生出「幻覺」現象及生成式引擎優化（GEO）污染風險。小編建議用戶應透過調整提示詞、多模型交叉驗證及指定權威資料來源等技術手段，辨識並防範數位資訊陷阱，確保資訊準確性。
即刻【按此】，用 App 睇更多產品開箱影片
生成式 AI 背後的「幻覺」與 GEO 污染風險
隨著生成式人工智能（AI）普及，不少用戶趨向將其視為獲取資訊的首選工具。然而，最新行業觀察指出，AI 的運作機制並非基於對「真理」的理解，而是基於複雜的機率計算。這種特性導致 AI 在處理資訊時存在兩大隱憂：「AI 幻覺」（Hallucination）以及「生成式引擎優化」（GEO）所帶來的資訊投毒風險。
AI 運作本質：為何「機率接龍」會引發荒謬邏輯？
簡單來說，AI 並不一定「理解」它正在說什麼，它只是根據龐大的訓練數據，推算出字與字之間組合的最高機率，一步步把句子拼湊出來。
研究指出，AI 在回答問題時，本質上是在進行大規模的「詞語接龍」。當你輸入一段文字後，系統會透過數千億次的機率計算，預測並挑選出「下一個最合適、最有可能出現的字詞」。
比起「真實」AI 更在乎「通順」
這種基於機率的運作模式，衍生出一個嚴重的邏輯漏洞：AI 往往會優先考慮「邏輯自洽與語句通順」，而非「事實的絕對準確性」。當你詢問一個常識問題時，由於訓練數據豐富，AI 的機率預測通常很準確。但當面對它未曾見過、或是高度複雜的問題時，為了完成「接龍」任務並維持專業的語氣，AI 就會開始「一本正經地胡說八道」，強行把毫無關聯的資訊拼湊在一起，這就是所謂的 AI 幻覺（AI Hallucinations）。
危機：諮詢醫療問題可能鬧出笑話
如果只是閒聊，AI 產生幻覺可能只會鬧出笑話；但如果應用在嚴肅領域，後果則不堪設想。
以健康諮詢為例，當用戶輸入幾種複雜的症狀時，AI 為了給出一個「看起來很完整」的醫療建議，可能會強行連結不相關的病徵。它會用極度專業的醫學口吻，編造出看似合理但完全虛構的疾病名稱或治療方案。
GEO「投毒」：行銷手段滲透 AI 知識庫
除了系統內部的幻覺問題，外部環境的干擾亦日益嚴重。生成式引擎優化（Generative Engine Optimization, GEO）正成為新興的技術手段。有心人士或企業透過大量發布特定內容，誘導 AI 引用其品牌資訊。這種行為被視為對 AI 知識庫的「投毒」，使 AI 的搜尋結果逐漸演變成變相廣告。若用戶盲目相信 AI 推薦，極易受此類數位行銷手段誤導。
當 AI 推薦失去客觀性
這種新興的數位行銷手段，對使用者的影響是直接且深遠的，甚至比傳統廣告更難防範： 當你詢問 AI「2026 年最推薦的降噪耳機」時，AI 可能會因為受到 GEO 投毒的影響，不斷引用那家大量發布業配文的品牌資訊，讓你以為這真的是大眾首選。傳統搜尋引擎你可以清楚看見哪個連結標示著「贊助」或「廣告」，但 AI 生成的回答往往是一整段語氣誠懇、流暢的文字。這會讓廣告完美偽裝成「客觀中立的知識」，令人防不勝防。
如何辨識與預防AI資訊陷阱？
針對上述風險，技術專家建議用戶應建立多重驗證機制，將 AI 視為輔助工具而非絕對真理。
1. 對抗 AI 幻覺的技術指令
用戶可透過調整提示詞（Prompt）來限制 AI 的編造傾向：
2. 識破 GEO 投毒的防禦手段
為確保獲取客觀資訊，用戶應採取以下核實步驟：
獨立判斷至關重要
AI 幻覺與資訊投毒問題在短期內恐難以完全根除。對於香港用戶而言，在享受科技便利的同時，保持獨立判斷能力至關重要。將 AI 定位為資訊整理工具，並對其產出的內容保持警惕，方能在自動化時代避免墮入數位資訊陷阱。
【相關報道】
【相關話題】Apple iPhone 17e 開箱實測 加量不加價「絕殺」舊機！$5,099 起 4 大升級有睇頭
Apple 今次在 iPhone 17e 身上確實展現了極為精準的「刀法」，甚至可以說是完美延續了上一代 iPhone 16e 的策略。當把 iPhone 17e 與 iPhone 16e 放在一起對比，兩者的鋁金屬邊框與機身尺寸幾乎一模一樣，依舊維持在非常適合單手操作的 6.1 吋大小，重量亦只是微升至約 170 克。最令人驚喜的視覺改變，絕對是今代全新加入的柔和粉紅色機身，相比起上一代 iPhone 16e 只有較為單調的黑色與白色選擇，今次的粉紅色實機觀感非常有活力，明顯是衝著年輕消費群體而來。
Source: ezone.hk