二手RTX 3090仍係本地AI最抵玩？24GB VRAM跑27B模型　兩大事項要留意

想喺屋企跑大型語言模型，唔一定買最新RTX 50系列。二手RTX 3090憑24GB GDDR6X顯示記憶體，仍可完整載入Qwen3 27B等約19GB模型，適合用Ollama、Open WebUI建立私人AI助手。XDA指出，RTX 3090二手價約US$1,800，較只有16GB VRAM的RTX 5070 Ti及5080更適合本地AI；不過，卡已停產、功耗350W、保養多已過期，入手前要睇清楚。

24GB VRAM係關鍵　27B模型裝得入

本地AI最講VRAM容量。Ollama及llama.cpp會盡量將模型載入顯示記憶體，若VRAM不足，部分資料便要轉到系統記憶體，速度會明顯下降。

據XDA報道，一個32B模型約需20GB VRAM，RTX 3090的24GB容量剛好應付。Ollama列出的Qwen3 27B模型約佔19GB，裝入後仍可預留空間予對話上下文及其他處理程序。

對話愈長，上下文佔用VRAM愈多；微調模型要求更高，因為訓練時須同時保存梯度及優化器狀態。XDA指出，速度較快的16GB新卡，雖然可應付的工作完成得較快，但無法運行超出VRAM容量的模型。

二手價US$1,800　較16GB新卡更抵？

RTX 3090於2020年推出時售價約US$1,000，現時二手價已升至約US$1,800。XDA認為，以24GB VRAM計算，仍較多款新卡有價值。

RTX 5070 Ti約售US$2,200，RTX 5080約售US$2,300，兩者均只有16GB VRAM；RTX 5090則供應緊張，不易購入。

市場上亦有較平的24GB選擇，包括Intel Arc Pro B60（約US$650）及AMD RX 7900 XTX（約US$1,200至1,500）。不過，XDA指出，兩者在CUDA核心及軟件支援方面，仍不及NVIDIA配套成熟，本地跑LLM時較吃虧。

24GB VRAM仲可以做乜？

除大型語言模型，24GB VRAM亦適合圖像生成、語音轉錄及向量嵌入等AI工作。用家可在Linux家用伺服器上運行Ollama，配合Open WebUI提供類似ChatGPT的介面，在區網內使用私人AI助手。

配合文件檢索及整合工具，可建立本地知識庫，毋須持續將提示及檔案傳送至外部服務供應商。對重視私隱或想離線使用的用家，這是RTX 3090的實際價值。

二手卡三大風險

性價比吸引，但二手卡始終有風險，購買前必須考慮以下三點。

過往使用強度不明

RTX 3090已停產，市面流通的均為二手卡。XDA明言，買家無法得知顯示卡過去承受過多大負荷，部分卡可能曾長時間高負荷運作，剩餘壽命難以評估。

保養大多已屆滿

二手顯示卡一般已過原廠保養期，購入後一旦故障，維修費用須由買家自行承擔。相比之下，全新顯示卡如Arc Pro B60附有保養，風險較低。

耗電及散熱要求高

據NVIDIA官方規格，RTX 3090功耗為350W，建議配備750W電源供應器。長時間運行本地模型時，電費及機箱散熱均須納入考慮，電源不足或散熱欠佳的電腦，必須先行升級。

用家點樣入手？

香港二手顯示卡市場活躍，網上交易平台有RTX 3090流通。對主力跑本地模型的用家，24GB VRAM的價值確實難以被16GB新卡取代；但對主要打機的用家，新卡在功耗、保養及驅動支援方面可能更重要。

購買前應要求賣家現場測試，檢查風扇運作及溫度表現，並檢查卡身外觀及序號，保留交易紀錄。價錢方面，應比較多個賣家報價，切勿只憑單一報價決定。如賣家拒絕現場測試，或價錢遠低於市場水平，應提高警覺。

Source：XDA：二手RTX 3090仍是本地AI最佳顯示卡、NVIDIA：RTX 3090官方規格頁