新加坡國立大學日前發表 GOAT AI 算術模型,定位為專門用於算術問題。當中不只得特別在是以 Meta LLaMA 大型語言模型進行微調,也聲稱比 GPT-4 計數更準確的。
↓↓↓同場加映:【曼谷直擊】TCL 全新 mini LED 旗艦電視發布!搭配自家研發 AiPQ Processor 3.0↓↓↓
即刻【按此】,用 App 睇更多產品開箱影片
現時 OpenAI GPT-4 AI 工具的最大缺點是在於其算術能力較差,一些許多人認為相對簡單的算術問題,GPT-4 卻無法得出正確答案,因此新加坡國立大學日前發表 GOAT AI 算術模型,就是針對這問題,並以 LLaMA 大型語言模型進行微調而成。研究團隊起用新方案,將任務根據算術可學習類型進行分類,然後利用基本算術原理,將不可學習的任務分拆為一系列可以學習的任務,之後再導入於 AI 模型,令模型可以學習答題模式,並將過程演化為數據,而非單靠權重記憶計算,做到提升計數性能效果之外,也在零樣本學習中,以近乎百分百精確為大數加法和減法生成答案。
另外,研究人員也在具備 24GB VRAM 的 GPU 上進行訓練,並將最終得到的模型以 BIG-bench 算數子任務進行測試,準確度結果領先業界的 Bloom、GPT-NeoX、OPT 等模型。尤其零樣本的 Goat-7B 準確率,甚至一度超過少樣本學習後的 PaLM-540 模型,而在大數計算方面也遠超 GPT-4 的。
【相關報道】【ChatGPT 熱】新加坡鼓勵學生學用 ChatGPT 教育部:就如數學要學用計數機
【相關報道】新加坡大學發表「靠 AI 將文字轉化 3DVR 圖像」文章 或顛覆繪圖等行業生態
【相關報道】解決光纖網絡難舖設問題 新加坡新創想出以鐳射直射訊號
Source: IT 之家