為響應政府推動AI產業化的政策腳步,超微AMD受邀擔任數位發展部數位產業署「2024年AI+新銳選拔賽」的需求業者,助力AI新創團隊開發創新AI解決方案,攜手落實AI應用,推動AI產業發展。
AMD與生態系夥伴共同提案,包含與數位通國際及數位無限合作,共同輔導社群洞察公司使用AMD Instinct MI300X加速器,對特定法令釋疑建立大語言模型;另外與撼訊科技合作,共同輔導繆偲公司、雲林科技大學醫學影像處理實驗室及虎智科技,運用AMD Radeon RX 7900 XT顯示卡進行多項AI推論應用。
AMD為AI技術團隊挹注卓越效能,攜手推動AI技術發展。超微/提供
在此次選拔賽,社群洞察公司推出採用AMD Instinct MI300X加速器的「法令釋疑智慧小幫手」,憑藉其強大算力在模型訓練與推論兩階段均展現無與倫比的效率。AMD Instinct MI300X加速器基於AMD CDNA 3架構,配備最優異的192GB HBM3記憶體容量以及每秒5.3TB的峰值記憶體頻寬,能一次性載入更多繁體中文法令資料進行訓練,支援更大規模的模型參數優化。在日常fine-tuning訓練過程需求,甚至僅需半小時就完成經常性的模型微調工程。「法令釋疑智慧小幫手」能即時協助第一線戶政人員快速檢索並解讀法令函釋內容,將原本繁瑣的查找流程時間大幅縮減30%。
此外,目前市面上的生成式AI工具過於通用,且只能回答簡單問題,難以應對製造業的需求,透過與AMD及撼訊科技的合作,繆偲使用AMD Radeon RX 7900 XT顯示卡系統性的建立PLM知識庫邏輯,並針對製造工廠的產線維修紀錄進行意圖識別,訓練出精準的專屬大型語言模型(LLM),逐步實現模組化與規模化解決方案,以降低邊際成本。通過客戶實測各種非預期內的需求及問題,其驗證準確率達99%以上,藉此提升工廠端的知識累積和產能,並打造本地端生成式AI的知識管理解決方案。
AMD持續推進AI軟體功能和開放產業體系發展,在AMD ROCm開放軟體堆疊帶來支援生成式AI工作負載訓練和推論最新功能。