網站列表NewsBridge 翻譯後比較閱讀的新聞
回到 iThome 列表

國網中心布局主權AI,TAIWAN AI RAP擴充模型微調能力,加速AI應用落地

iThome字級
開啟原始文章

文章內文

17 段 · 點一下(按一下)單字或選取文字即可翻譯 · 點單字或選取文字即可翻譯

生成式AI競爭快速升溫,各國不只競逐大型模型能力,也開始布局支撐AI發展所需的算力、資料與模型訓練能力。國研院國網中心主任張朝亮在本周一場公開活動中表示,台灣要發展主權AI,需要具備足夠算力,並結合模型研發與台灣資料、語料訓練能力,才能建立符合自身需求的AI能力。

張朝亮分享國網中心推動TAIWAN AI RAP平臺的成果與下一階段規畫。他指出,大型模型越來越強大,不僅能提升推理能力,也能增加協作能力,但是使用這些模型,需要有足夠的算力支撐。國網中心希望透過國家級算力基礎設施,提供各界進行模型訓練、推論與AI應用開發所需的資源。

TAIWAN AI RAP是在2025年3月底啟動試營運,目標是降低生成式AI應用開發門檻,讓企業、新創、學研及其他使用者能夠利用國網中心提供的算力與開發環境,加速AI應用驗證與落地。該平臺整合AI開發工具與運算資源,提供從AI開發到部署所需的環境。

張朝亮表示,過去一年TAIWAN AI RAP平臺使用者數量接近倍增,不論企業、個人或政府法人都有所成長。

他指出,國網中心推動平臺的目的,是希望讓更多人能快速使用AI能力,降低導入門檻。對於不熟悉AI開發的人,也希望透過平臺提供的在地運算能力,協助快速解決問題。

在平臺服務發展上,張朝亮進一步透露,國網中心今年新增的重要服務之一,就是提供更多Fine-tuning能力。

他表示,由於目前國網中心具備較大規模算力,因此可以提供更多模型微調服務,讓使用者帶入自己的資料,由國網中心協助進行模型調整,讓模型更符合特定領域需求。

除了模型微調,未來AI應用將朝Agent方向發展,因此國網中心也希望提供更完整的開發支援。

他表示,國網中心希望在開發階段提供良好的POC環境,讓企業與開發團隊能先驗證AI應用,再進一步推向實際場域。

此外,國網中心也希望改善服務介接方式,讓開發者只需調整API,就能使用國網中心服務,或與其他臺灣商業服務整合。

張朝亮指出,國網中心作為國家實驗室,並不像商業公司能直接服務大量終端使用者,因此未來將採取B2B2C模式,由國網中心提供技術平臺,再由企業或其他Business端開發面向終端使用者的應用。

為支援大型模型訓練與AI應用需求,張朝亮也透露國網中心後續算力布局。

張朝亮表示,國網中心持續擴充AI運算資源,目前已有Nano 4、Nano 5等算力平臺支援AI模型訓練與應用開發。除了既有GPU架構外,國網中心也將導入AMD平臺,他透露,相關AMD機器已完成決標,未來將提供另一種AI運算選擇。

另外,國網中心未來仍會持續建置AI主機,並導入更先進的處理器架構,例如Vera Rubin等新一代AI平臺,讓開發者能使用持續演進的算力環境。

談到主權AI發展,張朝亮表示,台灣未來需要更多Foundation Model,但發展方向不會只停留在大型語言模型,而會朝多模態AI發展。國網中心希望結合自身算力基礎設施、中研院模型研究能力,以及臺灣資料與語料訓練能力,提供更符合臺灣需求的AI模型服務。

因此活動中也同時展示TAIWAN AI RAP與多模態AI技術成果的原因。其中的多模態Ai技術,由中研院資科所所長廖弘源與中原大學資工系教授朱守禮合作,結合YOLOv9物件偵測技術及行為辨識,開發出TAIWAN GBA行為辨識系統,以克服VLM視覺語言模型的限制,可辨識跌倒、鬥毆等12種行為。

國網中心指出,希望籍此呈現從AI模型研發、國家級算力平臺,到產業應用落地的完整鏈結,推動自主AI技術發展。

逐段譯文對不上時使用

點一下(按一下)單字即翻譯該字,選取文字即立即翻譯該範圍。