聯發科技正式推出生成式AI服務平台「MediaTek DaVinci」,並由聯發創新基地發表平台上最新的強大繁體中文大型語言模型MediaTek Research BreeXe(以下簡稱MR BreeXe)。

聯發科表示,基於聯發科技生成式AI服務框架(GAI Service Framework, GAISF)而開發的MediaTek DaVinci,最初是為集團內部打造具資料安全性、提高生產力的生成式AI工具,目前已有數十家來自高科技、金融、電信、法律、製造、銷售、服務、系統整合、雲端服務等行業的企業,以及教育機構、新創公司等加入MediaTek Davinci生態系。

現今公開的 MediaTek Davinci 提供一個高整合度、高擴展性的開放平台,讓開發者可為各行業開發客製化生成式AI擴充外掛、助理等應用;對企業來說,能夠在資料安全的環境下,善用平台的豐富工具提高生產力與競爭力。MediaTek Davinci支援各類大語言模型,包含聯發創新基地最新釋出的繁體中文大語言模型「MR BreeXe」。MR BreeXeMixtral 8x7B模型為基礎開發,繼承Mixtral多專家模型特有的節省運算資源、提升速度優勢,再加上聯發創新基地的預訓練(pre-training)之後,不但在繁體中文測試項目(TMMLU+MT Bench TW)超越GPT-3.5並對台灣常見之地端應用特別進行優化,提升產業界使用生成式AI 與檢索增強生成(RAG)的體驗。

MR BreeXe於輝達(NVIDIA)的Taipei -1 GPU超級電腦DGX H100上進行訓練,透過MediaTek Davinci,支援全地端與部分地端的佈設場景,並可依需求進行多樣本學習(few-shot learning)甚至微調(fine-tuning的客製化。

By 壹哥OneGeek1979

1979年出生於桃園, 2011年加入ETtoday新聞雲(Ettoday.net), 2019年創辦極熊仔,現為ETtoday新聞雲特約記者, 對新科技保持熱情,斜槓時尚包袋市場, 資訊爆炸時代,希望透過一點點趨勢觀點,為市場帶來更多正能量。

Leave ur Comment

探索更多來自 壹哥的科技生活 的內容

立即訂閱即可持續閱讀,還能取得所有封存文章。

Continue reading