基于联发科技生成式AI服务框架(GAI Service Framework, GAISF)而开发的MediaTek DaVinci,最初是为集团内部打造具资料安全性、提高生产力的生成式AI工具,现已发展成可供外部企业导入的生成式AI服务平台与丰富的生态系,目前已有数十家来自高科技、金融、电信、法律、制造、销售、服务、系统整合、云端服务等行业的企业,以及教育机构、新创公司等加入MediaTek Davinci生态系。

MediaTek Davinci支援各类大语言模型,包含联发创新基地最新释出的繁体中文大语言模型「MR BreeXe」。MR BreeXe以Mixtral 8x7B模型为基础开发,继承Mixtral多专家模型特有的节省运算资源、提升速度优势,再加上联发创新基地的预训练(pre-training)之后,不但在繁体中文测试项目(TMMLU+、MT Bench TW)超越GPT-3.5,并对台湾常见之地端应用特别进行优化,提升产业界使用生成式AI 与检索增强生成(RAG)的体验。

MR BreeXe于辉达(NVIDIA)的Taipei -1 GPU超级电脑DGX H100上进行训练,透过MediaTek Davinci,支援全地端与部分地端的布设场景,并可依需求进行多样本学习(few-shot learning)甚至微调(fine-tuning)的客制化。

联发科技推出生成式AI服务平台MediaTek DaVinci及最新繁中大模型MediaTek Research BreeXe。联发科提供。
联发科技推出生成式AI服务平台MediaTek DaVinci及最新繁中大模型MediaTek Research BreeXe。联发科提供。

联发科技人工智慧暨数据工程处协理叶家顺表示:「MediaTek DaVinci解决许多企业在采用生成式AI的痛点,让各行各业在确保资讯安全的环境下,可善用已有强大基础的平台开发专属的生成式AI应用。随著更多企业与开发者加入MediaTek Davinci生态系,我们相信MediaTek DaVinci的能力将会持续爆发性成长,成为企业的得力助手。」

联发创新基地负责人许大山博士表示:「MediaTek Research BreeXe繁体中文大型语言模型是联发创新基地在大模型发展上最新的里程碑,提供优异语文理解能力和云、地两端的弹性,为现今繁体中文能力最强的语言模型, 加上与MediaTek Davinci的搭配,相信能更贴近在地需求,激发更多在地的生成式AI应用。」

AI

點擊閱讀下一則新聞 點擊閱讀下一則新聞
12月上市!NVIDIA在SC24推出H200 NVL 推论效能较前代提升1.7倍