生成式人工智慧(AI)技术逐渐融入日常活动,架构从单一模型框架演变为复杂的多专家系统,然而,生成式AI技术的高部署成本成为其广泛采用的重大障碍。为此,群联引入了「aiDAPTIV+」技术方案,这项革命性的方案,利用NAND Flash来扩展高带宽记忆体(HBM),从而大幅降低成本。

热门新闻:新北消防局长2线4星秘书「假督勤」!骑公务车买菜挽面接孩子 涉贪加班费竟坐等升官

林纬在演讲中强调,目前要训练大型语言模型的成本非常高,但采用aiDAPTIV+成本不到传统方法的十分之一,大幅降低AI模型建置成本,对于AI在各行各业普及进程大大加分。

会中一名听众热烈提问:「aiDAPTIV+是否能够应用于金融机构的数据分析和风险管理?」 林纬回说,这正是他们的目标之一,已有多家金融机构在使用aiDAPTIV+进行数据分析,且效果显著。至于与会者关心的「技术如何保障数据隐私?」 林纬指出,他们的技术确保数据在本地进行处理,不需要上传至云端,这大大提高了数据的安全性。

联电子技术长林纬(讲者)受邀说明aiDAPTIV+技术方案的革命性技术创新,和生态系统发展,现场互动热络。主办单位提供
联电子技术长林纬(讲者)受邀说明aiDAPTIV+技术方案的革命性技术创新,和生态系统发展,现场互动热络。主办单位提供

群联电子统计,这场演讲后,预计获得超过二十间企业的商业洽谈机会,不但巩固aiDAPTIV+方案在市场中领先的地位,更显现群联在AI产业发展的方向正确性。

群联指出,aiDAPTIV+解决方案已吸引多家厂商开案,POC数量达100个以上,预计第三季开始放量出货,短期出货规模拚上万套,中长期更希望此平台能将AI平民化,让生成式AI不再高不可攀。aiDAPTIV+平台透过把群联自家NAND Flash解决方案当作DRAM使用,进一步扩充AI地端运算能力,让客户在不必将资料上传至云端的情况下,也能在地端进行训练与推论。

aiDAPTIV+已导入公家机关、金融机构、中小企业等客户,让AI技术实际落地。例如全台大型财神庙北港武德宫就导入了群联方案,用于解签,并依武德宫风格撰写官网文章,解说经文内容;在医疗领域,连锁诊所运用了客服AI助理,减少柜台负担。

 

群联电子将与TAIA合作推出aiDAPTIV+实作工作坊,提供深入的技术培训和实际操作机会,帮助企业更好地理解和应用aiDAPTIV+技术,进一步推动AI技术的普及和发展。现场设有互动展示区域,参与者可亲身体验aiDAPTIV+技术的应用场景,并与技术专家进行一对一的交流讨论。

群联说明,「aiDAPTIV+」是一种整合硬体和软体的AI模型微调训练地端解决方案,可让企业进行AI模型微调运算的过程中依旧保有资料的安全性与不外流,让机器学习更安全有保障。群联的「aiDAPTIV+」可赋能AI模型微调运算,将训练的AI模型塑造成能够理解特定领域的专业工具,例如符合律师、会计师、医师、工程师等特殊领域的AI助理等,提供符合各种专业领域所需的精确服务。

通用型工作站硬体透过「aiDAPTIV+」软体Middleware和群联独家专利设计的aiDAPTIVCache系列AI100,将可让现行的工作站电脑或是AI伺服器训练更大的AI模型。


點擊閱讀下一則新聞 點擊閱讀下一則新聞
嘉义房仲带看仓库变群殴 持刀杀死承租人判10年6月 死者家属痛批判太轻