社群洞察公司专注于生成式AI解决方案，帮助企业和政府机构透过数据分析实现智慧化升级。在此次选拔赛中，社群洞察公司推出「法令释疑智慧小帮手」，使用AMD Instinct MI300X加速器进行模型训练与推论。该加速器基于AMD CDNA 3架构，拥有192GB HBM3记忆体和5.3TB/s的峰值记忆体频宽，能够快速处理繁体中文法令资料。
通过AMD Instinct MI300X的强大算力，模型训练时间大幅缩短，日常微调需求可在半小时内完成。在实际应用中，「法令释疑智慧小帮手」协助户政人员即时检索法令，将查找时间缩短30%，提升办事效率。
缪偲公司（Voiss）专注于AI智能对话互动平台，针对制造业痛点，与撼讯科技合作，运用AMD Radeon RX 7900 XT显示卡建立PLM知识库。此过程中，缪偲公司对制造工厂的维修纪录进行意图识别，训练出高精准度的专属大型语言模型（LLM），以提供即时且准确的问题解决方案。
透过客户实测，缪偲公司开发的系统在各种非预期需求下，准确率达99%以上。这样的高效解决方案有助于工厂知识累积和产能提升，降低企业导入AI系统的门槛。
云林科技大学医学影像处理实验室以医学影像分析为主要研究方向。本次竞赛中，实验室运用撼讯科技提供的AMD Radeon RX 7900 XT显示卡，开发具Re-Rank机制的RAG LLM AI机器人，用于医学影像分析和辅助诊断。
AMD Radeon RX 7900 XT显示卡提供20GB高速记忆体和168个AI加速器，能在PyTorch框架上加速机器学习应用。借由AMD ROCm软体堆叠的高度兼容性，让开发者在模型训练和推论中获得更高效能，实现更流畅的开发流程。
虎智科技由台湾科技大学校友和创新育成中心投资成立，致力于推广AI在建筑设计产业的应用。本次选拔赛中，虎智科技与撼讯科技合作，开发AI助理机器人，利用工厂维修数据进行多代理人RAG技术的实验。结果显示，AMD Radeon RX 7900 XT显示卡在同级产品中展现出色的性价比和高效能，为企业带来更具成本效益的AI系统建置方案。
除了硬体的支持，AMD亦积极推进AI软体功能开发。AMD ROCm开放软体堆叠新增支援生成式AI工作负载的关键功能，如FlashAttention、HIPGraph与vLLM，并与PyTorch、Hugging Face等开源AI框架深度整合，简化了AMD AI解决方案的部署流程。
AMD软体生态系统涵盖多种产品线，包括支持AMD Instinct加速器与Radeon显示卡的ROCm，针对SoC和FPGA的Vitis AI，以及支援EPYC处理器的ZenDNN函式库。AMD未来将持续朝整合式AI软体堆叠发展，帮助开发者在各类AMD产品中，使用统一的AI开发环境，促进AI技术普及与应用扩展。
點擊閱讀下一則新聞
