资策会 MIC 所长洪春晖在主题演讲中指出,2024年将是AI PC元年。虽然目前规格尚未确定,但多家处理器厂商已经陆续推出AI算力更强,且整合NPU的新款处理器。同时,微软也计划发布更新版的Windows 11,正式整合Copilot功能。

Intel副总裁暨台湾分公司总经理汪佳慧。台北市电脑公会提供
Intel副总裁暨台湾分公司总经理汪佳慧。台北市电脑公会提供

Intel副总裁暨台湾分公司总经理汪佳慧表示,AI可以协助各行各业垂直市场应用发挥效益,以亚东医院为案例,透过AI科技与诊断模型的开发,可以有助于准确辨识早期喉癌,把握患者的黄金治疗期。AI工作需求的增加将使半导体产业在2030年达到一兆美元的市场潜力。AI技术将在零售、制造、健康、通讯等领域释放更多商机,Intel并提供从AI PC、企业与边缘运算、资料中心等场域完整AI运算解决方案。

在AI PC产品方面,Intel Core Ultra处理器能够让PC直接执行生成式AI(GenAI)模型,已有超过500个AI模型经过最佳化。由于AI应用需要硬体与软体的结合,英特尔通过AI加速计划,与全球超过100家软体厂商合作,持续开发更多AI应用。汪佳慧强调,未来AI相关应用将无处不在,并且会在各行各业中发挥重要作用。

高通副总裁暨台湾、东南亚与纽澳区总裁刘思泰。台北市电脑公会提供
高通副总裁暨台湾、东南亚与纽澳区总裁刘思泰。台北市电脑公会提供

高通副总裁暨台湾、东南亚与纽澳区总裁刘思泰指出,GenAI将是与装置互动最新介面,因为包括文字、影像、程式码、音乐、语音等输入资料,GenAI都能在套用大型语言模型、多模态模型与较少资料LLM来进行处理,并预估每年GenAI可以全球带来2.6兆到4.4兆美元的经济效益。由于GenAI越来越复杂,刘思泰认为将进入Hybrid AI时代,也就是简单AI运算在设备(端点)处理,较复杂AI在边缘云端运算,复杂AI就需要上传到数据中心云端。因此高通推出的Snapdragon X Elite SoC处理器,在CPU、GPU、NPU等协助下,不仅运算效能提升,并且直接内建AI功能,并且可以直接使用高通AI Hub下载通过最佳化的上百种AI模型,让使用者能真正感受AI PC的效能与生产力。

高通将与多家OEM和品牌PC业者合作,推出新一代的AI PC产品,并即将在COMPUTEX 2024展会上亮相,展示强大性能与应用情境。

Google Chrome 研发总经理马大康。台北市电脑公会提供
Google Chrome 研发总经理马大康。台北市电脑公会提供

Google Chrome 研发总经理马大康博士指出,生成式AI(GenAI)能显著提升企业和个人的工作效率,这也是各行各业积极导入GenAI的主要原因。为了让更多人受惠于GenAI的服务,Google 推出了「Gemini」大型语言模型服务,在Google I/O上,除了原有的Gemini Ultra、Gemini Pro和Gemini Nano,还推出Gemini 1.5 Flash,属于Gemini 1.5 Pro的精简版,并且推出可互动的Gemini Live。

此外,Google 还推出了基于Gemini模型技术开发的Gemma轻量开源模型,可在应用程式、硬体设备、行动装置或云端服务上运行,将推出内建AI功能的Chromebook Plus,并会在COMPUTEX中展出。马大康认为,企业可以通过使用Gemini for Google Workspace来提升生产力,包括Gmail的自动生成邮件、Meet的自动翻译和会议重点记录、Chat的聊天内容总结,以及Slide的文字生成图片等多种GenAI功能。

耐能智慧创办人暨执行长刘峻诚。台北市电脑公会提供
耐能智慧创办人暨执行长刘峻诚。台北市电脑公会提供

耐能智慧创办人暨执行长刘峻诚介绍了如何利用耐能的NPU加速器、AI晶片和AI演算法来设计个人化的GPT应用,强调轻量级大型语言模型(LLM)快速、精准且容易执行的特性。以边缘AI运算为例,透过分拆AI模型,可以在内建NPU的单晶片SoC架构的AI晶片中运作,耗电量比一般GPU低,也就是在Edge端跑GPT应用。为了方便一般使用不同Edge GPT功能,可以透过KNEO开放式平台,安装或选购各类Edge GPT软体与模型,降低开发所需成本。

针对企业对资料保密性和安全性的考量,耐能推出了KNEO企业用私有化Edge GPT解决方案,透过基于NPU技术,内建LLM模型、Edge AI伺服器、检索增强生成(RAG)系统边缘AI GPT伺服器,运算速度快且低耗能,可应用于各种企业GPT方案,支援英文和中文,并且内建GPT模型训练服务和离线AI伺服器,满足大部分企业对于私有化GPT运算的需求,已有各种不同行业指标客户都在使用当中。目前去年底已经推出入门版KNEO 300,预计今年将推出企业用KNEO 330,将可让数十人中小企业也能享受到私有GPT运算应用。

 


點擊閱讀下一則新聞 點擊閱讀下一則新聞
高通第7届QITC征件即日开跑!参赛享4大好处 计划总奖金40万美元