AMD首度公布MLPerf测试结果 展现全新AI领先地位
【记者吕承哲／台北报导】AMD于2日宣布首次 MLPerf 基准测试结果，在MLPerf 4.1推论中，搭载ROCm的MI300X为Llama 2 70B等大型LLM提供卓越的推论效能，与辉达（Nvidia）的H100的测试结果不分轩轾。
辉达Blackwell GPU首次测试亮相 在Llama 2 70B推论效能提高4倍
【记者吕承哲／台北报导】在企业争相采用生成式人工智慧（AI）与陆续推出各项新服务的情况下，对资料中心基础设施的需求也创下新高，GPU巨头辉达（NVIDIA）宣布，使用Blackwell GPU 进行的首次测试结果，在 Llama 2 70B 上将推论效能提高四倍，而 NVIDIA Hopper 架构也在各产业 AI 基准测试中有著更为优异的表现。
辉达最新MLPerf训练测试 以较去年3.2倍GPU规模实现3倍以上性能
【记者吕承哲／台北报导】辉达（NVIDIA）宣布，与去年提交创新纪录的数据相比，NVIDIA 在基于 GPT-3 175B 的大型语言模型（LLM）基准测试中的表现，提升了三倍以上。 NVIDIA 使用配备11,616 个NVIDIA H100 Tensor Core GPU 并与NVIDIA Quantum-2 InfiniBand 网路连接的人工智慧（AI）超级电脑，透过更大规模（比一年前提交的3,584 个H100 GPU 增加三倍多）和广泛的全端工程实现了这项非凡壮举。
loading
