根据一位接近辉达的人士称,字节跳动目前已到货和没到货的 A100 与 H800 两款产品总计有 10 万颗。其中 H800 今年 3 月才开始投产。据《晚点LatePost》透露,仅字节跳动一家公司今年的订单可能已接近辉达去年在中国销售的商用 GPU 总和。

一名字节跳动人士透露,字节跳动在 2020 年 6 月 GPT-3 发表后,曾借助 V100 计算卡训练过一个数十亿参数的生成式语言大模型,但由于参数规模有限,这个模型生成能力一般,字节跳动当时看不到它的商业化可能性,最后就不了了之。

另一位阿里云人士表示,阿里也曾在 2018~2019 年积极采购 GPU,当时阿里的采购量至少达到上万颗规模,包括 V100 和 T4 计算卡,其中约十分之一送到达摩院用作 AI 技术研发,这也用在2021 年发表的参数破兆大模型 M6 中。

消息人士提到,字节跳动、阿里等大公司主要是和辉达直接谈采购,因为代理商和二手市场难以满足其庞大需求,而辉达会按目录价,根据采购规模给出一定的折扣。

目前一颗 A100 在辉达官网的标价为 1 万美元(约30.7万台币),H100 为 3.6 万美元(约110万台币),而去年针对中国市场推出的 A800 和 H800价格略低一些,但因供不应求等原因使得成交价更高。


點擊閱讀下一則新聞 點擊閱讀下一則新聞

Google I/O聚焦AI Gemini Live、寻找相片新功能惊艳全场