全寰宇齐在抢算力澳门银河捕鱼，中国大公司更急迫。

文丨张家豪裁剪丨程曼祺 黄俊杰

2022 年下半年，ChatGPT 爆火的同期，硅谷有名风险成本 a16z 造访了数十家 AI 创业公司和大科技公司。他们发现，创业公司转手就把 80%-90% 的早期融资款送给了云计较平台，以锤真金不怕火我方的模子。他们估算，即便这些公司的居品锻真金不怕火了，每年也得把 10%-20% 的营收送给云计较公司。终点于一笔 “AI 税”。

这带来了在云上提供模子才略和锤真金不怕火处事，把算力租给其它客户和创业公司的大市集。仅在国内，当今就至少稀有十家创业公司和中小公司在公正复杂大说话模子，他们齐得从云计较平台租 GPU。据 a16z 测算，一个公司一年的 AI 运算开支只须超越 5000 万好意思元，才有有余的限度效应撑执我方批量采购 GPU。

据《误点 LatePost》了解，本年春节后，领有云计较业务的中国各互联网大公司齐向英伟达下了大单。字节本年向英伟达订购了超越 10 亿好意思元的 GPU，另一家大公司的订单也至少超越 10 亿元东说念主民币。

仅字节一家公司本年的订单可能已接近英伟达旧年在中国销售的商用 GPU 总和。旧年 9 月，好意思国政府发布对 A100、H100（英伟达最新两代数据中心商用 GPU） 的出口照当令，英伟达曾回复称这可能影响旧年四季度它在中国市集的 4 亿好意思元（约合 28 亿元东说念主民币）潜在销售。以此推算，2022 年全年英伟达数据中心 GPU 在中国的销售额约为 100 亿元东说念主民币。

比较国外巨头，中国大科技公司采购 GPU 更为急迫。畴昔两年的降本增效中，一些云计较平台减少了 GPU 采购，储备不及。此外，谁也不敢保证，今天能买的高性能 GPU，未来会不会就受到新的松手。

从砍单到加购，同期里面腾挪

本岁首之前，中国大型科技公司对 GPU 的需求还不冷不热。

GPU 在中国大型互联网科技公司中主要有两个用途：一是对内支执业务和作念一些前沿 AI 相关，二是把 GPU 放到云计较平台上对外销卖。

别称字节东说念主士告诉《误点 LatePost》，2020 年 6 月 OpenAI 发布 GPT-3 后，字节就曾锤真金不怕火了一个数十亿参数的生成式说话大模子，那时主要使用的 GPU 是 A100 前代居品 V100。由于参数限度有限，这个模子生成才略一般，字节那时看不到它的营业化可能性，“ROI（投资酬报率） 算不外来”，此次尝试不赫然之。

阿里曾经在 2018-2019 年积极采购 GPU。一位阿里云东说念主士称，那时阿里的采购量至少达到上万块限度，购买的型号主如若 V100 和英伟达更早前发布的 T4。不外这批 GPU 中只须约十分之一给到了达摩院用作 AI 技能研发。2021 年发布万亿参数大模子 M6 后，达摩院曾败露锤真金不怕火 M6 使用了 480 块 V100。

阿里那时购买的 GPU，更多给到了阿里云用于对外租借。但包括阿里云在内，一批中国云计较公司齐高估了中国市集的 AI 需求。一位科技投资东说念主称，大模子高涨之前，国内主要云厂商上的 GPU 算力不是紧缺，而是愁卖，云厂商致使得降价卖资源。旧年阿里云先后降价 6 次，GPU 租用价下落超两成。

在降本增效，追求 “有质地的增长” 与利润的配景下，据了解，阿里在 2020 年之后缩小了 GPU 采购限度，腾讯也在旧年底砍单一批英伟达 GPU。

然而没过多久后的 2022 岁首，ChatGPT 改造了通盘东说念主的倡导，共鸣很快扫尾：大模子是隐讳错过的大契机。

各公司首创东说念主躬行关怀大模子进展：字节越过首创东说念主张一鸣运转看东说念主工智能论文；阿里巴巴董事局主席张勇接办阿里云，在阿里云峰会发布阿里大模子进展时称，“通盘行业、应用、软件、处事，齐值得基于大模子才略重作念一遍”。

别称字节东说念主士称，畴昔在字节里面央求采购 GPU 时，要证据干预产出比、业务优先级和进军性。而当今大模子业务是公司计谋级别新业务，暂时算不清 ROI 也必须干预。

研发我方的通用大模子仅仅第一步，各公司的更大主见是推出提供大模子才略的云处事，这是实在不错匹配干预的大市集。

微软的云处事 Azure 在中国云计较市集本莫得太强存在感，入华十年来主要处事跨国公司的中国业务。但当今客户得列队恭候，因为它是 OpenAI 营业化的独一云代理商。

阿里在 4 月的云峰会上，再次强调 MaaS（模子即处事）是改日云计较趋势，在绽开自研的通用基础模子 “通义千问” 测试以外，还发布了一系列匡助客户在云上锤真金不怕火、使用大模子的器具。不久后腾讯和字节火山引擎也先后发布我方的新版锤真金不怕火集群处事。腾讯称用新一代集群锤真金不怕火万亿参数的混元大模子，时辰可被压缩到 4 天；字节称它们的新集群支执万卡级大模子锤真金不怕火，国内数十家作念大模子的企业，多数已在使用火山引擎。

通盘这些平台使用的要么是英伟达 A100、H100 GPU，要么是旧年禁令后英伟达专门推出的减配版 A800、H800，这两款解决器带宽区分是原版的约 3/4 和约一半，消失了高性能 GPU 的照应程序。

围绕 H800 和 A800，中国科技大公司运转了新一轮下单竞争。

别称云厂商东说念主士称，字节、阿里等大公司主如若和英伟达原厂径直谈采购，代理商和二手市集难以得志他们的刚劲需求。

英伟达会按目次价，凭证采购限度谈一个扣头。据英伟达官网，A100 售价为 1 万好意思元 / 枚（约 7.1 万元东说念主民币），H100 售价为 3.6 万好意思元 / 枚（约 25.7 万元东说念主民币）；据了解，A800 和 H800 售价略低于原版。

中国公司能否抢到卡，更多是看营业干系，比如以往是不是英伟达的大客户。“你是和中国英伟达谈，如死去好意思国找老黄（黄仁勋，英伟达首创东说念主、CEO）径直谈，齐有判袂。” 一位云厂商东说念主士说。

部分公司也会和英伟达进行 “业务合营”，在购买抢手的数据中心 GPU 时，也购买其它居品，以争取优先供应。这就像爱马仕的配货，如果你思买到热点的包，时时也得搭配几万元的穿戴、鞋履。

轮廓咱们获取的行业信息，字节本年的新下单动作相对激进，超越 10 亿好意思元级别。

一位接近英伟达的东说念主士称，字节到货和没到货的 A100 与 H800 算计有 10 万块。其中 H800 本年 3 月才运转投产，这部分芯片应来自本年的加购。据了解，以当今的排产经过，部分 H800 要到本年底才略交货。

字节越过 2017 年运转建造我方的数据中心。照旧的数据中心更依赖稳当通盘计较的 CPU，直到 2020 年，字节采购英特尔 CPU 的金额还高于英伟达 GPU。字节采购量的变化，也反馈了如今大型科技公司的计较需求中，智能计较对通用计较的赶超。

据了解，某互联网大厂本年至少已给英伟达下了万卡级别订单，按目次价估算价值超 10 亿元东说念主民币。

腾讯则最初晓谕已用上 H800，腾讯云在本年 3 月发布的新版高性能计较处事中已使用了 H800，并称这是国内首发。刻下这一处事已对企业客户绽开测试央求，这快于大部分中国公司的经过。

据了解，阿里云也在本年 5 月对内提倡把 “智算战役” 动作本年的头号战役，并缔造三大主见：机器限度、客户限度和营收限度；其中机器限度的进军揣度打算便是 GPU 数目。

新的 GPU 到货前，各公司也在通过里面腾挪，优先支执大模子研发。

能一次开释较多资源的作念法是砍掉一些没那么进军，或短期看不到明确前程的标的。“大公司有许多奄奄一息的业务占着资源。” 一位互联网大公司 AI 从业者说。

本年 5 月，阿里达摩院撤离自动驾驶推行室：300 多名职工中，约 1/3 划归菜鸟技能团队，其余被裁，达摩院不再保留自动驾驶业务。研发自动驾驶也需要用高性能 GPU 作念锤真金不怕火。这一诊疗可能与大模子无径直干系，但如实让阿里获取了一批 “目田 GPU”。

字节和好意思团，则径直从给公司带来告白收入的营业化技能团队那儿匀 GPU。

据《误点 LatePost》了解，本年春节后不久，字节把一批原揣度打算新增给字节营业化技能团队的 A100 匀给了 TikTok 居品技能进展东说念主朱文佳。朱文佳正在训导字节大模子研发。而营业化技能团队是支执抖音告白保举算法的中枢业务部门。

好意思团在本年一季度摆布运转设备大模子。据了解，好意思团不久前从多个部门调走了一批 80G 显存顶配版 A100，优先供给大模子，让这些部门改用树立更低的 GPU。

财力远不如大平台充裕的 B 站对大模子也有推敲。据了解，B 站此前已储备了数百块 GPU。本年，B 站一方面执续加购 GPU，一方面也在妥洽各部门匀卡给大模子。“有的部门给 10 张，有的部门给 20 张。” 一位接近 B 站的东说念主士称。

字节、好意思团、B 站等互联网公司，正本支执搜索、保举的技能部门一般会有一些 GPU 资源冗余，在不伤害原有业务的前提下，他们当今齐在 “把算力水份挤出来”。

不外这种拆东墙补西墙的作念法能获取的 GPU 数目有限，锤真金不怕火大模子所需的大头 GPU 如故得靠各公司畴昔的累积和恭候新 GPU 到货。

全寰宇齐在抢算力

对英伟达数据中心 GPU 的竞赛也发生在各人领域。不外国外巨头大批购买 GPU 更早，采购量更大，连年的投资相对贯穿。

2022 年，Meta 和甲骨文就已有对 A100 的大干预。Meta 在旧年 1 月与英伟达合营建成 RSC 超等计较集群，它包含 1.6 万块 A100。同庚 11 月，甲骨文晓谕购买数万块 A100 和 H100 搭建新计较中心。当今该计较中心已部署了超 3.27 万块 A100，并不息上线新的 H100。

微软自从 2019 年第一次投资 OpenAI 以来，已为 OpenAI 提供数万块 GPU。本年 3 月，微软又晓谕已匡助 OpenAI 建造了一个新计较中心，其中包括数万块 A100。Google 在本年 5 月推出了一个领有 2.6 万块 H100 的计较集群 Compute Engine A3，处事思我方锤真金不怕火大模子的公司。

中国大公司当今的动作和心态齐比国外巨头更急迫。以百度为例，它本年向英伟达新下的 GPU 订单高达上万块。数目级与 Google 等公司终点，皇冠博彩天然百度的体量小得多，其旧年营收为 1236 亿元东说念主民币，只须 Google 的 6%。

据了解，字节、腾讯、阿里、百度这四家中国干预 AI 和云计较最多的科技公司，畴昔 A100 的累积齐达到上万块。其中字节的 A100 完全数最多。不算本年的新增订单，字节 A100 和前代居品 V100 总和接近 10 万块。

皇冠体育hg86a

成永远公司中，商汤本年也声称，其 “AI 大安设” 计较集群中已悉数部署了 2.7 万块 GPU，其中有 1 万块 A100。连看似和 AI 不搭边的量化投资公司幻方之前也购买了 1 万块 A100。

仅看总和，这些 GPU 供各公司锤真金不怕火大模子似乎绰绰过剩——据英伟达官网案例，OpenAI 锤真金不怕火 1750 亿参数的 GPT-3 时用了 1 万块 V100 ，锤真金不怕火时长未公开；英伟达测算，如果用 A100 来锤真金不怕火 GPT-3 ，需要 1024 块 A100 锤真金不怕火 1 个月，A100 比较 V100 有 4.3 倍性能普及。但中国大公司畴昔采购的大批 GPU 要撑执现存业务，或放在云计较平台上售卖，并不成目田地用于大模子设备和对外支执客户的大模子需求。

这也证据了中国 AI 从业者对算力资源估算的巨大判袂。清华智能产业相关院院长张亚勤 4 月底参加清华论坛时说，“如果把中国的算力加一块，终点于 50 万块 A100，锤真金不怕火五个模子没问题。”AI 公司旷视科技 CEO 印奇摄取《财新》采访时则说：中国刻下可用作大模子锤真金不怕火的 A100 悉数只须约 4 万块。

主要反馈对芯片、处事器和数据中心等固定金钱投资的成本开支，不错直不雅证据中外大公司计较资源的数目级差距。

最早运转测试类 ChatGPT 居品的百度，2020 年以来的年景本开支在 8 亿到 20 亿好意思元之间，阿里在 60-80 亿好意思元之间，腾讯在 70-110 亿好意思元之间。同期，亚马逊、Meta、Google、微软这四家自建数据中心的好意思国科技公司的年景本开支最少均超越 150 亿好意思元。

疫情三年中，国外公司成本开支连接高潮。亚马逊旧年的成本开支已来到 580 亿好意思元，Meta、Google 均为 314 亿好意思元，微软接近 240 亿好意思元。中国公司的投资在 2021 年之后则在缩小。腾讯、百度旧年的成本开支均同比下滑超 25%。

锤真金不怕火大模子的 GPU 已不算充足，各家中国公司如确切的要永远干预大模子，并赚到给其它模子需求 “卖铲子” 的钱，改日还需要执续加多 GPU 资源。

走得更快 OpenAI 已遭逢了这一挑战。5 月中旬，OpenAI CEO SamAltman 在与一群设备者的小领域相通中说，由于 GPU 不够，OpenAI 当今的 API 处事不够自若，速率也不够快，在有更多 GPU 前，GPT-4 的多模态才略还无法拓展给每个用户，他们近期也不准备发布新的消费级居品。技能计议机构 TrendForce 本年 6 月发布阐发称，OpenAI 需要约 3 万块 A100 来执续优化和营业化 ChatGPT。

与 OpenAI 合营颇深的微软也面对访佛情境：本年 5 月，有效户吐槽 New Bing 回答速率变慢，微软回复，这是因为 GPU 补充速率跟不上用户增长速率。镶嵌了大模子才略的微软 Office 365 Copilot 刻下也莫得大限度绽开，最新数字是有 600 多家企业在试用——Office 365 的各人总用户数接近 3 亿。

中国大公司如果不是仅把锤真金不怕火并发布一个大模子动作主见，而是真思用大模子创造处事更多用户的居品，并进一步支执其它客户在云上锤真金不怕火更多大模子，就需要提前储备更多 GPU。

为什么只但是那四款卡？

在 AI 大模子锤真金不怕火上，当今 A100、H100 独特特供中国的减配版 A800、H800 找不到替代品。据量化对冲基金 Khaveen Investments 测算，英伟达数据中心 GPU 2022 年市占率达 88%，AMD 和英特尔均分剩下的部分。

2020 年的 GTC 大会上，黄仁勋携 A100 第一次亮相。

生肖属蛇的朋友，他们是一个头脑非常聪明的人，平时在生活中总是懂得透过现象去看本质，因此从来都不会容易上当受骗，更加不会容易人云亦云，往往都会懂得保护自己，而且他们做事往往都会非常的有担当，从来都不会轻易放弃，因此只要继续加油，必定能够在事业上有所成就，很快就能够过上自己想要过的幸福生活。

英伟达 GPU 刻下的不可替代性，源振奋模子的锤真金不怕火机制，其中枢门径是预锤真金不怕火（pre-training）和微调（fine-tuning），前者是打基座，终点于摄取通识素养至大学毕业；后者则是针对具体场景和任务作念优化，以普及使命阐扬。

预锤真金不怕火要害尤其耗尽算力，它对单个 GPU 的性能和多卡间的数据传输才略有极高条件。

当今只须 A100、H100 能提供预锤真金不怕火所需的计较效用，它们看起来富贵，反倒是最便宜的遴荐。今天 AI 还在商用早期，成本径直影响一个处事是否可用。

畴昔的一些模子，如能识别猫是猫的 VGG16，参数目只须 1.3 亿，那时一些公司会用玩游戏的 RTX 系列消费级显卡来跑 AI 模子。而两年多前发布的 GPT-3 的参数限度已达到 1750 亿。

大模子的刚劲计较需求下，用更多低性能 GPU 共同构成算力已行欠亨了。因为使用多个 GPU 锤真金不怕火时，需要在芯片与芯片间传输数据、同步参数信息，这时部分 GPU 会闲置，无法一直饱和使命。是以单卡性能越低，使用的卡越多，算力损耗就越大。OpenAI 用 1 万块 V100 锤真金不怕火 GPT-3 时的算力期骗率不到 50%。

A100 、H100 则既有单卡高算力，又有普及卡间数据传输的高带宽。A100 的 FP32（指用 4 字节进行编码存储的计较）算力达到 19.5 TFLOPS（1 TFLOPS 即每秒进行一万亿次浮点运算），H100 的 FP32 算力更高达 134 TFLOPS，是竞品 AMD MI250 的约 4 倍。

A100、H100 还提供高效数据传输才略，尽可能减少算力闲置。英伟达的独家秘密是自 2014 年起不息推出的 NVLink、NVSwitch 等通讯条约技能。用在 H100 上的第四代 NVLink 可将肃清处事器内的 GPU 双向通讯带宽普及至 900 GB/s（每秒传输 900GB 数据），是最新一代 PCle（一种点对点高速串行传输程序）的 7 倍多。

旧年好意思国商务部对 GPU 的出口轨则也恰是卡在算力和带宽这两条线上：算力上线为 4800 TOPS，带宽上线为 600 GB/s。

A800 和 H800 算力和原版终点，但带宽打折。A800 的带宽从 A100 的 600GB/s 降为 400GB/s，H800 的具体参数尚未公开，据彭博社报说念，它的带宽只须 H100（900 GB/s） 的约一半，实施通常的 AI 任务时，H800 会比 H100 多花 10% -30% 的时辰。别称 AI 工程师推测，H800 的锤真金不怕火成果可能还不如 A100，但更贵。

即使如斯，A800 和 H800 的性能依然超越其他大公司和创业公司的同类居品。受限于性能和更专用的架构，各公司推出的 AI 芯片或 GPU 芯片，当今主要用来作念 AI 推理，难以胜任大模子预锤真金不怕火。简单来说，AI 锤真金不怕火是作念出模子，AI 推理是使用模子，锤真金不怕火对芯片性能条件更高。

性能差距外，英伟达的更深护城河是软件生态。

早在 2006 年，英伟达就推出计较平台 CUDA，它是一个并行计较软件引擎，设备者可使用 CUDA 更高效地进行 AI 锤真金不怕火和推理，用好 GPU 算力。CUDA 今天已成为 AI 基础设施，主流的 AI 框架、库、器具齐以 CUDA 为基础进行设备。

英伟达以外的 GPU 和 AI 芯片如要接入 CUDA，需要我方提供适配软件，但只须 CUDA 部分性能，更新迭代也更慢。PyTorch 等 AI 框架正试图冲破 CUDA 的软件生态把持，提供更多软件才略以支执其它厂商的 GPU，但这对设备者诱导力有限。

一位 AI 从业者称，他场合的公司曾构兵一家非英伟达 GPU 厂商，对方的芯片和处事报价比英伟达更低，也喜悦提供更实时的处事，但他们判断，使用其它 GPU 的举座锤真金不怕火和设备成本会高于英伟达，还得承担断绝的不笃定性和花更多时辰。

“天然 A100 价钱贵，但其实用起来是最便宜的。” 他说。对专诚收拢大模子契机的大型科技公司和头部创业公司来说，钱时时不是问题，时辰才是更珍惜的资源。

短期内，独一影响英伟达数据中心 GPU 销量的可能只须台积电的产能。

H100/800 为 4 nm 制程，A100/800 为 7 nm 制程，这四款芯片均由台积电代工坐褥。据中国台湾媒体报说念，英伟达本年向台积电新增了 1 万片数据中心 GPU 订单，并下了超急件 ，坐褥时辰最多可镌汰 50%。平素情况下，台积电坐褥 A100 需要数月。刻下的坐褥瓶颈主要在先进封装产能不够，缺口达一至两成，需要 3-6 个月渐渐普及。

自从适用于并行计较的 GPU 被引入深度学习，十多年来，AI 发展的能源便是硬件与软件，GPU 算力与模子和算法的交叠上前：模子发展拉动算力需求；算力增长，又使正本难以企及的更大限度锤真金不怕火成为可能。

在上一波以图像识别为代表的深度学习高涨中，中国 AI 软件才略并列各人最前沿水平；算力是刻下的难点——想象与制造芯片需要更长的累积，触及漫长供应链和繁密专利壁垒。

大模子是模子与算法层的又一次猛进展，没时辰缓缓来了，思作念大模子，或提供大模子云计较才略的公司必须尽快获取有余多的先进算力。在这轮高涨使第一批公司高涨或失望前，围绕 GPU 的劫掠不会住手。