Anthropic 100亿美元租Meta算力：企业做AI，到底该租还是该买？ 老实说，这篇文章可能会让一些云厂商不太高兴。但我觉得这个事值得拿出来好好掰扯掰扯。目录 热点背后的真相：100 亿美元，买的是什么？ 算力租赁 VS 自建服务器：一个被忽视的决策框架 三种场景，三种选型方案 我亲测过的几个方案，供你参考 总结：没有银弹，但有原则 热点背后的真相：100 亿美元，买的是什么？今天一早，朋友圈就被这条消息刷屏了：Anthropic 正在和 Meta 谈一笔 2 年 100 亿美元的算力租赁协议，月付 4.17 亿美元，双方都可以提前退出。 图片来源：Unsplash看到这条新闻，我的第一反应不是"哇，好有钱"，而是——连 Anthropic 这样的头部 AI 公司都不自己买卡了？试想一下，Anthropic 是谁？Claude 系列的开发商，OpenAI 最直接的竞争对手，融资几十亿美元的 AI 独角兽。他们完全可以自己去找 NVIDIA 下单买 H200/B200，自己建数据中心。但他们没有。他们选择了租。这背后释放了一个非常强烈的信号：在 AI 算力这个战场上，租赁正在从"无奈之选"变成"理性之选"。你看，100 亿美元、2 年，折合每天 1369 万美元。这相当于 Meta 把自己闲置的 GPU 算力打包卖给了 Anthropic。对 Meta 来说，数据中心的投资不再是成本中心，反而变成了利润中心。对 Anthropic 来说，不用一次性掏出几百亿美元建数据中心，想退还能退。这不香吗？算力租赁 VS 自建服务器：一个被忽视的决策框架我过去一年至少和十几个做 AI 应用的朋友聊过这个话题，发现一个普遍现象：大部分人根本不考虑"租还是建"这个问题，上手就是买服务器。老实说，这种思维习惯在 2023 年还可以理解——那时候 GPU 一卡难求，能买到就是胜利。但到了 2026 年，情况已经完全不一样了。我画了一个简单的决策树，帮你判断：你该算力租赁，如果—— 业务需求波动大：今天跑训练，明天跑推理，后天可能改需求 现金流吃紧：一次性买几十块 GPU 对中小企业来说太沉重 不想养运维团队：服务器挂了、网络断了、散热坏了，都得有人管 想快速试错：新业务方向不确定，租 3 个月试试水，不行就退 你该自建服务器，如果—— 7x24 小时满载运行：推理服务、在线业务，算力利用率 > 70% 对数据安全有严格合规要求：金融、医疗、政务场景 追求极致延迟：实时 AI 交互场景，网络延迟多一跳都不行 规模大到一定程度：比如你已经有 1000+ 张卡，自建 ROI 明显更高 核心原则很简单：算力租赁解决的是"灵活性和现金流"问题，自建解决的是"控制权和边际成本"问题。你的业务在哪个象限，就选哪个方案。三种场景，三种选型方案 图片来源：Unsplash场景一：中小团队做 AI 应用（1-10 人）推荐方案：云服务器 + GPU 实例按需租用说句实话，这个阶段的团队最不应该做的事就是买物理服务器。我见过太多初创团队一上来就花几十万买 GPU 服务器，结果业务方向 pivot 了，服务器闲置吃灰。现阶段国内主流的方案对比： 服务商 推荐机型 GPU 型号 适合场景 月费参考 阿里云 ecs.gn7i-c16g1 A100 40G 模型微调 / 推理 ~8000 元起 腾讯云 GN7.2XLARGE T4 16G 轻量推理 / 部署 ~3000 元起 华为云 g6.4xlarge.1 Ascend 910B 国产化需求 ~5000 元起 各家 GPU 租赁平台 按小时计费 A100/H100 训练任务 ~20-50 元/卡时 我的建议：先在云上用按量付费跑通 MVP，确定业务模型后再谈长期资源规划。场景二：中型企业做 AI 落地（10-100 人）推荐方案：混合架构——核心业务自建 + 弹性业务上云这是目前最务实的方案。你去看看国内的 AI 公司，但凡有点规模的，基本都是这个路子。核心逻辑： 1. 线上推理等延迟敏感业务：自建小型 GPU 集群（10-50 张卡），保证稳定性和响应速度 2. 训练、实验、突发流量：走云上弹性资源，用完即释放 3. 冷数据存储：上对象存储，别拿 GPU 服务器当 NAS 用——这个错误我看到过太多次了场景三：大型企业 / 重度 AI 需求推荐方案：参考 Anthropic——策略性租赁有趣的是，Anthropic 的选择恰恰说明了一个道理：即使你有钱到可以自建，租赁仍然可能是一个更优的财务决策。100 亿美元 2 年，如果用来买硬件，大概能买 15-20 万张 H100。但 2 年后呢？B200 出来了，你的 H100 二手残值还剩多少？而租的话，到期退租，技术迭代的风险由出租方承担。我亲测过的几个方案，供你参考过去半年我一直在给自己的一些客户做 AI 服务器选型咨询，跑了几个实际的测试，简单说说感受：1. 轻量推理用腾讯云 GN7（T4） 性价比很高，月费 3000 出头，部署 Stable Diffusion 或者 7B 以下模型推理完全够用。适合个人开发者或小团队起步。2. 模型微调用阿里云 gn7i（A100） 如果你要微调 LLaMA 13B 或者类似规模的开源模型，A100 40G 是最低门槛。月费 8000 左右，比买一台 20 万的服务器划算太多了——因为你不会每天都在跑微调。3. 国产化场景选华为云 Ascend 910B 如果你有信创需求，910B 是不错的选择。生态虽然比 CUDA 差一些，但华为在使劲推，适配的开源模型越来越多。别因为习惯问题就忽视这个选项。4. GPU 租赁平台跑大规模训练 对于需要几十甚至上百张卡同时跑的大规模训练任务，建议走专门的 GPU 租赁平台（比如算力云、极客云这类）。按小时计费，训练完了就释放，不用养闲置资源。 图片来源：Unsplash总结：没有银弹，但有原则（全文完）Anthropic 100 亿美元租 Meta 算力这件事，给我们提供了一个很好的思考样本： 如果你的业务还在试错阶段——租，别犹豫 如果你的业务已经稳定且满载——买，算算 ROI 如果既想稳定又不想被绑死——混合架构，两边都占 技术选型没有标准答案，但有一条原则永远不会过时：别因为"习惯"或"面子"做决策，要让数字说话。希望这篇文章能帮你少走一些弯路。如果你现在正在纠结服务器选型，欢迎在评论区聊聊你的具体场景，我会尽量给出我的建议。（全文完）

从Linus Torvalds怒斥反AI开发者，看AI时代Linux服务器该怎么选 今天技术圈最大的瓜，莫过于 Linus Torvalds 在 Linux 内核邮件列表里发飙了。事情的起因是这样的：有位内核开发者提交了一个 Patch，用 AI 模型来优化内核的 I/O 调度策略。然后社区里就炸了——有人说"AI 生成的代码不配进内核"，有人说"这是让黑盒模型控制核心基础设施"，甚至有人直接开喷"这是对 Linus 治下内核社区传统的背叛"。结果 Linus 本人出来了。他的回应大意是："你们可以不喜欢 AI，但别挡着别人用。代码好不好，看的是质量，不是看它是不是人写的。"老实说，看到这条消息我一点都不意外。这就像当年 Git 取代 BitKeeper、C 语言取代汇编一样——每一代技术更迭，总会有人跳出来说"这不行，这坏了规矩"。但真正推动行业进步的，永远是那些敢于拥抱变化、同时保持独立思考的人。这篇文章我就把这件事从头到尾拆一遍，然后聊聊它对服务器选型意味着什么。 现代化的数据中心——AI正在从应用层渗透到基础设施层目录 一、事件还原：Linus到底说了什么？ 二、为什么这件事值得每一个买服务器的人关注？ 三、AI代码进内核，是好事还是坏事？ 四、这对你的服务器选型意味着什么？ 五、AI时代，选服务器要关注哪几个硬指标？ 六、写在最后 一、事件还原：Linus到底说了什么？先简单说一下事情经过。前两天，Linux 内核 I/O 子系统的一个维护者提交了一个 RFC（Request for Comments），内容是用一个轻量级的 ML 模型来预测块设备的 I/O 模式，从而动态调整调度策略。说白了，就是用 AI 来让硬盘读写更聪明一些。这在技术上其实是个很自然的演进——目前很多企业级存储系统已经在用类似的思路了。但放到 Linux 内核社区，就有人不干了。反对者的核心论点有三个： 可解释性：AI 模型的决策是个黑盒，没办法像传统代码那样逐行 review 确定性：内核需要的是确定性的行为，AI 模型在不同负载下的表现可能有波动 纯洁性：内核应该是"纯工程"的产物，不应该引入"玄学" 然后 Linus 就回了一封邮件，语气一如既往地直白。我给你翻译一下核心意思："你们这些人的思维方式，跟当年反对 C 语言、反对模块化、反对设备树的人一模一样。代码好就是好，管它是人写的还是 AI 写的？你把 AI 生成的代码 review 一遍，没问题就合进来，有问题就改，这跟 review 人类写的代码有什么区别？别把自己的偏见当成技术原则。"你看，这就是 Linus 的风格——他从来不看"这是谁写的"，他只看"这东西好不好用"。这种务实主义，说真的，是我们技术圈最稀缺的品质。二、为什么这件事值得每一个买服务器的人关注？你可能会问：Linus 骂人和我买服务器有什么关系？关系大了。Linux 内核是互联网的基础设施。从你用的云服务器到 VPS，从路由器到超算，从 Android 手机到车机系统——它们跑的都是 Linux。内核的每一个决策，最终都会传导到你买的每一台服务器上。这次关于 AI 进内核的争议，本质上是在回答一个问题：未来的服务器应该"聪明"到什么程度？如果 AI 成功进入内核，未来几年你会看到： - 服务器能自我优化——根据你的应用负载动态调整 CPU 调度、内存分配、I/O 策略 - 服务器能自我诊断——在硬件故障发生之前就预测并规避 - 服务器能自我调优——从你的使用模式中学习，越用越快这不香吗？三、AI代码进内核，是好事还是坏事？说实话，反对者的担忧不是完全没有道理。黑盒问题确实存在。你把一个神经网络丢进内核，让它在每次 I/O 操作时做推理，出 bug 了你怎么 debug？模型在 A 场景下表现良好，在 B 场景下突然崩了，你怎么复现？这些问题都很现实。但是——你不能因为有风险就拒绝进步。我给你讲个故事。2000 年代初，Linux 内核引入 CPU 频率缩放（cpufreq） 子系统的时候，同样有人反对："让内核动态调整 CPU 频率？万一调度算法抽风了怎么办？系统会不会直接过热烧掉？"结果呢？现在每一台笔记本电脑、每一台云服务器都在用这个功能。如果没有它，你的云服务器电费账单至少要翻一倍。技术的演进从来都是：先解决"能不能"，再解决"好不好"。AI 进内核也是一样——先用起来，再慢慢完善。试想一下，如果十年前云计算刚兴起的时候，有人因为"虚拟化会带来性能损耗"而拒绝上云，现在会是什么局面？四、这对你的服务器选型意味着什么？ 选服务器就像选座驾——AI时代，发动机的"智能"比排量更重要好了，终于说到核心了——AI 时代，你的服务器该怎么选？我从这个事件里看到了三个明确的信号：信号一：CPU 的"智能"比"频率"更重要当 AI 代码进入内核，CPU 除了要执行传统的指令，还要跑轻量级的推理任务。这意味着——你需要一颗在 AI 推理上有优化能力的 CPU。具体来说： - Intel 这边：带 DL Boost（深度学习加速）的 Xeon Scalable 系列，比如第 4 代及以后的 Sapphire Rapids / Emerald Rapids - AMD 这边：带 AVX-512 VNNI 指令集的 EPYC 9004/9005 系列 - ARM 这边：支持 Neon 和 SVE 的 Ampere Altra / AmpereOne你买 VPS 的时候，看一下商家用的是哪代 CPU。如果是几年前的 Xeon Gold 6148（Skylake 架构），没有 AI 加速指令集——老老实实说，未来几年它的体验会被同价位的带 AI 加速的新 CPU 甩开一截。信号二：内存带宽正在成为新的"黄金"AI 推理（即使是很轻量级的）对内存带宽的消耗比传统计算大得多。未来内核里的 AI 模块会频繁访问内存，进行模型推理。所以选服务器的时候，不要只看内存大小，更要看内存带宽： - DDR5 vs DDR4：带宽差接近 50% - 内存通道数：8通道 vs 6通道 vs 4通道，差距很大 - 内存频率：4800MHz vs 5600MHz vs 6400MHz我建议你买 VPS/云服务器时，至少在控制台里看一眼"CPU 型号 + 内存类型"，不要只看"8核16G"这种粗粒度参数。信号三：NVMe SSD 不再是"选配"，而是"标配"AI 模型推理 I/O 需要低延迟的存储。如果服务器还在用 SATA SSD，AI 内核模块带来的优化效果会大打折扣。你看现在各大云厂商的实例类型，从通用型到计算型，清一色的 NVMe SSD 了。那些还在给你配 SATA SSD 的商家——说真的，该换就换。五、AI时代，选服务器要关注哪几个硬指标？好，前面讲了趋势，现在给干货。AI 时代选服务器的 Checklist： 硬指标 为什么重要 底线要求 CPU AI 加速指令集 跑内核 AI 推理任务 Intel DL Boost / AMD AVX-512 / ARM SVE 内存类型 影响 AI 推理带宽 DDR5，建议 8 通道 内存带宽 直接影响推理性能 ≥ 300 GB/s 存储 AI I/O 需要低延迟 NVMe SSD，≥ 3000 MB/s 虚拟化技术 减少 AI 推理的开销 支持硬件直通或裸金属 网络带宽 分布式 AI 推理需要 ≥ 10 Gbps 这六个指标，是我目前能看到的 AI 时代服务器选型的核心框架。不满足这些的，建议再等等。六、写在最后回头再看 Linus 这次发飙，其实他真正想说的是：别让偏见绑架了技术判断。AI 能不能进内核，最终应该由代码质量和实际效果说了算，而不是由"我不喜欢 AI"这种情绪决定。这个道理放在服务器选型上也一样——不要因为你"不喜欢某个品牌"或者"大家都买某款"就放弃独立思考。技术世界没有银弹，但有方法论。搞清楚技术趋势，看懂底层逻辑，再根据自己的场景做选择——这才是工程师该有的姿势。供你参考。（全文完）

十万卡算力时代：当集群从千卡走向十万卡，服务器选型逻辑已经变了 这两天技术圈里热议的一件事，就是中科曙光的曙光8000（登峰）正式落成了——中国首个全国产十万卡AI超算集群，并且接入了国家超算互联网。老实说，当我看到这条新闻的时候，第一反应不是"厉害了"，而是——电从哪来？你可能觉得我在抬杠。但你信不信，未来三年，90%的AI数据中心都会栽在"电力"这个坑上。先别急着反驳，我们往下看。 一座十万卡级别的AI数据中心——这里每分每秒都在烧钱，也在烧电目录 十万卡到底意味着什么 算力军备竞赛下的三个残酷真相 对普通用户和中小企业的影响 服务器选型的底层逻辑已经变了 总结 十万卡到底意味着什么先给你一个直观的感受。一块H100 GPU的峰值功耗是700W。十万块H100同时跑满，就是70MW——七万千瓦。这是什么概念？一个普通家庭的用电负荷大概在5-10kW。70MW的电力，够同时点亮 7000到14000个家庭的全部电器。而曙光8000用的是国产芯片，功耗不会比H100低。一个十万卡集群，光是电费一年就是好几个亿。你看，这还只是"电"这一项。更关键的是——十万卡不是终点，百万卡已经在路上了。英伟达的Rubin架构、谷歌的TPU v6、华为的昇腾910C……各家大厂都在往"更大集群"的方向狂奔。OpenAI甚至已经在规划百万卡级别的算力集群。问题来了：电网扛得住吗？ 单张GPU功耗已从300W飙升到700W+，十万卡的电力需求堪比一座小型核电站算力军备竞赛下的三个残酷真相真相一：电力不是钱的问题，是物理极限的问题很多人觉得，算力不够就多买GPU，电不够就多拉线。试想一下，一个百万卡集群需要700MW电力。这是什么级别？一座小型核电站的输出功率也就这个量级。这不是钱能解决的问题——是物理上根本没有那么多电给你用。你看看今年夏天，多少地方在拉闸限电？数据中心是耗电大户，一个十万卡集群抵得上一座中型城市的居民用电量。在电力紧张的背景下，这种项目能落地，背后是巨大的资源倾斜。但倾斜一次可以，两次、三次呢？当所有大厂都在建十万卡、百万卡集群的时候，电力就是第一道不可逾越的天花板。真相二：散热已经从"辅助系统"变成了"核心架构"当单机柜功耗从10kW飙到200kW，风冷这套方案，老实说——已经到天花板了。你不信去问问做数据中心运维的朋友，到了夏天机房的空调开到最大，温度还是压不住。设备降频、服务器过热报警、电费单翻倍增长——这些场景每天都在发生。液冷已经不是"可选项"，而是"必选项"。从冷板式液冷到浸没式液冷，从单相到两相，散热的每一个技术进步，背后都是被功耗逼出来的。十万卡集群不可能用风冷，这是物理定律决定的。真相三：国产芯片的生态之困，不是一朝一夕能解的曙光8000用的是国产芯片，性能上已经追到不错的水准了。但CUDA生态的护城河，不是靠堆芯片就能跨越的。你要在国产芯片上跑大模型，首先得搞定底层算子库的适配。同样的模型，在NVIDIA上运行和在国产芯片上运行，性能差距很多时候不是芯片本身的问题，而是软件生态成熟度的问题。这就是为什么即使美国政府批了H200的出口许可，中国企业依然"按兵不动"——不是不想买，而是不敢依赖。万一明天又不卖了，你整个AI业务就悬了。但国产芯片要真正替代NVIDIA，不是靠几篇PR稿就能实现的。这需要时间，需要开发者，需要整个产业链的协同努力。 对绝大多数用户来说，一台配置合理的VPS远比盲目追GPU实在——别让热点带偏了你的决策对普通用户和中小企业意味着什么看到这里你可能会问：十万卡集群跟我有什么关系？我只是想买台便宜的VPS跑个网站而已。关系大了。算力正在分层，你所在的层级决定你的成本当大厂都在抢十万卡集群的时候，一个趋势已经非常清晰了：算力市场正在加速分层。上层是十万卡、百万卡级别的超大规模集群，服务于前沿AI训练和超大规模推理。这个层级的玩家只有那几个：阿里、腾讯、字节、华为、中科曙光。中层是千卡到万卡级别的集群，服务于中型企业的AI推理、模型微调、数据处理等场景。下层是单卡到百卡级别，服务于个人开发者、小团队、传统网站和应用。这三个层级之间的成本差距，正在以指数级拉大。上层的人吃肉，中层的人喝汤，下层的人——连骨头都越来越难啃了。因为GPU资源被上层大量占用了啊。一台H100现在什么价？八万美金起步，你还买不到。云上的H100实例，一小时几十美金。对于个人开发者来说，这已经不是成本问题，是被市场挤出了赛道。传统的VPS和云服务器依然是你的最佳选择但你也不用慌。十万卡集群解决的是AI训练和推理的算力需求，不代表你的网站也需要跑在GPU上。对于传统的Web应用、API服务、数据库、静态网站——这些场景依然是CPU服务器的主场。一台好的VPS，配置合理、网络稳定、价格合适，对你的业务来说比什么十万卡都实在。问题是：很多人在服务器选型上犯了"过度配置"的毛病。看到AI数据中心都在装H100，就觉得自己的网站也要上GPU。看到别人建十万卡集群，就觉得自己的服务器配置太低要升级。这是典型的FOMO（Fear Of Missing Out）心态，花冤枉钱不说，还解决不了根本问题。服务器选型的底层逻辑已经变了那问题来了：在这个十万卡时代，普通人到底该怎么选服务器？我的建议是——从你的真实需求出发，别被热点带偏了。第一，区分"算力密集型"和"IO密集型"你的业务到底是需要大量的计算资源（算力密集型），还是需要快速的网络响应和磁盘读写（IO密集型）？绝大多数网站和应用属于后者。一台8核16G的云服务器，配一块SSD和足够的带宽，可以支撑日活几十万的业务。不要为了"万一用得上"去多花钱。 云服务器的最大优势就是弹性——不够了随时扩容，花不了几个钱。第二，关注"单位成本效能"而非"绝对性能"在十万卡集群的语境下，大家关注的都是绝对性能——多少PFLOPS、多少TB显存。但在个人和小团队的场景下，你应该关注的是——每一块钱能买到多少性能。有些配置看起来便宜，但CPU是几年前的旧款，磁盘是机械盘，带宽是共享的。这种"便宜"是假便宜，真正的成本是时间和稳定性。反之，有些配置看着贵一点，但用了最新的AMD EPYC处理器、NVMe SSD、独享带宽。网站加载速度快50%，用户体验提升，转化率自然就上去了。这才叫值。第三，别迷信"国产"也別神话"进口"很多人一听是国产芯片就说不行，一听是Intel/AMD就说好。供你参考——在实际测试中，海光的x86 CPU在Web服务场景下，性能已经达到了Intel至强的85%-90%。对于绝大多数应用来说，这个差距在日常使用中是感受不到的。国产云服务器在价格上比进口便宜30%-50%，性价比其实是更高的。当然，如果你跑的是对指令集兼容性要求极高的特定应用，那Intel/AMD依然是稳妥的选择。关键在于搞清楚你的应用对平台的依赖程度。总结十万卡集群代表了算力基础设施的一个重要里程碑。它告诉我们——AI的算力需求还在高速增长，这个趋势短期内不会改变。但对于我们大多数人来说，这个热点听听就好，别被它带乱了决策的节奏。你的网站、你的应用、你的业务——大概率不需要十万卡。一台配置合理、价格合适的云服务器或VPS，就足够你跑得很好。选服务器这件事，归根到底只有三个字：看需求。不要过度配置，不要追热点，不要把"老板的焦虑"变成"服务器的负担"。网上有个段子说得挺好——人家建十万卡集群是为了跑千亿参数的大模型，你跟风买了一台高配服务器，结果只是跑了个WordPress博客。这不香吗？不香，这是烧钱。最重要的是想清楚你到底要干什么，然后选择最适合你的那台机器，而不是最贵的那台。希望对你有帮助。（全文完）