零一空天网 - GPU
type: channel
link: https://m.001kt.com/tag/GPU/
items: AI推理成本断崖式下降：现在是你入手云服务器跑AI的最好时机
items: DeepSeek自研AI芯片：一场注定要打的硬仗
items: AI算力恐慌背后：云服务器价格要崩还是暴涨？这篇给你讲透

AI推理成本断崖式下降：现在是你入手云服务器跑AI的最好时机
type: item
date: 2026-07-14T15:06:38+08:00
description: 老实说，这篇文章可能会让一些服务器厂商不高兴。但我还是想写。最近技术圈里最值得关注的一件事，不是哪个大模型又刷榜了，也不是谁又融资了几十个亿。而是一组被大多数人忽略的数据——2025年上半年，AI推理的单位算力成本，下降了70%以上。你没看错。不是7%，是70%。更刺激的是，这个趋势还在加速。如果你是一个想用云服务器跑AI的个人开发者、小团队、或者创业公司，现在就是你入场的最佳时机。错过这一波，你可能要多花几倍的冤枉钱。今天我就把这个事从头拆一遍：推理成本为什么降、降了多少、对你买服务器意味着什么、以及2025年下半年到底该怎么选。（全文约 4500 字，阅读时间 8 分钟） 一座AI数据中心的内部——算力越来越便宜，但选对服务器越来越考验眼光目录 推理成本下降的真相：三个驱动力 成本下降≠随便买：三个最常见的误区 2025年下半年云服务器选购指南 总结：该出手时就出手 一、推理成本下降的真相：三个驱动力先讲清楚一件事：推理成本下降，不是云厂商在发善心。Amazon不会因为你是个好开发者就给你降价，阿里云也不会因为你是创业者就少收你钱。降价背后是三条硬邦邦的力量在推着走。驱动力一：推理引擎的"暴力优化"2025年最大的变化，不在硬件，在软件。 推理优化的核心，不在芯片本身，而在让芯片把每一分算力都榨干DeepSeek开源了他们的推理优化方案之后，整个行业都被震动了。你知道他们做了什么吗？他们把FP8量化做到了几乎无损的程度——这在2024年还是"理论上可行"的事。加上动态批处理、PagedAttention的工程化落地、以及各种算子融合的骚操作，同一个模型在同样的硬件上，推理吞吐量翻了3-5倍。这意味着什么？你原来需要一台A100才能跑的模型，现在一台RTX 4090就够了。你原来租5台服务器才能支撑的业务，现在1台就扛住了。算力的"供给"没变，但"效率"变了。成本自然就下来了。另一个被低估的因素是推理框架的标准化。vLLM、SGLang、TensorRT-LLM这些框架在2025年都已经非常成熟了，不再是"能用"的阶段，而是"好用"的阶段。部署门槛大幅降低，人力成本也下来了。驱动力二：推理芯片的"内卷式竞争"这个大家应该都有感觉。 芯片竞争的白热化，让2025年的推理硬件市场从卖方市场变成了买方市场NVIDIA的H200在2024年还是一卡难求，到了2025年已经有了现货。B200虽然还是贵，但产能已经上来。更关键的是，AMD MI300X和Intel Gaudi 3在推理场景上的表现，已经能和NVIDIA正面刚了。你可能会说——"AMD的CUDA兼容性怎么样？"老实说，2025年的答案是：基本够用了。PyTorch 2.x的原生支持、开源推理框架的适配、以及ROCm生态的成熟，让AMD卡在推理场景上的表现不输NVIDIA太多。价格却便宜了30-40%。这才是真正的"鲶鱼效应"。没有AMD和Intel的追赶，你信不信NVIDIA的定价会比现在还狠？再加上国内的昇腾、寒武纪、壁仞等国产芯片在推理场景上的进步，2025年的推理芯片市场已经从"一家独大"变成了"百家争鸣"。竞争一多，价格就下来了。这是市场经济最朴素的道理。驱动力三：云厂商的"价格战"升级前两个是底层驱动，而这个是你直接感受得到的。2025年上半年，三大云厂商在AI服务器上的降价动作——阿里云：通用算力型AI实例降价最高45%，包年包月更是直接腰斩。腾讯云：轻量AI服务器推出"算力包"新模式，按需付费的单价下降了约35%。华为云：昇腾云服务整体降价约40%，针对中小企业的入门级AI服务器月付不到500元。AWS和Azure虽然不是主战场，但也跟进了针对AI推理场景的降价。这不是慈善，这是争夺用户。云厂商的逻辑很简单：AI是未来十年的最大增量，谁先圈住开发者和小企业，谁就拿到了下一张船票。推理成本下降意味着更多用户能"上车"，所以他们在用利润换规模。你的机会就在这里。二、成本下降≠随便买：三个最常见的误区听到推理成本下降70%，很多人第一反应是——"好，那我直接上GPU云服务器。"等等。别急着下单。这个环节我见过的坑太多了，说三个最常见的。误区一：用训练卡跑推理这是个非常经典的"拿着金饭碗要饭"的问题。A100和H200确实是好卡，但它们是为训练设计的。推理场景需要的是低延迟、高并发，而不是大规模矩阵运算。一张A100的推理吞吐，在某些场景下甚至不如一张专门优化过的L40S或者A10——价格却是后者的几倍。你的应用场景是什么？是实时对话？还是离线批量处理？是图像生成？还是文本推理？不同的场景，需要完全不同的卡和实例配置。 选卡之前先搞清楚场景，这个顺序不能乱。误区二：只看GPU不看内存带宽这个是我做服务器导购这些年遇到的最普遍的问题。很多人一上来就问"几张卡"，但从来…

DeepSeek自研AI芯片：一场注定要打的硬仗
type: item
date: 2026-07-14T11:57:47+08:00
description: 当你的模型每天被调用几十亿次，租 GPU 的账单会比公司的工资单还厚，这时候你会做什么？自己造芯片。这两天技术圈里最热的一件事，莫过于 DeepSeek 被曝正在自研面向推理场景的 AI 芯片。消息一出，业内议论纷纷。有人说这是被出口管制逼出来的无奈之举，也有人觉得一家做大模型的公司跑去造芯片，步子迈得太大了。图片来源：Pexels - 数据中心服务器机房老实说，这两种看法我都理解，但都不完全认同。如果你了解 DeepSeek 的体量、它的技术路线、以及当前 AI 芯片市场的格局，你就会发现——自研芯片，是DeepSeek走到今天这个位置后，不得不做的一件事情。目录 DeepSeek 为什么要自己造芯片？ 从"租"到"造"：一张算力账单背后的经济学 自研芯片 ≠ 从头造轮子 对云服务器市场的冲击波 几个值得关注的信号 写在最后 DeepSeek 为什么要自己造芯片？先看几个数据。DeepSeek 的 API 调用量在过去半年翻了不止十倍。你去看看它的用户量、每天的 Token 消耗量，你会发现一个让任何 CFO 都会失眠的事实——这家公司的算力开销，正在以指数级的速度增长。做 AI 的人都知道，大模型推理阶段的成本，远比你想象的要高。训练是一次性的，但推理是持续性的。你的用户每问一个问题，背后都在烧 GPU。用户越多，烧得越快。试想一下，如果你每天有几亿次推理请求，每一次请求都要在 NVIDIA H100/B200 上跑一遍。按现在的市场价，一张 H100 一小时的成本大约在 2-3 美元。一天 24 小时，几百张卡同时跑——这个数字你自己算算。更大的问题是：就算你有钱，也不一定买得到。英伟达的 GPU 现在是什么行情？高端卡交货周期已经从 3 个月拉到了 6 个月以上。加上出口管制越来越严，国内 AI 公司拿卡的难度在持续攀升。这不是价格问题，这是有没有的问题。所以 DeepSeek 自研芯片，逻辑其实非常清晰——控制核心算力成本，摆脱供应链的不确定性。从"租"到"造"：一张算力账单背后的经济学说到这里，我想分享一个观察。过去两年，我接触了不少做 AI 应用的公司。它们的处境很有意思——** 第一年：用几台消费级显卡验证模型，一个月算力成本几千块； 第二年：模型上线了，租了几台 GPU 云服务器，月成本到了几万； 第三年：用户量起来了，开始包年租用整台 GPU 服务器，月开销直奔几十万上百万。 这个曲线，几乎所有的 AI 公司都会经历。图片来源：Pexels - 服务器机房而 DeepSeek 的问题在于，它已经跳过了这三个阶段，直接进入了"月算力成本九位数"的第四个阶段。到了这个量级，最优解就不再是靠"租"了。你看看 Google——它有 TPU。Amazon——它有 Trainium 和 Inferentia。微软——它和 OpenAI 在联合做定制芯片。Tesla——它有 Dojo D1。你会发现一个规律：所有算力需求达到超大规模的公司，最终都会走上自研芯片这条路。这背后的道理很简单——当一个零部件的采购量达到了某个临界点，自研比外采更划算。 这不只是账面上的成本问题，更是能不能按自己的节奏迭代的问题。我给你算一笔账：现在做 AI 推理，市面上主流的方案是 NVIDIA H100/B200、AMD MI300X，以及国内的昇腾、燧原、摩尔线程等。这些芯片的设计都是为了通用目的——它们能干很多事，所以哪一件事都做不到最优。但 DeepSeek 如果自研芯片，它完全可以针对自己的模型架构做深度定制。把那些用不到的通用功能砍掉，把推理核心的效率做到极致。这一刀砍下去，同样算力的成本可能会下降 30%-50%。你说，这笔买卖合不合算？自研芯片 ≠ 从头造轮子很多人一听"自研芯片"，就觉得这是天方夜谭——随便一个芯片流片就要几千万美元，设计周期两三年起步，人才更是稀缺得一塌糊涂。你说的没错，如果 DeepSeek 要从零开始设计一颗 CPU/GPU 级别的通用芯片，那确实不太现实。但你看 DeepSeek 是怎么走这条路的。首先，DeepSeek 要做的不是通用 CPU，也不是游戏 GPU，而是专门为 AI 推理优化的 ASIC（专用集成电路）。这和 Google TPU 的思路是一样的——把芯片做"窄"，但做"深"。其次，DeepSeek 已经在使用了自家的模型来做芯片设计的辅助工作。AI 辅助芯片设计，这不是概念，而是已经在落地的事情。Google 用 AI 设计 TPU 布局，NVIDIA 用 AI 辅助布线——用 AI 设计 AI 芯片，这已经开始形成闭环了。第三，DeepSeek 有足够的人才储备和资金实力。从公开信息来看，DeepSeek 的团队中有不少来自国内顶尖芯片公司的技术骨干，而它在融资市场上已经拿到了足够的…

AI算力恐慌背后：云服务器价格要崩还是暴涨？这篇给你讲透
type: item
date: 2026-07-09T10:30:21+08:00
description: 消息一出，英伟达股价应声重挫，费城半导体指数单日暴跌超 6%，连带亚洲三星、SK 海力士一起跳水。一时间，各种"算力泡沫要破了"、"AI 完了"的论调满天飞。老实说，看到这种反应，我一点都不意外。但我也觉得——市场大概率误读了这件事。我做服务器导购这么多年，对算力市场的供需博弈太熟了。这篇文章我就把这个事从头到尾拆一遍。先讲清楚 Meta 到底干了什么，再分析这对云服务器市场意味着什么，最后给出实实在在的选购建议。不吹不黑，全是干货。（全文约 4000 字，阅读时间 8 分钟，建议先收藏） 一座AI数据中心的内部——这里每分每秒都在烧钱，也在烧电目录 一、Meta 到底干了什么？——一个"赌徒"的算力过剩 二、算力真的过剩了吗？——你看到的是假象 三、算力恐慌对云服务器市场的真实影响 四、普通用户和中小企业该怎么选？ 五、总结——恐慌是别人的，机会是自己的 一、Meta 到底干了什么？——一个"赌徒"的算力过剩先简单复盘一下这件事。Meta 在过去两年里的 AI 投入，可以说是"不计代价"四个字都不够用。2026 年，Meta 将资本支出预期推高到 1450 亿美元——你没看错，是 1450 亿，单位是美元。和 AMD 签了五年 600 亿美元的芯片长约，向 CoreWeave 砸了 210 亿美元的六年大单。截至今年一季度，Meta 已承诺的未来 AI 基础设施投入高达 1829 亿美元。1829 亿美元什么概念？快赶上它过去十年净利润的总和了。这么舍得花钱，Meta 是钱多烧得慌吗？不是。扎克伯格的逻辑很简单——用资本开支换时间。AI 赛道太卷了，OpenAI、Google、微软都在疯狂投入，Meta 如果不跟上，就会掉队。所以它的策略就是：先买，买完再说。但问题出在三个地方：第一，Meta 没有一个像样的云业务来消化这些算力。AWS、Azure、Google Cloud 为什么敢买 GPU？因为它们每买一块 GPU，可以同时走三条变现路径：对内支持自研模型、对外通过云服务出租算力、再往上叠加 AI 应用收费。每一块 GPU 都在同时产生收入。Meta 呢？它的收入命脉依然是广告。广告推荐需要的算力是有天花板的——当推荐算法优化进入边际效应递减阶段，再多 GPU 也堆不出更高的点击率。多出来的算力，就成了纯成本。第二，Meta 的模型研发进度远远落后于采购计划。Llama 系列开源模型被社区质疑"特调作弊"，下一代模型迟迟难产。别人在埋头迭代产品的时候，Meta 在忙着签收购协议。别人在打磨模型的时候，Meta 在忙着整合新买来的团队。收购路线铺得太广，自研资源反而被稀释了。第三，收购整合难度远超预期。从数据标注公司 Scale AI，到语音交互平台 Play.AI，再到硬件公司 Limitless、AI Agent 公司 Manus……Meta 几乎把 AI 产业链的每个环节都买了个遍。但你想想，这些公司来自不同领域、不同文化、不同技术栈，要把它们捏合成一个有机整体，难度有多大？所以结论很简单：Meta 买了一堆自己用不完的 GPU，现在不得不把闲置的算力租出去止损。这就是整个事件的起因。 GPU芯片——AI时代最稀缺的资源，每一块都在疯狂产生价值二、算力真的过剩了吗？——你看到的是假象好了，关键问题来了：Meta 的算力过剩，是不是意味着整个行业都不需要算力了？答案是否定的。我们来拆几个关键数据：中国日均 Token 调用量： 2026 年 3 月突破 140 万亿，而 2024 年初这个数字只有 1000 亿。两年增长超过 1000 倍。H100 租赁价格： CoreWeave、Lambda Labs 的数据显示，H100 租赁价格自 2025 年下半年至今，上涨约 40%。主流 GPU 按需容量长期售罄。Meta 的 H100 算力一经挂出，在二级市场迅速被消化。 如果需求真的萎缩了，这些供给应该无人问津才对——事实恰恰相反。你看，这些数据说明什么？说明真正的需求不但没有减少，反而在以惊人的速度增长。那为什么市场会觉得算力过剩了？这就要说到一个关键概念——结构化过剩。Meta 的算力过剩，是它自己商业化能力不足导致的过剩，而不是全行业需求见顶。就好比一个人买了十台冰箱，但他家只有三台冰箱的空间——你说这算"冰箱过剩"还是"他家装不下"？当前的算力市场呈现出明显的分层特征： 算力类型 市场状况 原因 顶级训练算力（H100/B200） 严重紧缺 AI 模型训练需求爆发，供不应求 上一代算力（A100） 供需平衡 部分企业升级换代，释放存量 老旧算力（V100及更早） 确实过剩 性能跟不上，被市场淘汰 Meta 计划出售的主要是 H100 算力。但看清楚——H100 目前依然是全球最紧缺的 AI 训练卡之一，Meta …