GLM-5.3 跨两台 DGX 部署实测:607.8 tok/s
NVIDIA 用两台 DGX Station 和 vLLM 部署 GLM-5.3,报告 607.8 tok/s 吞吐。本文拆解部署方式、vLLM 的作用,以及生产验收还缺哪些数据。
tamserve 将 SAM 3 检测与 EdgeTAM 跟踪拆分,在单张 RTX 4090 上比 Meta SAM 3 tracker 快 4 倍,并保留 92% 准确率。本文拆解其多摄像头架构、资源复用方式与部署边界。
NVIDIA 用两台 DGX Station 和 vLLM 部署 GLM-5.3,报告 607.8 tok/s 吞吐。本文拆解部署方式、vLLM 的作用,以及生产验收还缺哪些数据。
TechPowerUp 报道称,英伟达被指通过资助 AI 初创公司采购 GPU 放大需求。指控涉及投资、采购承诺、关联交易和“制造稀缺”之间的因果关系。
Unemployment Labs 尝试从 LLM checkpoint 的数值特征反推训练环境,为出口管制审查增加模型侧证据线索。
黄仁勋辞去 NVIDIA CEO 职务,但官方尚未披露继任者、职责边界和时间表。NVIDIA 面临的核心问题,是如何把技术路线、供应链和出口管制判断从创始人身上移交给新团队。
H100 公开时租价从 2.69 美元到 12.29 美元。本文拆解 I/O、排队、抢占和计费粒度,给出训练与推理的成本估算方法。
CoreWeave债券收益率升至16%以上。GPU需求仍在,但投资者开始审查资本开支、债务结构与客户集中度,AI算力扩张首次明显暴露于信用周期。
Cloud AI 100 Ultra 用 128GB 内存、548GB/s 带宽和 150W 功耗押注云端推理。硬件路线清楚,但采购决策仍缺吞吐、延迟、兼容性与迁移成本数据。
SkyPilot 调整 Grace Blackwell 集群调度后,可用 GPU 资源增加 27%。本文拆解这个数字的计算口径、适用边界和复现方法。
Cerebras 公开了万亿参数级模型的部署方法。文章拆解推理显存、通信与批处理瓶颈,并给出比较专用芯片和 GPU 的工程指标。
OpenShell 是 NVIDIA 发布的开源项目,面向自治 AI Agent 集群。它试图在运行时层处理权限、隔离、凭证和审计问题。
AI 数据中心贷款刚签完,银行就在二级市场打折抛售。75 分 HN 热帖背后,藏着基建过热与债务转嫁的信号。