返回主题AI推理加速与国产芯片软硬件协同讨论多云调度、国产芯片替代与推理加速框架的效能权衡1个信源 · ↑3×参与该主题的先锋Kimbo Chen全部段落10月22日Latent Space 为什么 AI 算力以“矩形”出售——Erik Bernhardsson，ModalLatent Space “2027 可能是非 NVIDIA 加速器之年”——他也承认，这个判断自己已经错了 5 到 10 年。 AMD 在部分任务上取得了不错成绩，TPU 在 Google 内部也运行良好。他认为更好的软件支持可能成为替代方案的突破口，同时指出 TSMC 和 ASML 可能才是更深层的瓶颈。混合式、解耦推理——用 NVIDIA 做 prefill、Cerebras 做 decode——已经 …10月14日SemiAnalysis 第038期：GLM 5.3 是来自中国的 Mythos 级网络安全模型吗？（InferenceX）Kimbo Chen 中国芯片部署是公开说法；针对特定供应商做优化仍只是推测。 GLM-5 论文称模型首日即可适配7个国产平台；Z.ai则称 OxAlpha/GLM-5.3 Flash 完全运行在中国硬件上——Kimbo对此的前提是“假设大家都诚实”。他估算的约120算术强度大致与 Moore Threads 芯片相符，但明确表示，这既不能证明模型针对这些芯 …9月22日屠龙之术 AI进入生产阶段之后， 智能、算力、芯片 会走向哪里？屠龙之术 智算系统将分成“突破智能上限”和“扩大智能供给”两条轨道。 能力型算力追求十万亿参数级模型所需的低延迟、长周期稳定运行和更大的有效计算域；容量型算力则面向商业推理，以异构协同、动态调度和“token 工厂”提高单位投资产出。浪潮信息给出的产品指标包括5.85毫秒 token 生成时延，以及同等投资下 token 产能提升10倍。相关主题大模型推理成本优化 AI训练数据与评测基准 前沿模型扩模与超级智能
Latent Space 为什么 AI 算力以“矩形”出售——Erik Bernhardsson，ModalLatent Space “2027 可能是非 NVIDIA 加速器之年”——他也承认，这个判断自己已经错了 5 到 10 年。 AMD 在部分任务上取得了不错成绩，TPU 在 Google 内部也运行良好。他认为更好的软件支持可能成为替代方案的突破口，同时指出 TSMC 和 ASML 可能才是更深层的瓶颈。混合式、解耦推理——用 NVIDIA 做 prefill、Cerebras 做 decode——已经 …
SemiAnalysis 第038期：GLM 5.3 是来自中国的 Mythos 级网络安全模型吗？（InferenceX）Kimbo Chen 中国芯片部署是公开说法；针对特定供应商做优化仍只是推测。 GLM-5 论文称模型首日即可适配7个国产平台；Z.ai则称 OxAlpha/GLM-5.3 Flash 完全运行在中国硬件上——Kimbo对此的前提是“假设大家都诚实”。他估算的约120算术强度大致与 Moore Threads 芯片相符，但明确表示，这既不能证明模型针对这些芯 …
屠龙之术 AI进入生产阶段之后， 智能、算力、芯片 会走向哪里？屠龙之术 智算系统将分成“突破智能上限”和“扩大智能供给”两条轨道。 能力型算力追求十万亿参数级模型所需的低延迟、长周期稳定运行和更大的有效计算域；容量型算力则面向商业推理，以异构协同、动态调度和“token 工厂”提高单位投资产出。浪潮信息给出的产品指标包括5.85毫秒 token 生成时延，以及同等投资下 token 产能提升10倍。
