下一代颠覆性算力架构路线
探讨存算一体、光子计算及非冯诺依曼架构的能效突破
1个信源 · ↑1.5×参与该主题的先锋
全部段落
10月24日
10月12日
- Martin Shkreli Shkreli 对量子计算的看空，既是技术判断，也是商业模式判断。 他认为，量子计算的真正优势，是把整数分解和椭圆曲线离散对数从指数时间降到多项式时间——不是排序，也不是通用计算。现有机器的运行频率只有几百或几千赫兹，在普通计算上却输得很惨；它们没有量子 RAM，而且按他的测试，“连300乘200都算不出来”。他说，企业在这个领域投入数亿美元，无 …
- 主持人最有力的反驳——量子计算也许只是处在晶体管时代的起点——并未改变 Shkreli 的投资结论。 他承认这项技术最终可能奏效，但随即反问：投资者当年会不会因为打孔卡、真空管或铁氧体磁芯存储是必要阶段，就想持有它们？这些重要阶段的拥有者大多已经消失。他做空量子计算公司已经亏了数百万美元，但开玩笑说自己“赚到了数十亿美元的洞见”，同时承认，市场择时才是难点。
- 他认为自己最看好的算力颠覆方向是模拟光学计算，因为 AI 工作负载有“99.9%”的时间都在做矩阵乘法。 Shkreli 说，在 Nvidia 机器上做一次1,000×1,000的矩阵乘法，大约需要10亿次运算；而光学中的乘法可以瞬间完成。他正在研究光子核心，并预测20年内 H100、B100 和 B200 最终都会“被扔进垃圾桶”。
- 这种技术层面的看空，并不等于对 Nvidia 的明确做空：Shkreli 持有半导体股票，仍在押注 AI 上行。 Jevons 悖论可能会吞噬效率提升带来的收益，但他坚持认为，一个效率高出1,000倍的 transformer 对 Nvidia 依然“不是好事”；之后需求是否会扩大100万倍，仍未可知。他的警告来自历史：如果身处2000年，他大概也会买入 Yahoo 和 Cisco。
10月1日
9月30日
9月27日
9月22日
9月21日
- Naveen Rao Naveen Rao公开展示了他所称的“有史以来第1台物理动力学计算机”：Unconventional AI于6月1日完成芯片流片，此时距离公司在1月“正式启动”仅5个月，而且芯片已经在实验室生成图像。 核心数据是：每张图像约耗费500纳焦耳，而GPU需要毫焦耳级能耗——“效率比标准计算机高出多个数量级，原因就在于它根本不搬运信息。”
- 公司的目标是让功耗效率达到现有硬件的1,000倍，Rao也将时间表从5年压缩至3.5年——“有意思的是，我们确实借助AI更快地解决了非常深层的科学问题。” 更大胆的终局目标是：“这家公司的总体目标，是超越生物学。”
- 这种架构超越了传统的冯·诺依曼设计——“把计算和内存放在同一个东西里，我们没有内存接口”——并被命名为“4D计算”：通过芯片堆叠实现3个物理维度，再加上时间这一第4维。 一项关于稀疏性的配套突破，则把连接规模按n²增长的问题变成了“圣杯级”结果：删掉部分连接后，系统同时获得了更高的效率、更强的扩展性和更好的可训练性。
- 在Chamath的追问下，Rao表示完整产品将在“2年内”面世：这将是一套机架级数据中心系统，“token通过网线输入、输出，但内部构造完全不同”。 现有模型可以运行——迁移发生在“模型层”，而不是算子层——但硬件中并不存在通常意义上的矩阵乘法，软件栈也将是Python库，而非CUDA。