系统调用与后台执行模型
探讨专为程序化调用和后台长期运行设计的新模型架构
1个信源 · ↑1.5×参与该主题的先锋
全部段落
10月24日
10月3日
10月2日
9月30日
9月26日
9月21日
- Diogo Almeida Diogo Almeida 发布 Jev，押注一种新的模型类别——“System One”或“large programmable”模型，让“代码成为消费者”，而不是让聊天成为终点。 它不同于 RLHF（“取悦人类”）或 RLVR（“优化基准测试”）；TypeSafe 称自己的任务为 RLCD，目标是提升模型用于程序化调用时的可靠性，以及单位美元对应的智能前沿，这也是 Jevons paradox 的由来。在他的框架里，这是 LLM 的第2次到第3次重大 …
- Latent Space Jev 的采用是真实的，而不是游客式流量：上线不到1周，日处理量就超过 1万亿 tokens，“即使在夜里……也一直在运转”，说明调用者是机器。 对开发者平台而言，等待名单数量“无关紧要”；稀缺资源是速率限制，因为软件允许用户一次性指定机械性任务，再让它在后台持续运行。上线前收入几乎为零，超过一半测试者“完全没看懂”，这也挑战了正统的产品市场匹配判断。
- 他的 mode dropping 论证解释了，为什么针对长字符串的错误直觉不能直接套用到经过 RLHF 塑造的模型上。 经过校准、覆盖多种模式的模型会保留离群结果；类似 GAN 的 mode dropping 则会删除少数输出，在可见错误受到重罚时让生成变得保守。这或许能保住长字符串，却让字符串模型成为糟糕的决策引擎。对此，他把校准、置信度阈值以及 choice/score/null 等类型化输出 …