摘要

Cosine的主权模型押注之所以在经济上站得住脚，很大程度上是因为英国提供训练算力，客户承担推理部署。 政府支持让它获得了Bristol的Isambard集群算力配额，而Cosine向客户授权模型权重，由客户用自己的GPU运行，而不是自己为token服务基础设施融资。这让主权AI从愿景变成一项范围狭窄、资本纪律明确的建设，但Pullen强调，“犯错或腾挪的空间并不大”。
Pullen认为，前沿性能可能要求在总参数量和激活参数量上对标闭源实验室，而不只是宣传一个大规模稀疏模型。 他援引第三方估算称，Sonnet总参数量为1.3万亿–1.5万亿，Opus为1.5万亿–1.8万亿，其中激活参数可能达到1500亿–1800亿；而部署经济性又推动开放模型减少激活参数。他的直白反事实是：“如果我们能做出万亿参数的稠密模型，我们早就做了”（“If we could have trillion-parameter dense models, we would.”）。
真正持久的数据护城河可能位于预训练之后：真实轨迹和大规模RL运行塑造了模型实际的行为方式。 在大约30万亿个预训练token之后，Pullen说所有人都在“压缩互联网的大部分内容”；差异化转向后训练数据、强化学习规模，以及接触真实用户提交的混乱prompt。他还表示，最大型实验室在数据采购和成熟的内部数据职能上占优。他明确没有声称Anthropic会用Claude Code对话训练，但认为其轨迹流可能成为极其强大的反馈来源。
通过单元测试并不是充分的奖励，因为它会把臃肿、不安全、难维护的方案与正确方案一并强化。 Cosine先以正确性作为所有奖励的门槛，再评估优雅程度、冗余代码等质量，有时还会将agent的补丁与人类实现进行比较。更深层的研究目标是信用归因：找出一条轨迹中真正产生后果的决策，而不是把256,000-token rollout中的每个token都视为对最终0或1奖励负有同等责任。Scarfe将此与基准测试局限联系起来：pass@1和pass@5可能漏掉可靠性、安全性和抽象能力形成。
编码agent仍需要人类，因为模糊的产品意图、品味和可维护性尚无法被可靠验证。 Pullen预计，更强的模型、逼真的RL环境和harness工程最终会带来自主运行，但他说“我们离那一步还远得很”。短期内，质量保障会从阅读巨量diff转向运行时证明——证明功能确实有效，在真实环境中验证疑似漏洞，并维护完整的端到端测试。
Harness的价值正从基础工具接入转向高效编排，但swarm会成倍增加理解债务。 Pullen说，如今强模型“基本只用Bash就能完成任何任务”，但Cosine的编排器—子规划器—worker层级，可以完成Kimi K2.6单独无法处理的项目。文件锁、编辑通知和对低层worker的直接干预能够减少冲突，却无法消除“事后通盘梳理”的必要。
出口管制已把主权AI变成迫在眉睫的商业品类，同时也暴露出它对硬件的依赖。 Pullen暂时的辩护是，Cosine所需的基础设施已经装在英国，实验也已开始；Scarfe预计模型将在年末前后推出。关于5.6的消息让性能差距变得切身：“我们别无选择，只能把它做出来”（“We have no choice but to make it happen.”）。

精读

1. 公共算力让主权AI成为可执行项目

Pullen介绍，Cosine是一家英国前沿实验室，直到大约3个月前，主要专注于为金融服务、保险和国防等受监管及“高侧”环境打造同类最佳的编码agent。如今这项业务仍在继续，但公司同时承担起建设英国首个“某种意义上的主权LLM”的任务。
采访前大约9或10周，Cosine获得了政府主权AI部门的支持——Pullen纠正了自己“被纳入”的说法。实际收益是获得Bristol的Isambard超级计算机集群算力，并由私有算力补充；否则，一家融资5000万–1亿美元的初创公司，可能仅为获取项目算力就要花掉相当大一部分资金。
Scarfe将这一紧迫性与Fable突然因出口管制被叫停联系起来。Pullen说，主权“不是我1月时预料到的事情”，但Cosine已经具备将政府算力配额转化为可信尝试所需的模型训练基础设施、算法、数据运营和人才。

2. 避开推理经济学，让几百万美元与几十亿美元竞争

Scarfe提出的核心挑战很直接：美国实验室在做数千亿美元规模的项目，Mistral也在投入个位数至两位数的十亿美元，而Cosine如何用几百万美元完成同样的事情？Pullen的回答从商业架构开始：“我们Cosine不是一家推理公司。”
客户通常获得模型权重，在自己的GPU上部署于物理隔离环境，或者通过既有的Azure或AWS关系租用算力。Cosine授权技术，而不是从token中赚取利润，因此无需为推理数据中心提供资金；Pullen认为，后者正是许多最大型基础设施交易的动因。
这一区分并不意味着训练成本低。Cosine计划完成继续预训练、中训练和后训练，但Pullen承认，受限算力限制了RL生成次数、rollout多样性以及RL期间的推理时算力。如果拥有10倍算力，他会运行更大的实验；而现在，“犯错的空间并不大”。
因此，项目能否成立取决于有意收窄的范围，以及异常直接的需求信号。英国一些最大型企业正把自身希望解决的用例输入Cosine，让它可以围绕明确的国内客户训练，而不是盲目优化所有可能的部署场景。

3. 激活参数量决定性能上限

Pullen将前沿竞争力归结为3个主要变量：架构与模型总规模、激活参数量，以及数据。他将Mistral Large 3定义为675B稀疏模型；这或许能够务实地适配企业GPU配置，但这种可部署性也同时限制了性能能够扩展到的上限。
一份第三方延迟分析深刻影响了Cosine的架构选择。Pullen谨慎地称这些数字并不确定，但表示Sonnet的总参数量可能为1.3万亿–1.5万亿，激活参数超过1000亿；Opus可能为1.5万亿–1.8万亿，激活参数约1500亿–1800亿，具体还部分取决于推理使用FP8还是FP4。
Pullen举的例子是DeepSeek V4 Pro：总参数量约1.6万亿，但激活参数可能只有300亿–500亿。Scarfe进一步展开以推理为中心的论点：如果一个模型仅为装入内存并达到可接受吞吐，就需要2个B300节点，那么对许多用户而言它并不实用。他认为，这种部署约束是中国、欧洲和美国的开放模型尚未追平闭源模型性能的原因之一。
支撑Pullen偏好稠密模型的部署证据是GPT-OSS-12B。按照他的回忆，该模型激活参数约50亿，而稠密模型Devstral 2 123B的规模远大于此。Cosine部署过两者，Pullen说Devstral的效果“简直是天壤之别”。“如果我们能做出万亿参数的稠密模型，我们早就做了”（“If we could have trillion-parameter dense models, we would.”）；在他看来，稀疏性主要是推理和部署上的折中。

4. 后训练数据比再复制一份互联网更重要

Pullen怀疑，当预训练数据集达到约30万亿token后，它们会趋于收敛：“到了那个规模，我们压缩的已经是互联网的大部分内容。”中训练可能也已趋于商品化；后训练数据，以及以“大得离谱的规模”运行RL的能力，仍是实验室之间更鲜明的差异化来源。
他还表示，最大型实验室拥有优势，因为它们可以从数据经纪商处采购更多数据，并且具备成熟的内部数据职能；但他并没有声称其他实验室完全不具备这些能力。
Scarfe对数据护城河给出了更强版本的论证：软件工程并不只是代码生成，而是运行实验、建立和修改心智抽象，并与团队共享的过程。因此，轨迹展示的不只是最终补丁，还有“你是怎么走到这一步的”。
Pullen不知道Anthropic的条款是否允许其使用Claude Code活动进行训练，也拒绝声称Anthropic确实这样做。Cosine自身员工轨迹的直接价值更简单：它们揭示用户实际如何发出prompt，把干净、理想化的训练问题替换成类似“它不工作”和“你他妈为什么要这么做”的请求。
这些对话没有标准答案式的奖励，尽管用户反应或模型评判器可能近似衡量满意度。Pullen仍推测，Anthropic从轨迹中获得的大量“alpha”，来自学习真实的指令、纠正和挫败分布，并让训练时的交互不那么像合成数据。

5. 只奖励正确性，RL会制造软件垃圾

Scarfe提出的“意大利面怪物”质疑是：agent经常能通过测试，却用200行代码完成原本1行就够的事情，不断积累理解债务。Pullen表示认同：标准编码RL会在单元测试通过时奖励一次rollout，从而把成功路径上的每个不安全命令和丑陋实现一并强化。关键问题不只是能不能运行，而是“代价是什么”。
Cosine把正确性设为门槛：一个优雅但错误的答案得不到任何奖励。在此之外，单独的奖励项针对软件垃圾；许可宽松的pull request则可以提供人类参考补丁。如果agent额外写了500行代码，这一差异本身就构成不给满额奖励的证据，而不要求模型照抄原始实现。
算法难题在于信用归因。一条rollout可能要经过256,000个token才得到1或0，但现有方法往往把每个token都视为具有同等因果作用。Pullen将其比作老师批改一篇2500字的作文，只写一句“这是B”；数百次尝试或许能在统计上找出问题，但直接圈出那句糟糕的句子，教学效率会高得多。
Cosine希望以一种“不带主观偏见”的方式定位重要决策，并将正向或负向的advantage不成比例地分配给这些片段。这一方法可以叠加在GRPO、GSPO及相关算法之上，用相同的FLOPs强化可复用的选择，而不是填充内容。Scarfe总结为：迫使模型向“抽象山”更高处攀登；Pullen接受这一表述。
Scarfe还批评以pass@1和pass@5为中心的基准测试忽视可靠性、一致性、安全性和抽象能力形成。他提到François Chollet更新后的ARC挑战：该挑战难以通过暴力搜索解决，因此更要求模型具备真正的抽象能力。

6. 可验证性让人类继续留在Agent工程环路中

Scarfe追问其中的认识论边界：在编码、数学和物理领域，执行结果可以提供可验证奖励；但机器学习本身和奖励模型都不会自动拥有真相。对于法律及其他不可验证领域，Pullen诚实的回答是“我不知道”；人类或经过良好提示的LLM评判器也许能接近答案，但轻松实现广泛泛化的宏大愿景，“已经被某种程度上证明并没有多少现实基础”。
Pullen相信人类最终可以离开环路，但“我们离那一步还远得很”，尤其是在一个新应用只有模糊规格的情况下。优秀且可维护的软件仍需要品味，也需要事后修正设计决策。进展必须同时依赖更强的模型、接近真实工程工作的RL环境，以及更好的harness。
他对短期代码审查的设想，是用运行时证明替代另一个AI阅读diff。Cosine的安全swarm会在类似生产环境的虚拟机中启动应用，并尝试利用每个被指称的漏洞；如果agent无法复现，相关发现就会被删除。对pull request而言，同一原则是：“证明给我看它确实在做那件事。”
Scarfe的反驳仍未解决：agent可能会编写或削弱自己的测试，而功能规格、用户故事和行为，只是“盲人摸象”的不同侧面。Pullen补充了完整的端到端测试，以及快乐路径的截图或录屏，试图替代审查积压，以及“看起来没问题，合并吧”——而后者往往只发生在1分钟之后。

7. Swarm扩展模型能力，但记忆仍是RAG形状的权宜之计

Pullen提出一个颇具挑衅性的判断：随着模型能力提升，“agentic harnesses正变得越来越不重要”，因为模型已经强大到基本只靠Bash就能完成几乎任何任务，只是速度更慢、成本更高。Cosine仍在共同设计harness和模型，但如今主要优化更少的token，因为企业“token经济学”已变得重要。
Scarfe值得保留的反驳是：subagent可以通过把困难任务拆解成全新且定义紧密的任务，降低歧义和上下文腐化。Cosine的swarm将这一逻辑自动化：一个编排器把不同垂直方向交给子规划器，再由子规划器调度并行worker。一个带有Python SDK、物理约束和3D查看器的机械表编译器，尽管超出Kimi K2.6单独处理的能力，却得以一次性完成。
规模扩大后，干扰和不透明性也随之而来。Cosine允许用户直接介入低层worker，使用写锁确保同一时间只有一个agent编辑文件，并在其他worker修改了某个agent最近读取的文件时发出警告。这些控制措施有所帮助，但Pullen承认，如果抽象或设计选择出了问题，事后仍要“全面梳理一遍”。
记忆更难处理：agent必须知道何时检索、什么值得存储，以及一条记忆是否已经过时。向量数据库和嵌入式笔记仍然“有点像权宜之计”，实际上是“RAG仅存的残余”。持续学习可能把记忆放进潜在空间，但RL会引入奖励投机、信息泄漏，以及从未来查询知识的风险。

8. 合成评测器把真实工作转化为可规模化RL

Cosine不要求模型自行发明编码问题，因为“如果模型能想出一个问题，它大概也能解决这个问题”。它从真实的功能开发、重构和其他commit开始，再合成缺失的ground truth或grader。测试必须在实现层面保持足够中立，以接受多种有效方案，同时又要对功能性保持严格要求。
经过18个月的pipeline建设、人工标注和专门的后训练模型，这一流程已能在不同语言、技术栈和任务类型上大体实现自动化。它已经为Java、Fortran和C++提供RL数据；对于Verilog和SystemVerilog，验证可能需要在EDA环境中运行synthesizer。Cosine正将这一方法扩展到软件工程之外，用于其通用主权模型。
硬件问题仍没有确定答案。Pullen“天真地”认为，如果硬件已经在英国，他不知道还能对此做多少；实验已经在运行。Scarfe将模型描述为预计在年末前后推出，但Pullen没有独立确认这一时间表。
出口管制冲击后，来自企业、政府和公民的需求都大幅上升。Pullen另行表示，关于5.6的消息让他亲身感受到性能差距带来的挫败，促使他说出“谢谢你，Donald Trump”，并作出最后承诺：“我们别无选择，只能把它做出来。”

市场概述2026年7月14日 AI正在颠覆的万亿美元级产业：语音、法律与计费工时的终结