《No Priors》第10期｜与 Copilot 首席架构师、Minion.AI 创始人 Alex Graveley 对谈

摘要

• GitHub Copilot 在真实环境测试中的通过率从低于10%提升至超过60%，展现了 Alex Graveley 的团队如何通过评测、提示词、代码数据、历史版本、差异对比和规模化训练，逐步改进一个孱弱模型。 Alex 强调，早期结果并不能证明这条路走不通：“真正疯狂的是，这些东西居然能起作用”，而且随着规模扩大，它们还会继续变好。
• Copilot 最关键的产品突破，是幽灵文本块补全和延迟的大幅下降，而不是传统的问答界面。 程序员可以快速判断一整段补全内容，然后按下 Tab 接受；Alex 回忆称，一个“疯狂”的统计是，延迟每增加10毫秒，被接受的补全就大约减少1%。印度的使用效果较差，原因是请求要先经欧洲再抵达 OpenAI 位于得州的数据中心。
• 经济模型改善速度超出预期：推理成本从估算的每位用户每月30美元降至10美元，随后进一步下降；产品上线数月后，周度用户 cohort 留存率仍超过50%。 Alex 主张低价切入、优先抢占市场。Elad 认为，以这个价格承担用户40%的代码并不算多；Alex 则表示，一些“鲸鱼用户”会让 Copilot 写出自己80%的代码。
• Alex 描述的下一次平台迁移，是从回答问题的 AI 走向能够受控执行动作的 agent。 Minion 瞄准日程安排、旅行、报税和识别被忽视的联系人，称其为“把 Copilot 应用到日常活动中”；Alex 认为，“帮我报税”在未来几年内可能成为现实。
• 现实世界中的行动可以提供可观测的反馈闭环。 代码之所以格外有价值，是因为可以直接运行；同样，agent 在网页上的操作也会暴露成功、失败和令人烦躁之处。Alex 还认为，人们在网页上的点击行为构成了一个规模巨大的、目前“无人拥有”的数据集。
• Alex 认为，近期 AI 风险主要来自欺诈和恶意使用，而不是机器自主杀死人类。 他预计，冒充他人、诱骗受害者和盗走储蓄会带来“很多年的极度不适”，主张建设反滥用系统并推动立法，而不是期待 OpenAI 解决一切。他提到垃圾邮件拦截、账户筛选和指纹识别；Elad 指出，agent 可以承担部分通信成本，Emil 则强调银行账户可追踪，并将这一威胁比作资源更多、分布更广的朝鲜。
• Alex 认为，AI 原生产品直觉呈现“双峰分布”：资深建设者和非常年轻、缺乏经验的人往往能看到潜力，而处于中间层、依赖既有经验的人可能会拒绝它。 可复用的能力包括实验、指标选择、直觉，以及在反复失败后继续推进的韧性。如果“这些东西”变成现在的10倍大，他很想知道会出现哪些涌现属性，并将这种探索比作建造 Large Hadron Collider。

精读

上游暂未提供，后续同步将继续补齐。