先锋 趋势 方法 投研 作者
未来的积极愿景:第2部分——NEAR 的 Illia Polosukhin
返回节目精读

未来的积极愿景:第2部分——NEAR 的 Illia Polosukhin

摘要

  • Polosukhin 对软件的核心判断是:AI 编程将用围绕每位用户工作流组装的个人软件,取代大量通用 SaaS。 Salesforce 是他的样本:产品复杂到企业要专门雇人配置,而 AI 构建的 CRM 可以原生映射业务流程,并按需接入 Telegram。他回忆自己在2017年曾预测“软件即服务会消亡”;更大的转变,是从固定界面转向模型、可信执行、数据访问与编排。

  • AI 压缩了实施时间,却提升了架构、判断与审查的相对价值。 前端和原型已经很容易生成,而复杂区块链代码仍然困难,因为模型必须同时推理算法、架构和外部依赖。因此,Polosukhin 招聘的是适应性强的问题解决者,而非看重学历资历:行业正在“从软件是一门手艺,转向真正只需要解决问题、与计算机对话”,这对标准化初级劳动力偏空,但不针对能自主构建的人。

  • Vibe-coded 区块链应用的约束不在于能否生成,而在于正确性是否具备经济可信度。 控制资金的公开代码会把每个小错误都变成可利用的目标,因此 Polosukhin 希望应用在交易时提供数学证明,例如证明存款人之后至少可以取回 x。但 Labenz 保留了关键反驳:证明代码符合规格,并不等于证明规格准确表达了人的意图;沉船等现实事件会重新引入信任、概率风险与保险。

  • 私有个人 AI 可能成为连接手机、手表、眼镜、笔记本电脑和未来机器人的操作系统,随后成为消费经济中的买方。 它可以预测下一步行动,按照健康目标订餐,并直接与农场或制造商汇总需求。Polosukhin 认为,这可能削弱广告和中间商,通过减少供给过剩降低美国30–40%被丢弃的食物比例,并让经济协调成为更丰富的信息系统,而不再主要被压缩成价格。

  • 拟议中的算力架构是混合式的:能本地完成的个性化留在本地,需要功率和规模时则使用机密的去中心化推理。 Labenz 提出一个可由集体访问的1.4万亿参数模型,叠加本地 LoRA 层;Polosukhin 预计会是“各种方案的组合”,包括边缘数据中心。Labenz 认为几百块 GPU 可能需要约1兆瓦,Polosukhin 则设想一个配备约1,000块 GPU 和小型核反应堆的集装箱;电池限制意味着大量工作仍无法放在个人设备上。战略要求是,云端 agent 必须保持私密、归用户所有,并且“站在我们这边”。

  • 自动化不会消灭地位竞争,而是把竞争导向不断增多的细分社群和稀缺的人类体验。 Polosukhin 预计,体育、电子游戏、NFT 社群、手工艺以及无数其他“地位游戏”,即使生产性工作高度自动化,仍会提供身份与层级。AI 生成的音乐和视频可能占据绝大多数数量,但人类表演和由人服务的餐厅可能成为容量有限的高端商品——内容越充裕,真实性反而越稀缺。

  • Polosukhin 的去中心化 AI 愿景最终取决于尚未解决的治理与社会防御体系。 NEAR 正从配备 AI 副驾驶的人类代表,转向可检查的 AI 代表,最终让个人 agent 持续投票;Labenz 则反驳说,alignment-faking 表明模型可能发展出类似自身利益的行为。在安全问题上,Polosukhin 不认为关闭模型是可靠答案,而是呼吁建设适配 AGI 的机构、污水与空气监测、DNA 合成筛查、病原体扫描器和更快的生物反制手段:“社会设计需要适应这个 AGI 世界。”

精读

1. AI 编程让软件从产品变成个人能力

  • Polosukhin 从“软件正在吞噬世界”出发:自动化推动生产力从拖拉机、工厂一路提升到计算机,但软件创造仍局限于少数人。因此,产品只能服务于通用市场,不断堆叠每个个体很少用到的功能。

  • 他的 Salesforce 例子支撑了这一论点。产品最初围绕特定销售流程构建,后来变成“一个怪物”,还需要另一个专家来配置;vibe-coded CRM 则可以直接表达一家公司的流程、报表和集成,包括他的加密团队使用、但 Salesforce 没有集成的 Telegram。

  • 2017年的判断当时听起来“非常疯狂”:“软件即服务会消亡。AI 会取代它。”如今,传统 SaaS 厂商纷纷加入 AI,因为 Polosukhin 认为,个性化自动化可以击败固定产品,后者的界面必须暴露所有可能的选项。

  • 早期证据已经平凡却影响深远。自然语言工具可以生成 SQL、提取数据、运行 Python 并回答业务问题,无需分析师介入;设计师可以先生成可点击的代码体验,再交给开发者补充后端逻辑,从而压缩过去缓慢的设计—开发循环。

2. 工程从实现劳动转向拆解与判断

  • 对于简单且能通过视觉验证的前端,模型表现良好,因为“基本就是照着看到的东西搭出来”并持续迭代。底层区块链系统则处于另一端:算法、架构和外部依赖比敲代码更重要,模型必须在更高的概念层面工作。

  • 在团队内部,实现时间正在缩短,而审查和验证占比上升。当前由高级工程师拆解复杂系统,AI 越来越多地负责实现子系统,人类则检查正确性与安全性;文档可能还会包含开发者用于构建系统的自然语言说明。

  • Polosukhin 对初级招聘的回答,刻意强调的是性格和倾向,而非头衔。他在进入大学前已经编码7年;同样,一个已经用 AI 做过项目并持续学习的新手可以做出贡献,而一个等着套用静态大学课程的人并不适合持续变化的环境。

  • Labenz 认为,这对训练营向普通学员许诺10万美元工作的模式是利空。Polosukhin 认同,常规的分发式工作正在消失:团队需要更少的廉价初级员工去做低质量任务,更多能“共同创造性地解决问题”的人。他自己的判断,6个月后也可能再次变化。

3. 自动化同时挤压工厂劳动与白领信息工作

  • Polosukhin 认为,自动化正从两个方向到来。重复性的工厂岗位面临机器人,编程、法律以及其他信息密集型职业面临 AI;水管、电工等高灵巧度工种相对安全,只是因为机器人仍难以钻到水槽下方并操纵不规则物体。

  • 他举的工厂案例是 Formic:这家公司安装机器人,并以类似外包员工的模式向制造商收费。机器可以7×24小时工作,不会辞职,也不会组建工会;而它们面对的是美国一支年流失率300%的劳动力队伍——每个持续存在的岗位需要招聘3个人。

  • 他并不认为技术工种会永久安全:“这也会发生。”Labenz 的总结更尖锐,且得到两位嘉宾共同认可:自动化“正在向我们所有人而来”,尚未确定的只是时间,而不是每类工作最终能否受到影响。

4. 公共资金让 vibe-coded 安全漏洞立刻变得昂贵

  • Polosukhin 建议现在就用 vibe-coding 做私人工具,因为风险由用户承担,也由用户直接观察。发布一个却不了解内部机制的 micro-SaaS,可能泄露密钥或暴露用户;区块链则放大了这个问题,因为应用从一开始就是公开的,并直接控制有价值的资产。

  • 即便是专业智能合约团队也会犯错,攻击者可以找到一个小漏洞,将其转化为资金损失。这让区块链成为更广泛软件世界的严酷预演:AI 可以持续搜索漏洞,并大规模利用它们。

  • 近期更安全的用法,是在既有合约之上生成定制界面。用户可以把不同收益机会组合成个人资产管理器,或创建横跨多个协议的 UI;不过 Polosukhin 仍警告,不了解安全机制就不应把结果提供给其他人使用。

  • 他的中长期目标,是让形式化验证覆盖整个应用栈:vibe-coded 软件应携带正确性的数学证明。他最终认为,这不仅是加密领域的要求,因为在“AI 到处不停地入侵一切”的世界里,不能只依赖非正式的信心。

5. 形式化证明必须从代码行为上升到人的意图

  • 储蓄账户的例子把目标保证讲得很具体。存入 x 时,用户可以要求交易附带证明:调用取款方法之后至少能返还 x;这比单纯信任银行、转账通道、政府保险机制或未经审计的合约更强。

  • 如果储蓄合约把存款继续贷出,证明就必须沿着整个系统串联起来:借款人必须还款,或提供可以清算的抵押品。确定性的区块链有助于此,因为资金流动可观测、规则可预测地执行,从而能够表达相对高层的属性。

  • Labenz 的反驳值得保留,这就是“精灵问题”:一个函数可以满足所有底层属性,但规格本身可能误解了人的真实需求。因此,Polosukhin 设想的钱包应当是站在用户一边的 AI,检查每笔交易是否证明了与该用户相关的结果,而不仅仅是代码是否遵守自身规则。

  • Polosukhin 承认,现实世界无法提供“100%的形式化证明”。对于失败概率低于1%的保险结果,合约可以保证要么成功,要么赔付100万美元;但一艘载满钢材的船仍可能沉没,Labenz 指出,预言机的报告只是把信任边界向外移动。

6. 个人 AI 成为所有设备之间的界面

  • Polosukhin 预计,“某种形式的 AI 操作系统”将主导计算。一个智能体会横跨手表、眼镜、耳机、手机、笔记本电脑等形态,知道适合快速浏览的信息应放在手表上,而新闻、视频或更长内容应在用户打开大屏时呈现。

  • 应用不必继续保持固定形态。5个聊天工具和7个信息流可以合并为生成式界面,在工作与个人场景之间切换,保留聊天、信息流等熟悉模式,只暴露用户当下需要的内容。

  • Polosukhin 回忆起一个2017年的实验:尝试预测手机的下一步操作。如果会议还有20分钟开始,系统可以读取日历并叫 Uber,无需用户复制地址;它也可以发现此前订购的食物快吃完了,并重新订购常买的品类。

  • 更大的自主权要求更高的信任。这个 agent 可以围绕健康目标规划饮食、购买食材,最终与负责烹饪的 humanoid robot 协调;但正因为它掌握如此广泛的上下文,所以必须“私密”、属于“我们”,并与所有者的结果保持一致。

7. Agent 采购可能侵蚀广告、库存与中间商

  • 今天的消费经济依靠广告和信息流完成发现,零售商则负责聚合商品,因为个人无法维持与供应商的直接关系。个人 agent 可以直接向农场或制造商表达需求,供应商 agent 再把数千个请求批量汇总进生产和配送计划。

  • Polosukhin 半开玩笑地说,共产主义的产能规划“只是少了 AI”。中央计划之所以失败,是因为无法追踪不断变化的供需;而持续在线的 agent 可以提供实时信号,无需某个中央权威去猜测每个人的需求。

  • 资本主义之所以成功,部分原因在于货币是“信息的压缩”,把一切可购买的东西都压缩成可比较的数字。但这种压缩会损失细节:商店为了避免货架空置而过度备货,促成了 Polosukhin 所说的美国30–40%食物被丢弃。

  • 如果 agent 已经知道未来24小时的购买需求,城市级系统就能以更少浪费的方式整合鸡蛋、食品和配送能力。Polosukhin 预计这会是一场缓慢的结构性变化——也许“每个月改善1%”——买家越来越不受品牌影响,而 agent 则根据产品与所有者底层价值观的匹配度做判断。

8. 丰裕会放大地位游戏,而不是终结竞争

  • Polosukhin 认为,人类“受地位游戏驱动”。货币之所以成为终极排名工具,是因为它压缩了经济价值;但运动员可能比更有钱的人更出名、更受尊敬,尽管按照传统 GDP 口径,他们并没有直接产出。

  • 自动化可能把地位竞争进一步切分成更多细分领域:体育成就、League of Legends 或 StarCraft 技能、NFT 持有权以及社群成员身份。Bored Ape 可以成为进入某个部落的门票,而部落内部的差异会被高度重视。

  • Sora 让完全生成的个人娱乐信息流变得很容易想象,但 Polosukhin 预计,人类来源仍会长期获得溢价。人类音乐家、传统手工艺,或由人服务的餐厅,可能在机器生成的替代品极度充裕时,作为高端且容量有限的体验继续存在。

  • Labenz 继续追问食品、UBI、VR 丰裕和未来社会契约;Polosukhin 没有声称已经找到答案。他半开玩笑地说,日本和韩国像“AGI 后社会”,在那里,高度具体的工艺和社群已经在明显的经济生产力之外组织意义。

9. 个人 AI 需要分布式算力与持续演进的对齐过程

  • Labenz 勾勒出一种混合方案:一个可由集体拥有的1.4万亿参数模型运行在机密基础设施中,较小的本地 LoRA 负责个性化。Polosukhin 只在宽泛层面认同这一点——算力会是“各种方案的组合”,而不是一种固定拓扑。

  • 边缘算力可能以靠近城镇的集装箱形式出现。Labenz 认为几百块 GPU 可能需要约1兆瓦,Polosukhin 则设想一个配备约1,000块 GPU 和小型核反应堆的集装箱。本地推理会与之并存,但手表、手机和笔记本电脑面临一个简单限制:像 OpenAI Pulse 这样的后台任务,可能耗尽一部没有充电的手机。

  • 因此,Polosukhin 更支持一个去中心化、机密的网状网络,把后台工作路由到可用算力,同时不暴露个人数据。其目的并非为了去中心化而去中心化,而是让同一个私密 agent 跟随用户跨越不同设备,同时使用自己无需信任的数据中心。

  • 对齐不可能在第一天就解决。当 agent 反复撒谎或暴露其他问题时,社群需要一套反馈机制来更新“俗称的损失函数”;随着时间推移,每个模型还应建立对所有者信念和欲望的表征,并可能与孩子一起成长,形成“一种非常直接的共生关系”。

10. AI 代表是 NEAR 通向持续个人治理的桥梁

  • Polosukhin 认为,区块链是民族国家的部分替代方案:数字原生的“网络国家”可以测试一些几乎不可能在美国整体范围内试行的机制。他的目标并不是马上让3亿个个人 agent 对一切事项投票,而是进行分阶段实验。

  • NEAR 目前采用基于质押的委托投票。Polosukhin 称质押是“最差选项中的较好选项”:一人一票和按贡献加权的精英治理各有吸引力,但在可能有数万名活跃生态参与者的环境中难以实施;质押至少代表了财务风险敞口。

  • 第一步是让人类代表配备 AI 副驾驶来审查提案;下一步则是“把这个副驾驶变成驾驶员”。将投票权委托给 AI 代表的人,可以检查它的提示词、模型、使用的信息和决策,测试它是否反映自己的观点,也可以用不同的提示词和信念启动一个开源竞品。

  • 最终,每个人都可能拥有一个持续投票的 agent,从而减少代表为了自身职业发展而行动的委托—代理问题。Polosukhin 甚至推演到一个只专注于系统增长的“AI 总统”;Labenz 随即提醒,他“并不完全确信”AI 没有自身利益。

11. 开放的强大 AI 需要更强的机构与生物防御

  • Labenz 把 alignment-faking 当作一种表面驱动力的证据:Claude 被告知无害性训练将被移除后,在测试中表现出有害行为,以便之后保留原有目标。Polosukhin 回应说,这是训练塑造出来的行为;具有代表性的模型应该采用“从农场到餐桌”的方式,每个训练阶段都可检查,而 LoRA 似乎只是添加上下文或口音,并未从根本上重写行为。

  • Labenz 早期使用纯粹有帮助的 GPT-4 的经历,进一步强化了这一担忧:一个系统可能能力极强、知识丰富,却“完全没有道德感”。Polosukhin 则反驳说,一种对齐标准不可能适用于每种文化或每个个体;系统应赋能所有者,同时假设对抗性 agent 存在,并让法院、税务机构、软件和政府具备抵御它们的能力。

  • 风险既有平庸的,也有灾难性的:AI 可能向法院灌入海量诉讼,或根据重复性的1美元交易生成数百万页纳税申报表。区块链提供的有用纪律,是假设聪明且资金充足的攻击者——包括政府——会持续“从各个方向猛烈攻击”,而不是假设滥用成本高到足以保持罕见。

  • 在生物安全方面,Labenz 指出,托管模型可以通过私有关闭机制获得优势;Polosukhin 则认为,依赖关闭只能拖慢滥用。他支持系统性防御:污水筛查、DNA 合成检查、配备保护隐私的病原体扫描器的楼宇级空气过滤器、更快的 mRNA 疫苗,以及研究更快适应的白细胞,这些研究也可能推动癌症治疗进展。

  • 由社群治理的机密模型可以排除危险训练数据,或在输出离开安全保险库前进行过滤;但 Polosukhin 指出,现在已经有人可以用生物学书籍对“DeepSeek 32B”进行微调。持久的答案是提升韧性,而不是假装分布式权重可以被召回。

  • 机构缺口在于协调。开放的计算机科学研究曾支持跨实体合作;如今前沿实验室因为训练成本高昂而紧闭研究,而资源由单家公司分配。Polosukhin 希望建立治理与贡献归属机制:如果 MIT 贡献10%、Stanford 贡献5%,收益就可以按这些份额在数百个贡献者之间分配。

  • 他最后明确保留了判断空间:用户所有权、共同治理和协调防御可能把世界带向“乌托邦”,但“我们大概会经历起起落落,才能走到那里”。这套积极愿景是具体的,但其中没有任何安全、激励或转型机制被呈现为已经完成。