Dwarkesh 播客对话 Alex Imas 与 Phil Trammell:AGI 之后什么仍然稀缺
Dwarkesh Patel 邀请 Google DeepMind AGI 经济学负责人 Alex Imas 和 Epoch 经济学负责人 Phil Trammell 讨论 AGI 时代的经济学问题。
Dwarkesh Patel 邀请 Google DeepMind AGI 经济学负责人 Alex Imas 和 Epoch 经济学负责人 Phil Trammell 讨论 AGI 时代的经济学问题。
Sierra 回顾 2024 年 12 月提出按结果(outcome-based)定价以来的经验:自那时起 S&P 500 上涨约 30%,而 SaaS 指标 WCLD 下跌约 15%。文章引用 Madhavan Ramanujam 的 2x2 框架(自主性与结果归因)定位定价模式,认为按结果定价只有在软件高度自主且结果可清晰归因时才可行,并判断最终能存续的是卖结果而非卖访问权的公司。
推荐理由:Sierra 作者基于自身按结果定价的实践复盘其得失,并用一个 2x2 框架解释为何席位制 SaaS 正承压。
Import AI 第459期:一篇论文估算美国AI经济2025年名义规模约2500亿美元、质量调整产出年增约2600%,但常规GDP统计难以体现;UK AI Security Institute论文说明自动化对齐研究的错误比人类基线更难识别,并给出测量与红队等干预建议。
Anthropic 联合创始人 Jack Clark 在牛津大学人类中心 AI 实验室发表 2026 年 Cosmos 演讲,主张面对 AI 持续进步应选择探索未来而非回避现实。
Runway 发布 Project Luxo,称 AI 生成视频已跨越恐怖谷,观众开始关注故事本身而非技术瑕疵。Runway 向制片人、演员、工会成员、制片厂和媒体等放映了三部全 AI 生成短片和一支 spec ad,反馈称作品成立。
Sayash Kapoor 等人分析 Google 在开发者大会上发布 Gemini 3.5 Flash 和 Antigravity 2.0 时宣称的智能体团队以单一提示词、约 916.92 美元 API 费用和 2.6B tokens 造出操作系统的实验。
推荐理由:文章逐条拆解 Google 智能体造操作系统的宣称,指出单一提示词等说法缺乏关键细节,并探讨开放世界评测需要的方法规范。
Sayash Kapoor 撰文回应 Derek Thompson 认为AI异常性证明需要特别政府监管的观点,提出特别干预代价高昂,理由有三:基于预期伤害的预防性限制、将负担加在非直接致害的公司身上、绕过正常民主治理程序。
Import AI 457 聚焦三项研究:SentinelOne 拆解出约 20 年前的病毒 fast16.sys,它通过篡改 LS-DYNA 970、PKPM、MOHID 等高精度计算软件的内存结果来破坏科研与工程计算。
Institute for Law & AI 提出“激进可选择性”监管思路,主张政府短期避免过度监管,同时提前建设信息收集、举报人保护、评估与模型权重安全等能力。Meta 与 KAIST 的论文提出 Neural Computer,将计算、内存与 I/O 统一在学习到的运行时状态中。
Jack Clark 在 Import AI 455 中判断,到 2028 年底出现无人类参与的 AI 研发(模型自主训练出后继版本)的概率超过 60%,2027 年约为 30%。
Sierra 取消编码和算法面试,改为 AI 原生 onsite,候选人先与面试官共同定义产品,再用 2 小时自由使用 AI 工具构建,最后演示并复盘代码与产品取舍。公司同时用系统设计面试取代编码电话筛,并试点调试面试考察 1 到 N 的改进能力;作者称新流程信号更丰富,候选人反馈更投入,但开放式设计带来标准化难题,需配套评估标准和双人面试来校准。
推荐理由:Sierra 作者亲历重构招聘流程,给出了可迁移的 AI 原生面试设计与权衡细节。
针对 AI 工具宣称能快速生成界面、把文字直接变成产品甚至代码,文章指出设计的难点从来不是生成形式,而是理解问题本身。作者引用 Christopher Alexander《Notes on the Synthesis of Form》中"形式与语境良好契合"的定义,认为 AI 能快速产出看似精致的方案,却无助于理解底层问题,反而容易让人跳过对真实约束的梳理。
Runway 发文说明其本周发布的实时视频智能体 API Runway Characters 的安全考量,该产品基于 World Model GWM-1,可从单张图像生成可对话的定制角色。
一篇发表于 Lawfare 研究论文系列的文章指出,先进 AI 默认不会帮消费者以更低成本获得理想法律结果,因为监管壁垒、对抗性动态和人类参与这三重瓶颈仍待解决。文章以 GPT-4 通过律师资格考试为背景,指出即便生产力提升、单项法律任务成本下降,诉讼双方仍会陷入工作量军备竞赛,总成本居高不下。
Arvind Narayanan 在其新文章和视频中逐条考证 Moravec 悖论(对人类难的任务对 AI 容易、反之亦然),指出它从未被实证检验,本质是 AI 社区认为值得研究的问题造成的筛选效应,其演化解释也很可疑。
Microsoft AI 发布长文,提出 Humanist Superintelligence(HSI)理念,即面向具体领域、受控服务于人类的超智能,并宣布组建由作者领导的 MAI Superintelligence Team。
推荐理由:Microsoft AI 提出以人类为中心、领域受限的超智能路线,文中给出医疗诊断等具体方向和 containment 难题的判断。
Linear 发布官方文章提出“自动驾驶 SaaS”愿景,认为真正变革在于 AI 主动推进工作,而非在旧系统上加聊天机器人。文章类比自动驾驶分级描述三种自主级别,从建议分配 issue 到规则自动执行,再到 coding agent 全程处理特定类别 issue,并称这已是 Linear 的产品方向。
Arvind Narayanan 撰文澄清《AI as Normal Technology》的核心论点:AI 能力提升与社会影响之间存在长因果链,收益和风险在部署而非研发阶段实现,政策重点应是韧性和部署环节。
Sayash Kapoor 在 AI as Normal Technology 框架下撰文指出,科学论文产出指数级增长但实际进步停滞甚至放缓,AI 很可能加剧这一生产-进步悖论。
Linear 创始人发文分析为何质量稀缺,认为每次技术进步都会把行业拉离手艺,而 AI 正试图把制作者的判断和品味也从创作中分离出去。他主张质量本身就是商业策略:Linear 第二年实现盈利,第四年拥有超过 10000 个付费客户且几乎没有营销支出,并分享了以质量为北极星、3-5 人小团队、MVP 仅限内部使用、issue 7 天内修复等实践。
Sayash Kapoor 撰文提出 AGI 不是里程碑,公司宣布实现 AGI 不是可操作事件,对商业、政策或安全都没有直接含义。文章以核武器为反类比,认为 AI 的经济影响依赖以十年计的扩散过程,并批评基于影响、内部机制和基准行为的三类 AGI 定义各有缺陷,建议企业和政策制定者关注安全扩散而非 AGI 宣言。
推荐理由:作者区分能力与权力、以扩散视角解释 AGI 为何不是可操作事件,为评估各方 AGI 宣言提供了一个可用的分析框架。
Arvind Narayanan 发布超过 1.5 万字的新论文,提出将 AI 视为“常态技术”的世界观,认为其影响类似电力和互联网等通用技术,变革性经济与社会影响将以数十年为时间尺度缓慢展开。
推荐理由:作者提出 AI 是像电力一样的常态技术,经济影响将以数十年计缓慢扩散,并给出风险与政策的替代框架。
Arvind Narayanan、Benedikt Ströbl 和 Sayash Kapoor 撰文分析 OpenAI、Anthropic 和 Google Gemini 下一代模型遇阻后的叙事翻转,认为宣布模型扩展已死为时尚早,行业领袖的预测并不可靠。
推荐理由:作者用可核查的证据指出业内叙事反复翻转的成因,并区分能力提升与实际社会影响的薄弱关联。
Sayash Kapoor 分析 WIRED AI Elections Project 收录的 78 个 2024 年选举 AI 使用案例,发现其中 39 个无欺骗意图,而 39 个欺骗性内容不用 AI 也能以几百美元内的成本复制。文章提出误信息的关键在需求侧而非供给侧,治理信息环境依赖结构性、制度性改变,而非限制 AI 生成内容。
推荐理由:作者基于 WIRED 数据库 78 个案例给出一手分析,指出政治误信息更多是需求侧的结构性问题,值得从供需视角重新审视。
Arvind Narayanan 等人分析英国 NHS 肝移植匹配算法 TBS,指出其用 5 年生存期封顶计算移植收益,导致年轻患者无论病情多重都难以获得高分,2024 年 The Lancet 研究确认了这一年龄偏差。
推荐理由:原文用英国肝移植算法的年龄偏差案例,指出目标变量错配而非输入特征才是算法公平的关键,可迁移到其他预测决策系统。
微软 AI 发布 Copilot 应用,其 discover feed 体验整合了学习、探索与放松功能。微软 AI CEO Mustafa Suleyman 表示,Copilot 能理解用户生活语境,同时保护隐私、数据与安全,并记住最有帮助的细节。它还能提供知识获取,简化日常信息轰炸,并在用户需要时给予支持与鼓励。
Suno 发文回应 RIAA 代表三大唱片公司于 6 月 24 日提起的版权诉讼,称诉讼在事实和法律上均有缺陷,训练数据来自开放互联网上的中高质量音乐。Suno 还表示已设置阻止上传受版权内容、禁止按艺术家名生成等防抄袭机制,且起诉时双方正进行商业谈判。
推荐理由:Suno 官方回应 RIAA 诉讼,阐述其训练数据立场和防抄袭机制,可了解生成式音乐版权争议一方的核心论点。
Microsoft AI CEO Mustafa Suleyman 在 TED 演讲中提出,即便最接近 AI 开发的人也难以准确描述其走向,他用"新数字物种"这一隐喻来聚焦当下这一非凡时刻。演讲后他与 TED 负责人 Chris Anderson 进行了问答。