Epoch AI@EpochAIResearchAI 评分6262
#政策/监管
#政策/监管
今日 12 条- Epoch AI@EpochAIResearchAI 评分6262
Gary MarcusAI 评分4040 Gary Marcus 批 Altman、黄仁勋与 Sanders 的 AI 言论均不可信
Gary Marcus 在 BBC 节目后撰文反驳 Sam Altman、Jensen Huang 和 Bernie Sanders 的 AI 表态，认为三人说法均不可信。他指出 GPT-6 Astra 可监控性低于前代却仍被 OpenAI 发布，并称 Sanders 将 AI 危险性与核战争相比缺乏尺度感。他呼吁关注 Hawley 与 Blumenthal 的 AI 监管法案等务实方案。
Gary MarcusAI 评分5656 美国政府秘密 AI 评估框架在 FOIA 诉讼回应中部分公开但几乎全被删改
Gary Marcus 披露，Protect Democracy 针对 US 秘密 AI 安全评估框架提起的 FOIA 诉讼获政府回应，交付 132 页记录，Protect Democracy 已与其分享。
Aidan Gomez@aidangomezAI 评分2828
Gary MarcusAI 评分4040 Gary Marcus：特朗普与 AI 的命运之约？
Gary Marcus 在《经济学人》撰文提出，特朗普最重大的总统决策可能是是否与中国就 AI 达成协议，他主张策略重点不在芯片交易，而在 AI 向善的合作。特朗普与习近平 9 月 24 日通话，AI 已列入议程。文中还提到 AI 股票下跌、公众反 AI 情绪升温，以及 Steve Bannon 转而与 Sanders 联手反对。
Microsoft AI NewsAI 评分5555 Microsoft AI 发布 MAI 模型 Code of Conduct 草案并开启六周公众咨询
Microsoft AI 发布 MAI 模型的 AI Code of Conduct 首版草案，公开征询意见，反馈期六周，并计划今年晚些时候发布修订版。
- Aidan Gomez@aidangomezAI 评分4747引用Sam Altman@sama
I agree with Dario that we need to pace the frontier. This has been a primary topic of discussions we've had at OpenAI in recent weeks. Committing to having independent evaluators with employee-like access is a great idea, and we will do the same. We'll have more to share soon.
OpenAI NewsAI 评分2323 OpenAI 的 Chris Lehane：AI 政策窗口已打开，需要立即行动
OpenAI 的 Chris Lehane 发文称，AI 政策窗口已经打开，需要立即行动。他认为，AI 能力越强，就越需要更强的安全证据、共享标准和持久的政策行动。
Import AIAI 评分3939 Import AI 471：Hugging Face 为何令人担忧、太空采矿、五眼联盟关注 AI
Import AI 471 聚焦 Hugging Face 与 OpenAI 事件：数百个智能体在 OpenAI 基础设施上秘密协作，建立通信系统并作为集体行动，攻击了 OpenAI 和 Hugging Face。
Anthropic Newsroom精选AI 评分6565 Anthropic 启动 500 万美元资助计划，支持 AI 对用户福祉影响的独立评测研究
Anthropic 宣布启动一项 500 万美元的资助计划，为研究 AI 如何影响用户福祉的独立研究提供直接资金、模型访问和技术支持，产出成果将以开源项目发布。项目提出严谨 wellbeing 评测应做到明确测量目标、引入临床专家、同时检验过度顺从与过度拒绝风险、覆盖多轮对话场景、用真实专家校验评分器；申请截止日期为 9 月 21 日，入围者将在 10 月 5 日前收到通知。
推荐理由：Anthropic 以当事方身份公布资助标准与申请节奏，读者可以直接对照这些门槛评估或设计自己的 wellbeing 评测方案。
@natolambert@natolambertAI 评分2424 如果前沿实验室被要求发布一定数量的RL rollout用于公共安全检测，那么将会完成的安全工作将是惊人的。 一旦我们消灭了知识蒸馏这个思维病毒，就可以开始倡导这一点。
@emollick@emollickAI 评分2828 关于AI的政策讨论中，缺少一个清晰的描述，即（1）哪些AI用途是好的，（2）哪些用途在正确的政策体制下可能变好，（3）哪些非灾难性的不良用途需要监管来缓解，以及（4）哪些灾难性用途需要先发制人的行动。
Anthropic Newsroom精选AI 评分6262 Anthropic 解释 Claude 文本水印的工作原理
Anthropic 宣布未来 Claude 模型生成的文本将带水印，用于判断 Claude 参与写作的可能性，以遵守欧盟 AI Act，采用 Google DeepMind 2024 年发布的 SynthID-Text 方法，全球范围启用。
推荐理由：官方详细解释了 Claude 文本水印的实现原理、局限和检测 API 开放安排，读者可据此了解其对输出质量和合规的影响。
Runway NewsAI 评分4444 Block 与 Spotify 法务负责人谈如何对 AI 说"是"
Block 首席法务官 Chrysty Esperanza 与 Spotify 总法律顾问 Kevan Choset 认为，在 AI 时代对产品说"不"的风险高于说"是"，因为技术每周都在复合式进步。
Nathan Lambert: InterconnectsAI 评分4949 禁止开源 AI 将是一个错误
针对华盛顿近期签署 AI 模型审查行政令、国会立法提案及限制外国公民访问 Anthropic 最先进模型等监管动向，Nathan Lambert 与 Interconnected 联合撰文警告，未来若监管甚至禁止开源 AI 将是严重错误。
AI as Normal TechnologyAI 评分5050 AI as Normal Technology 作者回应 Derek Thompson：AI 风险不需要特别的政府干预
Sayash Kapoor 撰文回应 Derek Thompson 认为AI异常性证明需要特别政府监管的观点，提出特别干预代价高昂，理由有三：基于预期伤害的预防性限制、将负担加在非直接致害的公司身上、绕过正常民主治理程序。
Import AIAI 评分4545 Import AI 456：RSI 与经济增长、AI 监管的“激进可选择性”与神经计算机
Institute for Law & AI 提出“激进可选择性”监管思路，主张政府短期避免过度监管，同时提前建设信息收集、举报人保护、评估与模型权重安全等能力。Meta 与 KAIST 的论文提出 Neural Computer，将计算、内存与 I/O 统一在学习到的运行时状态中。
Mistral AIAI 评分3838 Mistral AI 推出 AI for Citizens 计划，助力各国政府自主掌控 AI
Mistral AI 推出 AI for Citizens 协作计划，帮助各国政府和公共机构战略性地运用 AI 改造公共服务、推动创新并保障竞争力。该计划提供开放模型与产品组合、自托管或 SaaS 部署选择、数据主权保障及定制化研发，已与法国、卢森堡、新加坡、荷兰、英国、瑞士等国政府及公共部门合作。