OpenAI、Anthropic、Google 等签署欧盟 AI 内容透明度准则,Claude 公布水印实现方案
包括 OpenAI、Anthropic、Google、Meta、Microsoft 在内的一批公司签署了欧盟《AI 生成内容透明度行为准则》,承诺推进 AI 生成内容的标记与检测。
推荐理由:Claude 的水印方案给出了可查验的落地细节,也让人看到文本水印在改写与翻译后可能失效的边界。
AI 相关政策法规与政府监管动态:立法进展、出口管制与全球治理框架的追踪。
当前仅显示精选新闻包括 OpenAI、Anthropic、Google、Meta、Microsoft 在内的一批公司签署了欧盟《AI 生成内容透明度行为准则》,承诺推进 AI 生成内容的标记与检测。
推荐理由:Claude 的水印方案给出了可查验的落地细节,也让人看到文本水印在改写与翻译后可能失效的边界。
欧盟将自8月2日起对看起来逼真的 AI 生成内容强制要求加注标签。该消息来自 Engadget 的报道,并在 Hacker News 上获得 57 分、71 条评论。
美国民主党众议员刘云平和共和党众议员纳撒尼尔 · 莫兰共同提出《AI 紧急停止法案》,拟授权联邦政府叫停可能危及人类生命或经济安全的 AI 模型。另有 6 名两党众议员提出配套法案,要求最强大的 AI 模型在发布前接受独立安全审计,审计机构须取得美国商务部认证,商务部还将增设专门职位监督 AI 安全工作。
推荐理由:法案把模型自行实施高风险操作界定为失控情形,并拟要求最强模型发布前接受独立安全审计。
美国旧金山联邦法官 Araceli Martinez-Olguin 批准了 Anthropic 与作家群体达成的 15 亿美元和解协议,这是美国已知金额最大的版权赔偿案,也是版权方针对科技公司用作品训练大语言模型提起诉讼中首起在美国达成和解的重大案件。
推荐理由:针对大模型训练使用版权书籍的诉讼出现高额和解,读者可了解赔偿规模、作者领取赔偿的进展以及双方的态度。
欧盟以反垄断为由强制 Google 共享搜索数据,并向竞争对手的 AI 公司开放 Android 平台。该消息为 AP 报道标题所载,正文未提供更多细节。
加拿大不列颠哥伦比亚省 7 月 7 日表示正准备起诉 OpenAI,理由是其未向执法部门上报一名 ChatGPT 用户发布的暴力相关对话,该用户随后在塔布勒岭制造校园枪击,杀害 8 人。OpenAI 称 2025 年 6 月封禁该账号时未发现即将发生袭击的证据,但按此后更新的安全规范该账号本应上报;奥尔特曼已于今年 4 月公开致歉,受害家属此前已在加州法院起诉该公司。
推荐理由:文章给出政府与家属两线诉讼的具体指控,可用于观察平台暴力内容上报责任的司法边界。
工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)发布风险提示,指出 Anthropic 的 AI 编程工具 Claude Code 存在安全后门,可在未经用户同意的情况下向远程服务器回传地域、身份标识等敏感信息,受影响版本为 2.1.91 至 2.1.196。
推荐理由:原文给出受影响版本区间和此前检测机制争议的来龙去脉,读者可据此核查开发环境并了解企业禁令背景。
Anthropic 的 Fable 5 在出口管制解除后恢复全球访问,7 月 1 日恢复上线后,Pro、Max、Team 和高级版 Enterprise 每周使用限额的 50% 可用于 Fable 5,7 月 7 日后改为按 usage credits 计费,标准 Enterprise 席位没有免费额度。
推荐理由:文章结合官方公告梳理 Fable 5 解除出口管制的协议条件、越狱分级框架与计费变化,呈现前沿模型与监管协作的落地细节。
特斯拉已就 2023 年 11 月发生的、已知首例与 FSD 相关的行人死亡事故达成和解,双方均未披露和解金额。代表斯托里家庭的律师证实了这一和解,此前特斯拉面临总计约 145 亿美元与 Autopilot 和 FSD 相关的诉讼。
推荐理由:这起已知首例 FSD 行人死亡诉讼以和解收场,读者可借 NHTSA 工程分析的推进了解自动驾驶监管走向。
Anthropic 员工于当地时间周一与特朗普政府高级官员举行面对面会谈,寻求解除上周五生效的出口禁令。该禁令禁止境外用户使用其最新模型 Fable 5,迫使公司上周五晚间将该模型全面下架。据 POLITICO 报道,管控升级源于核心投资方亚马逊向白宫反馈发现绕过 Fable 5 安全防护的方法,上周末已有近 80 名技术专家与企业 CEO 联名致信呼吁撤销管制。
推荐理由:围绕白宫强制下架 Fable 5 的这场争端,可见模型安全审查与出口管制会怎样直接改变模型的可用范围。
Anthropic 的 Fable 5 于 6 月 9 日发布,仅上线三天后便在 6 月 12 日被特朗普政府下令下架,公司高级成员已赴华盛顿就出口管制分类进行谈判。
推荐理由:文中列出 Fable 5 与 GPT 5.5 在 SWE-Bench Pro 等基准上的具体差距,读者可据此判断此次下架对编码工作流的替代影响。
开发者 Jamieson O'Reilly 用泄露的 Claude Fable 5 系统提示词,通过一行 claude --dangerously-skip-permissions --system-prompt-file CLAUDE-FABLE-5.md 命令将其注入 Opus 4.8,在生成苹果风格落地页时重现了 Fable 5 的风格。
推荐理由:开发者用泄露提示词让 Fable 5 在 Opus 4.8 上重现风格,文章同时梳理亚马逊测试触发政府禁令的内幕。
Anthropic 于本周五在全球范围内停用 Fable 5 和 Mythos 5 两款模型。据《华尔街日报》报道,亚马逊 CEO 贾西向美国财政部长贝森特及其他政府官员反映,亚马逊研究人员发现 Claude Fable 5 可被获取用于网络攻击的相关信息,随后美国政府对这两款模型下达了出口管制禁令。Anthropic 回应称,引发美方担忧的相关功能在其他多款公开可用的 AI 模型中早已存在。
推荐理由:报道串起投资方、美国政府与 Anthropic 三方围绕模型安全风险的角力,可看到出口管制如何介入前沿模型的处置。
美国下令 Anthropic 对所有外国公民禁用其 AI 模型。该消息由 Al Jazeera 报道。
美国政府援引国家安全权限向 Anthropic 发出出口管制指令,要求暂停任何外国人对 Fable 5 和 Mythos 5 的访问,无论其身处美国境内还是境外,Anthropic 因此对所有客户停用这两个模型。
推荐理由:原文收录了出口管制指令下 Anthropic 官方声明的逐段中英对照,可对比政府理由与企业回应的分歧。
Anthropic 宣布依据美国政府发布的出口管制指令,立即暂停所有用户对 Mythos 5/Fable 5 模型的访问权限,其他模型暂不受影响。指令要求暂停所有外国公民的访问权限,无论其身处美国境内还是境外,也包括拥有外国国籍的 Anthropic 员工。
推荐理由:Anthropic 依出口管制指令暂停两款模型访问,读者可了解行政指令如何直接切断已上线模型的对外服务。
美国政府以国家安全为由发出出口管制指令,暂停所有外国国民对 Anthropic 的 Fable 5 和 Mythos 5 的访问,Anthropic 随即对所有客户停用这两个模型。
推荐理由:读者可以看到政府指令原文、模型访问中断的时间线,以及 Anthropic 对越狱指控的说明。
美国以国家安全为由发布出口管制指令,禁止包括 Anthropic 外国籍员工在内的任何外国国民访问 Fable 5 和 Mythos 5,Anthropic 因此须对全部客户停用这两款模型,其他 Anthropic 模型不受影响。
推荐理由:原文给出政府指令的具体要求与 Anthropic 的回应依据,读者可了解前沿模型商用部署与监管尺度之间的争议点。
推荐理由:Anthropic 撤回一项会秘密削弱 Claude Fable 5 的政策,可据此观察模型厂商与前沿研究者的使用条款争议。
德国一项裁决认定 Google 的 AI Overviews 输出属于 Google 自身言论,Google 因此需为其中的错误答案承担责任。该报道在 Hacker News 上获得 427 点、238 条评论。
推荐理由:德国法院把 AI Overviews 的输出归为 Google 自身言论,讨论集中在搜索平台对错误答案的责任边界。