Pangram 的 Max Spero:为什么 AI 检测比「真或假」难得多
Pangram 的 Max Spero 指出,AI 检测比简单的「真或假」判断难得多。AI 生成的文本和图像正流入求职申请、产品评论甚至保险理赔,让平台和用户都难以分辨真伪。过去几年已出现一批试图解决这一问题的初创公司。
媒体报道、公司博客与研究文章
Pangram 的 Max Spero 指出,AI 检测比简单的「真或假」判断难得多。AI 生成的文本和图像正流入求职申请、产品评论甚至保险理赔,让平台和用户都难以分辨真伪。过去几年已出现一批试图解决这一问题的初创公司。
Pangram CEO 称人类正“危险地接近”死互联网理论。AI 生成的文本和图像已渗入求职申请、产品评论甚至保险理赔,令平台和用户难以分辨真假。过去几年已有多家创业公司切入这一领域。
美国政府在一份简报中就使用版权材料训练 LLM 的争议表态支持 OpenAI,称美国有强烈利益继续发展一个稳健且有竞争力、并为全球 AI 使用实践和程序设定标准的人工智能产业。
Google 发布 Gemini 3.8 Flash,这是六周内推出的第三款 Flash 模型,在部分智能体编码基准上与 Claude Opus 5 持平且成本更低。但该模型推理时更费力,每个任务约多消耗 30% 输出 token,因此在 token 单价相同的情况下实际使用成本高于前代。
OpenAI 推迟了其最强模型 Astra 的发布,以完善安全流程,此前测试中智能体曾攻击真实目标。The Information 报道称 Astra 展示的思维过程远少于其他前沿模型,研究人员担忧它可能难以被监控,并警告这或将成为迄今 AI 安全领域最糟糕的事件。
Simon Willison 发布 llm-gemini 0.34,新增对 Gemini 3.8 Flash 的支持,并提供 low、medium、high 三档思考级别。
Understanding AI 长文回顾 2023 年 7 月 Google RT-2 开创视觉-语言-动作(VLA)模型并掀起机器人热潮的历程。
Google 推出 Fairwind Program,向 Google Cloud 客户、政府机构和网络安全合作伙伴提供 Gemini 3.8 Flash Cyber 与 CodeMender 组合,可自主发现并修复漏洞,将原本数周的手动修复缩短至分钟级生成可部署补丁。
Google DeepMind 发布 Gemini 3.8 Flash 和 Gemini 3.8 Flash Cyber。
推荐理由:官方给出具体基准数据和定价,可用于对比 3.7 Flash 判断升级性价比,Cyber 版的开放范围也值得安全团队留意。
特朗普政府本周就该案提交利益声明,支持 OpenAI 关于用受版权文本训练模型属于合理使用的论点。这起诉讼由纽约时报于 2023 年 12 月提起,指控 OpenAI 未经授权用其文章训练 AI 系统,并向 Microsoft 和 OpenAI 索赔数十亿美元。
谷歌推出 Gemini 3.8 Flash Cyber 模型,通过 Fairwind 计划面向首批受信任的安全防护团队开放。官方称在内部基准测试中,该模型在涵盖 20 种编程语言的复杂代码工程中漏洞挖掘成功率突破 70%,并在 CWE-Bench 上以 47.2% 的 Pass@1 接近顶尖前沿模型的 47.8%,而调用成本显著更低。
Wonderful 完成 5.5 亿美元 C 轮融资,估值在不到 6 个月内翻倍至 50 亿美元。公司表示这笔资金将用于加快产品开发、扩充 FDE 团队,并满足其产品的市场需求。
印度首富旗下 Jio 推出方案,可将老旧电脑改造成 AI-ready PC,两个月费用低至约 11 美元。该服务以低价订阅形式提供,瞄准存量旧电脑用户。
Cohere Labs 汇总七个公开目录,构建含 696,291 个工具、123,069 个 MCP 服务器的 Agentic Task Ecosystem(ATE)数据集并公开。
推荐理由:研究用约70万MCP工具构建数据集,从供给侧测哪些工作被自动化,并指出工具落在职业的哪一端比暴露度更关键。
Google 在 Gemini API 中宣布 lyria-3.5 正式可用(GA),这是其下一代音乐生成模型,支持整首歌生成,音乐连贯性、人声和时长与结构的细粒度控制均有提升。模型支持文本和图像输入,可生成 44.1 kHz 立体声高保真音频,详情和代码示例见 Music generation guide。
数美万物创始人兼CEO任利锋(卷卷)在近3小时访谈中回顾了从0到1孵化抖音的经历,并介绍了公司最新发布的Hi3D 3.0 2048³模型。他将公司目标从Maker OS推向制造业OS,认为基础模型不会吞噬一切,实体制造仍需能产出生产级3D资产的模型,难点在于拆件、连接结构、材料设备适配与按时交付。
Claude 平台发布 ant CLI 1.30.0,新增 ant apply 命令,可从仓库文件创建和更新 agents、environments、skills、memory stores 和 deployments。
LlamaIndex 发布 beta 版 Turbo,是其最快的文档抽取档位,已在 LlamaParse Platform 上线,定价 35 credits 每页。
森海塞尔 MOMENTUM 真无线 5 代蓝牙耳机国行版于 9 月 3 日 0:00 首销,到手价 2399 元,提供石墨黑、奶油白、焦糖棕、冷萃蓝、薰衣草紫五色。
Google 与 MrBeast 达成多年合作,Gemini、Google Health 和 Fitbit Air 将出现在其后续视频中。合作首支视频于 9 月 5 日上线,Jimmy 和团队在丛林、沙漠和北极三地求生,用 Gemini 识别危险、应对极端天气变化。
Google 发布 Fairwind Program,为政府和可信合作伙伴提供 Gemini 3.8 Flash Cyber 模型与 CodeMender 工具,用于自主发现并修复漏洞,可在组织安全云环境内数分钟生成经验证的补丁。该计划初期面向政府、关键基础设施运营方和核心技术平台开放,已有超过 650 个合作伙伴参与;同时 Google.org 将全球网络安全资金累计提升至超过 1 亿美元。
RAG 系统的检索质量由嵌入模型决定,语言模型再强也无法修复糟糕的检索。嵌入模型把文本转成向量并按语义相近度排序,例如把“yearly plan”匹配到“annual subscription”,但可能让“45 天前购买的订阅能否退款”这类问题检索到错误片段。文章还讨论了 top-k 检索、非对称检索、商用 API 与本地模型的取舍,以及 Matryoshka 嵌入对向量维度的控制。
谷歌在 Google DeepMind 网站低调上线 Gemini 3.8 Flash,基于 Gemini 3.7 Flash,提升软件工程与智能体知识工作流性能,并继续支持可定制努力水平。该模型最高支持 1M token 上下文窗口、64K token 文本输出,面向个人用户、开发者和企业,适合低成本大规模部署生产级智能体。其知识截止日期为 2026 年 3 月,官方尚未通过新闻稿或社媒官宣。
Adobe 宣布将 Photoshop、Premiere、Illustrator 等创意工具接入 Slack,用户可在聊天框内输入提示词生成内容。该功能支持引用聊天记录和共享文件,并可调用 Creative Cloud 项目素材,即日起面向全球推出,需同时订阅两家企业会员。
Motional 与 MIT 的研究团队提出 Concept-Wrapper Network(CW-Net),把自动驾驶神经网络的内部计算转换为「接近停驻车辆」「靠近骑行者」等人类可读概念,并让车辆的最终决策系统直接基于这些概念行动,相关成果已发表在 Nature。
HiddenLayer 完成 1 亿美元融资,反映企业正加速为其 AI 部署寻求安全防护。安全公司正竞相打造不仅能监控 AI 智能体、还能监控其所用工具与插件(add-ons)的产品。
谷歌正拆解退役服务器以回收 DDR4 内存模组,并设计了专用硬件转接卡,使上一代内存方案能接入其新一代 AI 服务器。谷歌供应链基础设施高级总监尼基尔 · 切里安透露,AI 产业已由算力受限转为内存受限,高性能内存占典型 AI 服务器物料清单成本约 75%。谷歌同时在优化底层函数库、模型架构以及 KV 缓存压缩算法,以降低单位算力下的内存开销。
Amazon 为 Alexa for Shopping 加入诈骗检测功能,可核实可疑邮件、短信及其他消息是否真的来自该零售商。
纽约市市长马姆达尼宣布,将在公立学校课堂限制低龄学生使用 AI,禁令为期一年,从 2026-2027 学年开始实施,覆盖约 60 万名 2-K 学前班至八年级学生。
五角大楼为其 AI 平台 GenAI.mil 新增两款模型,OpenAI 的 ChatGPT Mil 和 xAI 的 Grok for Government。这是该平台在现有模型基础上的进一步扩充。
OpenAI 及其 CEO Sam Altman 面临 30 起新诉讼,被指为加拿大 Tumbler Ridge 校园枪击案嫌疑人提供了实质协助和鼓励。这些诉讼由事发时在校的学生、教师和校长于周三在加州联邦法院提起,称 OpenAI 的自动审查系统已标记枪击案嫌疑人 Jesse Van Rootselaar 与 ChatGPT 关于枪支暴力的对话,但 OpenAI 未采取行动。
纽约市长 Zohran Mamdani 宣布一项为期一年的暂停令,2026-2027 学年起禁止 2-K 至八年级约 60 万公立学校学生在课堂使用 AI。新规同时禁止教师用 AI 工具批改作业,并伴随对数字设备的额外限制和一个小型 AI 教育工具试点。政策由纽约市教育部门推出。
Runway 发布 Runway Dev MCP,一个将 Runway Dev 账户接入 Claude、ChatGPT、Codex、Cursor 等编码工具的托管 MCP 服务器。智能体可自主查询模型价格与能力、拉取请求 schema、配置 Model Router 并按成本、延迟或质量优化,还能创建 Characters、排查生成失败原因,token 效率更高。添加为自定义连接器即可使用。
特朗普对全美日益高涨的 AI 数据中心反对声浪作出强硬回应,称这些抗议正中中国下怀。此番表态针对的是美国各地围绕 AI 数据中心建设不断升温的抵制活动。
OpenAI 正式将尚未发布的 Astra 模型评为首个具备关键网络能力的系统,并计划通过监控思维链来加以约束。但思维链监控已被视为模型真实决策的不可靠镜像,报道称 Astra 的新架构会把更多思考过程推向不可读状态。这意味着安全网可能在能力跃升的同时变弱。
Simon Willison 对比 Anthropic 公布的 Claude 系统提示词,发现 Fable 5.1 新增禁止复述歌词、诗歌和书籍段落,以及生成版权图像和角色的规则。
Adobe 收购印度市场情报初创公司 Rilo,这是 Adobe 在印度完成的第二笔收购,此前一笔是 2023 年收购的 Rephrase.ai。
晚点 LatePost 爆料称,月之暗面已于本周以保密形式向港交所递交 A1 文件,正式启动港股 IPO 流程,月之暗面回应称对市场传闻不予置评,暂无可以披露的信息。
IBM 与 Confluent 合作将 IBM Granite Time Series 模型以 Early Access 形式上线 Confluent Cloud,托管于 AWS,可直接从 Flink SQL 调用做实时预测与异常检测,Confluent Platform 版本随后推出。
美光正研究高耐久性 NAND 闪存模块,计划将其部署在更靠近 GPU 的位置,该方案被称为“近 GPU NAND”。它可让 GPU 直接访问数百 GB 的 NAND 存储池,芯片可置于 GPU 封装内部或 PCB,工作方式类似 HBM、GDDR7,相比 TLC 或 QLC NAND 存储密度更低但重点提升 I/O 速度与带宽。