turbopuffer v3 弃用矢量主索引,重构存储架构
turbopuffer 宣布 v3 将弃用以 ANN 矢量索引为主键的存储架构,把 ANN 降为二级索引。官方称现有架构已支持单索引 100B+ 向量、200ms p99 读、1k+ QPS,但存在存储放大、写放大和向量化受限三大问题;v3 已通过 100% CI,后续将公开基准测试并逐步上线生产。
turbopuffer 宣布 v3 将弃用以 ANN 矢量索引为主键的存储架构,把 ANN 降为二级索引。官方称现有架构已支持单索引 100B+ 向量、200ms p99 读、1k+ QPS,但存在存储放大、写放大和向量化受限三大问题;v3 已通过 100% CI,后续将公开基准测试并逐步上线生产。
谷歌的在轨计算原型卫星 10 月 1 日搭乘 SpaceX 火箭升空,启动“太阳捕手”项目,验证 Tensor 处理器能否在太空运行,这是谷歌首次把先进芯片送入轨道。
由前 Google 和 SpaceX 产品经理 Rama Afullo 联合创办的 Satlyt 完成 800 万美元种子轮融资,由 Non Sibi Ventures 领投,为多公司卫星提供运行 AI 模型的软件,对标 VMware 和 Snowflake 的平台模式。
PayPal 将分析负载从本地 Hadoop 迁移到 Google 的 Managed Service for Apache Spark,核心分析任务处理时间缩短 25%,SLA 达标率提升 30%。该服务支持分钟级集群部署与弹性扩缩容,并原生对接 GCS 和 BigQuery,帮助 PayPal 整合分散的批处理流程、降低运维成本。
NVIDIA 提出 AI 工厂投资回报由三大要素决定:每兆瓦产出能力、硬件使用寿命和 token 需求。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 分之一。
AMD 首次公开 Helios 机架的 TH6 scale up 交换机设计,可见 Broadcom 以太网 retimer 紧邻飞线电缆接入交换机 ASIC。
POV: You’re an engineer building AMD Helios. Next up: putting it to the test. Episode 2 drops today 👀
Databricks 提出用 Data and AI Platform 打通制造业产品价值链,让跨阶段数据问题从人工查票变成一次查询。平台通过 zero-copy Open Sharing 和 Lakehouse Federation 直接访问源系统数据,无需为每个用例新建 ETL 管道或复制数据;需要镜像时可用连接器和云对象存储汇入 lakehouse。
Mistral 宣布在慕尼黑设立新 hub,组建 Physics AI 和工业 AI 专门研究团队并服务企业客户,同时计划到 2030 年建成 1 GW 欧洲算力。
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m
推荐理由:作者结合自身沙箱逃逸事件,拆解了 OpenShell 的隔离、令牌置换和 Z3 数学校验设计,可迁移到智能体安全部署实践。
Google Cloud 在 Compute Engine 上正式开放存储优化型 Z4D 机器系列,提供 VM 与裸金属实例,搭载第五代 AMD EPYC(Turin)处理器,最高 84,000 GiB 本地 SSD、384 vCPU 和 3,072 GiB 内存。
CI has become the top bottleneck of every engineering team I talk to (including Lindy). Our CI spend has become stratospheric.
Latent Space 播客邀请 OpenRouter 联合创始人兼 CEO Alex Atallah 与 AMP 的 Anjney Midha,回顾 OpenRouter 如何从 Llama、Alpaca、Mistral 等开源模型的早期浪潮中成长为服务超过 1000 万开发者、每日处理超过 10 万亿 token 的中立推理路由层。
超聚变在 2026 国际探索者大会上提出"智企"概念,并发布 FusionOne AI 企业级 Token Factory 解决方案、FusionServer"无极"架构及首发产品 FusionServer V9 系列。
NVIDIA 推出 DSX Ready 认证计划,用于审核合作伙伴产品是否符合 NVIDIA DSX AI 工厂参考设计要求,首批类别为电池储能系统(BESS)和冷却分配单元(CDU)。
Sakana AI 正式公布公司内部的 Frontier Intelligence Group(FIG),主张智能尚未被解决,即使当前范式可通过规模实现 AGI,也仍需探索数据与能耗效率更高的另类路径。
Descript 发布案例研究,介绍其视频编辑智能体 Underlord 采用 OpenRouter 后,生产模型从 1 个增至 13 个(来自 4 家模型开发方),新模型评测时间从一周以上缩短到 1-2 小时,一次 Anthropic 发布从宣布到上线只用了几小时。
Mistral 与 Cloudera 建立合作,将 Mistral 模型集成进 Cloudera 混合数据平台,企业可在私有云、公有云、本地及完全气隙环境中部署推理并保持完全控制。企业还能在受控环境中用专有数据训练自有模型,基于开放权重拥有数据和由此产生的智能。Cloudera 平台承载 30 exabytes 客户自管数据。
OpenAI 与 GSA 宣布向符合条件的联邦、州、地方和部落政府提供 $0 许可费和 50% 用量折扣,并扩大网络防御支持。
a16z 宣布投资 Gimlet Labs,后者正在构建首个多芯片推理云,可将不同模型与工具调度到 GPU、CPU 及专用加速器上,在相同功耗下实现前沿模型最高 10 倍吞吐与交互性提升。Gimlet 通过编译器与运行时把异构硬件整合为单一算力池,对开发者仅暴露一个推理 API,客户已包括一家前沿实验室和一家超大规模云厂商。
Meta 发布为 AI 工作负载在商用以太网上全新设计的 RDMA 传输协议 MetaRoCE,将通过 OCP 开放规范、参考软件实现和合规测试套件,并计划在 2026 OCP Global Summit 上发布。
Meta 发布自研训练加速器 MTIA 300,专为排序与推荐模型训练优化,是 MTIA 家族首款训练芯片。
Cursor 宣布 Firetiger 团队加入。Firetiger 由 Rustam Lalkaka 和 Achille Roussel 于 2024 年创立,构建监控发布、发现回归、调查事件并将发现反馈给编程智能体的智能体。双方将打通从编写代码到生产环境运行的路径,这项投入还包括 Git forge Cursor Origin 和即将推出的 Change Monitors。
Mistral 宣布三项推进 AI 主权的举措:Mistral Regional Endpoints 正式可用,客户可选择推理在欧洲或美国运行;Mistral Priority Tier 进入公开预览,为关键工作负载提供自定义速率限制和 uptime SLA。
RadixArk 与 Google Cloud 合作,把开源推理框架 SGLang 带到 TPU。SGL-JAX 现已可用,支持 Gemma、Qwen、DeepSeek。
DeepSeek-V4 Flash 的 RL 训练现已在 AMD Instinct MI355X GPU 上通过 Miles 支持,基于 ROCm 完成四节点端到端验证。
Netpreme X-Mem™ MPU 作为专用 KV 内存层接入 SGLang HiCache,在前缀密集型负载下将首 token 延迟(TTFT)较基于 Host DRAM 的方案降低 6.7 倍。
Anthropic 弃用 Claude Sonnet 4(claude-sonnet-4-20250514)和 Claude Opus 4(claude-opus-4-20250514),这两个模型在 Claude API 上的所有请求现在会返回错误。
加州大学圣地亚哥分校在 Google 支持下,计划用 2000 台退役 Pixel 手机的主板搭建数据中心,为数百名师生提供低成本、低碳的云计算服务。该项目将手机主板组成 25-50 台的 Kubernetes 集群,SPEC 基准显示 25-50 台手机约等于一台现代服务器,20 台手机的集群已能支撑 75 人以上班级的评分负载且延迟低于 AWS 默认后端。系统预计 2026 年秋季上线。
AMD 与 SGLang 团队联合优化,使 MI355X 在 DeepSeek-R1 大规模分离式推理中实现 129 tok/s/user 交互性下每百万 token $0.169 的成本,比 B200 TRT-LLM 低 5%,单 GPU 吞吐比 B200 SGLang 高 1.25 倍,结果由 SemiAnalysis 的 InferenceX 持续基准验证。
SGLang 在 NVIDIA GTC 2026 期间举办五场活动,包括黄仁勋 GTC 主题演讲的 NVIDIA AI 生态幻灯片展示、开源 AI 专题讨论、官方训练实验室,以及与 RadixArk 联合举办的 Happy Hour 和 LinkedIn 约 200 人规模的 meetup。
SGLang 团队与 NVIDIA 合作宣布,在 SemiAnalysis InferenceXv2 基准上,SGLang 运行 DeepSeek R1 在 GB300 NVL72 上相比 H200 实现最高 25x 性能提升,同时不到 4 个月内将 GB200 NVL72 上的性能提升最高 8x。