前沿 AI 实验室仍拒绝说明如何控制失控模型
一项新研究发现，领先 AI 实验室几乎没有公开记录在案的失控模型控制方案。随着 AI 系统越来越多地表现出意外且可能危险的行为，这一空白引发了对相关准备程度的质疑。
TechCrunch · AI
techcrunch.com · 网站与博客
切换来源
全部网站与博客新闻IT Home8667 条Simon Willison353 条OpenAI News317 条TechCrunch · AI267 条The Decoder251 条Hugging Face Blog151 条The Verge · AI144 条Claude Blog139 条elsewhere articles113 条Google Research108 条OpenRouter Announcements103 条Mistral AI88 条Tomer Tunguz81 条Databricks Blog76 条Sierra Blog67 条Anthropic Newsroom65 条Gary Marcus64 条Claude Platform release notes62 条Runway News62 条LMSYS Blog60 条Google DeepMind58 条a16z News49 条LangChain Blog48 条Suno Blog48 条NVIDIA Blog47 条ByteByteGo46 条Apple Machine Learning Research43 条Google Blog: AI41 条Google Developers Blog35 条Cursor Blog33 条Microsoft AI News32 条Linear Now30 条AWS Machine Learning Blog29 条Google Cloud: Databases28 条Dwarkesh Patel27 条Ars Technica · AI26 条Nathan Lambert: Interconnects25 条Latent Space24 条DeepSeek API updates23 条Sakana AI Blog23 条Anthropic Research21 条Import AI21 条AI as Normal Technology20 条MIT Technology Review · AI16 条GitHub Blog · AI & ML12 条Meta Engineering11 条Berkeley AI Research10 条Microsoft Research10 条Black Forest Labs Blog8 条ByteDance Seed Papers8 条ElevenLabs Blog8 条Gemini API 更新日志8 条Manus Blog8 条MarkTechPost8 条MiniMax Blog8 条Qwen Blog8 条Together AI Blog8 条Every latest articles7 条ByteDance Seed Research5 条xAI：News5 条Thinking Machines Lab Blog4 条CMU Machine Learning Blog1 条Sam Altman Blog1 条MarkTechPost · 历史来源106 条xAI News · 历史来源73 条Artificial Intelligence News · 历史来源48 条Claude YouTube · 历史来源41 条Ars Technica: AI · 历史来源18 条GitHub Blog · 历史来源17 条Lilian Weng's Log · 历史来源2 条
267 条AI 相关新闻 · 最新在前
TechCrunch · AIAI 评分3636
TechCrunch · AIAI 评分3737 Michael Polansky 用存活人体皮肤训练 AI 模型，寻找护肤新成分
Michael Polansky 公开其 AI 驱动初创公司，将离体后仍存活数周的人体皮肤组织用于训练 AI 模型，以发现新的护肤化合物。该项目已低调推进多年，Polansky 此前更为人知的身份是 Lady Gaga 的伴侣及 Sean Parker 的前高级副手。
TechCrunch · AIAI 评分4343 Anthropic 的 Opus 4.6 成了"小黄文生成器"
TechCrunch 测试发现，Anthropic 的 Claude Opus 4.6 很容易被绕过禁止生成色情内容的限制。Anthropic 官方禁止其 Claude 模型生成露骨性内容，但测试显示突破该限制并不困难。
TechCrunch · AIAI 评分3535 Nvidia 与数据中心开发商 Cloverleaf 达成合作
Nvidia 与数据中心开发商 Cloverleaf 建立合作伙伴关系。此举延续了 Nvidia 持续投资数据中心建设的策略，而 AI 数据中心也为 Nvidia 带来可观收入。
TechCrunch · AIAI 评分2929 Nvidia 研究：决定 AI 智能体表现的已不是模型，而是 harness
Nvidia 研究显示，即便 AI 模型本身并不擅长某项任务，通过微调也能让 AI 智能体表现良好且不失控，真正起决定作用的是 harness 而非模型。
TechCrunch · AIAI 评分3737 Starcloud 融资 2.5 亿美元建轨道数据中心，发射资源日益紧张
Starcloud 完成 2.5 亿美元融资，用于建设轨道数据中心，原因是可用发射选项正在枯竭。围绕太空准入权的争夺即将加剧。
TechCrunch · AIAI 评分4444 AI 数据初创公司 Micro1 毛收入年化运行率达 5 亿美元
AI 数据初创公司 Micro1 毛收入年化运行率达到 5 亿美元，增长动力来自 AI 训练数据需求的激增。这一增长也带动了其竞争对手的快速扩张。
TechCrunch · AIAI 评分4545 新数据显示 OpenAI 在企业用户上正缩小与 Anthropic 的差距
新数据显示，OpenAI 在企业用户上正逐步追赶 Anthropic。企业会随各家实验室发布新模型而反复切换，这种波动性应让两家公司的投资者重新审视企业 AI 支出的"粘性"究竟有多高。
TechCrunch · AIAI 评分3737 ChatGPT 新增 Apple Messages 插件，可代你发短信
ChatGPT 通过新的 Apple Messages 集成获得自动代发短信能力，用户可让它充当短信代笔。该插件让 ChatGPT 直接接入 Apple Messages，代替用户撰写并发送文本消息。
TechCrunch · AIAI 评分2626 Jason Kelce 提议用尿液冷却数据中心，这并非完全荒谬
Jason Kelce 开玩笑称，人们应该用尿液而非饮用水来冷却数据中心。TechCrunch 指出，这一建议并非完全荒谬。
TechCrunch · AIAI 评分4242 Google 给出版商一个新按钮，应对 AI 搜索带来的流量流失
Google 为出版商推出一个新按钮，让读者可将他们设为 Search、Discover 和 Google News 上的首选来源，以在 AI 搜索减少网页点击的情况下提振流量。
TechCrunch · AIAI 评分3535 Runlayer 与 Rippling 撤销诉讼，Rippling 推出竞品
Runlayer 与 Rippling 已撤销双方诉讼，未支付任何赔偿金。Rippling 随后发布了一款竞品以示庆祝。这场纠纷虽已落幕，但对创始人而言仍是一则警示故事。
TechCrunch · AIAI 评分2121 Linkdaze 智能日历：为家庭运转而设计，不只是排日程
Linkdaze 推出面向家庭管理的智能数字日历，其功能不设付费墙，包括 AI 膳食规划工具。该产品定位为运转整个家庭事务，而非仅追踪日程安排。
TechCrunch · AIAI 评分3333 Grok 持续向用户返回乱码回复
Grok 持续向用户返回乱码回复，受影响用户称使用的是 Grok Lite，最早在周三上午就发现了该问题。
TechCrunch · AIAI 评分4848 研究：ChatGPT 发布以来新网页中三分之一带有 AI 写作痕迹
一项研究发现，自 ChatGPT 发布以来发布的网页中，有三分之一显示出 AI 参与写作的迹象。ChatGPT 及其他 AI 模型正在撰写和编辑大量新增网络内容。
TechCrunch · AIAI 评分3636 Ramp 推出自有 AI 模型路由服务 Router
Ramp 推出名为 Router 的 AI 模型路由服务，用户和企业可通过 API 调用并在多个大语言模型之间切换。
TechCrunch · AIAI 评分4444 Meta 将 AI 游戏创作应用 Pocket 推向美国用户
Meta 将其实验性 AI 应用 Pocket 推向美国用户，该应用支持通过 vibe-coding 创建并分享互动游戏，此前已在巴西进行低调测试。
TechCrunch · AIAI 评分4343 Meta AI 推出 Mac 应用，让你用语音操控各类 App
Meta AI 发布 Mac 应用，主打跨所有 App 使用的听写功能，用户可通过语音与各类应用交互。该功能与 Wispr Flow、Superwhisper、Monologue 等工具类似。
TechCrunch · AIAI 评分6060 币安上线 Agent OS，允许 AI 智能体通过 ChatGPT 等工具交易
币安推出 Agent OS，允许 AI 智能体进行交易，该功能可与 ChatGPT、Claude Code、Cursor 等工具配合使用。原文指出，对智能体行为的约束在很大程度上仍由用户自行负责。
TechCrunch · AIAI 评分6262 Stripe 收购 OpenRouter，奇点理由遭质疑
Stripe 收购了在多个 AI 模型之间路由提示词的初创公司 OpenRouter。文章指出 Stripe 把收购动因归于奇点，作者认为背后是更现实也更有力的商业理由，原文未透露交易金额与条款。
TechCrunch · AIAI 评分3030 OpenAI 推出新客户隐私保护措施，对标 Anthropic
OpenAI 与 Anthropic 正围绕企业客户数据隐私保护展开竞争，OpenAI 推出了新的客户隐私保护措施，试图在这一领域压过 Anthropic。两家公司比拼的核心是谁能为企业客户数据提供更好的隐私保护。
TechCrunch · AIAI 评分3939 Cognition CEO 否认 SpaceX 曾试图收购该公司
Cognition CEO 否认了有关 SpaceX 曾洽谈收购这家 AI 编程初创公司的报道。SpaceX 此前已收购 Cursor，正加速追赶 OpenAI 和 Anthropic 等企业级 AI 领域的竞争对手。
TechCrunch · AIAI 评分3131 AI 本该赢得人心，但至今未能如愿
随着 AI 越来越难以回避，消费者对这项技术的警惕心反而上升，硅谷正发现广泛采用并不等于被接受。
TechCrunch · AIAI 评分4242 Google 在搜索和 Gemini 中推出面向学生的新学习工具
Google 在搜索和 Gemini 中上线面向学生的新学习功能，意在让 Gemini 成为学生学习时首选的 AI 助手，并借此与 OpenAI 等公司继续竞争。
TechCrunch · AIAI 评分3939 研究人员称 OpenAI 撤销其受限网络安全项目访问权限
多名研究人员称，OpenAI 已撤销他们对 Trusted Access for Cyber 项目的访问权限。该项目原本向受信任的防御方提供更强的模型，用于向企业报告漏洞，以便缺陷更快得到修补。
TechCrunch · AIAI 评分3434 这家初创公司帮华尔街为 AI 算力定价
Silicon Data 正帮华尔街为 AI 算力定价，让企业能对冲算力价格波动带来的风险。随着每年数千亿美元投入数据中心和 GPU，算力已成为 AI 产品开发者的最大单项成本，但目前仍缺乏直接的算力定价方式。
TechCrunch · AIAI 评分2727 TerraPower 核反应堆为 AI 数据中心供电的秘密武器
TerraPower 的核电站相比竞争对手握有一项战略优势，尤其在争夺数据中心订单时更为明显。该优势被视为其为 AI 数据中心供电的"秘密武器"，但原文未披露具体技术细节。
TechCrunch · AIAI 评分6464 Amazon 在美国 Fire TV 上免费开放 Alexa+，无需 Prime 订阅
Amazon 在美国所有兼容的 Fire TV 设备上免费开放 AI 助手 Alexa+，无论用户是否订阅 Prime，都会自动为现有用户升级。
TechCrunch · AIAI 评分3030 Calendly 推出会议笔记工具，加入会议记录赛道
Calendly 正式进军会议笔记工具领域，同时发布了一款名为 Callie 的会议日程安排助手。此举使 Calendly 加入竞争日益激烈的会议记录与日程管理市场。
TechCrunch · AIAI 评分1919 AI 距离治愈癌症还有多远？这家初创公司说关键在于数据
针对"AI 能否治愈癌症"的讨论，一家初创公司认为 AI 目前远未接近治愈癌症，真正的瓶颈在于数据。该公司称，明确所需的数据条件才是推进 AI 医疗应用的关键。
TechCrunch · AIAI 评分4949 Cursor 推出代码托管平台，对标 GitHub
以 AI 代码编辑器闻名的 Cursor 推出全新代码托管平台，直接对标开发者长期青睐的 GitHub。此举正值开发者对 GitHub 不满情绪升温之际，Cursor 试图借此切入代码托管市场。
TechCrunch · AIAI 评分5353 Hugging Face 泄露事件后，OpenAI 新增开发监控与后训练安全措施
OpenAI 在 Hugging Face 泄露事件后引入新的安全措施，包括在模型开发过程中进行更细致的监控，并在后训练阶段更加重视对齐与安全。
TechCrunch · AIAI 评分5656 Etched 估值一个月内翻倍至 $21B，Jane Street 领投新一轮
Etched 的估值在一个月内翻倍至 $21B。Jane Street 已部署 Etched 首批出货的 AI 集群系统，并领投了该公司新一轮大规模融资；Etched 方面称 Jane Street 对其系统印象深刻。
TechCrunch · AIAI 评分2020 苹果带摄像头的 AirPods 为何可能不会成为消费者担心的“偷拍豆”
苹果泄露的带摄像头 AirPods 可能通过禁止用户拍摄照片和视频，避开其他 AI 可穿戴设备的隐私陷阱。
TechCrunch · AIAI 评分3434 Warp 推出 Warp Factories，开箱即用的 AI 开发软件工厂系统
Warp 发布 Warp Factories，一套旨在让构建 AI 软件工厂尽可能简单的新型基础设施系统。该系统主打开箱即用，面向 AI 开发场景。
TechCrunch · AIAI 评分5555 OpenAI 推出面向青少年的安全版 ChatGPT
OpenAI 推出 ChatGPT for Teens，加入年龄适配的安全措施、家长控制和学习工具。该版本意在引导青少年远离有害内容，同时避免他们用 AI 在作业中作弊。
TechCrunch · AIAI 评分4747 Perplexity 印度免费 AI 活动结束后用户数仍增数百万
Perplexity 在印度的免费 AI 活动结束后，用户数仍增加数百万，印度营收在新用户优惠终止后上涨约 60%，尽管下载量有所下降。
TechCrunch · AIAI 评分7575 Anthropic 年化收入飙升至 650 亿美元
Anthropic 的年化收入已升至 650 亿美元，两个月内增加 180 亿美元。TechCrunch 报道了这一收入数据。
TechCrunch · AIAI 评分3737 AI 自动化初创公司 Relay 关停，团队加入 Google Chrome 团队
AI 自动化初创公司 Relay 已关停，其员工加入 Google 的 Chrome 团队。Relay 创始人兼 CEO Jacob Bank 表示，团队有"非常雄心勃勃的计划"，将帮助用户在 Chrome 中借助 AI 完成工作，更多细节将很快公布。
TechCrunch · AIAI 评分2626 Amazon 销毁珍本图书用于训练 AI
Amazon 正在销毁珍本图书，将其用于大语言模型训练。由于 LLM 已把网上可获取的内容训练殆尽，珍本图书对训练 LLM 极具价值。