Cohere Model Vault 机密计算详解：如何构建可验证的机密 AI 推理

Cohere 深入解析 Model Vault 机密计算的工作原理，该功能已在 Microsoft Azure 的 NVIDIA H100 GPU 上开启公测。系统在机密虚拟机内运行模型服务，用 OHTTP 加密请求载荷，并通过远程证明让客户端在发送敏感数据前验证目标环境，验证失败即拒绝发送。文章同时说明剩余信任边界，不防物理与侧信道攻击、拒绝服务和提示词注入等应用层风险，并计划开源机密推理栈。