面向 AI 原生团队的多租户 GPU 集群设计指南

Together AI 发布多租户 GPU 集群设计指南，提出共享基础设施加租户隔离的两层架构，通过统一 GPU 资源池、专属节点与凭证、按租户计费来兼顾利用率与隔离性。平台需在调度器层面按 GPU 数量、总花费或预留时长设置硬配额，支持提前预订与冲突检测，并允许超额时自动溢出到按需公共费率。配置应在预订时按需指定编排层、CUDA 驱动版本、共享内存与存储卷，避免强制默认值。