对话蚂蚁吴伟：训推一体池化调度如何把 GPU 用到极限

蚂蚁集团容器调度团队负责人吴伟提出，把训练与推理两个资源池打通做训推一体池化调度，让任务在波峰波谷间流动，以提升 GPU 利用率。他指出提升利用率存在硬件和业务 SLO 两层天花板，软件优化接近硬件极限后仍需靠扩容，而国产卡的主要差距不在单卡算力，而在 CUDA 全链路生态。