如何在 4 张 RTX 3090 上运营每月 6 美元不限量 AI 服务

一位开发者以每月 6 美元、2 个生成槽位、128k 上下文、不限 token 与速率的方式提供不限量 LLM 服务，最初在 AMD MI300x 上因未测试最终配置导致模型死循环、大量用户流失，后转用 2 张、再扩至 4 张 RTX 3090 托管 qwen 才恢复运营。运行约一个月，uptime 约 98%，目前接近覆盖电费与托管成本，盈亏平衡点在于迁至云端跑满 MI300x。