跳到正文

Hacker News

来自 Hacker News 的 AI 新闻与讨论

当前显示全部 AI 相关新闻
28,670 条AI 相关新闻 · 最新在前
6月14日周日
  1. Hacker News33

    如何在 4 张 RTX 3090 上运营每月 6 美元不限量 AI 服务

    一位开发者以每月 6 美元、2 个生成槽位、128k 上下文、不限 token 与速率的方式提供不限量 LLM 服务,最初在 AMD MI300x 上因未测试最终配置导致模型死循环、大量用户流失,后转用 2 张、再扩至 4 张 RTX 3090 托管 qwen 才恢复运营。运行约一个月,uptime 约 98%,目前接近覆盖电费与托管成本,盈亏平衡点在于迁至云端跑满 MI300x。