WebLLM：高性能浏览器内 LLM 推理引擎

WebLLM 是一个高性能的浏览器内 LLM 推理引擎，项目已在 GitHub 开源。该引擎让大语言模型推理直接在浏览器中运行，无需依赖服务端。