AI 聊天机器人按下 Enter 后到第一个字之间发生了什么？

在典型 LLM 中，一条消息要经过约十几个不同阶段才会开始输出回复，模型收到的并非用户原样输入的句子，而是临时拼装的一份文档，包含系统提示词、工具定义、记忆、检索文档和完整对话历史。模型本身无状态，每轮都要把历史重新完整发送，输入 token 随轮次累积，因此输入通常主导对话产品的总成本。