跳到正文

全部动态

今日 18 条
9月20日周日
9月19日周六
  1. ByteByteGo36

    每位软件工程师都应了解的 API 概念

    ByteByteGo 发布 API 概念速览,指出多数工程师日常调用 API,但设计可靠的 API 更复杂。内容涵盖 HTTP 方法、状态码、请求与响应格式等基础细节,以及 REST、GraphQL、gRPC、webhooks、WebSockets 的适用场景,并涉及命名、分页、版本控制、错误响应、向后兼容、API keys、OAuth、JWT、超时、重试、幂等性、限流、缓存、文档与契约测试。

9月17日周四
  1. jietang61

    唐杰称,由 GLM-5.3 驱动的基础设施智能体用两周时间让 GLM-5.3-Flash 从首次在国内加速器上运行到承接全部生产流量,端到端吞吐提升 3.2 倍。

    引用Z.ai@Zai_org

    We’re sharing how GLM-5.3 helped build and optimize the inference infrastructure serving GLM-5.3-Flash. The system went from its first successful run to production readiness in less than two weeks, with end-to-end throughput tripling relative to the initial baseline. The key was dense feedback: local correctness tests, execution traces, microbenchmarks, and end-to-end measurements that enabled targeted hypothesis testing rather than reliance on aggregate performance metrics alone. https://z.ai/blog/glm-built-its-inference-infrastructure

  2. GitHub Blog · AI & ML78

    GitHub 用 Copilot 将 Copilot agent runtime 迁移到 Rust

    GitHub 用 Copilot 智能体将 Copilot agent runtime 从 TypeScript 完整重写为 832,378 行生产 Rust,共 128 个 PR,于 8 月 21 日完成。

    推荐理由:作者以第一手移植经历拆解了 AI 智能体团队完成大规模重写的具体策略、会话数据和教训,方法细节对类似工程迁移有直接参考价值。

  3. OpenRouter Announcements67

    OpenRouter 教程:用 TypeScript SDK 构建可靠的工具调用 Agent 循环

    OpenRouter 发布教程,演示如何用其 TypeScript SDK 从零构建工具调用 Agent 循环,示例使用本地天气数据可独立运行。教程覆盖停止条件设计、按 toolCallId 返回结果、指纹计数拦截重复调用、models 参数实现有序模型回退,以及 Auto Exacto 默认按工具调用成功率重排提供商;并说明 MCP 只改变工具执行位置,循环控制仍是必要的。

    推荐理由:教程给出了完整的停止条件、重复检测和模型回退实现,可用作自建 tool-calling 循环的参考骨架。

9月16日周三
  1. ByteByteGo52

    LLM 如何在海量文档中找到关键信息:RAG 检索链路详解

    ByteByteGo 详解 LLM 应用中的检索问题,以员工询问航班取消后酒店报销为例,说明 RAG 如何从数千份文档中找到正确且仍然有效的政策条款。文章覆盖 chunking 粒度权衡、嵌入向量的语义匹配、余弦相似度等度量选择、Flat/IVF/HNSW 索引的速度与召回权衡、元数据过滤的先筛后筛取舍,以及政策更新时的版本切换和混合检索加 reranking 的最后优化步骤。

9月15日周二
  1. ByteByteGo59

    ByteByteGo 图解 LLM 的记忆机制:模型本身不会记住对话

    ByteByteGo 发文解释 LLM 为何在新会话中忘记此前对话:模型本身没有持久记忆,记忆错觉由围绕模型的应用通过重建上下文实现。文章区分训练记忆、上下文窗口工作记忆和外部持久记忆,分析上下文填满后的处理方式与长对话成本,并介绍滑窗、对话摘要、结构化实体抽取、向量库检索和长期用户画像等扩展记忆的技术。

9月14日周一
9月13日周日
  1. LangChain Blog66

    LangChain 发布付费广告 Agent 并开源,分享构建经验

    LangChain 开源其 Paid Media Agent 并复盘构建过程,该 Agent 驻留 Slack,用于管理跨五个付费渠道的广告活动。六个月内付费媒体从 0 做到占营销管道的 20%,CPL 从 6 月到 8 月下降 30%。

    推荐理由:原文给出了 Agent 工程的具体设计决策和成本数据,读者可以迁移其上下文分层和权限设计方法到自己的 Agent 项目。

9月12日周六
  1. ByteByteGo32

    为什么 Git revert 会产生冲突?

    git revert 不重写历史,而是新建一个提交来撤销早先提交的改动,因此当后续提交修改了同一批代码行时就会触发冲突。例如 C2 添加功能、C3 又改了这些行,撤销 C2 便会与 C3 的改动相撞,Git 无法判断哪个版本正确。解决方式是运行 git revert C2,在冲突处暂停后手动修改文件、暂存并继续,最终生成一个干净撤销 C2 且保留 C3 的新提交。

9月11日周五
  1. OpenRouter Announcements45

    OpenRouter 解读零数据保留(ZDR)对 AI API 意味着什么

    OpenRouter 发文解释零数据保留(ZDR):AI 提供商处理完提示词并返回响应后不再存储,但数据仍会到达提供商并由模型处理。在 OpenRouter 上可通过账户设置、guardrails 或请求中的 provider.zdr 字段强制启用 ZDR,该策略仅覆盖提供商侧推理留存,应用日志、插件工具及响应缓存需另行控制。

9月10日周四
9月9日周三
  1. ByteByteGo58

    智能模型路由如何把 LLM 成本降低约 10 倍

    ByteByteGo 讲解智能模型路由,按请求难度把简单任务分给小模型、复杂任务分给强模型,算例显示 85% 请求走小模型、10% 走中等、5% 走强模型时平均成本约为全用强模型的 11%,接近 10 倍节省。文章覆盖小模型当路由器、级联先用便宜模型再校验升级、语义路由、基于真实数据的 learned routing,以及欠路由、过度路由、用户操纵路由规则等常见失败方式。

9月8日周二
9月4日周五
  1. GitHub Blog · AI & ML60

    GitHub Copilot app 新手教程:如何同时运行多个 agent 会话

    GitHub 官方博客发布面向新手的教程,介绍如何在 GitHub Copilot app 中同时运行多个 agent 会话。每个会话可运行在独立的 Git worktree 上互不干扰,各自保留上下文,用户通过 sessions 视图追踪进度,教程以 tailspin-toys 仓库演示了并行添加功能、无障碍审查和运行测试的做法。

    推荐理由:官方教程讲清了并行 agent 会话如何借助 Git worktree 隔离运行,读者可以照着示例直接上手尝试。