AI 智能体该运行多久,Tomer Tunguz 提出 24 小时日重置方案
How Long Should an AI Agent Live?
阅读原文
本站未展示全文,请前往来源网站阅读。
AI 导读
Tomer Tunguz 主张日常助理智能体只活 24 小时,具体任务交给只运行约 30 秒的单一用途子智能体。他认为长会话会让注意力衰减、把临时指令变成永久规则,并带来跨会话记忆投毒等安全风险,文中引用了 arXiv 与 Chroma 的相关研究。午夜清空前的整合步骤由离线摘要器把持久偏好写入 preferences.md,而 Grok Bot 等产品目前并不会自动执行这种睡眠周期。
来源:Tomer Tunguz · tomtunguz.com