AgentShield:用四重检查阻止 AI 智能体无监督花钱
应届毕业生推出 AgentShield,在 AI 智能体发起支付前用四重检查拦截风险支出:Redis 做额度与重复交易检查、Postgres 做供应商与金额策略检查、Claude Haiku 负责语义匹配与目标漂移判断,前两项硬拒时不会调用 Claude,后两项通过 asyncio.gather 并行执行,最终返回 SAFE、SUSPICIOUS 或 MALICIOUS。
来自 Hacker News 的 AI 新闻与讨论
应届毕业生推出 AgentShield,在 AI 智能体发起支付前用四重检查拦截风险支出:Redis 做额度与重复交易检查、Postgres 做供应商与金额策略检查、Claude Haiku 负责语义匹配与目标漂移判断,前两项硬拒时不会调用 Claude,后两项通过 asyncio.gather 并行执行,最终返回 SAFE、SUSPICIOUS 或 MALICIOUS。
一位开发者展示了用本地 LLM Gemma 4 e2B 生成 Clojure 代码的方案,通过 JSON AST 作为中间表示来约束代码生成。该方案在本地运行,无需调用云端 API。
Google DeepMind 的 Demis Hassabis 认为,企业以 AI 为由裁员是愚蠢的做法。该观点来自 Hacker News 上的一篇讨论帖,目前获得 4 分、暂无评论。
IBM 将其最先进的 AI 驱动安全产品组合推向客户。原文未披露具体产品名称、版本号或性能数据。
开发者发布 Show HN 项目,通过绕过 AWS Lambda 的 4KB 限制来运行 polyglot AI 智能体。该方案针对 Lambda 环境对代码包体积的约束,使多种语言编写的 AI 智能体得以部署。
Codeep 是一款开源终端 AI 编程智能体,支持接入多家模型提供商。该项目以 Show HN 形式发布,目前获得 1 分、暂无评论。
美联社报道称,多所大学毕业典礼上,毕业生对涉及 AI 的励志演讲发出嘘声,报道把这一现象与围绕 AI 的焦虑情绪联系起来。
Korveo 是一款运行在用户电脑上、位于 AI 智能体与其工具之间的本地防火墙,可记录智能体的每一次工具和 API 调用、像飞行记录仪一样回放会话,并实时拦截数据泄露、连接恶意主机或跨会话混淆信息等行为。所有处理均在本地完成,无需云端、无需注册账号。目前其规则语言尚不完善、对部分框架兼容性有限,也不适用于测试已被完全攻陷的智能体。
Hacker News 上有人提问:随着 LLM 和编码智能体加速发现并利用漏洞,Linux 是否需转向微内核、unikernel 或硬件强制能力等方案来限制驱动及附属代码中 bug 的影响范围。提问者指出这些方案目前在主流 Linux VM / Container / VPC 生产栈中渗透有限,Linux 生态规模可能比性能更具决定性。
CrustAI 是一款面向 Telegram、WhatsApp 和 Discord 的自托管 AI 方案,通过 Ollama 在本地运行,无需依赖云端。该方案主打零云端架构,用户可在自有硬件上部署并接入上述三个即时通讯平台。
一篇题为《AI、"人性"与曼哈顿博士综合征:一场传播学干预》的文章在 Hacker News 引发讨论,目前获得 3 分、暂无评论。文章借"曼哈顿博士综合征"这一概念,从传播学角度切入 AI 与"人性"关系的讨论。
文章提出 AI 控制平面正从 Gateway 转向 Endpoint,认为 Gateway 模式已死、Endpoint 才是新的 AI 控制平面。原文未给出具体产品、版本或数据支撑。
开发者发布 Show HN 项目 Llama-dash,一个面向本地 LLM 的运维仪表盘与代理工具。该工具用于管理和监控本地运行的大语言模型,目前获得 1 分、暂无评论。
渣打银行 CEO 表示,AI 将取代"低价值人力资本"。该言论出自 Hacker News 上引发讨论的一则报道,目前获得 6 分、5 条评论。原文未披露更多关于岗位、时间表或具体 AI 系统的细节。
Patterns AI Field Guide 发布,定位为一份持续演进、用简明方式解释 AI 概念的参考指南。该内容在 Hacker News 上获得 3 分,暂无评论。
Anthropic 聘请 OpenAI 联合创始人、前特斯拉 AI 负责人 Andrej Karpathy。
audio.observer 在 Hacker News 的 Show HN 板块发布,用 AI 为新闻生成片头音效(news jingles)。该条目当前获得 2 分、0 条评论,正文未披露所用模型、参数或价格等细节。
一项名为 Vendergood 的项目尝试重建 1905 年的人造语言,并将其用于 AI 智能体认知。该语言最初由一位 1905 年的创造者设计,如今被重新挖掘以探索智能体的认知机制。相关讨论已在 Hacker News 上展开。
Edera 与 Minimus 宣布合作,声称能够保护软件免受 AI 黑客攻击。原文未披露具体技术方案、产品版本或性能数据。
Slopinator 是一种通过投毒 GitHub 仓库来攻击 AI 训练的方法。该话题在 Hacker News 上获得 8 分、6 条评论。
一篇讨论 AI 时代软件开发的文章在 Hacker News 引发关注,目前获得 1 分、0 条评论。原文未披露具体模型、工具或数据细节。
AI 帮助解决了一个存在数十年的几何难题。该成果被发布在 Hacker News 的 AI/LLM 板块,目前获得 2 分、1 条评论。
一位音乐行业高管在毕业典礼演讲中谈及 AI 时遭学生嘘声,他回应称"你们现在可以听我说,也可以以后付钱给我"。该言论在 Hacker News 上获得 29 分、12 条评论。原文未披露演讲者姓名、所属公司及演讲场合等具体信息。
一位开发者分享了自己手工打造咖啡应用的过程,并借助 AI 辅助开发。该帖在 Hacker News 上获得 1 分和 1 条评论。
一篇题为《Understanding, Analyzing, and Optimizing Agentic AI: A CPU-Centric Perspective》的文章从 CPU 视角探讨 AI 智能体的理解、分析与优化。原文未提供更多细节,暂无具体模型、参数或性能数据可引用。
一篇技术文章探讨用 AI 智能体自动优化 LLM 提示词缓存的 TTL 设置,以在成本与命中率之间取得更优平衡。原文未披露具体模型、参数规模或性能数字,仅给出文章与评论链接,暂无评论。
Hacker News 上一则题为"AI is too expensive"的讨论获得 93 分、70 条评论,围绕 AI 使用成本过高展开。原文未提供更多细节。
Hacker News 上发起讨论「Ask HN: State of Photonic (AI) Computing」,聚焦光子计算在 AI 领域的当前进展,目前获得 5 分、1 条评论。
一项调查显示,五分之一的英国人认为 AI 导致的裁员可能引发社会动荡。该话题在 Hacker News 上获得 4 分、1 条评论。
一位创业者就 AI 成本管理(FinOps)发起调研,起因是另一位做真实规模 AI 产品的创始人称"公司现在根本不在意 AI 的 FinOps,成本问题排在很后面",这与他从其他人那里听到的说法相矛盾。他提出三个问题:过去 6 个月 AI 账单是否让你意外、金额和原因是什么;"削减 AI 成本"是否在团队前五大优先事项中;以及"AI 更便宜"和"AI 在生产中更少出错"二选一会先为哪个付费。
Autodidact 是一个自进化的本地优先 AI 智能体,可通过 `pip install autodidact && autodidact init` 安装并初始化。该项目在 Hacker News 的 Show HN 板块发布,强调智能体的自我进化与本地运行特性。
一款名为 AI Efficiency Score 的新工具在 Hacker News 上发布,用户粘贴任意 GitHub 仓库链接即可在几秒内获得评分。该工具目前获得 2 分、0 条评论,具体评分维度和技术细节尚未披露。
Arbiter 是一个面向 Swift 的统一 AI 运行时,支持智能提供商路由。该工具旨在让 Swift 开发者通过统一接口调用不同 AI 提供商,并根据情况自动路由到合适的后端。目前原文未披露具体支持的提供商、模型版本或性能数据。
渣打银行计划削减逾7000个岗位,并通过加大AI采用来替代低价值人力资本。路透社报道了这一消息。
Hacker News 用户发起讨论,询问写代码首选哪个 LLM。发帖人称自己一直用 Gemini 3.1 Pro,但认为其编程能力最多算平庸,在处理约 600 行 JS 文件时会每修一个 bug 就引入一个新 bug,并称看到不少对 Claude Code 和 Codex 的好评。
一项实验让两个 AI 智能体走完整个招聘流程,结果没有任何一方被录用。该实验以招聘漏斗为场景,观察 AI 智能体在求职与筛选环节中的表现,最终双方均未达成雇佣结果。
Hacker News 上出现 Civilization 4 AI Survivor 相关条目,目前仅 2 分、0 条评论,正文未提供更多细节。
一篇题为《Socrates Warned Us About AI》的文章将苏格拉底的古老警示与当下 AI 发展联系起来。原文未提供更多可核验的模型、产品、参数或评测细节,仅可确认其讨论主题为 AI 及其潜在风险。
一篇讨论指出,AI 编程最常用的语言同时也是成本最高的。原文未给出具体语言名称、成本数字或对比数据,仅提供了标题与讨论入口。
一项研究探讨如何用集体智能提升 AI 辅助化学合成。原文未披露具体模型、参数规模或评测数据,仅给出文章与评论链接,暂无评论。