跳到正文
原文
inclusionAI Hugging Face models· inclusionAI·· 18 天前AI 评分47

inclusionAI 发布 Llama-3.2-1B-Instruct-singprobe 流式安全探针

inclusionAI/Llama-3.2-1B-Instruct-singprobe

AI 导读

inclusionAI 推出 SingProbe,一个基于 meta-llama/Llama-3.2-1B-Instruct 的流式安全探针,复用基座模型隐藏状态,在每个 token 上对查询意图、回复不安全和幻觉风险打分,仅增加不到 0.5% 解码开销。

来源:inclusionAI Hugging Face models · huggingface.co