虚拟座谈会：机器时代的安全——专家解读 AI 威胁的演变

多位安全专家在虚拟座谈会上指出，提示词注入、越狱和间接提示注入是当前最常见且危害最大的 AI 攻击方式，攻击者无需攻破模型，只需将恶意指令植入模型摄入的不可信内容即可劫持代理行为。AI 增强的大规模社会工程学攻击同样破坏力巨大，生成式 AI 使攻击高度个性化且可规模化，深度伪造语音已能诱导高管批准付款或重置账户。专家强调，AI 安全工程师需从代码安全扩展到数据、模型和代理安全，并掌握对抗性思维。