Agent安全

AI安全的威胁变了｜现在最危险的不是黑客，是Agent本身 这次C3安全大会上，有一句话被反复提到： 安全的核心威胁，不再只是"坏人攻击"，还多了一层——AI自己犯错。 第一次听到这句话，你可能觉得这在说幻觉，在说模型的错误率。但它指向的是一个更深的问题：当Agent拥有高权限、能自主执行、行为带有随机性，“AI自己犯错"的后果，和普通软件出bug完全不在一个量级。 ...