AI News
··VentureBeat AIAI代理安全危机:54%企业已遭遇事故,多数仍允许代理共享凭证
一项针对107家企业的调查显示,AI代理的安全防护严重滞后于其部署速度。超过半数(54%)的企业已遭遇确认的代理安全事件或险些发生的事故,其中18%为确认的入侵事件,36%为及时拦截的险情。然而,仅有约三分之一(32%)的企业为每个代理分配了独立的、范围限定的身份凭证,大部分代理仍在共享API密钥或人工账户凭证。更令人担忧的是,只有30%的企业将高风险代理隔离在沙箱中,以限制潜在攻击的破坏半径。调查还发现,企业当前的安全工具主要依赖模型提供商(如OpenAI的护栏功能占比51%)和云服务商的原生控制,而专门为代理安全设计的解决方案采用率极低。尽管事故频发且防护漏洞明显,企业对现有安全工具的平均满意度却高达4.2分(满分5分),但这种“虚假的舒适感”可能难以持久:近六成(59%)企业计划在未来一年内更换或新增安全工具。安全预算投入依然不足,多数企业(46%)仅将安全预算的6-10%用于代理安全,而34%的企业投入低于5%。调查结果表明,企业正面临一个严重的“代理安全鸿沟”——代理的自主性远超身份管理、隔离和强制控制机制的建设速度,这可能导致下一次险情演变为真正的灾难。
一项针对107家企业的调查显示,AI代理的安全防护严重滞后于其部署速度。超过半数(54%)的企业已遭遇确认的代理安全事件或险些发生的事故,其中18%为确认的入侵事件,36%为及时拦截的险情。然而,仅有约三分之一(32%)的企业为每个代理分配了独立的、范围限定的身份凭证,大部分代理仍在共享API密钥或人工账户凭证。更令人担忧的是,只有30%的企业将高风险代理隔离在沙箱中,以限制潜在攻击的破坏半径。调查还发现,企业当前的安全工具主要依赖模型提供商(如OpenAI的护栏功能占比51%)和云服务商的原生控制,而专门为代理安全设计的解决方案采用率极低。尽管事故频发且防护漏洞明显,企业对现有安全工具的平均满意度却高达4.2分(满分5分),但这种“虚假的舒适感”可能难以持久:近六成(59%)企业计划在未来一年内更换或新增安全工具。安全预算投入依然不足,多数企业(46%)仅将安全预算的6-10%用于代理安全,而34%的企业投入低于5%。调查结果表明,企业正面临一个严重的“代理安全鸿沟”——代理的自主性远超身份管理、隔离和强制控制机制的建设速度,这可能导致下一次险情演变为真正的灾难。
