简要洞察

  • 网络安全行业普遍关注AI如何帮助黑客更快分析漏洞、编写更精良的恶意软件，但一份新报告指出，AI对企业领导层的模仿能力提升同样影响深远。
  • 安全公司Outtake于6月4日发布的报告显示，今年超过半数（53%）的组织曾遭遇针对高管或基层员工的冒用攻击。
  • 报告同时发现，四分之三的受访企业仅进行有限的冒用监测，或仅在攻击发生时被动应对。

深度分析

AI生成逼真假媒体的能力，为企业对抗冒用骗局开辟了“第二战场”。Outtake在基于1100多名网络安全与风险管理领导者调查的报告中指出，AI生成的深度伪造内容已使企业领导层的身份冒用变得更为隐蔽和危险。

报告显示，近半数（47%）企业“已遭遇经确认或疑似的高管或品牌代表合成媒体冒用事件”。此外，企业将AI生成的攻击视为其防冒用策略中最大的可见性盲区。

“人是暴露面最大、防护最薄弱的攻击面。”Outtake在报告中强调。然而，仅有43%的企业会针对高管开展身份伪造模拟演练，以识别潜在的重大冒用风险。

在智能体技术方面，企业的AI威胁防护准备同样不足。Outtake发现，企业普遍未能有效监督和保护这些智能体，这放大了智能体劫持攻击的风险，可能损害企业声誉或财务安全。仅4%的企业表示已对AI智能体实施全面监控与控制。

报告举例说明：财务部门的一个AI智能体收到一封看似普通的付款查询邮件，但邮件内嵌隐藏代码，覆盖了智能体的原始编程，迫使其向不受信任的第三方泄露信息。

“该智能体现处于一个新的信任边界：一只脚在不可信的外部世界，另一只在可信的内部系统。”Outtake指出，“植入的指令跨越了这条边界。”

报告还发现，治理碎片化是企业面临的另一大弱点。21%的企业中，没有任何团队专门负责评估和管理数字信任风险；18%的企业由安全运营中心负责，13%由欺诈与安全团队负责，11%由威胁情报团队负责。超过60%的企业表示，其数字信任风险管理活动呈现碎片化和孤岛化状态。