速览

  • SentiLink首席执行官Naftali Harris表示，当前许多软件反欺诈措施难以应对日益增长的深度伪造及其他诈骗威胁。
  • Harris在近期于拉斯维加斯举行的Money20/20金融科技大会的小组讨论中称：“一个不太光彩的秘密是，并非所有反欺诈控制措施都那么有效。”他认为，即便部署人工智能防御，反欺诈的未来也并非特别乐观。
  • Harris预测，未来20至30年，“诈骗和账户接管将变得严重得多”。他说：“我们中的许多人都会落入这类骗局，因为它们将极具迷惑性。这是一个我们尚未正视的世界。”

深度洞察

据反钓鱼平台开发商Keepnet Labs称，在众多诈骗类型中，利用AI生成的语音和视频进行的深度伪造钓鱼攻击数量激增，且越来越难以识别。Keepnet数据显示，深度伪造文件数量从2023年的50万件飙升至去年的800万件，每起深度伪造相关事件给企业造成的平均损失接近50万美元。此外，2023年检测到的深度伪造事件数量是2022年的10倍。

Oscilar首席执行官Neha Narkhede在小组讨论中表示：“深度伪造仍处于新兴阶段——尚未泛滥成灾。”她预测这类攻击将“成为主流”。她补充道：“我们在实际中看到的，是深度伪造从一次性冒充演变为持续性合成身份的早期但明确的迹象。”

Narkhede在讨论中透露，今年Oscilar的一家加密货币客户注意到看似理想的用户增长：数百个账户以小额交易起步，随后逐步加大提款规模。“孤立来看，一切似乎都正常，但当这些信号汇聚到一个统一平台时，情况就截然不同了。”她说，“这些账户存在相似的GPU指纹、几乎相同的TLS签名以及匹配的视频编码模式。这些都表明，它们很可能由同一个自动化堆栈创建。”此外，交易的模式和速度是协调一致的，而非“有机”的。“事实证明，这是一个典型的由深度伪造驱动的合成网络。”她总结道。

Harris指出，深度伪造欺诈者及其他不法分子并不缺乏可利用的个人数据，这些数据源自网络安全漏洞。“过去已经发生了太多数据泄露事件，我实际上认为，额外的身份信息泄露并不会给欺诈者带来比他们已拥有的更多的优势。”他说。

Narkhede预测，有效对抗欺诈将依赖于人类与AI的协作。她表示，人类“将指导AI代理——AI副驾驶将承担繁重工作，同时不将人类排除在决策循环之外”。她进一步指出：“当AI代理开始代表我们进行交易时，我认为身份的概念本身将从‘你是谁’转变为‘什么在代表你进行交易’。”