CFO需警惕的七大AI应用风险

编者按：本文是探讨CFO将人工智能融入公司运营所面临潜在风险与收益的两篇系列报道中的第二篇。

谈及人工智能即将带来的影响，CFO和技术专家们往往不吝使用最高级的形容词，将其描述为比蒸汽机、电报和大型计算机更具颠覆性的技术。

“它的影响力已经变得不亚于甚至超过互联网繁荣期，”流程自动化提供商Nintex的CFO Burt Chao在采访中表示，他将这种变化速度形容为“模糊不清”。

据国际数据公司（IDC）预测，今年全球AI基础设施支出将增长53%，达到4870亿美元。IDC表示，相关支出未来五年的复合年增长率约为31%，到2029年将超过1万亿美元。

“现在不是分析瘫痪的时候，”行为数据公司Fullstory的CFO Chad Gold表示，“事情发展得太快了。”

“这并不意味着你应该敞开支票簿，到处撒钱，”他在采访中说，“但你应该比以往任何时候都更愿意让团队去尝试。”

技术专家和高管们表示，AI应用的挑战比以往任何技术都更能考验CFO的灵活性和判断力。

高昂的财务和竞争风险也要求CFO仔细评估AI的风险，财务高管和技术专家指出了以下七项隐患：

1. 投资回报率低或为零

在许多公司，AI带来的回报速度落后于技术投资。

根据普华永道1月发布的针对95个国家4454名CEO的调查结果，超过半数（56%）的CEO表示，他们在过去12个月内没有从AI中获得收入增长或成本降低。（仅有30%报告收入增长；仅有26%报告成本下降。）

然而，麦肯锡指出，在AI应用领先者中，潜在回报是显而易见的。

麦肯锡表示，其中20家此类公司将EBITDA提高了20%，在24个月或更短时间内实现盈亏平衡，并且每投资1美元能产生3美元的增量EBITA。

麦肯锡称，这些AI领先者专注于不超过三个业务领域，对客户和AI用户保持“狂热”关注，并坚持对KPI负责。

安永在上月发布的一项调查中发现，大多数CFO（71%）认为常见的ROI指标不适合衡量AI和其他新兴技术的收益。

安永表示，传统的ROI框架无法准确衡量未来的、间接的或无形的收益，包括决策改进、预测准确性和运营敏捷性。

根据安永的说法，CFO将受益于定性指标，例如AI如何改善定价、简化供应链或解放财务人员，使其专注于更高附加值的任务。

Gold表示，CFO同样需要耐心。

“你在AI中学到的是，你必须愿意在前端投入时间，”他说。

“第一次训练AI可能比亲自完成任务花费的时间更长，”Gold说，“但如果你方法得当并投入时间，长期回报将非常可观。”

技术专家和财务高管表示，对贸然推进AI心存疑虑的CFO可以从试点项目开始，或建立合作伙伴关系以分散风险。

“你可以通过与服务提供商达成协议来分担ROI风险，将他们的报酬与您实现的收益挂钩，”Protiviti全球CFO解决方案和业务绩效改进负责人Christopher Wright在采访中表示。

2. 机构知识流失

技术专家和CFO表示，依赖AI收集和分析数据可能会侵蚀员工通过多年解决核心业务问题（包括财务规划、客户关系管理和风险管理）所获得的知识。

“如果让AI来做这些，那是危险的，因为突然间所有的人力资本都消失了，”Gold说，他指出，从小使用GPS长大的人往往不知道如何使用纸质地图。

Gold说，CFO可能会将预测自动化，“但您如何取代您的团队通过构建该预测所获得的知识——他们对业务的了解以及他们一路走来所做的改变？”

Wright表示，机构知识和良好判断力的潜在流失是确保对AI进行密切人工监督的几个原因之一。

“你希望它有一定自主性，但你必须始终有人工判断和复核，”Wright说，“最典型的例子——您不希望代理做出最终付款决定，但您也不希望手动录入发票。”

3. 治理缺失或不足

许多C级高管担心内部AI代理会失控，将专有数据广泛传播，暴露于网络攻击的漏洞，或向客户承诺不存在的福利或服务。

然而，技术专家和CFO认为，最大的威胁来自人类自身。

“最大的风险不是流氓模型，”ModelOp首席执行官Dave Trier表示，“而是当今大多数企业运行的‘家庭作坊式’模式，每个团队都以不同的方式构建和部署AI，没有共享标准，”他在电子邮件中说。

AI安全平台Salt Security的CFO Kfir Lippmann同样认为“影子代理问题”是AI带来的最大隐患。

“组织内的各个团队正在独立部署AI代理，将它们连接到内部系统、客户数据和财务工作流程，而无需中央监督或预算批准，”他在电子邮件中说，“这些是在正常治理流程之外做出的真实运营和财务承诺。”

Lippmann援引云安全联盟的一项调查称，在过去一年中，五分之四的组织（82%）发现了他们不知道其存在的内部AI代理。“这些代理中的每一个都是运营中未列入预算的项目风险，也是潜在的合规责任。”

Wright表示，良好的AI治理始于CFO提出基本问题：企业资源规划等系统是否与AI兼容；该技术能否与公司数据交互；员工是否具备操作代理的技能和工具；该技术是否会增加网络攻击的风险；公司董事会是否准备好并能够与AI互动？

客户关系管理软件提供商Pipedrive通过让来自安全、合规、技术和隐私部门的团队审查AI采购提案来加强治理，CFO Regi Vengalil表示。该团队每周召开两次会议，主要评估来自产品工程和营销人员的提案。

“过去几周，我们一直在研究如何能更快地推进，同时保持适当的约束，”他在采访中说。

4. 数据缺陷

技术专家和财务高管表示，如果AI没有准确、及时且易于访问的数据作为支撑，其应用可能会放缓或停滞。

“有些人期望把垃圾变成金子，”Chao说，“最终，它可能会被证明是愚人金。”

技术专家和财务高管表示，清理数据可能代价高昂。

“我们的核心问题是：如何将大部分旧代码和架构迁移到更灵活、更敏捷的架构中，以适应未来的发展？”Vengalil说。

“这对我们来说是最大的机遇，”他说，同时也指出了在不投入过多时间和金钱的情况下发现数据弱点的挑战。

技术专家和CFO表示，确保对数据进行人工监督至关重要，并指出AI虽然擅长快速解决问题，但也可能迅速制造问题。

“拥有一个可观测的流程非常重要，”Chao说，“如果你没有真正监控中间的所有步骤，或者没有能力检查它们，那么错误传播的风险确实可能会失控。”

Wright表示，由于AI仍处于早期阶段，许多技术存在“教育差距”，需要人工帮助。

“在您训练AI模型之前，拥有机构记忆的人的经验判断可能比AI模型更好，”他说，“机器尚未学会它需要学习的东西。”

5. “黑箱”可信度低

技术专家和CFO表示，从干净数据中得出但缺乏清晰推理逻辑的AI洞察可能缺乏说服力，并让C级管理层感到沮丧。

“您可以想象一个从我们这里获得建议的用户——如果他们不理解我们观点的来源，他们就不会信任它，”Vengalil说。

“它不能是一个黑箱，我们必须为用户提供合理的可追溯性，”他说，以便客户能够看到支持建议理由的数据。

Chao表示，一个无法解释的AI发现往往是至少几个不透明洞察的混合体，需要解开。“大问题往往是小问题的组合。”

Wright表示，财务部门应警惕依赖AI进行预测，这是容易受到黑箱问题影响的高风险输出类别。

“没有哪个财务组织会使用AI来做预测——它不具备他们拥有的判断力，”Wright说。

AI可以帮助加快信息收集、格式化以供分析，并提供预测洞察的初稿，他说。“但最终您必须进行事实核查，确保您处理的是真实数据而非想象的数据。”

6. 应对繁杂的法规合规

Protiviti在一项全球调查中发现，CFO和广大财务高管将数据安全和隐私列为AI应用中的第一大风险。

部署AI的公司正进入一个复杂的AI监管环境。

CFO和技术专家表示，防范此类风险并非易事。各国政府已颁布了重叠且相互冲突的AI法规，使数据隐私、网络安全、知识产权和其他主要漏洞的合规工作变得更加复杂。

Wright表示，为了简化AI应用，CFO及其C级同僚需要让律师以及合规和网络安全专家参与决策。

Wright在采访中表示，这些专家将帮助确定公司中谁应负责确保合规，并规划员工培训或聘请外部专家。

“合规、法律和安全专家需要嵌入到产品构建中，”Pipedrive的CFO Vengalil说。

在多个国家运营的客户关系管理软件提供商Pipedrive必须确保与客户的通话记录符合隐私法规，CFO Vengalil表示。

“我们正在思考技术加速带来的所有复杂动态，”他说，“我们不想走得太远，然后在发布时才发现无法推出。”

7. 员工恐惧与抵触

技术专家和CFO表示，员工对AI应用的反应通常有两种：要么将其视为对工作的威胁而抵制，要么将其视为提升技能和跟上创新步伐的机会而欢迎。

“存在失去那些不想创新或害怕这如何发展的人的风险，”Chao说。

AI顾问兼美国AI协会董事会成员Elizabeth Ngonzi表示，AI应用的倡导者通常从上而下推动部署，而没有充分听取财务、运营或人力资源部门一线员工的意见。

“最终您会自动化有缺陷的工作流程，固化过时的假设，或部署无人信任或使用的工具，”她在电子邮件中说。

“财务风险表现为沉没的实施成本、停滞的采用率，以及‘PPT上的AI’而非日常决策中的AI，”她说。

技术专家和CFO表示，解决方案是与各级员工保持开放和协作。

“您需要带动人们，确保您倾听他们的意见，了解他们对这个问题的希望和恐惧，以及这些如何与您设定的路径保持一致，”Chao说。