AI高成本落地：CFO需警惕的七大风险

编者按：本文是探讨CFO将人工智能融入公司运营所面临风险与收益的两篇系列报道中的第二篇。

CFO和技术专家在描述人工智能即将带来的影响时，往往倾向于使用夸张的词汇，将其称为比蒸汽机、电报和大型计算机更具颠覆性的技术。

“它已经变得和互联网泡沫时期一样大，甚至更大，”流程自动化提供商Nintex的CFO Burt Chao在采访中表示，他将变化的速度形容为“模糊不清”。

据国际数据公司（IDC）预测，全球AI基础设施支出今年将增长53%，达到4870亿美元。IDC称，未来五年该支出的复合年增长率约为31%，到2029年将超过1万亿美元。

“现在不是分析瘫痪的时候，”行为数据公司Fullstory的CFO Chad Gold表示，“事情发展得太快了。”

“但这并不意味着你应该打开支票簿，把钱扔向所有东西，”他在采访中说，“但你应该比以往任何时候都更愿意让团队去尝试。”

技术专家和高管认为，AI采纳的挑战比以往任何技术都更能考验CFO的灵活性和判断力。

高财务和竞争风险也要求CFO仔细评估AI的风险，财务高管和技术专家指出了七大隐患：

1. 低回报或无投资回报

在许多公司，AI带来的回报速度落后于技术投资。

根据普华永道（PwC）今年1月发布的针对95个国家4454位CEO的调查，超过一半（56%）的CEO表示，他们在过去12个月中没有从AI中获得收入增长或成本降低。（仅30%报告收入增加，仅26%报告成本下降。）

然而，麦肯锡（McKinsey）指出，在AI采纳的领先者中，潜在回报是明显的。麦肯锡称，20家这样的公司EBITDA增长了20%，在24个月或更短时间内达到盈亏平衡，每投入1美元产生3美元的增量EBITA。

麦肯锡表示，这些AI领先者专注于不超过三个业务领域，对客户和AI用户保持“狂热”关注，并坚持对KPI负责。

安永（EY）上月发布的调查发现，大多数CFO（71%）认为常见的ROI指标不适合衡量AI和其他新兴技术的收益。EY表示，传统的ROI框架无法准确评估未来、间接或无形的收益，包括决策改进、预测准确性和运营敏捷性。

EY认为，CFO将受益于定性指标，例如AI如何改善定价、简化供应链或释放财务员工以专注于更高附加值的任务。

Gold表示，CFO也需要耐心。“你在AI中学到的是，你必须愿意在前端投入时间，”他说，“第一次训练AI可能比完成任务本身花费更长的时间，”Gold说，“但如果你以正确的方式投入时间，长期回报是相当可观的。”

技术专家和财务高管表示，对AI持谨慎态度的CFO可以从试点项目开始，或建立合作伙伴关系以分散风险。

“你可以通过与服务提供商达成协议来分担ROI风险，将他们的报酬与实现的收益挂钩，”Protiviti全球CFO解决方案和业务绩效改进负责人Christopher Wright在采访中表示。

2. 机构知识流失

技术专家和CFO表示，依赖AI收集和分析数据可能会侵蚀员工通过多年解决核心业务问题（包括财务规划、客户关系和风险管理）所获得的知识。

“如果让AI来做这些，那是危险的，因为突然之间所有的人力资本都消失了，”Gold说，他提到那些在GPS环境中长大的人往往不知道如何使用纸质地图。Gold表示，CFO可能会自动化预测，“但如何取代你的团队通过构建预测所获得的知识——他们对业务的了解以及沿途所做的调整？”

Wright表示，机构知识和良好判断力的潜在流失是确保对AI进行密切人工监督的几个原因之一。“你希望它有一定自主性，但必须始终有人工判断和复核，”Wright说，“最典型的例子——你不希望代理做出最终付款决定，但也不希望手动输入发票。”

3. 治理缺失或不足

许多高管担心内部AI代理会失控，泄露专有数据，暴露网络攻击漏洞，或向客户承诺不存在的利益或服务。然而，技术专家和CFO表示，最大的威胁来自人类。

“最大的风险不是流氓模型，”ModelOp CEO Dave Trier说，“而是当今大多数企业运行的‘手工作坊’模式，每个团队以不同方式构建和部署AI，没有共享标准，”他在邮件中表示。

AI安全平台Salt Security的CFO Kfir Lippmann也认为“影子代理问题”是AI带来的最大风险。“组织中的团队独立部署AI代理，将其连接到内部系统、客户数据和财务工作流程，而无需中央监督或预算批准，”他在邮件中说，“这些是在正常治理流程之外做出的实际运营和财务承诺。”

Lippmann援引云安全联盟（Cloud Security Alliance）的调查称，过去一年中，五分之四的组织（82%）发现了他们不知道存在的内部AI代理。“每一个代理都是运营中未预算的项目风险，也是潜在的合规责任。”

Wright表示，良好的AI治理始于CFO提出基本问题：企业资源规划软件等系统是否与AI兼容？技术能否与公司数据交互？员工是否具备操作代理的技能和工具？技术是否会增加网络攻击风险？董事会是否准备好并能够与AI互动？

客户关系管理软件提供商Pipedrive通过由安全、合规、技术和隐私部门组成的团队审查AI采购提案来加强治理，CFO Regi Vengalil表示。该团队每周开会两次，主要评估来自产品工程和营销人员的提案。

“过去几周，我们一直在研究如何加快速度，同时保持正确的约束，”他在采访中说。

4. 数据缺陷

技术专家和财务高管表示，如果AI无法获得准确、及时且易于访问的数据，其采纳可能会放缓或停止。

“有些人期望把垃圾变成黄金，”Chao说，“但最终可能证明是愚人金。”

技术专家和财务高管表示，清理数据可能成本高昂。“我们的核心问题是：如何将大部分旧代码和架构迁移到更灵活、更敏捷的架构中，以适应未来的发展？”Vengalil说，“这是我们最大的机会，”他同时指出，在不投入过多时间和金钱的情况下发现数据弱点是挑战。

技术专家和CFO强调，确保对数据的人工监督至关重要，并指出AI虽然擅长快速解决问题，但也可能快速制造问题。“拥有可观察性的流程非常重要，”Chao说，“如果你没有真正监控中间的所有步骤，或者没有能力检查，那么错误传播的风险就会失控。”

Wright表示，由于AI仍处于早期阶段，许多技术存在“教育差距”，需要人工帮助。“在训练AI模型之前，拥有机构记忆的经验判断可能比AI模型更好，”他说，“机器还没有学会它需要学习的东西。”

5. “黑箱”可信度低

技术专家和CFO表示，从干净数据中得出的AI洞察如果缺乏推理透明度，可能无法令人信服，并让高管层感到沮丧。

“你可以想象一个从我们这里获得建议的用户——如果他们不理解我们的观点来源，他们就不会信任它，”Vengalil说，“它不能是一个黑箱，我们必须为用户提供合理的可追溯性，”以便客户看到支持建议理由的数据。

Chao表示，一个无法解释的AI发现往往是至少几个不透明洞察的组合，需要梳理。“大问题往往是小问题的组合。”

Wright表示，财务部门应警惕依赖AI进行预测，这是一个高风险输出类别，容易受到黑箱问题的影响。“没有财务组织会用AI来做预测——它没有他们拥有的判断力，”Wright说。AI可以帮助加速信息收集、格式化分析并提供预测洞察的初稿，“但最终你必须核实事实，确保你处理的是真实数据而非想象数据。”

6. 遵守众多法规

Protiviti的全球调查发现，CFO和广泛的财务高管将数据安全和隐私列为AI采纳中的第一大风险。部署AI的公司进入了一个复杂的AI监管环境。

CFO和技术专家表示，各国政府颁布了重叠且相互冲突的AI法规，使数据隐私、网络安全、知识产权等关键漏洞的合规变得复杂。Wright表示，为了简化AI采纳，CFO及其高管同事需要将法律、合规和网络安全专家纳入决策过程。这些专家将帮助确定公司中谁应负责确保合规，并规划员工培训或聘请外部专家，Wright在采访中说。

“合规、法律和安全专家需要嵌入产品构建中，”Pipedrive CFO Vengalil说。Pipedrive是一家在多个国家运营的客户关系管理软件提供商，必须确保与客户的通话记录符合隐私法规，Vengalil表示。“我们正在思考技术加速带来的所有复杂动态，”他说，“我们不想走得太远，然后在发布时发现无法推出。”

7. 员工恐惧与抵触

技术专家和CFO表示，员工对AI采纳的反应通常有两种：要么将其视为对工作的威胁而抵制，要么将其视为提升技能和跟上创新的机会而欢迎。

“有一种风险是失去那些不愿创新或害怕变革的员工，”Chao说。

AI顾问、美国AI协会（American Society for AI）董事会成员Elizabeth Ngonzi表示，采纳的倡导者通常自上而下推动部署，而没有充分听取财务、运营或人力资源部门一线员工的意见。“最终你会自动化破碎的工作流程，固化过时的假设，或部署无人信任或使用的工具，”她在邮件中说，“财务风险表现为沉没的实施成本、停滞的采纳，以及‘幻灯片上的AI’而非日常决策中的AI。”

技术专家和CFO表示，解决方案是与各级员工开放合作。“你需要带动人们，确保倾听他们的意见，了解他们对AI的希望和恐惧，以及这些如何与你设定的路径保持一致，”Chao说。