构建可信AI：企业应聚焦AI就绪性与鉴证体系

人工智能正帮助CFO及其财务团队提升效率与生产力，而更广泛组织中的AI机遇则更为巨大。

“从宏观层面看，有数十亿美元的机遇有待释放，”KPMG美国全球及美国可信AI负责人Bryan McGowan表示，“然而，这一宏观机遇如何转化为各组织的具体机会，将取决于其利用该机遇所采用的策略与方法。”

要释放最大价值，AI策略需植根于信任与准确性。

在财务及其他关键业务环境中，那些通常能保护数据并产生准确输出的AI工具与流程并不足够。真正有用的AI系统必须始终如一地提供准确答案、负责任地管理数据，并遵守隐私与数据保护法规。人工监督对于确保可靠性以及符合法律、道德、风险与监管标准至关重要。

制定可信AI策略，并以AI就绪性与鉴证措施作为支撑，是降低风险并借助AI驱动长期影响的关键。

从可信框架出发

将AI应用于财务及其他业务环境会引入风险，从幻觉、偏见与不准确（针对个别生成式AI解决方案），到数据泄露带来的安全风险及长期声誉损害。

随着AI在现有及新用例中的采用激增，这些风险预计将不断增长。

“总体而言，财务领域仍处于代理式AI工作流与代理主导系统的早期阶段，”KPMG美国审计转型负责人Brian Fields表示，“组织的一大担忧是，随着代理变得无处不在，管理所有这些代理、确保它们以正确方式运行并具备适当安全性，将变得非常困难。”

拥有可信AI基础可解决这一担忧。在AI语境中，信任涵盖可靠性、安全性、保障、隐私、可持续性、可解释性、数据完整性、透明度、公平性与问责制等考量——这正是KPMG在内部及与客户合作中遵循的可信AI框架的十大支柱。

验证AI声明与控制

企业能在上述十大考量中获得对其可信AI基础信心的关键方式之一，便是AI鉴证。

“AI鉴证是指第三方提供商介入，独立验证组织在治理层面以及应用或系统层面的行为是否符合可信AI的要求，”Fields表示。

AI鉴证还涉及验证组织围绕其AI系统所设控制是否按预期运作，以及其关于治理计划或AI系统安全性、保障性与可靠性的声明是否属实。

鉴证还为组织提供了获得第三方认证的机会，例如ISO/IEC 42001国际标准。

通过鉴证确认财务AI系统具备适当控制，有助于CFO确信AI带来的效率与生产力提升并非以牺牲数据安全或质量为代价，也不会给组织带来其他高风险。

“大多数组织正在AI转型之旅中投入大量资金，”McGowan表示，“其CFO正在寻求验证：第一，他们是否以负责任的方式利用AI转型，且未使组织暴露于风险之中；第二，他们是否从AI投资中获得价值或投资回报，以及是否值得继续推进。”

迈向可信AI的第一步，以驱动影响

在组织推进AI之旅时，无论是刚刚起步还是推进现有AI计划，成功之路在于优先构建可信AI。对于早期采用者，这意味着从受控实验开始，建立治理结构并实施人在回路的控制。对于更成熟的组织，则需采用更复杂的治理与监控系统，以维持有效的控制与监督。

AI在商业中的未来已清晰可见：向更自主的AI系统及AI融入工作流的转变。要成为这一未来的一部分，企业必须立即行动。它们可从对AI系统进行彻底测试与验证、制定负责任地指导AI开发的治理策略，以及考虑对AI鉴证进行初步投资以增强对AI系统的信心入手。

AI的潜在价值巨大，从提升生产力、降低成本到通过数据洞察解锁新收入流。利用AI从数据中提炼洞察，并利用这些洞察识别更好吸引客户的方法，只是从数据中解锁新价值的一种方式。然而，只有以可信AI为核心，才能安全可靠地实现。正如Bryan McGowan所言：“当你从价值角度审视AI时，治理——以及由此延伸的信任与鉴证——变得更加重要。它不仅是支出项或成本杠杆，更是组织改进AI系统、更好理解和衡量AI为业务带来价值的机遇。”通过拥抱可信AI，组织不仅能降低风险，还能驱动长期影响，实现AI投资的全部潜力。

如需了解更多关于KPMG以负责任和道德方式设计、构建、部署及使用AI策略与解决方案的战略方法及框架，请点击此处。