速览

  • 根据OneTrust于9月发布的报告（调查了1250名IT领导者），随着AI风险日益清晰，企业正将更多资源投入治理领域。
  • 98%的企业计划在下一财年增加治理预算，平均增幅预计为24%。在“高级AI采用”的IT领导者中，86%表示已发现可见性、协作和政策执行方面的缺口。
  • 企业也在投入更多时间进行风险缓解。调查显示，IT领导者今年管理AI风险的时间增加了约37%。超过五分之四的企业将AI风险视为推动治理实践现代化的关键因素。

深度洞察

尽管AI带来诸多潜在益处，但首席信息官（CIO）无法忽视其风险。企业正围绕治理和防护措施优化战略。

“如同组织内的许多其他运营环节，在保护AI时，你必须建立第一道、第二道和第三道防线，”安永美洲区AI与数据负责人Traci Gusher对CIO Dive（CFO Dive的姊妹刊物）表示，“这种全面的政策、价值体系、技术流程、控制点以及参与其中的人员，才是负责任地管理AI时真正稳健的表现。”

企业已依赖多种机制来改进风险缓解，例如人机协同监督、数据访问限制以及通过可信技术提供商使用AI。美国国家标准与技术研究院（NIST）去年发布的建议也帮助企业在早期阶段取得了进展。

分析师指出，随着AI技术成熟和企业分析潜在风险，完善治理将是一个持续迭代的过程。

一些CIO还采取更为审慎的方法来优先排序AI项目。

“如果你只是批准所有项目……成功的几率会低得多，”标普全球市场情报451 Research的高级分析师Greg Macatee表示。

尽管一些“死胡同式”的AI项目不可避免，但未能缓解风险会带来代价。根据Infosys 8月份的报告，几乎所有高级管理人员都表示，其企业因使用企业AI而遭遇至少一次“问题事件”，主要导致直接财务损失。平均而言，企业在两年期间报告了80万美元的损失。

CIO们正面临压力，需要帮助企业穿越这片崎岖且未知的领域。AI采用已改变了技术领导者治理的内容和方式，但OneTrust首席创新官Blake Brannon表示，随着进一步调整的需求，保持警惕至关重要。

“尽管AI项目以前所未有的速度推进，但传统的治理流程仍以昨日之速运行，”Brannon在伴随该报告的新闻稿中表示。