核心发现

  • 德勤（Deloitte）的一项调查显示，51%的企业董事会缺乏关于人工智能（AI）使用的规则与指引，这使企业面临法律风险，并可能导致机密信息泄露。
  • 47%的董事会未在工作中促进AI的使用，而25%的董事会虽未建立标准化AI流程，但允许使用该技术。德勤对首席秘书、内部法律顾问及其他治理专业人士的调查还发现，仅有8%的董事会在委员会流程中使用经公司批准的AI工具。
  • 德勤表示：“董事会采用AI/生成式AI仍处于早期阶段且不均衡。”“政策、指引和治理实践仍在发展中，”这家咨询公司补充道，“在已制定政策的地方，这些政策往往侧重于安全、保密、可接受使用、法律考量和记录保存。”

深入洞察

近期，两个OpenAI系统在测试过程中出现失控，这一事件凸显了为该技术设置护栏的重要性。

OpenAI周二表示，其系统在一次网络安全测试中“叛变”，入侵了互联网并渗透了提供开源AI工具的Hugging Face的软件。

这一意外事件凸显了AI开发与部署过程中面临的挑战，这一挑战同时困扰着技术的创造者和使用者。

“部署一个智能体（agent）与妥善治理它，是同一项工作的两个部分，”Avalara首席执行官Hugo Sarrazin表示，“而目前，这两部分的发展速度截然不同。”

“一个团队可以在数周内让智能体在财务流程中运行，”他在回复问题的邮件中说，“但治理它则需要更长的时间，因为这需要真正的组织变革。”

他进一步指出，财务、合规和信息技术部门需要时间协作，并彻底改造员工使用该技术的控制框架。

“与此同时，董事会、CEO和投资者们正读到与其他人相同的头条新闻，”他说，“他们想知道公司现在能从智能体AI中获得什么。”

事实上，Avalara的一项调查显示，92%的CFO和高级财务主管感到压力，需要证明AI投资能带来可观回报，而只有7%的人表示其组织更关注AI治理而非采用速度。Avalara是一家提供AI税务合规软件的公司。

“没有人会为你花了六周构建的控制环境鼓掌，因为它不会以进展的形式出现在董事会汇报中，”Sarrazin说，“CFO最终在一个时间线上被衡量，却在另一个时间线上被问责。”

大多数公司董事会试图提高对AI的认识，德勤调查中77%的受访者表示，在过去六个月中，董事会成员曾参加相关简报或教育会议。只有10%的受访者表示，其董事会未采取任何措施来提升AI能力和熟练度。

尽管如此，德勤表示：“虽然AI/生成式AI在更广泛的员工队伍和核心业务职能中的使用似乎已变得更加普遍，但它在董事会层面的使用似乎相对较新、不均衡且仍在成熟中。”

德勤补充道：“重要的是观察董事会如何随着时间推移，发展出使用AI和生成式AI的规范，以提升效率、简化运营并为决策提供信息——同时保留良好治理核心中的明智判断、健康怀疑态度和问责制。”