四大会计师事务所之一德勤（Deloitte）的澳大利亚分部近日因一份提交给澳大利亚政府的文件而受到公众审查，该文件被指包含大量由人工智能（AI）生成的错误内容。专家表示，这一涉及企业财务领域知名机构的事件，应成为所有在缺乏适当保障措施下使用AI工具的从业者的警钟。

“这一情况为财务专业人士敲响了关键一课：AI并非‘真相讲述者’，而是一种旨在提供符合你问题答案的工具，”美国财务专业人士协会（Association for Financial Professionals）FP&A实践总监布莱恩·拉皮德斯（Bryan Lapidus）在邮件中表示。该协会为财务从业者提供培训和认证。

据美联社报道，德勤澳大利亚向澳大利亚就业与劳资关系部（Department of Employment and Workplace Relations, DEWR）提交的报告最初于7月发布在该部门网站上。在发现原始版本包含错误（包括捏造的联邦法院判决引文和虚构的学术研究参考文献）后，修订版于本月早些时候发布。德勤澳大利亚同意部分退还澳大利亚政府为该文件支付的44万澳元（约29万美元），该文件审查了该部门用于自动化福利系统处罚的信息技术系统。

“德勤进行了独立保证审查，并确认部分脚注和参考文献不正确，”DEWR发言人在邮件中表示，并补充说审查的“实质内容”得以保留。该发言人表示，德勤已同意退还合同项下的最后一笔款项。德勤澳大利亚未立即回应置评请求。

悉尼大学研究员克里斯·拉奇（Chris Rudge）被指率先揭露了这些错误。据《澳大利亚金融评论》8月发表的一篇文章，他发现德勤的报告“充斥着引文错误”，引发了对报告可能由AI生成的担忧。

佐治亚理工学院谢勒商学院助理教授尼基·麦肯齐（Nikki MacKenzie）表示，这一事件提醒企业，AI“聪明但并非无懈可击”。“我们不断听到AI变得多么‘智能’，这可能会让人们过度信任它，”她在邮件中说，“无论是否有意识，我们开始过度依赖它。”

生成式AI聊天机器人等工具容易产生“幻觉”，即生成“无意义或完全不准确”的输出，据ChatGPT开发商OpenAI发布的解释性文章称。幻觉可能发生在AI模型基于包含偏见或非代表性数据的数据集进行训练时。AI工具也可能受到对抗性攻击，即恶意行为者通过微妙调整输入数据来操纵输出，该文章称。

毕马威（KPMG）4月发布的一项研究显示，近六成（59%）员工承认因AI错误而在工作中犯错。此外，约半数员工在工作场所使用AI时不知道是否被允许，超过四成（41%）员工“明知不当”地使用AI。研究发现。

专家表示，德勤事件虽然令人震惊，但不太可能导致AI采用暂停。“我相信企业会将其视为正常业务成本，”麦肯齐说，“就像员工会犯错一样，工具也会犯错。目标不是避免AI的错误——而是确保我们足够聪明，作为最终决策者去发现它们。”

德勤事件只是AI在各行业快速部署所带来风险的最新高调案例。1月，苹果公司暂停了一项用于摘要新闻提醒的AI功能，此前有投诉称该功能生成了虚假和不准确的信息。2023年，纽约一名联邦法官制裁了两名律师，他们提交的法律简报中包含由ChatGPT生成的虚构案例引文。

霍夫斯特拉大学会计学副教授杰克·卡斯通盖（Jack Castonguay）表示，德勤是他所知的第一个由AI生成虚构细节报告的大型会计师事务所。“这似乎只是时间问题，”他在邮件中说，“坦率地说，我很惊讶这件事在一家大型事务所发生花了这么长时间。”

麦肯齐表示，这一事件凸显了组织建立AI保障措施或内部控制以缓解幻觉等风险的必要性。“责任仍在使用它的专业人士身上，”她说，“会计师必须对工作负责，检查输出，并运用判断力，而不是复制粘贴系统产生的任何内容。”