核心发现

  • 普华永道（PwC）指出，在医疗、科技和金融服务等行业中，尽管企业正竞相投入生成式人工智能（AI）领域，但仅有58%的高管完成了对AI风险的初步评估。
  • 约四分之三（73%）的高管表示，他们已使用或计划使用AI（包括生成式AI），其中略多比例的企业旨在将该技术仅应用于运营系统，普华永道称。
  • “迟迟未将AI融入企业核心业务的公司，可能会发现自己落后太多，以至于难以追赶，”普华永道在描述其4月对1001名私营及公共机构高管的调查结果时表示。在拥抱这一前景广阔的新技术的同时，企业领导者已开始意识到“管理风险并保留这些解决方案所创造的增量价值”所面临的挑战。

深度洞察

世界经济论坛（World Economic Forum）表示，AI的快速发展已超出企业控制该技术商业风险的努力，该结论基于对大型企业和国际组织首席风险官（CRO）的调查。论坛在2023年7月的报告中指出，四分之三的CRO认为AI的使用对其组织声誉构成风险，而十分之九的CRO支持对该技术的开发和使用加强监管。近半数受访者认为，在AI风险得到更充分理解之前，应放缓或暂停AI的进展。

CRO向论坛表示，AI“不透明”的内部运作可能带来意外共享个人数据的隐患，或导致AI算法触发有偏见的决策。此外，论坛在《2024年全球风险报告》中指出，AI正日益成为制造虚假信息的强大工具。

“无需专业技能，易用的大规模AI模型界面已催生了大量伪造信息和所谓的‘合成内容’，从复杂的语音克隆到假冒网站，”论坛在1月表示。“未来两年，合成内容将以多种方式操纵个人、损害经济并撕裂社会，”论坛预测道。

美国总统乔·拜登（Joe Biden）去年年底签署了一项行政命令，旨在加速AI发展，同时保护消费者、工人和企业免受其潜在危害。根据该命令，先进AI系统的开发者必须向商务部报告AI安全测试结果及其他信息。此外，九个联邦机构已提交了关于AI在电网及其他关键基础设施中应用风险的评估报告。

英国科学、创新与技术部（Department for Science, Innovation and Technology）在5月的一份报告中指出，AI还加剧了企业面临的网络攻击威胁。该机构表示：“尽管AI技术已提升效率和生产力，但它们仍易受日益增多的安全威胁和漏洞影响。”该报告审视了“AI生命周期”的各个阶段——从设计、开发到部署和维护。

普华永道表示，遏制AI风险是一项长期努力。“这是一项持续的承诺，需要融入AI技术开发、部署、使用和监控的每一步。”