快览

  • 一项基于全球272位AI专家估算的研究表明，到2030年，失控或被武器化的人工智能有10%的概率导致100万人死亡、至少1000亿美元损失或其他“灾难性危害”，其中金融业尤为脆弱。
  • 该研究由MIT FutureTech与昆士兰大学联合开展，指出金融领域部署的AI可能通过增强市场操纵、欺诈、网络攻击、计算机破坏和隐私侵犯等能力，引发大规模损失。
  • 研究人员表示：“即使采取务实的缓解措施，危险能力、武器与网络攻击、权力集中、不平等与失业以及环境危害，仍有超过10%的概率导致灾难性后果。”即便有缓解努力，“专家们仍认为在24个‘风险领域’中，灾难性结果的概率超过5%。”

深度分析

MIT与昆士兰大学的这项发现，与近年来其他研究相呼应，这些研究对AI给人类带来的风险发出警报，引发了公众反对，并推动了监管方面的初步行动。

例如，在2022年的“存在性风险说服锦标赛”中，AI专家估计AI导致人类灭绝的概率为3%。

根据MIT/昆士兰的研究，AI最大的风险在于，到2030年它可能获得大规模欺骗、武器开发、公众操纵、政治滥用和网络攻击等能力。

研究还指出，其他重大风险同样不容忽视，包括在“AI竞赛”中，国家或公司为获取优势而急于部署未经充分检查错误或安全威胁的系统的可能性。

恶意行为者可能利用AI发起网络攻击，或制造化学、生物、放射性或核武器，研究称。

AI可能集中权力和资源，导致其利益分配不均和社会不平等，或者可能无意中生成虚假或欺骗性信息，扭曲人们的观念，引发身体、情感或物质伤害，研究指出。

研究人员表示，削弱AI风险的努力面临一个障碍——AI用户和利益相关者比拥有减少风险权力的AI开发者、监管者、立法者和标准制定者更容易受到各种威胁。

“计算、云和数据基础设施的提供者在很大程度上免受AI的许多风险影响，”他们说。

这种脆弱性差距造成了“在解决最重要AI风险方面的激励错位”，研究称。

“即使是已充分理解的风险，当责任分散、与能力不匹配或与承受伤害者脱节时，也可能持续存在，”研究人员说。

此外，“评论人士指出，新兴的监管格局更像是一块拼凑物，而非协调一致的框架，尚不清楚政府应优先处理哪些风险，”他们补充道。