人工智能的机遇与风险

Source details

Canonical URL

人工智能的机遇与风险

Other formats

• Markdown version
• Structured JSON version
• Bundle manifest

Bibliographic details

• Authors: HERVE TOURPE
• Published: December 20, 2023

概述

• 生成式人工智能（GenAI）代表机器学习技术的重大进展，能够理解和处理复杂数据模式，释放新的创造力和生产力，同时提出重要的伦理和治理问题。
• 作者：埃尔维 • 图尔佩（HERVE TOURPE），IMF数字顾问部门负责人。
• 出版：2023年12月，金融与发展。

技术演进（里程碑）

• 1950年：艾伦 • 图灵在论文中首次设想机器达到类似人类智能的可能性（“模仿游戏”概念）。
• 上世纪60年代：ELIZA 程序能够产生近似人类的回应，为现代聊天机器人的前身。
• 二十年后（约1980年代）：人工神经网络出现，为理解语言细微差异和图像识别等能力奠定基础，但受限于训练数据和计算能力。
• 2000年代：数据与算力每年都在翻倍，为“深度学习”第三波人工智能铺平道路。
• 2014年：生成对抗网络（GANs）提出，使用“生成器”和“鉴别器”两相竞争的神经网络来提高模拟真实数据的能力。
• 2017年：提出论文“注意力就是你所需要的一切”，注意机制使机器更有效地理解输入信息中的相关部分。
• 2022年11月：ChatGPT 由 OpenAI 发布，标志着大型生成式对话系统的广泛出现。

在经济金融领域的应用与影响

• 传统人工智能已用于高级分析、机器学习和预测性深度学习，处理数字、判断市场趋势和定制金融产品。
• GenAI 的独特之处在于能够创造性地挖掘和解释复杂数据，生成备选情景、有见地的图表，并编写可能改变行业运营模式的代码片段。
• 政府和中央银行应用：
  • 各国政府使用GenAI改善公众服务并缓解劳动力短缺。
  • 中央银行认为GenAI可更好地筛选大量银行数据，完善经济预测并监测风险，包括诈骗风险。
• 私营部门应用：
  • 投资公司利用GenAI发现股票价格和市场情绪的微妙变化，为更有创意的投资策略铺平道路。
  • 保险公司探索使用生成模型创建个性化保单以更好满足个人需求和偏好。

风险与挑战

• 传统挑战被放大：训练数据中放大的偏见、决策透明度缺乏等问题在GenAI时代更加紧迫。
• 幻觉（hallucinations）：GenAI 可能生成毫无意义或不真实的事实，例如在无意中传播错误信息。
• 武器化与虚假信息：
  • GenAI 能讲述高度共鸣的故事，可能强化信息茧房和意识形态孤岛。
  • 2022年3月：一个AI生成视频展示乌克兰总统弗拉基米尔•泽连斯基向俄罗斯军队投降的伪造内容，说明GenAI可被用于操控政治、市场和舆论。
  • 合成文本、篡改图像和合成视频可能以以前所未有的效率传播错误信息、引发恐慌，甚至破坏经济金融系统。
• 就业冲击：GenAI 可自动化此前由人类完成的任务，可能导致大量失业，需要制定就业和再培训策略。
• 存在性风险：顶尖人工智能专家联名警告称：“降低人工智能给人类带来的生死存亡风险，应成为全球的一个优先事项，其应与大流行病和核战争等对整个人类社会产生威胁的风险相提并论。” 作者并援引艾伦 • 图灵关于“机器最终会掌控我们的生活”的历史性担忧。

政策建议与治理方向

• 密切监督GenAI 的发展及应用，认识其既带来巨大潜力又伴随深刻风险的双重特性。
• 建立全新的监管框架，聚焦于道德、透明、可控且与人类价值观相一致的创新。
• 制定就业与再培训策略，为因GenAI自动化而失业的人提供支持与转岗机会。
• 关注信息完整性与安全，防范GenAI在政治、市场与舆论领域的武器化及合成内容的滥用。

作者：埃尔维 • 图尔佩（HERVE TOURPE），金融与发展，2023年12月。