为（通用）人工智能的未来制定情景规划

Source details

Canonical URL

为（通用）人工智能的未来制定情景规划

Other formats

• Markdown version
• Structured JSON version
• Bundle manifest

Bibliographic details

• Authors: ANTON KORINEK
• Published: December 20, 2023

概要与背景

• 人工智能（AI）正迅猛发展，并在近几年加速进步。ChatGPT于2022年11月发布，能够生成堪比人类产出质量的文本和代码、无缝翻译各种语言、编写创意性内容并使用丰富的信息回答问题。
• 用于训练最尖端AI系统的计算资源（或简称“算力”）在过去十年中每六个月翻一番。
• 领先的生成式AI模型已经能够显著提高世界一流顾问、程序员甚至经济学家的生产率（Korinek，待发布）。

关于AI加速发展的猜想与不确定性

• 关键转变示例：杰弗里•辛顿（Geoffrey Hinton）认为通用人工智能（AGI）可能会在5到20年内成为现实。
• 存在显著分歧：一些研究人员预测快速加速，另一些持怀疑态度。关键不确定性还涉及智能的本质和人脑能力的上限。
• 两种关于人脑可执行任务复杂性的观点（图1所示）：
  • 观点一：人脑解决更复杂任务的能力是无限的——延续工业革命以来自动化拓展并重新分配劳动力的模式（与图1小图1一致）。
  • 观点二：人脑可执行任务的复杂性有一个上限——信息论视角下人脑作为计算实体的生物学限制（与图1小图2一致）。
• 如果第二种观点成立，现代AI系统可能迅速迎头赶上并超越人脑，部分原因是AI系统能以明显更快速度交换信息。

三种政策制定者应关注的技术情景

• 情景一（保守，维持现状）：
  • AI提升生产率并实现一系列认知工作任务的自动化，同时为受影响劳动者创造新的机会，平均而言这些新工作比被取代的工作生产效率更高（对应图1的小图1）。
• 情景二（进步，在20年内实现AGI）：
  • 在未来20年里，AI逐渐发展为AGI，能在该时期结束时具备执行所有人类工作任务的能力，从而使劳动贬值（Susskind，待发布）。该情景假设AI需要20年才能完成最复杂的认知任务（对应图1的小图2）。
• 情景三（激进，在5年内实现AGI）：
  • 与情景二类似，但时间表为5年内实现AGI及其对劳动的所有相关影响。
• 作者估计这三种情景中的每一种都有超过10%的概率会成为现实。

宏观经济模型分析（Korinek 和 Suh（2023））与主要结论

• Korinek和Suh（2023年）使用研究自动化的主流宏观经济模型，分析三种情景对产出和工资的影响（图2摘要）。
• 主要结论（三点）：
  • 第一：在保守“维持现状”情景下，经济增长沿过去几十年的轨迹发展；但在两种AGI情景下，产出增长要快得多，因为劳动力的稀缺性不再是产出制约因素。
  • 第二：在所有三种情景下，工资最初都会上涨——但仅限于劳动力稀缺的时期。当经济接近实现AGI时，工资暴跌。
  • 第三：在两种AGI情景中，产出的大幅增长和工资的暴跌由同一力量驱动：稀缺的劳动力被相对更丰富的机器所取代。这表明可以设计制度来补偿劳动者收入损失，并确保AGI产生的收益实现共享繁荣。
• 注释与限制：
  • 图2应被理解为可能性的解释，而非精确预测。
  • 模型基于“劳动获得有竞争力回报的高效经济”的假设。
  • 一系列非技术因素可能减缓AGI推出，包括组织摩擦、监管法规、芯片供应链瓶颈以及社会性选择（例如保留某些“怀旧”工作如牧师、法官或立法人员）。

政策建议与监测指标

• 风险管理与情景规划原则：
  • 采用投资组合方法：不要将所有政策押注于单一情景，做好风险对冲并为多种可能结果准备应急计划。
  • 对现有经济与金融政策框架在每种情景下进行压力测试，并在必要时改革以确保充分性和韧性。
  • 委托专家团队进行迭代情景规划，定期评估各种情景发生概率的变化。
• 具体政策工具与改革方向（示例）：
  • 渐进性措施：改革税收制度和扩大社会保障体系。
  • 新计划：引入小额基本收入制度，并在必要时扩大其规模。
• 建议监测的先行指标（互为补充）：
  • 技术基准指标：衡量AI系统在执行各种劳动任务时的表现。
  • 流入AI开发的投资水平：对研发、人才和计算机芯片的投资。
  • AI技术在整个经济中的采用率：各部门AI采用率上升的指标。
  • 宏观经济和劳动力市场趋势：生产率统计数据和劳动力市场的趋势最终反映宏观影响。

结论要点

• 由于未来AI发展存在深刻不确定性，应采取适应性、基于情景的方法来拥抱不确定性：
  • 通过情景压力测试和迭代规划，最大限度地从AI持续发展中获益，同时降低相关风险。
  • 设计能够补偿劳动者损失并实现利益共享的制度，是应对AGI带来高产出与低工资并存情形的关键。

Source: International Monetary Fund — 为（通用）人工智能的未来制定情景规划, 安东 • 科里内克, 2023年12月, https://www.imf.org/zh/publications/fandd/issues/2023/12/scenario-planning-for-an-agi-future-anton-korinek