Loading component...
Less than a minute(0 words) Read
科幻作家艾萨克·阿西莫夫（Isaac Asimov）的机器人原则为金融领域人工智能提供了一种伦理指引
Loading component...
比亚焦 • 博索内（Biagio Bossone）是若干国际组织、政府机构和金融机构的高级顾问。
文章和其他材料中所表达的观点均为作者个人观点，不一定反映IMF的政策。
科幻作家艾萨克·阿西莫夫（Isaac Asimov）的机器人原则为金融领域人工智能提供了一种伦理指引
文章和其他材料中所表达的观点均为作者个人观点，不一定反映IMF的政策。
清晨7点45分，在一家中央银行的操作室内，几块屏幕上闪烁着以不同颜色标示的金融体系图。来自数千家银行、经纪商和支付处理机构的隔夜数据已由一个监测流动性的人工智能模型完成分析。在一家支付活动突然下降的银行旁边，一个小红点开始闪烁。分析人员抬起头来。机器检测到了异常——这也许是一次短暂的错误，但也可能是压力初现的信号。
这样的时刻如今已成为全球各大金融中心的日常。人工智能已成为全球金融的“无声伙伴”——其已被嵌入了信用评分、欺诈识别、算法交易甚至货币分析之中。它存在于每一笔交易的后台，在浩瀚的数据海洋中扫描人类肉眼无法识别的模式。
其前景令人炫目：更快的洞察、更早的预警、更高效的市场。然而，其风险同样巨大。人工智能快速而协调的反应可能产生人类社会中并不存在的系统性动态，包括无人控制的反馈循环。一套系统既可以使金融更加高效，也可能增加其脆弱性。
我们如何确保这种新的智能服务于金融体系而不是削弱它？耐人寻味的是，答案或许蕴藏在一个来自科幻小说的古老理念之中。
阿西莫夫的法则
20世纪40年代，艾萨克·阿西莫夫设想由三条简单原则约束智能机器人：它们应避免伤害人类；在不造成伤害的前提下服从合法指令；并在遵守前两项更高义务的同时，保护自身的运作。他后来又提出了“第零定律”，要求机器人维护全人类的整体利益。
如今，金融体系面临着类似的挑战。机器学习模型日益影响着谁能够获得信贷、如何调整投资组合，以及监管机构如何识别风险。它们影响着信息如何流动，以及整个经济中的价格如何调整。
经金融监管语境重新诠释，阿西莫夫的层级原则成为了金融领域人工智能的一种伦理准则：首先，它不应对金融稳定或消费者权益造成损害；它应在不损害公平或安全的前提下遵循机构职能；它应在不逃避问责的情况下维护自身的韧性。最重要的是，它应服务于“维护金融赖以存在的信任”这一更高目标。
然而，将其类比为阿西莫夫的法则时必须保持谨慎。人工智能系统并无道德指南针。生成式的特性使其能轻易绕开那些被广泛接受的原则。现实世界的失败案例表明，硬编码的约束是脆弱的。
不造成损害
一家大型商业银行永远不会真正“关门”。其系统跨越不同时区持续运作，处理交易、更新敞口，并扫描可能存在欺诈或压力的异常情况。然而，错误仍然会发生。人工智能可能误读模式，继承历史偏见，或强化市场信号，从而加剧波动性。
阿西莫夫关于“不造成伤害”的告诫具有操作层面的意义：防止损害的义务不仅是为了保护消费者，也是为了维护整个体系的稳定。这需要严格的测试、健全的数据治理，以及至关重要的可解释性——因为当算法无法为其决策作出说明时，依赖该算法的机构同样无法作出解释。当前的人工智能模型无法解释其推理过程；它们只能生成事后性的叙述。这使可解释性成为了一种制度性要求，而不仅仅是技术性要求。
人工智能的宏观金融影响可能十分显著。当算法以机器速度对新信息作出反应时，价格调整和流动性变动会比人类主导的市场更为剧烈也更加同步。诸如2010年“闪崩”等事件表明，自动化系统可以在政策制定者干预之前对市场产生重大影响。
如今的环境更加复杂。人工智能不仅反应更快，而且反应方式不同。其内部逻辑不仅加快了信息与行动之间的反馈循环，还对其进行了重塑。人工智能驱动的模型以相互强化的方式影响着信贷定价、资产配置和风险溢价。当这些模型因对信号作出相似解读或其优化过程趋于一致而集体调整策略时，可能会影响经济冲击的传导以及中央银行的政策反应。
服从与判断
服从性被内嵌于人工智能之中。它会优化被赋予的任何目标——利润、准确性或合规性。但在金融领域，盲目服从是危险的，因为其中的权衡取舍会同时涉及道德问题和技术问题。一个旨在将违约率降至最低的信贷模型，可能通过排除全部高风险群体来实现这一目标，这会加剧不平等而不是有效管理风险。一个以收益最大化为目标的交易算法可能极其高效地利用微观价格信号，以至于对市场稳定构成威胁。
人工智能的应用本身可能是正当的。然而，它们必须始终作为工具，而非决策者。它们应当辅助判断，而不是取代判断。货币政策、金融监管和危机管理都需要人类的裁量。模型不能主导这些职能，尤其是在它们基于历史数据训练、无法预测新的冲击时。而且，由于人工智能会改变预期，它可能削弱政策赖以发挥作用的传统信号传导渠道。人类也会犯错；常言道，政策制定者往往最擅长应对上一次危机。问题不在于机器会失败还是人类会失败，而在于二者必须共同学习——各自都意识到对方的盲点。
尽管充满代码与运算，金融仍然是一项人类事业。判断力、同理心和责任感无法被自动化。因此，中央银行、监管机构和金融机构不仅必须培养数据素养，还必须培养伦理素养。人工智能可以增强监督能力，但治理仍然是一项道德任务。
韧性与问责
自我保护法则在现实中会转化为韧性。人工智能系统必须在压力下可靠运行，机构也必须对其算法承担责任。
技术层面的韧性意味着冗余设计、开展监测以及测试极端情景。制度层面的韧性意味着开放性：即使涉及专有代码，监管机构也应能够审计人工智能的决策。这要求具备验证和质疑企业人工智能模型的技能与工具。
国际清算银行（BIS）的创新中心已开发出原型工具，帮助监管者分析大规模数据集并识别出异常情况。这些工作前景可期，且其基本原则十分简单：如果某一算法会影响金融稳定，它就应当接受监管审查。
保密滋生脆弱。当模型成为“黑箱”时，错误会在无人察觉的情况下累积。2008年全球金融危机提醒我们，缺乏透明度的复杂性终将导致崩溃。在数字形式方面，人工智能发出了同样的警示。
此外，问责还延伸至治理层面。金融机构应设立人工智能风险官，类似于首席风险官或首席合规官，以确保算法具有可解释性和可审计性。监管机构也必须提升人工智能素养，以解读并质疑其所接收的输出结果。其目标不是减缓创新，而是使其更加安全、公平且可理解。
更高的法则
“第零定律”——不伤害人类——在现实世界中对应的是维护信任。信任是金融体系的无形基础设施。
如果人工智能因偏见、不稳定或缺乏问责而削弱这种信任，就会威胁整个体系的根基。但当与公共利益保持一致时，人工智能可以增强信任。它可以更快地识别欺诈，使监管更加主动，并为长期被排除在外的人群提供金融服务。
因此，人工智能的“更高法则”在于服务于货币的社会契约——强化信心、公平与稳定。凡是使用人工智能的机构，都应以“是否加强或削弱了这一契约”作为衡量标准。
人工智能的影响在新兴市场尤为明显——在这些市场中，数字金融迅速发展，而数据匮乏长期以来限制了信贷和公共服务的可及性。人工智能并非取代现有数字工具，而是通过从大型、非结构化数据集中提取传统模型无法解读的模式来放大这些系统的功能。
例如，在肯尼亚，诸如M-Pesa之类的移动支付生态系统生成了丰富的交易数据足迹，而这些信息越来越多地由基于人工智能的评分模型加以分析。一旦识别了相关的行为模式和现金流规律，贷款机构便能够为没有正式信用记录的借款人评估风险。这扩大了小企业家和此前未被银行覆盖人群的信贷可及性。在印度，数字身份系统和实时平台与机器学习工具相结合，旨在更精准地发放政府转移支付并扩大微型贷款的覆盖面。
但人工智能也可能固化排斥现象。数据贫困（即数据有限或存在偏见）意味着整个社区可能对算法变得“不可见”。如果女性、农村人口或非正规就业者在数据集里的代表性不足，那么他们在结果中的体现也会不足。
国际组织正在介入。IMF和世界银行正日益将数字金融和人工智能治理问题纳入其能力建设项目。
全球协调
人工智能的发展速度快于监管，其跨境传播也快于资金流动。但在法律体系逐步追赶、完善的过程中，政策制定者仍可在现有授权和法律框架内采取诸多行动。跨境协调对于防止割裂至关重要，并有助于在不断演进的国际最佳实践基础上形成全球性的金融人工智能监管框架。
金融稳定理事会、BIS以及IMF正在探索负责任人工智能的框架。一套全球原则——类似于银行业的《巴塞尔核心原则》——可以在保持灵活性的同时确保一致性。此类框架将强调公平性、可解释性、问责制和比例原则。
IMF可通过其监督工作和技术援助，帮助各国识别与人工智能相关的金融风险，分享最佳实践，并避免监管领域出现数字鸿沟。为此，它应吸引来自研究界和金融科技领域的专业人才。BIS可以建立一个监管算法资源库，使监管机构能够在开源模型方面开展合作。
世界银行及地区性开发机构可以通过在新兴市场建设人工智能能力和数字基础设施来补充这些努力。通过技术援助、政策对话和融资工具，它们可以帮助各国设计负责任的人工智能框架以促进普惠金融，强化数据治理，并将人工智能伦理标准纳入数字金融生态系统。
这些机构共同努力，可以确保人工智能的益处不只被发达经济体享有。其目标是实现“数字多边主义”：确保人工智能服务于所有经济体。没有一个国家能够单独应对这些变化。
人工智能金融法则
阿西莫夫的法则将道德复杂性提炼为清晰的优先顺序：保护人类；在一定的限度内服从；负责任地自我保护；服务于人类整体。在一个技术发展快于法律的时代，这种简洁性弥足珍贵。
真正的选择不在于是推动进步还是保持审慎，而在于是开展理性的治理还是盲目实现自动化——须牢记，即便机器在学习，责任仍需人类承担。金融的未来将越来越多地以代码书写。但其背后的原则必须始终保持人性的本质。一个将安全置于服从之上、将透明置于保密之上、将信任置于利润之上的体系，或许不能消除风险，但可以确保风险可控且符合道德。
如果中央银行、监管机构和金融机构采纳这些原则，人工智能就可能成为一种促进稳定的力量，而非变成脆弱性的来源。它可以促进普惠金融，加强监督，并增强货币体系的合法性。
这些原则同样必须通过国际合作加以巩固——确保人工智能所支持的金融体系不仅更加安全和公平，而且在全球层面更加协调一致。对于监管与政策而言，挑战在于确保当“智能”变得人工化时，“判断力”仍然真实存在。
机器正在学习。我们也必须如此。
Fair, Ray C. 2018. “Presidential and Congressional Vote-Share Equations: November 2018 Update.” Yale Department of Economics Paper, Yale University, New Haven, CT.
Goodman, Peter S., Katie Thomas, Sui-Lee Wee, and Jeffrey Gettleman. 2010. “A New Front for Nationalism: The Global Battle against a Virus.” New York Times, April 10.
© 2026 International Monetary Fund. All rights reserved.
