AI治理的基本要点

Source details

人工智能（AI）将带来突破性的科学进步、前所未见的技术机遇、破坏民主的有害错误信息以及经济上的巨大变动，并对全球力量结构和平衡引发根本性变化。
各国政府须为快速演进的新技术建立新规范，降低潜在风险，并在涉及不同地缘政治主体利益时实现高度协调，包括与战略竞争国家和对手国家的协调，并与私人部门广泛互动。
2023年世界各地立法者开始忙于制定治理AI的监管框架：日本推动“广岛进程”；联合国成立AI高级咨询机构；二十国集团峰会呼吁负责任的、以人为本的AI治理框架；欧盟提出建立类似“政府间气候变化专门委员会”的AI风险监测机构；11月英国主办全球首个聚焦AI安全风险的首脑峰会。
在美国，AI监管被视为“时间问题”，而非“要不要监管”的问题，展现出两党在此问题上的罕见共识。

AI的发展速度极快：在过去10年中，用于训练最强大的AI模型的计算量每年增加了10倍，而不是每两年翻一番。
AI不仅是计算能力的扩展；其能力从训练大型语言模型到解决复杂问题甚至创作音乐，导致可能实现准自治和“自我改进”特性。
扩散性：AI算法比实体资产更容易以更低的成本复制和共享（或窃取）；随着计算成本下降，强大模型将很快在智能手机上使用；模型一经发布，由于边际成本为零，能够无处不在地传播。
风险特征：大多数AI技术是安全的，许多AI得到负责任训练；但如同病毒，一个恶性或“暴发”的模型就可能造成严重破坏。
激励扭曲：AI为军民两用、低成本且易得，使得国家与私人企业有实现“AI霸权”的逆向激励，促使加速而非放慢发展，形成一种零和博弈——美国与中国都寻求实现AI霸权并阻止对方做到这一点。
监测难度：与30年前的核监测相比，对AI开展同样的监测和核查更具挑战性；AI各个方面目前由私人部门控制，且随着AI的逐渐扩散，越来越多小型企业与个人参与，使治理更复杂；控制AI的私人企业与技术人员缺乏自我监管动机。
结论：上述特征单一或合并都会对传统治理模式构成压力，使这些模式不足以应对AI带来的独特挑战。

AI相对于传统复杂且资本密集的军民模糊技术（例如核浓缩）而言，低成本和可持续使用的特性意味着它可以被无休止地用于民事或军事目的，成为一种新的投射力量的危险手段。
私营部门的控制力和国家的战略动机共同导致“未受到治理的AI”的风险：政府和企业均有推动AI发展的动力，从而削弱了对放慢或限制AI的集体动机。

总体前提：AI进步本质上不可预见，今天制定的规则可能在几个月内失效，因此不应依赖僵硬的制度来束缚监管机构；宜建立一套指导AI政策制定的首要原则。
预防性：
- 鉴于AI风险与回报的不对称性，政策制定者必须根据AI调整并纳入已有的预防性原则，以防范潜在的灾难性负面影响。
敏捷性：
- AI治理必须像AI一样敏捷、自适应和自我纠正，因为AI本身快速发展、极速进步并且自我完善；静态、强调稳定性与可预见性的制度不适合AI治理。
包容性：
- AI监管应与商业部门合作，监管机构应与私人科技企业开展合作，并应让企业成为国际协议的缔约方，以反映AI的无国界性；将控制力强大的企业排除在外会导致治理结构从一开始注定失败。
无懈可击：
- 由于AI容易扩散，任何制度中的漏洞可能导致危险模型漏网；合规机制应“滴水不漏”，具有较低的准入门槛以鼓励行业参与，以及较高的退出成本以阻止不合规行为。
针对性：
- AI的通用性质及风险多样性要求治理具有针对性、以风险为基础且模块化，而非一刀切；需要对离散的潜在AI影响进行实时、有效的分类，以匹配合适的治理工具。

来源：AI治理的基本要点（IMF，2023年12月）