技术促进发展

Source details

Canonical URL

技术促进发展

Other formats

• Markdown version
• Structured JSON version
• Bundle manifest

Bibliographic details

• Authors: DANIEL BJORKEGREN, JOSHUA BLUMENSTOCK
• Published: December 20, 2023

概述

• 主题：人工智能（AI）在发展中经济体的应用既带来风险（扰动、虚假信息、监管挑战），也带来潜在好处（更具针对性的援助和信贷、定制化教学和医疗服务）。
• 关键结论：要实现为穷人带来实惠的人工智能，必须进行本地化创新和调整；简单地采用富裕国家开发的现成技术往往不足以满足当地社会和制度需求。
• 发布信息：作者为丹尼尔 • 比约克格伦（DANIEL BJÖRKEGREN）与约书亚 • 布卢门施托克（JOSHUA BLUMENSTOCK），发表于金融与发展，2023年12月。

关键案例与发现

• 多哥：
  • 政府在新冠疫情期间使用机器学习提供定向现金支持。
  • 成功要素包括：将原用于在线广告的技术调整用于识别最贫困居民；利用来自卫星和移动电话公司的数据（如航拍图像中显示的欠发达村庄和手机余额不足的移动用户）来识别贫困特征（Aiken等人，2022年）。
  • 实施细节：建立了适用于所有移动用户的手机钱包支付系统；调整现有的机器学习软件以便定向现金转账；采访了数万名受益者以确保系统准确反映当地贫困状况。
  • 限制：该方案为临时性，疫情结束后计划逐步中止；实验室表现良好的算法在部署为重大决策时可能并不可靠，且会引发行为改变以争取福利资格的问题。

• 肯尼亚（小额贷款与行为响应）：
  • 发现：在肯尼亚，超过四分之一的成年人使用手机申请贷款。
  • 问题：如果算法把“脸书好友较多”作为授信正向指标，用户可能会迅速添加好友来提高获批概率，从而削弱系统的目标定位能力（Björkegren和Grissen，2020年）。
  • 研究合作：与肯尼亚巴萨拉中心合作的研究表明，人们会学习并调整其手机行为以响应算法；可根据概念验证结果调整算法以更好预测人们的响应（Björkegren、Blumenstock和Knight，即将发表）。
  • 结论：技术本身无法克服实施中的行为反应问题；主要挑战在于确保算法在现实条件下的可靠性。

• 塞拉利昂（教师专用AI工具）：
  • 本地合作伙伴试用名为TheTeacher.AI的教师聊天机器人，类似ChatGPT但根据当地课程和教学量身定制，并可在互联网信号较差情况下使用（Choi等人，2023年）。
  • 试点结果：许多教师最初无法通过调整措辞生成合理答案，但一小部分教师已开始定期使用该系统来帮助传授概念、备课及制作课堂材料。
  • 教训：教师需要培训和反复试验；对教师有益的AI应用不会立竿见影。

实施挑战与社会维度

• 沟通与理解壁垒：
  • 许多低收入国家民众识字率和计算能力较低，对数字数据及算法不熟悉。
  • 例子：在内罗毕的实地实验中，向低收入居民解释涉及负数和分数的简单算法很困难，但当人们对算法做出响应时，他们便掌握该概念。
  • 黑匣子算法的接受度：在紧急情况下（如多哥的新冠响应），政策制定者可能接受难以理解的“黑匣子”算法；在非紧急情况下（如社会保障定位），透明性变得关键，需要向潜在受益人解释资格标准。

• 隐私与数据使用观念差异：
  • 在多哥农村的访谈中，数据与隐私方面的规范和价值观与富裕国家存在根本性差异：很少受访者担心政府或企业访问其数据，但许多人关心这些信息是否（以及如何）与他人共享。

• 虚假信息与社会信任：
  • 人工智能可生成完全虚构的煽动性照片，模仿通话人声音自动拨打电话；这类变化将影响人们对网络信息的信任。偏远地区居民也必须了解这些可能性，以免被误导，并确保法规在制定过程中考虑他们的关切。

• 数字基础设施与知识基础设施：
  • AI解决方案依赖于实体数字基础设施（大型数据库、光纤电缆、手机信号塔、手机）。过去20年间，发展中经济体在手机和互联网连接方面投入大量资金，为推广AI应用奠定了基础。
  • 有些应用能更好地利用现有资源，例如在上网不便地区，教师可先从聊天机器人获取想法再验证；这通常比自行从多个在线资源整理信息更容易。
  • 数据缺口问题：发展中经济体仍存在数据缺口，穷人在数字方面代表性不足，AI模型缺乏对低收入居民需求、健康状况、村庄面貌及非主要语言结构等完整信息的掌握。
  • 数据收集与权利：可能需要将诊所、学校和企业整合进数字记录保存系统；制定数据使用激励措施，并确立所产生数据的合法权利。

• 本地化与能力建设：
  • 西方AI系统可能建议使用昂贵资源（如数字白板），需要调整以适应资源缺乏的教师需求。
  • 投资于当地AI开发者和设计师的能力建设与培训，有助于确保新一代技术创新更好反映当地价值观和优先事项。

政策含义与建议

• 本地化调整：
  • 对富裕国家开发的AI技术进行修改和本地化，以适应当地社会、制度和资源约束。
  • 在设计目标定位与决策规则时，考虑行为响应和可能的规避行为，并据此调整算法。

• 多方协作与验证：
  • 鼓励政府、研究人员与非营利组织合作，共同定制并验证AI系统（如多哥案例）。
  • 在部署前通过广泛访谈和实地测试以确保系统能准确反映当地状况。

• 透明性与沟通：
  • 在非紧急的社会保障定位中，向潜在受益人解释资格标准，理解当地关于数据共享与隐私的观念。
  • 教育公众（包括偏远地区居民）关于AI可能造成的虚假信息和社交工程风险，提高社会对网络信息的辨识能力。

• 基础设施与数据治理：
  • 投资于知识基础设施，弥补数据缺口，将公共服务机构纳入数字记录系统，制定数据使用激励措施，并确立数据权利。
  • 在推广AI应用的同时，评估并改进通信设施以确保可用性和可访问性。

• 能力建设与循证试验：
  • 为教师、信贷机构和其他潜在使用者提供培训與反复试验机会。
  • 资助本地开发者与设计师，促进符合当地价值观和优先事项的AI创新。
  • 采用循证方法，持续收集使用者反馈并根据现地反应调整算法。

总结要点

• 人工智能有望为发展中经济体的穷人提供多种有用的应用，但关键挑战是确保系统满足人们的需求、适应当地条件并避免造成伤害。
• 成功案例依赖于本地化调整、多方合作、数据与基础设施投入、透明沟通以及能力建设。
• 技术并非灵丹妙药；需要反复试验、相互分享有用的应用程序，才能发现并巩固其多种用途。

来源: 技术促进发展，丹尼尔 • 比约克格伦（DANIEL BJÖRKEGREN）, 约书亚 • 布卢门施托克（JOSHUA BLUMENSTOCK），金融与发展，2023年12月。