AIガバナンスを構成する要素

Source details

Canonical URL

AIガバナンスを構成する要素

Other formats

• Markdown version
• Structured JSON version
• Bundle manifest

Bibliographic details

• Authors: Ian Bremmer, MUSTAFA SULEYMAN
• Published: December 12, 2023

概要と課題の性質

• AIは「画期的な科学の進歩やかつてないテクノロジーへのアクセス」を開放する一方、「民主主義を混乱させる有害な誤情報や経済の大混乱といったリスク」に晒す。
• AIは「世界のパワーバランスや構造に根本的な変革」を引き起こす可能性があり、政策当局は「流動的で新しいテクノロジーの規範を設け、そこから生じうるリスクを緩和しつつ、さまざまな地政学的当事者の利害を調整」する必要がある。
• 2023年に世界各国はAIガバナンスの重要性を認識し、ベルギー、中国、タイ、G7の「広島AIプロセス」、国連のハイレベル諮問機関、G20での責任ある人間中心の枠組み提起、欧州委員長によるIPCCを参考にしたリスク監視機関提案などの動きが見られる。
• 2023年11月、英国は「AI リスクの安全対策を目的とした世界初の首脳級会合」を開催。米国でも超党派合意が形成されつつある。

AIのパワー・パラドックス（技術的性質と拡散性）

• 進化速度
  • AIは「超進化的」であり、過去の演算増加速度を上回る。
  • 「過去10年間において、最も有力なAIモデルの訓練に使用された演算量は、2年毎に2倍どころか、1年毎に10倍増加」している。
  • かつては「数週間を要した計算も、今では数秒でできる」ようになった。
• 自己進化性
  • AIは「準自律化が間もなく実現するかもしれない」可能性があり、「自己進化する能力を備えた初のテクノロジー」となり得る。
• 拡散性と限界費用
  • AIアルゴリズムは「物理的な物よりもはるかに容易かつ安価で複製し共有（または盗み取る）」ことが可能。
  • 演算コストの低下とアルゴリズム強化により「間もなくスマートフォンに実装される」可能性が高い。
  • AIモデルは「限界費用がゼロ」であり、一度リリースされれば「どこにでも普及でき、ゆえにどこにでも普及するであろう」。
• リスクの非対称性
  • 多くのAIは「責任を持って抜かりなく訓練されているため、大半が安全」であるが、「ウイルスと同様、『突然変異型』のような有害なAIモデルひとつで、大惨事が起こりうる」。

AI規制にそぐわない動機（地政学的・経済的インセンティブ）

• デュアルユース性と低コスト採用
  • AIは「軍民両用のデュアルユーステクノロジー」であり、核等とは異なり「AIにはコストがかからないため、民生利用や軍事利用を問わず永続的に採用することができる」。
  • AIは「全く新しい危険な戦力投射の手段」となっている。
• 覇権獲得のインセンティブ
  • AIの覇権は「覇権争いに参戦する資本があるすべての企業や政府の戦略的目標」となっている。
  • 米中両国は「AIの覇権を握ることを、必ず達成しなければならない戦略的目標」としており、互いに譲らないゼロサム的力学が存在する。
• 民間主導と検証困難性
  • AIは「民間部門が管理しているため」技術的制約や監視・検証は困難。
  • 大手テック企業数社が現段階でリードしているが、「徐々にAIが浸透するにつれ、中小企業が次から次へと参入し、ガバナンスがより複雑化するであろう」。
  • 民間企業や個人技術者にとって「AIを自己規制する動機が乏しい」。

ガバナンスの原則（政策設計の5つの指針）

• 総論
  • AIは「超進化型テクノロジー」であり進歩を予測することが「本質的に不可能」であるため、「柔軟性がない枠組みを規制当局者に強いるのは、間違い」である。以下の大原則に基づく政策策定が必要。
• 予防の原則
  • 「AIが持つリスク・リターン型の特性は、非対称的」であるため、「既に広く普及している予防の原則をAIの分野に適応し、あらゆるガバナンス体制に導入する必要がある」。
• 俊敏の原則
  • 伝統的な政策立案は「安定性や予測可能性が重視されるため、スピードに欠ける」傾向があるが、AIガバナンスは「俊敏かつ適応性があり、自己修正型」であるべき。
• 包括の原則
  • 規制当局は「民間テクノロジー企業との協働なしに適切にAIを管理することはできない」。
  • 国境を越えるAIの性質を踏まえ、「各国政府は、国際協定の取り決めの場に民間企業を関与させるべきである」。
• 密閉の原則
  • AIは容易に拡散するため、コンプライアンスは「誰もが参加できるよう垣根を低くすると同時に、コンプライアンス違反を防止するために規制逃れが困難な、密閉された性質でなければならない」。
• 対象特定の原則
  • 「単一のガバナンス体制では不十分」であり、AIがもたらす個々の潜在的な影響を分類する「実用的で生きた体系」を構築し、「リスクに基づき対象を絞ったモジュール」で対応すべき。

結語と政策的含意

• AIガバナンスは「今後数十年のうちに、国際社会が直面する最も困難な課題のひとつ」となる見込み。
• 規制の「必要性について合意することは、最低条件に過ぎない」。どのような規制を選ぶかが重要であり、既存の前例踏襲型の解決策では不十分。
• 優れた政策立案だけでなく「優れた制度」の構築が必要であり、まずはここで提示された原則に関する国際的合意形成から議論を始めることが提案されている。

イアン・ブレマー, ムスタファ・スレイマン, 2023年12月, ファイナンス＆ディベロップメント - セレクト記事