الآراء الواردة في هذه المقالات وغيرها من المواد المنشورة تعبر عن وجهة نظر مؤلفيها، ولا تعكس بالضرورة سياسة صندوق النقد الدولي.
إنها السابعة وخمس وأربعون دقيقة صباحا في غرفة عمليات أحد البنوك المركزية. وها هي الشاشات تتلألأ بخرائط للنظام المالي ذات أكواد لونية. وطوال الليل، يجري تحليل بيانات وردت من آلاف البنوك والسماسرة ومقدمي خدمات الدفع الإلكتروني باستخدام نموذج ذكاء اصطناعي يراقب أوضاع السيولة. وتومض نقطة حمراء صغيرة بجانب أحد البنوك الذي يتوقف نشاط المدفوعات فيه فجأة. ويلقي المحللون نظرة سريعة على الشاشة. فقد رصدت الآلة أمرا غير مألوف - ربما خطأ عابر، أو قد يكون العلامة الأولى على حدوث أزمة.
إن لحظات كهذه أصبحت اليوم أمرا عاديا في المراكز المالية في شتى أنحاء العالم. والذكاء الاصطناعي الآن هو الشريك الموصي في التمويل العالمي - فهو مُدمَج في عمليات تقدير التصنيف الائتماني، وكشف الاحتيال، والتداول الخوارزمي، وحتى التحليل النقدي. وهو يوجد في خلفية كل معاملة، ويقوم بمسح كميات هائلة من البيانات لاكتشاف أنماط غير مرئية للعين البشرية.
وما يَعِد به الذكاء الاصطناعي أمر مبهر، ألا وهو رؤى أسرع، وإنذارات مبكرة بشكل أكبر، وأسواق أكثر كفاءة. إلا أن المخاطر كبيرة بالقدر نفسه. فاستجابات الذكاء الاصطناعي السريعة والمنسقة قد تؤدي إلى ديناميكيات على مستوى النظام برمته ليس لها معادل بشري، بما في ذلك دوائر الآثار المرتدة التي لا يتحكم أحد فيها. فالأنظمة نفسها التي تجعل التمويل أكثر كفاءة يمكن أن تجعله أكثر هشاشة.
كيف يمكننا إذن ضمان أن هذا النوع الجديد من الذكاء يعمل على خدمة النظام وليس إضعافه؟ من المثير للاهتمام أن الإجابة قد تكمن في فكرة قديمة مستمدة من الخيال العلمي.
في أربعينات القرن الماضي، تخيل أيزاك أسيموف روبوتات ذكية تحكمها ثلاثة قوانين بسيطة هي: ينبغي للروبوتات تجنب إيذاء البشر، وعليها طاعة الأوامر المشروعة إلا إذا تسبب هذا الأمر في أذى، وعليها حماية وجودها، ما لم يتعارض ذلك مع القانونين الأول والثاني. ولاحقا أضاف أسيموف "القانون الصفري للروبوتات" الذي يلزم الروبوتات بحماية البشرية ككل.
واليوم، يواجه التمويل تحديا مماثلا. فنماذج تعلُّم الآلة يتزايد تأثيرها في تحديد من يحصل على الائتمان، وكيفية ضبط المحافظ، وكيف تكتشف الجهات الإشرافية المخاطر. وهي تؤثر على طريقة تدفق المعلومات وضبط الأسعار على مستوى الاقتصاد.
وبإعادة تفسيرها لأغراض الإشراف المالي، يصبح التسلسل الهرمي الذي وضعه أسيموف بمنزلة مبدأ أخلاقي للذكاء الاصطناعي في مجال التمويل، فينبغي أولا ألا يلحق ضررا بالاستقرار المالي أو نزاهة المستهلك؛ وأن يلتزم بالتكليفات المؤسسية دون المساس بالعدالة أو السلامة؛ وأن يحافظ على قدرته على الصمود دون الإفلات من المساءلة. وقبل ذلك كله، ينبغي له أن يخدم الهدف الأسمى المتمثل في الحفاظ على الثقة التي يرتكز عليها التمويل.
غير أن أي تشابه مع قوانين أسيموف يتطلب توخي الحذر. فأنظمة الذكاء الاصطناعي ليس لديها بوصلة أخلاقية. وطبيعتها التوليدية تجعل من السهل عليها التحايل على المبادئ التي تحظى بقبول واسع. وتظهر الإخفاقات في العالم الحقيقي* هشاشة القيود المثبتة في الشفرة.
ما من بنك كبير يغلق أبوابه على الإطلاق في حقيقة الأمر. فأنظمته تعمل باستمرار على مستوى جميع المناطق الزمنية، حيث تعالج المعاملات، وتُحدِّث حالات الانكشاف، وتمسح البيانات لاكتشاف أوجه الخلل التي قد تشير إلى وجود احتيال أو أزمة. إلا أن هذا لا يحول دون حدوث أخطاء. فقد يخطئ الذكاء الاصطناعي في تفسير الأنماط، أو يرث تحيزات تاريخية، أو يعزز إشارات السوق التي تؤدي إلى تسارع حالات التقلب.
إن أمر أسيموف بعدم إلحاق أذى له مغزى عملي، فالالتزام بمنع الضرر لا ينطبق على المستهلكين فحسب، وإنما أيضا على استقرار النظام نفسه. ويتطلب هذا الأمر اختبارا دقيقا، وحوكمة سليمة للبيانات، والأهم من ذلك، قابلية التفسير - لأنه حينما تعجز إحدى الخوارزميات عن تبرير قرارها، فلن تتمكن المؤسسة التي تعتمد عليها من تبريره. ولا يتسنى لنماذج الذكاء الاصطناعي الحالية تفسير المنطق الذي تستند إليه، وإنما يمكنها توليد روايات لاحقة. ويجعل هذا الأمر من قابلية التفسير ضرورة مؤسسية - وليست فنية.
وفي الواقع، يمكن أن تكون التأثيرات المالية الكلية التي يُحدثها الذكاء الاصطناعي كبيرة. فحينما تتخذ الخوارزميات رد فعل على معلومات جديدة بسرعة الآلة، تصبح تعديلات الأسعار والتغيرات في السيولة أكثر حدة وتزامنا مما هي عليه في الأسواق التي يديرها البشر. وتوضح حالات على غرار الانهيار الخاطف في عام 2010 إلى أي مدى يمكن للأنظمة الآلية التأثير على الأسواق قبل وقت طويل من تمكن صناع السياسات من التدخل.
ومما لا شك فيه أن بيئة اليوم أكثر تعقيدا. فالأمر لا يقتصر على أن الذكاء الاصطناعي يبدي رد فعل أسرع، بل بشكل مختلف. والمنطق الداخلي الذي يستخدمه لا يزيد سرعة دائرة الآثار المرتدة بين المعلومة والإجراء فحسب، وإنما أيضا يعيد صياغتها. فالنماذج المدعومة بالذكاء الاصطناعي تؤثر على تسعير الائتمان، وتخصيص الأصول، وعلاوات المخاطر بطرق تعزز كل منها الأخرى. وحينما تعمل جميعها على تعديل الاستراتيجيات - بسبب تفسيرها الإشارات بالطريقة نفسها أو تقارب إجراءاتها الروتينية للتحسين - فإنه يمكنها التأثير على انتقال الصدمات الاقتصادية* واستجابة البنوك المركزية على مستوى السياسات*.
الطاعة سمة متضمنة في الذكاء الاصطناعي. وهي تحقق أفضل النتائج أيا كان الهدف المطلوب منها تحقيقه - الربح، أو الدقة، أو الامتثال. إلا أن الطاعة العمياء أمر خطير في مجال التمويل، حيث تكون المفاضلات أمرا أخلاقيا وأيضا فنيا. فقد تتمثل استجابة نموذج ائتمان مصمم للحد من حالات التعثر في السداد في استبعاد فئات عالية المخاطر بالكامل، مما يعمق عدم المساواة بدلا من إدارتها. وقد تستغل خوارزمية مخصصة للتداول مكلفة بتعظيم العائدات إشارات السعر الدقيق بكفاءة عالية لدرجة تسبب زعزعة استقرار الأسواق.
وقد تكون استخدامات الذكاء الاصطناعي مشروعة. ورغم ذلك، يجب أن يظل أداة وليس صانع قرار. وينبغي الاسترشاد به في إصدار الأحكام، لا أن يحل محلها. فالسياسة النقدية، والإشراف المالي، وإدارة الأزمات تتطلب تقديرا بشريا. ولا يمكن لنماذج الذكاء الاصطناعي أداء هذه الوظائف، ولا سيما إذا كانت تُدرَّب على بيانات من الماضي وليس بمقدورها التنبؤ بالصدمات الجديدة. وبما أن الذكاء الاصطناعي يغير التوقعات، فقد يضعف قنوات إرسال الإشارات التقليدية التي تعمل السياسات من خلالها. والبشر أيضا يخفقون؛ وكما جاء في المثل السائر، صناع السياسات دائما على أهبة الاستعداد للأزمة السابقة. والدرس المستفاد ليس أن الآلات تخفق أو أن البشر يخطئون، وإنما أن كليهما يجب أن يتعلما معا - وكل منهما على دراية بنقاط ضعف الآخر.
وعلى الرغم من جميع الرموز والحوسبة، يظل التمويل مشروعا بشريا. فإصدار الأحكام، وإظهار التعاطف، وتحمل المسؤولية لا يمكن أتمتتها. ومن ثم، يجب على البنوك المركزية والجهات التنظيمية والمؤسسات المالية ألا تنمي الثقافة الرقمية فحسب بل الثقافة الأخلاقية أيضا. ويمكن للذكاء الاصطناعي تعزيز الإشراف، ولكن الحوكمة تظل مهمة أخلاقية.
يُترجَم قانون حفظ الذات إلى القدرة على الصمود. فأنظمة الذكاء الاصطناعي يجب أن تعمل بشكل موثوق تحت الضغط، ويجب أن تخضع المؤسسات المعنية للمساءلة بشأن الخوارزميات التي تشغلها.
ويعني الصمود التقني التكرار والمراقبة والاختبار في ظل سيناريوهات متطرفة. والصمود المؤسسي يعني الانفتاح؛ فالجهات التنظيمية ينبغي لها أن تكون قادرة على التدقيق في القرارات التي يتخذها الذكاء الاصطناعي، حتى حينما تتضمن كودا حصريا. ويتطلب هذا الأمر المهارات والأدوات اللازمة للتحقق من نماذج الذكاء الاصطناعي التي تستخدمها الشركات وتحديها.
من جانبه، طوَّر مركز الابتكار التابع لبنك التسويات الدولية نماذج أوَّلية لأدوات لمساعدة الجهات الرقابية على تحليل مجموعات البيانات الكبيرة وكشف أوجه الخلل. وهذه الجهود واعدة، والمبدأ الأساسي الذي تستند إليه بسيط، وهو أنه إذا أثرت إحدى الخوارزميات على الاستقرار المالي، فينبغي أن تكون متاحة للتدقيق الرقابي.
بالإضافة إلى هذا، تؤدي السرية إلى الهشاشة. فحينما تكون نماذج الذكاء الاصطناعي عبارة عن صناديق سوداء، تتراكم الأخطاء دون أن يلحظها أحد. والأزمة المالية العالمية في عام 2008 هي تذكرة بأن التعقيد بدون شفافية يؤدي إلى الانهيار. ويثير الذكاء الاصطناعي التحذير نفسه في شكل رقمي.
وتمتد المساءلة أيضا إلى الحوكمة. وينبغي أن يكون لدى المؤسسات المالية مسؤولون لمواجهة مخاطر الذكاء الاصطناعي، على غرار رئيس شؤون المخاطر أو مسؤولي شؤون الامتثال، لضمان أن الخوارزميات قابلة للتفسير والتدقيق. وبدورها، يجب على الجهات التنظيمية تنمية الوعي بالذكاء الاصطناعي لتفسير المخرجات التي تتلقاها والتحقق منها. ولا يتمثل الهدف في إبطاء الابتكار، وإنما جعله آمنا وعادلا ومفهوما.
إن القانون الصفري للروبوتات - عدم إلحاق أذى بالبشر - يجد نظيرا له في العالم الحقيقي متمثلا في الحفاظ على الثقة. فالثقة هي البنية التحتية غير المرئية للتمويل.
وإذا أضعف الذكاء الاصطناعي تلك الثقة - بكونه منحازا، أو غير مستقر، أو غير خاضع للمساءلة - فإنه يمثل تهديدا لأساس النظام. ولكن حينما يتسق مع الصالح العام، يمكنه تعزيز الثقة. ويمكنه وقتها كشف حالات الاحتيال على نحو أسرع، وجعل الإشراف أكثر استباقية، وتوسيع نطاق الوصول إلى الخدمات المالية ليشمل من استبعدوا منه لفترة طويلة.
وبالتالي، يعمل قانون أسمى للذكاء الاصطناعي على خدمة العِقد الاجتماعي النقدي - لتعزيز الثقة والعدالة والاستقرار. وينبغي أن يستند الحكم على كل مؤسسة تستخدم الذكاء الاصطناعي إلى ما إذا كانت تعزز هذا العِقد الاجتماعي أم تضعفه.
ويكون تأثير الذكاء الاصطناعي ملموسا لا سيما في الأسواق الصاعدة، حيث يتطور التمويل الرقمي بسرعة وحيث قيد شح البيانات لوقت طويل إمكانية الحصول على الائتمان والخدمات العامة. وبدلا من أن يحل الذكاء الاصطناعي محل الأدوات الرقمية الحالية، فإنه يعظم ما يمكن لهذه الأنظمة فعله من خلال استخراج الأنماط من مجموعات البيانات الكبيرة غير المهيكلة التي يتعذر على النماذج التقليدية تفسيرها.
ففي كينيا، على سبيل المثال، تُوجِد المنظومات البيئية للخدمات المالية عبر الأجهزة المحمولة، مثل منصة "إم-بيسا" للخدمات المصرفية عبر الأجهزة المحمولة، بصمات ثرية على المعاملات يتم تحليلها على نحو متزايد باستخدام نماذج التقييم القائمة على الذكاء الاصطناعي. والأنماط السلوكية وأنماط انتظام التدفق النقدي التي تظهر تتيح للمقرضين تقييم المخاطر التي يتعرض لها المقترضون الذين ليس لديهم سجل ائتمان رسمي. وأدى هذا الأمر إلى توسيع نطاق حصول رواد الأعمال الصغار والمجتمعات التي لم يسبق لها التعامل مع البنوك على الائتمان. وفي الهند، تقترن أنظمة الهوية الرقمية ومنصات البيانات اللحظية بأدوات تعلُّم الآلة التي تهدف إلى تحسين مستوى توجيه التحويلات الحكومية وتوسيع نطاق الحصول على القروض متناهية الصغر.
غير أن الذكاء الاصطناعي قد يؤدي أيضا إلى ترسيخ الإقصاء. ففقر البيانات – أي محدودية البيانات أو انحيازها - يعني أن تظل مجتمعات محلية بأكملها غير مرئية للخوارزميات. وإذا لم تُمثَّل النساء أو سكان المناطق الريفية أو العمال في القطاع غير الرسمي بالقدر الكافي في مجموعات البيانات، فلن يُمثَّلوا بالشكل الكافي في النتائج.
وهنا، تتدخل المؤسسات الدولية. ويعمل صندوق النقد الدولي والبنك الدولي على نحو متزايد على دمج المسائل المتعلقة بالتمويل الرقمي وحوكمة الذكاء الاصطناعي في برامجهما لبناء القدرات.
إن الذكاء الاصطناعي يتحرك بوتيرة أسرع من التنظيم، كما يتحرك عبر الحدود بشكل أسرع من الأموال. إلا أنه يوجد الكثير الذي يمكن لصناع السياسات فعله ضمن مهامهم والأطر القانونية الحالية، في حين يواكب القانون التطورات. وللتنسيق عبر الحدود أهمية بالغة في منع التشتت وضمان ظهور منهج تنظيمي عالمي خاص بالذكاء الاصطناعي في مجال التمويل، استنادا إلى أفضل الممارسات الدولية الآخذة في التطور.
ويستكشف مجلس الاستقرار المالي وبنك التسويات الدولية وصندوق النقد الدولي الأطر اللازمة لذكاء اصطناعي يتسم بالمسؤولية. ويمكن لمجموعة من المبادئ العالمية - على غرار مبادئ بازل الأساسية للرقابة المصرفية الفعالة - أن تضمن الاتساق، مع السماح بالمرونة في الوقت نفسه. ومن شأن هذا الإطار أن يؤكد على العدالة وقابلية التفسير والمساءلة ومبدأ التناسب.
ويمكن لصندوق النقد الدولي، من خلال الرقابة التي يمارسها والمساعدة الفنية التي يقدمها، مد يد العون للبلدان لتحديد المخاطر المالية المرتبطة بالذكاء الاصطناعي، وتشارك أفضل الممارسات، وتجنب الفجوة الرقمية في الرقابة. وتحقيقا لهذه الغاية، ينبغي له أن يجذب المتخصصين المهرة من مجتمعات البحث والتكنولوجيا المالية. ويمكن لبنك التسويات الدولية استضافة مستودع للخوارزميات الرقابية، مما يتيح للجهات الرقابية التعاون في مجال نماذج الذكاء الاصطناعي مفتوحة المصدر.
وبالإضافة إلى هذا، يمكن للبنك الدولي ومؤسسات التنمية الإقليمية إكمال هذه الجهود عن طريق بناء القدرات في مجال الذكاء الاصطناعي والبنية التحتية الرقمية في الأسواق الصاعدة. ومن خلال ما تقدمه من مساعدة فنية وحوار بشأن السياسات وأدوات تمويل، يمكنها مساعدة البلدان على تصميم أطر ذكاء اصطناعي مسؤول من أجل الشمول المالي، وتعزيز حوكمة البيانات، ودمج المعايير الأخلاقية للذكاء الاصطناعي في الأنظمة البيئية للتمويل الرقمي.
وبالعمل معا، يكون بمقدور هذه المؤسسات ضمان أن يمتد نطاق مزايا الذكاء الاصطناعي إلى ما هو أبعد من الاقتصادات المتقدمة. فالهدف هو التعددية الرقمية؛ أي ضمان أن يخدم الذكاء الاصطناعي جميع الاقتصادات. فما من بلد يمكنه أن يدير هذه الديناميكيات بمفرده.
تختصر قوانين أسيموف التعقيد الأخلاقي في أولويات واضحة، وهي حماية البشر، والطاعة في حدود المقبول، وحفظ الذات بمسؤولية، وخدمة البشرية. وفي عصر تتفوق فيه سرعة التكنولوجيا على سرعة القانون، فإن هذا التبسيط لا يقدر بثمن.
والاختيار ليس بين التقدم والحذر، ولكن بين الحوكمة الذكية والأتمتة العمياء، مع تذكر أنه حتى وإن كانت الآلات تتعلم، يظل البشر هم من يتحملون المسؤولية. ومستقبل التمويل سيُكتب بشكل متزايد باستخدام الأكواد. إلا أن المبادئ الكامنة وراءها يجب أن تظل بشرية. وأي نظام تحكمه السلامة قبل الطاعة، والشفافية قبل السرية، والثقة قبل الربح لن يقضي على المخاطر، ولكنه سيجعلها قابلة للإدارة وتتسم بالأخلاقية.
وإذا تبنت البنوك المركزية والجهات التنظيمية والمؤسسات المالية هذه المبادئ، فيمكن للذكاء الاصطناعي أن يصبح قوة لتحقيق الاستقرار وليس مصدرا للهشاشة. ويمكنه أيضا توسيع نطاق الشمول المالي، وتقوية الإشراف، وتعزيز شرعية الأنظمة النقدية.
ويجب تعزيز هذه المبادئ نفسها من خلال التعاون الدولي - بما يضمن أن الذكاء الاصطناعي يدعم نظاما ماليا ليس أكثر أمانا وعدالة فحسب، بل أكثر اتساقا على المستوى العالمي. ويتمثل التحدي، الذي يواجه الرقابة والسياسات على حد سواء، في ضمان أنه بينما يصبح الذكاء اصطناعيا، تظل عملية إصدار الأحكام حقيقية.
وبما أن الآلات تتعلم، فعلينا أن نفعل الأمر نفسه.
@ International Monetary Fund. All rights reserved.
