نقطة ضعف خطيرة.. ماذا يفعل الذكاء الاصطناعي بزبائن البنوك؟
03:57 - 11 يوليو 2023
يوماً بعد يوم، تثبت تقنية الذكاء الاصطناعي التوليدي، أنها قادرة على تغيير قواعد اللعبة في العديد من القطاعات الصناعية والإنتاجية، فالبرمجيات الكامنة وراء هذه التقنية، أصبحت قادرة على تولي المزيد من المهام التي كانت محصورة بالبشر.
وبعد رؤية هذا النجاح، بدأت القطاعات الصناعية والأعمال التجارية في العالم، باستكشاف الطريقة التي يمكنهم من خلالها، تبني تقنيات الذكاء الاصطناعي التوليدي، والاستفادة من قدراتها على زيادة كفاءة العمل وتطوير الصناعات وتحسين الإنتاجية، والقيام بالمهام بدقة عالية ودون أخطاء وتقليل الكلفة.
أخبار ذات صلة
نقطة ضعف مدمرة بالخدمات المصرفية
ورغم أنه يمكن لمس التغييرات الإيجابية، التي سيدخلها الذكاء الاصطناعي التوليدي إلى مختلف الصناعات والأعمال التجارية، إلا أن هذه التكنولوجيا تعاني من نقطة ضعف خطيرة، عندما يتعلق الأمر بالخدمات المصرفية، حيث أعرب بعض التقنيين وخبراء الأخلاق، عن شكوكهم حول السلامة الأخلاقية لهذه التكنولوجيا، لناحية التحيز العنصري والفئوي، وتحديداً عندما يتعلق بالقروض المصرفية.
التمييز الخوارزمي
يقول بعض خبراء أخلاقيات التعلم الآلي والشفافية والمساءلة، إن الأنظمة التي يحركها الذكاء الاصطناعي في الخدمات المالية، يمكن أن تكون غبية وغير موضوعية ومتحيزة، في حال ترك الخيار لها في تحديد من يمكن أن يحصل على قروض مصرفية، إذ يمكن لهذه الأنظمة، رفض منح القروض تلقائياً للأفراد، بناءً على أصولهم ولونهم وجنسهم، وحتى الفئة الاجتماعية التي ينتمون لها، مشيرين إلى أن التمييز الخوارزمي سيكون ملموساً للغاية في آلية الإقراض المصرفية.
أخبار ذات صلة
فوائد للصناعة المالية ثم تهديدات
يقول الدكتور سليم الحاج، وهو خبير في استراتيجية الشركات والعلامات التجارية، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إنه بينما يجلب الذكاء الاصطناعي التوليدي فوائد كبيرة للصناعة المالية، فهو يعرضها أيضاً لتهديدات، بسبب بعض نقاط الضعف التي يجب معالجتها قبل تغلغل هذه التكنولوجيا في القطاعات المالية، مشيراً إلى أن الذكاء الاصطناعي يتخذ قراراته، بناءً على تحليل البيانات التي تم تزويده بها، لكنها في حال كانت غير كاملة أو ذات جودة رديئة، فإن ذلك يؤدي إلى إصدارها أحكاماً غير صحيحة ومتحيزة بناءً على البيانات المعيبة.
عدم القدرة على تفسير المعلومات
وبحسب الحاج فإن آلية الإقراض التي تعتمدها المصارف هي آلية معقدة، حيث تتم دراسة كل حالة على حدة، ليتم اتخاذ القرار بناءً على عدة عوامل، منها توافق المتقدم للمتطلبات التنظيمية، وبالتالي فإن نماذج الذكاء الاصطناعي التوليدي، يمكن أن تكون غير قادرة على فهم وتفسير المعلومات كالإنسان، وهذا النقص في التفسير، يدفعها لاتخاذ قرارات بمنع منح القروض، بناءً على الفئة الاجتماعية التي ينتمي اليها المتقدم للطلب، أو حتى بناءً على جنسه أو عرقه أو جنسيته، حيث سيحدث كل ذلك وسط عدم قدرة البنوك على شرح الأسباب الكامنة، وراء القرارات التي يحركها الذكاء الاصطناعي للعملاء والمراجعين والهيئات التنظيمية.
إرث قد يصل إلى الذكاء الاصطناعي
ويشرح الحاج أن برمجيات الذكاء الاصطناعي، يمكن أن ترث التحيزات الموجودة في البيانات والأنظمة القديمة في المصارف، فهذه البرمجيات تفسر ما هو موجود في البيانات، التي يتم تدريبها عليها، ولذلك فإنه على المصارف أن تضمن جودة بياناتها وسلامتها، وأن ترصد التحيزات الموجودة فيها، وأن تقوم بالتخفيف من حدتها، كي لا ينعكس ذلك تحيزاً في قرارات الإقراض وبما يضمن حماية العملاء، ومنع تعرضهم لانتهاكات اخلاقية.
التوافق مع متطلبات ومعايير تنظيمية
وشدد الحاج على أنه يجب أن يتوافق اعتماد الذكاء الاصطناعي في الصناعة المالية، مع اللوائح والمتطلبات القانونية والمعايير التنظيمية، مثل لوائح مكافحة غسيل الأموال (AML) ومعرفة عميلك (KYC)، إضافة إلى ضمان الشفافية والمساءلة، والحفاظ على إطار تنظيمي قوي، يواكب التطورات في تكنولوجيا الذكاء الاصطناعي، وذلك عبر الاستثمار في حوكمة البيانات القوية، ورصد نقاط الضعف فيها.
أخبار ذات صلة
سبب الخلل
من جهته، يقول الكاتب والمحلل في شؤون التقنية والذكاء الاصطناعي ألان القارح، في حديث لموقع "اقتصاد سكاي نيوز عربية"، إن الشيء الأساسي الذي يجب فهمه، هو أن الخلل الذي قد يظهر عندما يتعلق الأمر بالخدمات المصرفية والمالية، ناتج عن آليات تصنيف الزبائن، الموجودة في البيانات التي تعتمدها المصارف، والتي كان ذكاء الإنسان قادراً على تمويهها لتفادي الاتهامات بالعنصرية، إلا أنه وعند تزويد الذكاء الاصطناعي بهذه البيانات، فإنه سيقوم بالالتزام بها حرفياً، ما سيفضح الاختلالات الموجودة في الآليات التي تقوم بعض البنوك بمنح القروض على أساسها.
الهلوسة سبب آخر
يرى القارح أن السبب الثاني الذي سيدفع الذكاء الاصطناعي التوليدي، لتضخيم التحيزات في الخدمات المصرفية والمالية، هو "الهلوسة" التي ما زالت تعاني منها هذه التقنية والتي تسببت بالكثير من المشاكل في العديد من القطاعات، وليس فقط في القطاع المصرفي، مشيراً إلى أن هذا الأمر سيساهم في تخفيف وطأة تحميل مسؤولية الاختلالات للمصارف، حيث أنه وبسبب "الهلوسة" يلجأ الذكاء الاصطناعي التوليدي في بعض الأحيان، إلى إصدار نتائج غير صحيحة، وفيها نوع من الغموض وذلك نتيجة تحليله للبيانات بالطريقة التي يراها هو مناسبة.
الحل لتحيز الذكاء الاصطناعي في المصارف
وبحسب القارح فإن الذكاء الاصطناعي التوليدي، خرج من مختبرات البحوث من أشهر فقط، ولذلك فإنه يجب إدراك أن مشكلة التحيز والغباء، التي يعاني منها في الخدمات المصرفية، يمكن حلها من خلال اعتماد المصارف على أنظمة وبيانات أكثر حداثة، خاصة بما يتعلق بطريقة تصنيف العملاء، مشيراً إلى أنه على البنوك أن تتحرك بسرعة، لطمأنة التقنيين وعلماء الأخلاق، بشأن السلامة الأخلاقية لتكنولوجيا الذكاء الاصطناعي التوليدي، مشدداً على ضرورة عدم تعميم مشكلة التمييز على جميع المصارف، إذ أن هناك عدداً ضخماً من المصارف تعتمد على آليات شفافة وموحدة تجاه جميع العملاء.
