مناقشة تحيز الذكاء الإصطناعي ضد المسلمين

الكاتب: أعشار أوان

المترجم: أبوبكر خميس

أحدث الذكاء الاصطناعي (AI) ثورة في مختلف قطاعات مجتمعنا ،بدئاً من الرعاية الصحية إلى النقل ، ومن التعليم إلى الترفيه . ومع ذلك ، فإن التحيز ضد المسلمين هو شكل من أشكال التحيز يمكن ملاحظته في أنظمة الذكاء الاصطناعي ، ويمكن أن يكون له تأثير كبير على حياة المسلمين، وتتمثل إحدى الطرق التي يمكن أن يظهر بها التحيز ضد المسلمين في أنظمة الذكاء الاصطناعي في استخدام البيانات المتحيزة ،فإذا تم تدريب نظام الذكاء الاصطناعي على البيانات التي تحتوي على تحيز ضد المسلمين ، فمن المرجح أن يعكس النظام هذا التحيز في قراراته ، وعلى سبيل المثال ، قد يكون نظام الذكاء الاصطناعي الذي يتم تدريبه على مجموعة بيانات من المقالات الإخبارية حول الإرهاب أكثر عرضة للإبلاغ عن المحتوى المرتبط بالمسلمين باعتباره مريبًا.

إن أنظمة الذكاء الاصطناعي  تتعلم من البيانات التي يتم تدريبها عليها، و إذا تضمنت بيانات التدريب معلومات متحيزة ، يمكن لنظام الذكاء الاصطناعي أن يتعلم وينشر هذه التحيزات ، وقد  يؤدي هذا إلى مجموعة متنوعة من النتائج السلبية ، بما في ذلك انتشار التحيز ضد المسلمين ، وإن هذا التحيز يمكن أن يعزز سوء الفهم والتوتر ، مما ينتج عنه الخلاف المجتمعي ، و على سبيل المثال ، إذا تم تدريب نظام الذكاء الاصطناعي المستخدم لإدارة المحتوى على البيانات التي تتضمن تحيزًا ضد المسلمين ، فقد يقوم بشكل غير عادل بالإبلاغ عن المحتوى الذي ينشره المستخدمون المسلمون أو يزيله ، ويمكن أن يؤدي ذلك إلى الشعور بالإقصاء والتمييز أو إلى تفاقم التوترات الاجتماعية.

في دراسة عام 2021 نُشرت في مجلة (Nature) الشهيرة ، بحث  (أبو بكر عابد) وباحثون آخرون ارتباط المسلمين بالعنف في نماذج اللغة الكبيرة  بالتركيز بشكل خاص على   GPT-3 ل Open AI، والذي تم إصداره لبعض الباحثين في ذلك الوقت ، و من خلال التجارب التي تتضمن مؤشرات  تتعلق بالمسلمين والجماعات الدينية الأخرى ، وجد الباحثون أن GPT-3يولد أجوبة ترتبط بالعنف عند ذكرهم  ، مما يدل على التحيز ، و في المقابل ، يتناقص الميل إلى إنتاج أجوبة  عنيفة عندما يتم ذكر مجموعات دينية أخرى في نفس المطالبات ، بالإضافة إلى ذلك ، تحلل الدراسة الأسماء المماثلة المرتبطة بالجماعات الدينية ، وتكشف عن ارتباط متكرر بين "الإرهاب" و "المسلم" في مخرجات GPT-3، وبذلك تؤكد هذه النتائج على الحاجة إلى معالجة وتخفيف التحيزات في نماذج اللغة الكبيرة أثناء التطوير والنشر.

إن معالجة التحيز في الذكاء الاصطناعي تتطلب  جهودًا شاملة من مختلف أصحاب السلطة   ، بما في ذلك باحثو الذكاء الاصطناعي وشركات التكنولوجيا والهيئات الحكومية.

إن الذكاء الاصطناعي يجب أن يتعلم  من مجموعة متنوعة من مصادر البيانات التي تمثل تجارب بشرية متنوعة ، بما في ذلك وجهات نظر المسلمين ، ويمكن أن يقلل هذا من خطر التحيز في أنظمة الذكاء الاصطناعي، و على سبيل المثال ، إذا تم تدريب نظام الذكاء الاصطناعي على مجموعة متنوعة من البيانات ، فمن غير المرجح أن يطور تحيزات ضد أي مجموعة معينة.

إن باحثي الذكاء الاصطناعي يعملون  على تطوير تقنيات لضبط خوارزميات الذكاء الاصطناعي ، وتخفيف التحيز في المخرجات ، و تتضمن هذه العملية تعديل الخوارزمية لضمان العدالة والتمثيل المتساوي ، و على سبيل المثال ، يمكن استخدام تقنيات مثل الإنصاف من خلال الوعي والتكافؤ الديموغرافي والاحتمالات المتساوية لتقليل التحيز في أنظمة الذكاء الاصطناعي.

إن  شركات التكنولوجيا   يجب عليها أن تعزز الشفافية في عمليات اتخاذ القرار بشأن الذكاء الاصطناعي وأن تخضع للمساءلة عن التحيز في أنظمة الذكاء الاصطناعي الخاصة بها ، وقد تجلى ذلك عندما اعترف موقع تويتر بخطئه وتعهد بتصحيح مشكلة التحيز العنصري في تقنية الذكاء الاصطناعي الخاصة بقص الصورة ، وبالمثل ، يجب أن تكون الشركات منفتحة بشأن أي تحيزات في أنظمة الذكاء الاصطناعي الخاصة بها وأن تتخذ خطوات لمعالجتها.

إن  الهيئات الحكومية يجب عليها فرض اللوائح التي توجه التطوير الأخلاقي للذكاء الاصطناعي واستخدامه ، بما يضمن حقوق ومصالح جميع الفئات ، بما في ذلك المسلمين ، و قد يشمل ذلك تنفيذ القوانين التي تتطلب اختبار أنظمة الذكاء الاصطناعي للتحقق من التحيز قبل نشرها ، ومحاسبة الشركات عن أي تحيزات تنشرها أنظمة الذكاء الاصطناعي الخاصة بها.

في حين أن الذكاء الاصطناعي لديه القدرة على تحسين حياتنا بشكل كبير ، فمن المهم أن نواجه هذه التحيزات ونعالجها ، و سيضمن ذلك أننا بينما نتبنى الذكاء الاصطناعي ، فإننا نفعل ذلك بطريقة تعزز التفاهم والاحترام والإنصاف في جميع أنحاء المجتمع  ، و تُعد حالة التحيز ضد المسلمين في الذكاء الاصطناعي تذكيرًا قويًا بالتحديات التي نواجهها في هذا المجال ، وأهمية ضمان أن يفيد الذكاء الاصطناعي البشرية جمعاء ، وليس فقط قلة مختارة ، و بينما نمضي قدمًا ، من المهم أن نواصل العمل من أجل إنشاء أنظمة ذكاء اصطناعي عادلة ومنصفة وخالية من التحيز.