لجنة القضاء على التمييز العنصري تحذّر من الذكاء الاصطناعي

نشرت لجنة القضاء على التمييز العنصري (CERD) توجيهاتها لمكافحة التنميط العنصري، مشددةً على الخطر الشديد المتمثل في التحيز البارز في البرمجة الخوارزمية عند استخدام الذكاء الاصطناعي في إنفاذ القانون.

ولجنة القضاء على التمييز العنصري المؤلفة من 18 خبيرًا، هي هيئة الخبراء المستقلين التي ترصد تنفيذ اتفاقية القضاء على جميع أشكال التمييز العنصري من جانب دولها الأطراف والبالغ عددهم 182 دولة، بحيث تُلزَم هذه الدول تقديم تقارير منتظمة إلى اللّجنة عن كيفية إعمال الحقوق، وتفحص اللّجنة بدورها كل تقرير وتوافي الدولة الطرف بتوصياتها على شكل “ملاحظات ختامية”.

وتلاحظ اللّجنة القضاء على التمييز العنصري أنّ الاستخدام المتزايد من قبل أجهزة إنفاذ القانون للبيانات الضخمة، والذكاء الاصطناعي، وتقنيّات التعرّف على الوجه، وغيرها من التقنيات الجديدة قد يؤدي إلى تعميق العنصرية والتمييز والكراهية وبالتالي انتهاك العديد من حقوق الإنسان.

وتقول عضو اللّجنة فيرين شيبرد “إنّنا نشعر بقلق عميق إزاء المخاطر التي تحدث عند استخدام البرمجيات الخوارزمية والتي تعتمد بشكل كبير على التنميط لتحديد احتمالية حدوث نشاط إجرامي، مشيرةً إلى احتمالية تكاثر أدوات البيانات الضخمة والذكاء الاصطناعي وتعزيز التحيّزات الموجودة بالفعل وكلها دوافع تؤدي إلى المزيد من الممارسات التمييزية.

وتضيف شيبرد أنّ الاستخدام المفرط لتقنيات التعرّف على الوجه والمراقبة لتتبّع ومراقبة التركيبة السكانية المحدّدة يثير مخاوف ميتعلقة بحقوق الإنسان، بما في ذلك الحق في الخصوصية وحرية التجمّع السلمي وتكوين الجمعيات وحرية التعبير والحركة”.

وشدّدت اللّجنة، من جملة توصياتها، على أن نظم البرمجة الخوارزمية ينبغي أن تمتثل امتثالاً كاملاً للقانون الدولي لحقوق الإنسان، مشدّدةً على أهمية الشفافية في تصميم وتطبيق هذه الأنظمة “يشمل هذا الكشف عن توضيحات لكيفية عمل الأنظمة، وما هي البيانات المستخدمة والتدابير التي تمنع الإضرار بحقوق الإنسان”.

وتعتقد اللّجنة أن الشركات الخاصة التي تطوّر أو تبيع أو تشغّل أنظمة الترقيم الخوارزمي لأغراض إنفاذ القانون تتحمل أيضًا مسؤولية إشراك أفراد من مختلف القطاعات.
كما أوصى الخبراء بضرورة قيام الدول بتقييم الأثر على حقوق الإنسان بعناية قبل استخدام تقنية التعرف على الوجه، بما في ذلك الخبراء القانونيين، لتقييم مخاطر انتهاك حقوق الإنسان التي قد تشكّلها هذه الأنظمة.

ولفتت اللّجنة إلى أنّ التنميط العرقي بالإضافة إلى كونه غير قانوني فهو كونه أداة لإنفاذ القانون يُعتَبر غير فعّال ويؤدّي إلى نتائج عكسية”.

حسين رسلان