بقلم: كريس ستوكيل – والكر
ترجمة: أنوار البغلي
أعلنت عملاقة البرمجيات الشركة IBM عن سحبها بعض منتجات التعرف على الوجه من الأسواق، وقد دعت الى “حوار وطني” فيما يخص استخدام وكالات تنفيذ القانون الأمريكية لهذه التكنولوجيا.
وهذا التحرك الذي جاء بعد دخول الاحتجاجات العالمية ضد العنصرية والوحشية التي مارستها عناصر الشرطة، هو تغيير واضح في نهج الشركة تجاه تكنولوجيا التعرف على الوجه، ففي نوفمبر 2019 قالت شركة IBM: “الحظر الشامل على التكنولوجيا ليس الحل للمخاوف حول حالات استخدام محددة”.
فالعيوب في تقنية التعرف على الوجه موثقة بشكل جيد. ففي عام 2018 وجدت دراسة لباحثين، من معهد ماساتشوستس للتكنولوجيا Massachusetts Institute of Technology ومايكروسوفت Microsoft، أن التكنولوجيا تتعرف على النساء ذوات البشرة الداكنة بشكل خاطئ بنسبة 35%من الوقت.
وتقول اليسون باويل Alison Powell ، عالمة أخلاقيات البيانات من معهد آدا لوفليس Ada Lovelace institute في المملكة المتحدة:
” أنظمة التعرف على الوجه لها تحيزاتها داخلية لأنها مدربة في المقام الأول على مجموعة من الوجوه البيضاء، وهي لا تتعرف على الوجوه السوداء والبنية جيداً”.
وتقول باويل:” لكن الحل ليس تدريب النظام على مجموعة بيانات أكثر تنوعًا، ستزيد الرقابة على الأشخاص ذوي البشرة السوداء والبنية”.
وقرار الشركة IBM ورد في رسالة من آرفيند كريشنا Arvind Krishna
الرئيس التنفيذي إلى أعضاء الكونغرس الأمريكي، قد وصفته بعض وكالات الأنباء باعتباره نهاية لجميع أعمالها المتعلقة بتكنولوجيا التعرف على الوجوه، ولكن ربما لا تكون هذه هي الحال بالفعل.
إذ يشير وياوف غولدبرغ Yoav Goldberg، من معهد آلن للذكاء الاصطناعي Allen Institute for Al، إلى أن الرسالة تقول إن شركة IBM
قد توقفت عن تقديم برنامج “لأغراض العامة” لتحليل الوجوه، لكن يحتمل أن تفسح مجالًا لبيع أنظمة أكثر تخصصا. هذا، وقد رفضت الشركة IBM التعليق على هذا، واكتفت بالإشارة إلى بيان كريشنا.
مهما كانت التفاصيل، فإنه يمكن أن يكون للإعلان البارز تأثير أوسع في استخدام تكنولوجيا التعرف على الوجه، كما يقول فريديريك كالثيونر Frederek Kaltheuner ، وهو شريك في سياسة التكنولوجيا بمؤسسة موزيلّا Mozilla foundation.
وفي وقت سابق من عام 2020 اقترحت مسودة وثيقة سياسية أن الاتحاد الأوروبي كان يفكر في حظر لمدة خمس سنوات على التكنولوجيا، على الرغم من أن النسخة النهائية المنشورة تخلّت عن هذا الاقتراح. ويقول كالثيونر: “إذا شعرت شركة مثل الشركة IBM بأن تكنولوجيا التعرف على الوجه تمثل مشكلة كبيرة بالنسبة إليهم، فيجب أن يعيد ذلك فكرة “الإيقاف” إلى جدول الأعمال السياسي في أوروبا مرة أخرى”.
هذا، وقد حظر عدد من المدن الأمريكية، بما في ذلك سان فرانسيسكو وسياتل وأوكلاند، بالفعل على الشرطة استخدام تكنولوجيا التعرف على الوجوه، وسيحظر مشروع قانون إصلاح الشرطة الذي قدمه الديمقراطيون الأمريكيون الأسبوع الثاني من يونيو 2020 استخدام التكنولوجيا في اللقطات التي تلتقطها الكاميرات المحمولة على الجسم. وستؤدي ردود الفعل إلى الضغط على شركات مثل أمازون Amazon، والتي تزود قوات الشرطة في الولايات المتحدة بخدمات التعرف على الوجوه، لإعادة التفكير في نهجها. وفي عام 2018 أظهر الاتحاد الأمريكي للحريات المدنية American Civil Liberties Union أن برنامج أمازون حدد بشكل غير صحيح 28 وجهًا في صور الشرطة كأعضاء في الكونغرس، مع نسبة أكبر من التطابقات الخاطئة لأشخاص في حالة الأفراد ذوي البشرة الملونة.
“لقد تلقت برامج التعرف على الوجه ضربة في العام الماضي (2019) من حيث منظور الحريات المدنية، وانتهاك الخصوصية، والمخاطر العالية للتمييز العنصري والتمييز تبعاً للجنس”، كما تقول نيكيتا آغروال Nikkita Aggarwal، من معهد أكسفورد للإنترنت Oxford internet institute في المملكة المتحدة. وهذا قد يعني أن الأنظمة لم تعد قابلة للتطبيق تجاريا، كما تقول.
© 2020, New Scientist, Distributed by Tribune Content Agency LLC