يعاني الذكاء الاصطناعي حتى اليوم من واحدة من المشاكل التي لا تُغتَفر، والتي يمكننا القول بأنّها تقف حجرة عاثرة في طريق هذا المجال الذي يتطوّر يومًا بعد يوم، ولكن يختلف نطاق المشكلة باختلاف الشركة، وفي حال كانت الشركة عملاقة مثل Facebook أو Twitter فإنّ الأثر خطير للغاية، ونظرًا لخطورة هذه المشكلة تقوم منصّة Twitter اليوم بالاعتماد على المستخدمين لحل المشاكل التي يعاني منها النظام، وذلك عبر الدفع للمستخدمين للإبلاغ عن المشاكل وذلك لقاء مكافآت قد تصل إلى 3500 دولار مقابل إخبار المنصّة بأنّها تعاملت مع الصور بشكل غير صحيح.
فقد صرّحت الشركة في وقت سابق بأنّ منصّتها تعاني من مشكلة التحيّز عند معالجة الصور الرقمية، حيث يحصل أصحاب البشرة البيضاء على أفضلية مقابل أصحاب البشرة السمراء أو السوداء.
أحدث الذكاء الاصطناعي ثورة في الحوسبة من خلال تعليم الحاسب كيفية اتخاذ القرارات بناءً على بيانات العالم الحقيقي بدلاً من قواعد البرمجة الصارمة التقليدية، ويساعد ذلك في إنجاز بعض المهام مثل فهم الكلام وفحص الرسائل غير المرغوب فيها وتحديد وجه المستخدم لإلغاء قفل الهاتف.
ومع ذلك يمكن أن تكون الخوارزميات غير شفافة تمامًا وذلك بسبب وجود مشاكل في بيانات التدريب، وقد حصلت مشاكل من هذا النوع وذلك عند تصنيف Google للأفراد السود على إنّهم غوريلّا في الصور، لذا يعد إصلاح مشكلات الذكاء الاصطناعي أمرًا بالغ الأهمّية لأننا نعتمد على التكنولوجيا في جوانب مختلفة من حياتنا.
تشبه مكافأة التحيّز الخوارزمي في Twitter البرامج التي تقدّمها العديد من شركات التكنولوجيا الآن للعثور على المشاكل الأمنية في منتجاتها، على سبيل المثال دفعت Google ما مجموعه 29 مليون دولار مقابل الكشف على الأخطاء والثغرات في منتجاتها خلال السنوات العشر الماضية، وتجدر الإشارة إلى أنّ HackerOne يساعد في إدارة مسابقة مكافأة التحيّز الخوارزمي على Twitter، وقد تم نشر القواعد والشروط على المنصّة، وآخر موعد لتقديم الأخطاء في 6 أغسطس وستعلن منصّة Twitter عن الفائزين في 8 أغسطس.
