Aller au contenu principal
NUKOE

تحيز الذكاء الاصطناعي في التوظيف: قصة فشل أمازون

• 8 min •
Représentation schématique du biais de genre dans un algorithme de recrutement.

في عام 2026، كشف مقال لرويترز أن أمازون تخلت بهدوء عن أداة توظيف تعتمد على الذكاء الاصطناعي. كان الخوارزم، المصمم لأتمتة اختيار السير الذاتية، قد تعلم بنفسه استبعاد الطلبات النسائية. أحدثت هذه المعلومة صدمة في عالم التكنولوجيا وخارجه. ومع ذلك، بعد ما يقرب من ثماني سنوات، لا تزال قضية التحيز الجندري في أدوات التوظيف المدعومة بالذكاء الاصطناعي ملتهبة. يقدم هذا المقال غوصًا في هذه الحالة الدراسية، وأسبابها العميقة، والدروس التي يجب على محترفي الرقمنة استخلاصها.

فشل أمازون: تحيز جندري تعلمه الخوارزم

كانت الأداة التي طورتها فرق أمازون تمنح المرشحين تقييمًا من نجمة إلى خمس نجوم، على غرار تقييمات العملاء. المشكلة؟ تم تدريبها على السير الذاتية التي تلقتها الشركة على مدى عشر سنوات، وهي فترة كانت فيها طلبات الذكور أغلبية ساحقة في المناصب التقنية. لذلك تعلم الخوارزم ربط "المرشح الجيد" بـ "الرجل". النتيجة: السير الذاتية التي تحتوي على كلمات مثل "نساء" أو اسم جمعيات نسائية كانت تُخفض قيمتها بشكل منهجي. وفقًا لرويترز، حتى أن الأداة عاقبت خريجات جامعتين غير مختلطتين. أنهت أمازون المشروع في عام 2026، لكن القضية شوهت سمعة الذكاء الاصطناعي المطبق على التوظيف بشكل دائم.

لماذا يعيد الذكاء الاصطناعي إنتاج التحيزات البشرية؟

خلافًا للاعتقاد الشائع، الخوارزم ليس موضوعيًا بطبيعته. إنه يعكس التحيزات الموجودة في بيانات التدريب. في حالة أمازون، كانت البيانات التاريخية منحازة بالفعل لصالح الرجال. لم يفعل الذكاء الاصطناعي سوى تضخيم هذا التحيز وتنظيمه. تظهر دراسات عديدة، بما في ذلك دراسة نُشرت في Nature عام 2026، أن أنظمة التوظيف القائمة على الذكاء الاصطناعي يمكن أن تميز ليس فقط على أساس الجنس، ولكن أيضًا على أساس الأصل العرقي أو العمر أو الإعاقة. التمييز الخوارزمي ليس خطأ، بل هو نتيجة مباشرة لبيانات غير كاملة وخيارات تصميم.

إرث قضية أمازون: ما تغير (وما لم يتغير)

منذ عام 2026، اشتد النقاش. تفرض لوائح مثل قانون الذكاء الاصطناعي الأوروبي الآن تقييم المخاطر لأنظمة الذكاء الاصطناعي عالية المخاطر، بما في ذلك التوظيف. ومع ذلك، يكشف تحقيق لهيئة الإذاعة البريطانية نُشر في عام 2026 أن العديد من أدوات التوظيف بالذكاء الاصطناعي لا تزال تصفي أفضل المرشحين، غالبًا بطريقة غير شفافة. تستمر التحيزات الجندرية، كما تؤكد تحليلات حديثة على ResearchGate و ScienceDirect. لذا فإن المشكلة لم تُحل، بل أصبحت معروفة بشكل أفضل.

الأخطاء الكلاسيكية للشركات التي تنشر الذكاء الاصطناعي في التوظيف

1. استخدام بيانات تاريخية دون تنظيفها. إذا كانت بياناتك تعكس تمييزًا سابقًا، فسيعيد الذكاء الاصطناعي إنتاجه. هذا بالضبط ما حدث في أمازون.

2. الخلط بين الارتباط والسببية. يمكن للخوارزم أن يتعلم أن المرشحين من جامعة معينة ينجحون بشكل أفضل، دون فهم أن ذلك يعود لعوامل أخرى.

3. إهمال الشفافية. العديد من الأدوات هي صناديق سوداء: لا يعرف مسؤولو التوظيف سبب رفض سيرة ذاتية. هذا يجعل اكتشاف التحيزات مستحيلًا.

4. غياب التنوع في فريق التصميم. فريق متجانس لديه فرصة أقل لتوقع أو اكتشاف التحيزات.

نحو حلول تقنية وإدارية

يستكشف البحث، خاصة المنشور في Nature و MDPI، سبلًا لتصحيح هذه التحيزات:

  • تدقيق منتظم للخوارزميات من قبل فرق مستقلة.
  • تنظيف وإعادة توازن بيانات التدريب.
  • شفافية النماذج (الذكاء الاصطناعي القابل للتفسير).
  • فرق متعددة التخصصات تضم علماء أخلاقيات وعلماء اجتماع.

لكن التقنية وحدها لا تكفي. كما تشير ACLU، التحيزات الخوارزمية هي قبل كل شيء انعكاس للتحيزات المجتمعية. بدون إرادة سياسية وإدارية قوية، تخاطر أدوات الذكاء الاصطناعي بإدامة التفاوتات التي يفترض أن تحاربها.

الخاتمة: الذكاء الاصطناعي، مرآة تحيزاتنا

قضية أمازون ليست مجرد حادثة عابرة. إنها تحذير. يمكن للذكاء الاصطناعي أن يكون أداة رائعة لموضوعية التوظيف، بشرط أن يكون المصممون والبيانات واعين بتحيزاتهم. بالنسبة لمحترفي الرقمنة، الدرس واضح: لا تثق أبدًا بشكل أعمى في خوارزم، واسأل دائمًا عن البيانات التي تغذيه. ستبقى قضية أمازون، التي حللها باحثون من جميع أنحاء العالم، مرجعًا لكل من يصمم أو ينشر الذكاء الاصطناعي في التوظيف.

للمزيد