الشبح في الآلة: حين تصبح قرارات الموارد البشرية بلا وجه!
مصطفى عزاممؤسس TALENT® · مؤلف The Algorithmic Leader
صاغ الفيلسوف جيلبرت رايل عبارة «الشبح في الآلة» لينتقد مغالطة الفصل بين الوعي والجسد المادي. واليوم، يطارد المؤسسة الحديثة شبح جديد: ذكاء اصطناعي يتخذ قرارات مصيرية من دون عقل واعٍ ومسؤول يشرحها. لقد زرعنا قوة هائلة غير مرئية في أنظمة الموارد البشرية لدينا، وها هي تتخذ قرارات بلا وجه يمكننا أن نحمّله المسؤولية.
ويتحوّل هذا المفهوم المجرد إلى واقع ملموس ومرعب في لحظات الأزمة. لنأخذ قاعة مجلس إدارة في فرانكفورت، حيث كان الرئيس التنفيذي للموارد البشرية (CHRO) قد انتهى للتو من عرض أداة ذكاء اصطناعي جديدة صُمّمت لتحديد القادة ذوي الإمكانات العالية. بدت النتائج مقنعة، إلى أن طرح أحد أعضاء المجلس سؤالًا بسيطًا: «لماذا استُبعدت ماريا؟»
فجاء ردّ النظام أشبه بهزّة كتفين رقمية: «تطابق غير كافٍ في البيانات ضمن مؤشرات القيادة التعاونية».
لم يستطع أحد أن يترجم ما يعنيه ذلك. لا المهندسون. ولا فريق الموارد البشرية. ولا حتى الخوارزمية نفسها. لم يعرف أحد أي الحقائق كانت مؤثرة، ولا كيف حُدّدت العتبة، ولا ما الذي كان سيقلب النتيجة. ماريا، المديرة المحترمة التي تحمل سجلًا من التقييمات المتميزة على مدى عشر سنوات، حُكم عليها في صمت بأنها غير جديرة، بقرار من نظام لا يفهمه أحد فهمًا كاملًا: إنه شبح حديث في الآلة.
هذا السيناريو يعكس واقعًا يتكشّف في المؤسسات حول العالم. فالذكاء الاصطناعي بات يشكّل المسارات المهنية بصورة روتينية، ويحدد من يُوظَّف ومن يُرقّى ومن يحصل على أجر عادل. وكلما ازدادت هذه الأنظمة تطورًا، ازدادت غموضًا. إننا ندخل عصرًا تُتخذ فيه قرارات تغيّر حياة الناس بواسطة آلات عاجزة عن تفسير نفسها، ما يخلق فراغًا خطيرًا في المساءلة تتبدد فيه المسؤولية في الأثير الرقمي. إذا عجزت الموارد البشرية عن ترجمة منطق الخوارزمية إلى منطق إنساني، تتراجع الثقة، وتتبعها المساءلة، وتدفع القيادة الثمن!
الطبقات الثلاث لتعذّر التفسير
يعمل تحدي قابلية تفسير الذكاء الاصطناعي على ثلاثة مستويات متمايزة، يضاعف كلٌّ منها أثر المستوى الذي يليه.
تعذّر التفسير التقني
بعض نماذج الذكاء الاصطناعي، ولا سيما أنظمة التعلّم العميق، غامضة بطبيعتها. فعملية صنع القرار فيها تنطوي على ملايين العمليات الحسابية عبر طبقات متتالية من الشبكات العصبية، وحتى مصمموها لا يستطيعون دائمًا تتبّع كيف تقود مدخلات بعينها إلى مخرجات بعينها. وقد وجدت دراسة أجراها معهد AI Now عام 2023 أن 78% من إدارات الموارد البشرية التي تستخدم أدوات الذكاء الاصطناعي لم تتمكن من أن تشرح بالكامل كيف توصّلت أنظمتها إلى قرارات محددة تمسّ الموظفين. وحين ترفض خوارزمية الترقيات مرشحًا بناءً على «إشارات الملاءمة الثقافية»، علينا أن نسأل: أي إشارات؟ ومن عرّفها؟ وكيف تُوزن؟ هذا الغموض ليس مسألة تقنية فحسب؛ إنه مسألة أخلاقية.
الغموض التشغيلي
كثيرًا ما تشتري إدارات الموارد البشرية أدوات الذكاء الاصطناعي بوصفها منتجات من أطراف خارجية. ويحمي الموردون خوارزمياتهم باعتبارها ملكية فكرية، فيبقى المشترون بلا أي رؤية للمنطق الذي يحرّك النتائج. ولا يمكنك أن تشرح ما لا تملكه. إليك حالة حقيقية من عملي الاستشاري: نشرت شركة تقنية في أمريكا الشمالية أداة فرز تعمل بالذكاء الاصطناعي لترتيب أولويات المرشحين. في الظاهر، حسّنت الأداة الكفاءة. لكن مديري التوظيف لاحظوا تدريجيًا نمطًا لافتًا: كان النظام يخفّض باستمرار تقييم المتقدمين من جامعات أقل شهرة، حتى عندما تطابقت خبراتهم مع خبرات خريجي المؤسسات النخبوية. لم تُصمَّم الخوارزمية لتمارس التمييز، بل تعلّمت ببساطة من بيانات توظيف تاريخية كانت تفضّل خريجي جامعات Ivy League. لقد كافأت النسب الأكاديمي لا الإمكانات. هذا هو جوهر مشكلة الصندوق الأسود. وكثيرًا ما يُخفي هذا الغموض التشغيلي مرشحات البيانات الأولية، أو خطوات تنظيفها، أو الطريقة التي يربط بها الموردون النماذج بعضها ببعض. لهذا يجب أن تشترط وجود «بطاقة نموذج» (Model Card) لكل نظام يتخذ قرارات مؤثرة، وهي صحيفة بيانات يقدّمها المورد تحدد الاستخدام المقصود، والأداء عبر الفئات المختلفة، والحدود المعروفة.
الغموض المؤسسي
أعمق طبقات الصندوق الأسود كثيرًا ما تكون من صنع أيدينا. فحتى النموذج الشفاف يصبح عصيًّا على التفسير حين تكون القواعد المؤسسية غير مكتوبة. وإذا لم تستطع أن تشير إلى الأساس الذي تستند إليه درجة القطع في سياساتك، أي الخط الفاصل بين «نعم» و«لا»، فإن التقنية ليست الخطر الأول الذي يواجهك.
اختبار التنفيذيين: أربعة أسئلة لأي نظام ذكاء اصطناعي
قبل أن يدخل أي قرار يتدخل فيه الذكاء الاصطناعي حيّز التنفيذ، يجب أن يجتاز اختبارًا بسيطًا من أربعة أجزاء. وإن أخفق فيه، فهو ليس جاهزًا للتطبيق على أناس حقيقيين.
- هل نستطيع تسمية القاعدة؟ هل نستطيع أن نحدد السياسة أو الهدف التجاري الذي كان النظام يطبّقه؟
- هل نستطيع إظهار المسار؟ هل نستطيع أن نسرد المدخلات والفحوص المنطقية التي أنتجت هذه النتيجة بعينها؟
- هل نستطيع تقديم سيناريو بديل؟ هل نستطيع أن نصف أصغر تغيير واقعي كان سيقلب النتيجة، ليعرف الشخص ما عليه فعله بعد ذلك؟
- هل نستطيع ضمان حق الاعتراض؟ هل نستطيع أن نحدد مراجعًا بشريًا، وإطارًا زمنيًا، والأدلة التي سيأخذها في الاعتبار؟
يحوّل هذا الاختبار مشكلة أخلاقية مجردة إلى قائمة تحقق عملية للحوكمة.
القصة ذات المشاهد الخمسة: مسار سردي نحو الحل
بدلًا من قائمة تحقق أخرى، استخدم قصة واحدة متماسكة لكل قرار من قرارات الموارد البشرية يتدخل فيه الذكاء الاصطناعي. فهذا النهج السردي يحوّل قابلية التفسير من شعار إلى عادة يمكن الدفاع عنها.
- المشهد 1: حدّد النطاق. اذكر بلغة واضحة ما يُسمح للنظام بأن يقرره قبل تشغيله. مثال: «أوصِ بنتيجة الترقية. استخدم فقط مستوى الإنجاز مقابل الأهداف، وحجم ملاحظات الزملاء، والأثر الموثّق على العملاء».
- المشهد 2: اشترط سببًا يستطيع الإنسان تكراره. أصرّ على رمز سبب قصير واحد، وفقرة واحدة يستطيع المدير أن يقولها بصوت عالٍ. أدوات مثل LIME وSHAP عدسات مفيدة للمدققين لمعرفة المدخلات التي دفعت التنبؤ في اتجاه معين، لكنها تدعم السبب ولا تحل محله.
- المشهد 3: اجعل السيناريو البديل مرئيًا. اذكر أصغر تغيير واقعي كان سيقلب النتيجة. فهذا يمنح الشخص طريقًا واضحًا وقابلًا للتنفيذ للمضي قدمًا، بدلًا من طريق مسدود.
- المشهد 4: اضمن طريقًا حقيقيًا للاعتراض. وفّر إمكانية التظلّم بنقرة واحدة، مع مراجعة بشرية محددة بمهلة زمنية، تتم خارج سلسلة القرار الأصلية.
- المشهد 5: احتفظ بالأثر. خزّن المدخلات، وإصدار النموذج، ودرجة القطع، وأي تدخلات بشرية عدّلت القرار. بهذه الطريقة تتعلّم، وتتحسّن، وتدافع عن القرار لاحقًا.
الواجب الأخلاقي والحد الأدنى القانوني
التقنية لا تلغي المعضلات الأخلاقية، بل تضخّمها. وصعود الذكاء الاصطناعي في الموارد البشرية لا يعفينا من مسؤولية اتخاذ قرارات عادلة وشفافة. إنه يزيد هذه المسؤولية.
لم يعد هذا مجرد ممارسة جيدة؛ بل أصبح متطلبًا قانونيًا. فقد ارتفع الحد الأدنى التنظيمي. إذ يصنّف قانون الذكاء الاصطناعي الأوروبي (EU AI Act) أنظمة الموارد البشرية ضمن الأنظمة «عالية المخاطر»، ويشترط الشفافية. وتفرض قوانين مثل القانون المحلي رقم 144 في مدينة نيويورك (Local Law 144) إجراء تدقيقات للتحيّز وإخطار المرشحين. وقد أوضحت لجنة تكافؤ فرص العمل الأمريكية (EEOC) أن التزامات الحقوق المدنية تنطبق على الأدوات الخوارزمية؛ فإذا أنتجت أداة ما نتيجة تمييزية، يتحمّل صاحب العمل المسؤولية القانونية.
المورد الذي لا يستطيع الإجابة عن أسئلة أساسية، مثل المدخلات الأكثر تأثيرًا في القرار، أو طريقة تقديمه للسيناريوهات البديلة، أو كيفية تعديل العتبات وتوثيق هذا التعديل، ليس جاهزًا لاستخدامه في قرارات الموارد البشرية عالية المخاطر.
الطريق إلى الأمام: من فراغ المساءلة إلى الضمان الأخلاقي
الهدف ليس إقصاء الذكاء الاصطناعي من الموارد البشرية، بل إتقانه؛ أي تسخير قوته مع ضمان أن يبقى خاضعًا للمساءلة أمام القيم الإنسانية. والقادة الذين سيرسمون ملامح العقد المقبل هم أولئك الذين يبنون ضمانًا مرئيًا في كل قرار مؤتمت.
ويتطلب ذلك تحوّلًا ثقافيًا، من النظر إلى الذكاء الاصطناعي بوصفه صندوقًا أسود إلى التعامل معه كأصل خاضع للحوكمة. وهذا يعني الاستثمار في الثقافة الخوارزمية حتى يتمكن القادة من طرح الأسئلة الصحيحة. كما يستلزم فرقًا متعددة التخصصات لتدقيق الخوارزميات، تختبر بانتظام خلوّها من التحيّز ومدى انسجامها مع القيم.
سيتقبّل الناس نتائج لا تعجبهم إذا استطاعوا رؤية القاعدة، وفهم المسار، وممارسة حقهم في الاعتراض. لكنهم سيرفضون النتائج التي لا يستطيعون فهمها. السؤال ليس ما إذا كنا قادرين على فهم هذه الأنظمة، بل ما إذا كنا نملك الشجاعة لنصرّ على أن تكون قابلة للفهم.
طريقك واضح. طبّق الاختبار رباعي الأجزاء. نفّذ القصة ذات المشاهد الخمسة. اطلب الشفافية من الموردين. انشر نتائجك. افعل ذلك، ولن تكتفي بالامتثال للحد الأدنى القانوني الجديد، بل ستبني الثقة وتقود بقرارات تستطيع أن تقف خلفها.
اعتبارات أساسية لكبار التنفيذيين
- هل تجتاز استراتيجيتنا لقابلية تفسير الذكاء الاصطناعي الاختبار رباعي الأجزاء الذي يغطي القاعدة والمسار والسيناريو البديل والاعتراض؟
- هل نستخدم بطاقات النماذج (Model Cards) لإزالة الغموض عن أنظمة الموردين وإنشاء سجلات قابلة للتدقيق؟
- كيف نُعدّ مديرينا لصياغة السبب القابل للتكرار بشريًا وراء أي قرار يستند إلى الذكاء الاصطناعي؟
- هل آلية التظلّم لدينا من القرارات الخوارزمية وسيلة إنصاف حقيقية أم مجرد لفتة رمزية؟
- هل تُلزم عقودنا مع الموردين بالشفافية التي نحتاجها للوفاء بالتزاماتنا الأخلاقية والقانونية؟
المراجع
- AI Now Institute. (2023). Opacity in Practice: Algorithmic Accountability in HR.
- European Parliament. (2024). Artificial Intelligence Act (AI Act).
- NIST. (2023). AI Risk Management Framework (AI RMF) 1.0.
- New York City Local Law 144. Bias Audit and Notice Requirements for Automated Employment Tools.
- US EEOC. Technical Assistance on Algorithmic Tools under Title VII and the ADA.
- Ribeiro, Singh, Guestrin. “Why Should I Trust You?” (LIME). KDD, 2016.
- Lundberg, Lee. SHAP framework for feature attributions. 2017.
- Mitchell, Wu, Zaldivar, et al. Model Cards for Model Reporting. FAT*, 2019.
- The Alan Turing Institute. Algorithmic Transparency in Organizational Decision Making. 2024.
نُشر المقال الأصلي لأول مرة على LinkedIn.