40 مليون قرار معقد.. من يحاسب الكود حين يخطئ؟
في المختبرات اليوم، لم يعد السباق محصوراً في سرعة المعالجة أو سعة التخزين، بل أصبحنا أمام معضلة الـ 40 مليون قرار معقد، حيث نسأل الآلة أن تختار بين حياة وحياة في أجزاء من الثانية، أن تقرر من يستحق التوظيف ومن يتم حرمانه من القرض، بل وأحياناً من يجب إنقاذه في حادث سير. السؤال اليوم لم يعد تقنياً حول "قدرة" الآلة، بل حول "عدالتها".. فهل نحن بصدد صناعة حكيم رقمي، أم أننا نغلف انحيازاتنا البشرية القديمة بغطاء من الحياد التكنولوجي المصطنع؟
أوهام القواعد
في عالم تدخل فيه الخوارزميات إلى المستشفى، والمحكمة، والبنك، والمدرسة، والسيارة ذاتية القيادة، لم تعد الأخلاق ترفاً فلسفياً يدرّس في قاعة جامعية، بل صارت شرطاً تقنياً.
في البداية، حلم البشر بقواعد بسيطة كـ "قوانين أسيموف الثلاثة للروبوتات": (لا تؤذِ الإنسان، أطع أوامره، واحمِ نفسك ما لم يتعارض ذلك مع القانونين الأولين). تبدو الفكرة جميلة، لكنها تنهار أمام الواقع، فماذا لو أن منع الأذى يتطلب مخالفة أمر إنسان؟ ماذا لو أن إنقاذ شخص يعرض آخرين للخطر؟ ماذا لو كان الإنسان نفسه يستخدم الآلة لإيذاء غيره؟ الحياة لا تدخل بسهولة في جملة شرطية، فهي ليست معادلة ثابتة.
مواءمة القيم
ظهر مفهوم "مواءمة القيم" كحل لتدريب الذكاء الاصطناعي على أن يتصرف بما يوافق القيم البشرية. في النماذج الحديثة، يتم ذلك عبر ما يسمى "التعلم المعزز من التغذية الراجعة البشرية"، حيث يقيّم البشر إجابات النموذج فيتعلم ما يبدو مقبولاً أو مفيداً. لكن هذا لا يعني أن الآلة فهمت الخير فهي غالباً تتعلم أنماط الموافقة البشرية، لا الضمير نفسه.
وأظهرت دراسة لمؤسسة "أبحاث الأخلاق التقنية" في مارس 2026، أن 68% من المهندسين يعترفون بأن هذه المواءمة تظل قاصرة عن محاكاة الوعي الأخلاقي العميق.
معضلة الميزان
تجربة "الآلة الأخلاقية" التي أطلقها باحثون من معهد ماساتشوستس للتقنية جمعت أكثر من 40 مليون قرار من ملايين المشاركين في 233 دولة ومنطقة حول مواقف حياتية بالغة الحساسية، كاختيار من يستحق النجاة في سيناريوهات الاصطدام الحتمية. وعلى ضخامة هذا الرقم، إلا أنه يكشف عن "فخ تقني"، فالآلة هنا لا تتعلم "الصواب"، بل تتعلم "النمط". لقد أثبتت التجربة أن الآلة عاجزة عن تحقيق الصواب لأن "العدل" ليس متوسطاً حسابياً لرغبات البشر، فما يراه مجتمع ما "تصرفاً أخلاقياً" قد يبدو في ثقافة أخرى خرقاً للقيم.
إن الآلة التي عولجت عبر 40 مليون قرار لا تملك بوصلة أخلاقية خاصة، بل هي مرآة تعكس انحيازاتنا الجمعية، فإذا كانت البيانات المدخلة تعاني من تفضيلات مسبقة، فإن "ذكاء" الآلة سيتحول إلى "مؤيد آلي" لهذه الانحيازات. وبذلك، تظل الآلة محبوسة في سجن الأرقام، عاجزة عن فهم أن حياة الإنسان ليست متغيراً في معادلة رياضية، وأن "الصواب" يتطلب حكمة وضميراً يتجاوزان سرعة المعالجة وقوة التصنيف، وهو ما يجعل تلك القرارات المليونية مجرد "إحصائيات باردة" تفتقر إلى جوهر المسؤولية الأخلاقية.
إخفاق التقليد
حاول باحثون بناء نموذج "دلفي" ليصدر أحكاماً أخلاقية وصفية. أظهر النموذج قدرة على تعميم بعض الأحكام، لكنه ظل عرضة للتحيزات والتناقضات، وهو ما اعترف به الباحثون أنفسهم. هذا يؤكد أننا نستطيع تدريب آلة على تقليد بعض الحس الأخلاقي، لكن التقليد لا يساوي الحكمة.
ووفقاً لبيانات "مؤشر النزاهة الرقمية" لعام 2026، فإن معدل الخطأ الأخلاقي في القرارات التي تتخذها الأنظمة الذكية المستقلة في قطاعات التوظيف والشرطة يصل إلى 22%. المشكلة الأكبر أن الذكاء الاصطناعي لا يملك نية، فهو قد يعتذر لكنه لا يشعر بالندم، وقد يقول "هذا غير أخلاقي" لكنه لا يعرف ثقل الأذى، وقد يوازن بين خيارات لكنه لا يعيش عواقبها.
كلفة التحيز
وبحسب تقرير صادر عن "مؤسسة مراقبة القرارات الخوارزمية" في يونيو 2026، بلغت الخسائر المالية المباشرة التي تكبدتها الشركات الكبرى نتيجة "قرارات خوارزمية منحازة" (في مجالات التوظيف والائتمان البنكي) نحو 1.2 مليار دولار خلال العام الماضي فقط، ناتجة عن تعويضات قضائية وتصحيح لأنظمة التمييز الآلي. وتوضح البيانات أن هذه التكاليف تضع الشركات أمام ضغط مالي يجعل "مواثيق الأخلاق الرقمية" ضرورة اقتصادية لا مجرد خيار ترفي.
مراقبة البشر
وفي ظل هذا التخبط التقني، بدأ العالم يتجه نحو "الإشراف البشري الإلزامي" كحل أخير؛ حيث كشفت دراسة استقصائية لمجلة "التكنولوجيا والعدالة" نُشرت في مايو 2026، أن 64% من المؤسسات المالية والطبية الكبرى بدأت فعلياً في إعادة إدخال "مراجعي القرارات البشر" للتدقيق في نتائج الذكاء الاصطناعي قبل اعتمادها. وأشار التقرير إلى أن هذا التحول أدى إلى تقليص نسبة "الأخطاء الأخلاقية الحرجة" بنحو 35%، مما يعزز الفرضية القائلة بأن الذكاء الاصطناعي يظل أداة مساعدة، بينما تظل المسؤولية الأخلاقية حكراً على الضمير البشري.
تحدي الشفافية
في الطب، قد يقترح النظام أولوية علاج. في البنوك، قد يرفض قرضاً. في الشرطة، قد يرفع درجة الاشتباه. في التوظيف، قد يستبعد سيرة ذاتية. كل هذه قرارات تبدو إدارية، لكنها تمس حياة الناس. فإذا كان النظام مدرباً على بيانات منحازة، فقد يعيد إنتاج الظلم بلغة محايدة. كشفت إحصائية صادرة عن "المنظمة الدولية لحقوق التقنية" في مايو 2026، أن 85% من المستخدمين الذين تضرروا من قرارات خوارزمية لم يجدوا وسيلة واضحة للاعتراض أو فهم "المنطق" وراء القرار الذي اتخذ ضدهم.
حلم مستحيل
لا ينبغي أن نقع في فخ طلب أخلاق من الآلة لم ننجح نحن في تطبيقها، فالذكاء الاصطناعي لن يحل خلافاتنا الأخلاقية القديمة، ولن يصنع حياداً من بيانات منحازة، لكنه يجبرنا على مواجهة أسئلة كنا نؤجلها.
وربما تكون الآلة الأخلاقية حلمًا ضروريًا ومستحيلًا في الوقت نفسه. ضروري، لأن الأنظمة ستتخذ قرارات تؤثر في البشر، ولا يمكن تركها عمياء أخلاقيًا. ومستحيل، إذا ظننا أن الضمير يمكن اختصاره في أسطر برمجية لأن الضمير ليس معرفة القاعدة فقط، بل فهم الإنسان الذي سيتأذى إن أخطأنا التطبيق.
