نعم، بدأ الذكاء الاصطناعي يتجاوز دوره الاستشاري التقليدي ليتحول نحو الاستقلالية في تحليل البيانات واتخاذ بعض القرارات التشغيلية والبرمجية المعقدة، مما يثير تساؤلات حول حدود هذه السيطرة ومخاطر التطوير الذاتي. إن حماية الحكم العقلي في جميع أنحاء المؤسسة مسألة نابعة من التصميم، وليست من الفرض الإجباري، إذ لا يمكنك أن تطلب من الناس التفكير بأنفسهم بينما تبني شركة تُكافئهم على عدم بذل الجهد.
على الرغم من وجود العديد من الجوانب المثيرة في الذكاء الاصطناعي، فإنه ينبغي أن نتحلى بالحذر. فلا شك في قوة الذكاء الاصطناعي، ولكن مع هذه القوة تأتي مسؤولية كبيرة. كيف يمكننا ضمان بقاء البشر في موقع القيادة، خاصة فيما يتعلق بالقرارات الأخلاقية أو الحساسة أو تلك التي تنطوي على مخاطر عالية؟ لذا سنتعمق في كيفية أثر الذكاء الاصطناعي على عملية اتخاذ القرارات، وما المخاطر التي ينبغي أن نكون واعين لها، ولماذا من الضروري الحفاظ على دور الحكم البشري في جوهر العملية والاعتراف بأنه أمر لا يمكن التنازل عنه.
ظهرت أولى علامات خروج الأمور عن مسارها عندما وجّه موظفيه إلى استشارة الذكاء الاصطناعي قبل كل اجتماع لمناقشة أفكارهم. ثم بدأ باتخاذ قرارات هيكلية بشأن الشركة بناءً على محادثات مع روبوت الدردشة، وتوظيف وفصل الموظفين بناءً على توصيات الذكاء الاصطناعي، وتحويل تركيز الشركة بالكامل من مجال ممارسة إلى آخر بناءً على ما أخبره به النموذج في ذلك الأسبوع.
كانت القشة التي قصمت ظهر البعير عندما استخدم الذكاء الاصطناعي لإنشاء وثيقة أطلق عليها اسم «الكتاب المقدس»، وهي عبارة عن دليل عمل متغيّر باستمرار، كان يُتوقع من الموظفين دراسته حتى لا يضطروا أبداً إلى طرح أي سؤال على زميل بشري. قد يميل البعض إلى تصنيف هذا النوع من القصص ضمن «حكايات جنون المكاتب»… لكنها موجودة، بل ومنتشرة.
بهذا بات الذكاء الاصطناعي قوةً جديدةً تتشكل قبل لحظة القرار نفسها. فمن جهةٍ، يمنح الإنسان والمؤسسات قدرةً على محاكاة الاحتمالات واختبار النتائج بأدواتٍ منها التوأمة الرقمية والوكلاء الرقميون في مختلف المجالات لتجنب عاقبة الخطأ أو تقليلها في الواقع قبل وقوعه. لكنه من جهةٍ أخرى قد يتحول إلى مصفاةٍ خفيةٍ ترتب ما نراه، وتفرز فرص العمل، وتمنح الإنسان درجةً رقميةً في أنظمة العدالة والخدمات. لذا لا تكمن القضية في قدرة الآلة على التنبؤ وحدها، إنما فيمن يملك النموذج، وبأي بياناتٍ يعمل، وكيف يمكن تفسير قراراته والاعتراض عليها حين تمسّ الصحة أو العمل أو الحرية أو صورة الإنسان، بل وحتى البقاء على قيد الحياة.
تأخذ المحاكاة الرقمية صوراً متعددةً، تختلف باختلاف المجال الذي تُستخدم فيه، لكنها تشترك جميعاً في فكرةٍ مرجعيةٍ أساس: بناء نموذجٍ يمكن من خلاله اختبار الاحتمالات قبل تطبيقها في الواقع. ومن هذه التطبيقات يبرز “التوأم الرقمي”، وهو نموذجٌ حاسوبيٌ يحاكي نظاماً مادياً حقيقياً، مثل آلةٍ أو مبنىً أو مصنعٍ، بهدف مراقبة حالته واختبار سلوكه افتراضياً قبل تطبيق أيّ قرارٍ في الواقع. ويُعرّفه المعهد الوطني الأمريكي للمعايير والتكنولوجيا بأنه نموذجٌ رقميٌ متقدمٌ يمثِّل الأنظمة المادية ضمن بيئة تحليلٍ تجمع بين الرصد والتنبؤ وتحسين الأداء ودعم اتخاذ القرار.
ويظهر دور الذكاء الاصطناعي هنا في صورتين متكاملتين. الأولى هي المحاكاة والتنبؤ، أي توقّع الحالات المقبلة بناءً على ما يعرفه النموذج من بياناتٍ وسلوكٍ سابق. والثانية هي التحسين، أي اقتراح بدائل تقلل الخسائر أو ترفع الكفاءة أو تكشف عطلاً قبل أن يظهر. لذلك لا يحلّ الذكاء الاصطناعي في هذا السياق محلّ القرار الإنساني، بل يضيف طبقةً تحليليةً تساعد صانع القرار على رؤية ما كان مخفياً، وحينئذٍ يمكن تغيير النتائج إذا تغيرت مدخلاتٌ بسيطة.
يتجه قادة الأعمال ورواد الأعمال بشكل متزايد إلى برامج الذكاء الاصطناعي التوليدي للحصول على الأفكار والمشورة. ومع ذلك، ورغم انتشارها الواسع، لا يحصل الجميع على الفوائد نفسها من هذه التقنية، ويعود ذلك أحيانًا إلى اختلاف المستخدمين أنفسهم (وقد تعكس هذه الاختلافات تفاوتات مجتمعية أوسع). تُظهر الأبحاث الحديثة أن الخبرة البشرية والحكم السليم لا يزالان عنصرين حاسمين في اتخاذ القرارات، لأن الذكاء الاصطناعي لا يستطيع التمييز بدقة بين الأفكار الجيدة والمتوسطة، أو توجيه استراتيجيات الأعمال طويلة الأجل بمفرده. لذا، فإن معرفة حدود هذه الأدوات، وكيفية تطبيق الإشراف البشري على مخرجاتها، وكيفية إدراك الطرق التي قد تُعزز بها هذه الأدوات الحواجز بدلًا من إزالتها، أمر بالغ الأهمية لاستخدامها بفعالية.
التحوّل في فلسفة التصميم لا يهدف فقط إلى تحسين تجربة المستخدم، بل إلى تعزيز دوره في عملية اتخاذ القرار. النموذج القديم، الذي يصوّر الذكاء الاصطناعي مصدراً للحقيقة، يُضعف قدرة الإنسان على التفكير النقدي، ويجعله أكثر اعتماداً على إجابات خارجية بدلاً من تحليل الخيارات ذاتياً. أما النموذج الجديد، الذي يُقدّم الذكاء الاصطناعي دليلاً، فيمنح المستخدم أدوات لفهم ذاته وموقفه بشكل أعمق. النموذج لا يخبرك «ماذا تفعل؟»، بل يساعدك على معرفة «لماذا قد تفعل ذلك؟»، و «ما هي البدائل؟»، و«ما الذي يناسب قيمك وظروفك؟». بهذه الطريقة، يصبح الذكاء الاصطناعي أداة تدعم التفكير، لا تحل محله وسيلة لتعزيز الوعي واتخاذ قرارات أكثر وعياً واتزاناً.
والخصوصية، على سبيل المثال لا الحصر. ويواجه قطاع التعليم تحديات أخلاقية جمة عند تطبيق الذكاء الاصطناعي أو استخدامه، ويواصل العديد من الباحثين استكشاف هذا المجال. نقسم الذكاء الاصطناعي في التعليم إلى ثلاثة مستويات: أولها، التكنولوجيا نفسها، من مصنّع ومطور، وما إلى ذلك؛ وثانيها، تأثيرها على المعلم؛ وثالثها، تأثيرها على المتعلم أو الطالب.
أولاً وقبل كل شيء، ثمة حاجة ماسة لتطوير تقنيات الذكاء الاصطناعي في مجال التعليم، بحيث لا تكون هذه التقنيات موضع شك أو مخاوف أخلاقية (أيلينغ وتشابمان، 2022 ). وقد أثارت التوقعات العالية للذكاء الاصطناعي اهتماماً وقلقاً عالميين، مما أدى إلى إصدار أكثر من 400 وثيقة سياساتية حول الذكاء الاصطناعي المسؤول. وتُرسّخ المناقشات المعمقة حول القضايا الأخلاقية أساساً متيناً، إذ تُهيئ الباحثين والمديرين وصناع السياسات والمعلمين لمناقشات بنّاءة تُفضي إلى توصيات واضحة لبناء أنظمة موثوقة وآمنة وجديرة بالثقة، تُحقق نجاحاً تجارياً (لاندوير، 2015 ). ولكن يبقى السؤال: هل من الممكن تطوير تقنية ذكاء اصطناعي للتعليم لا تُثير أي مخاوف أخلاقية؟ ربما يحقق المطور أو المُصنِّع مكاسب غير مشروعة من استخدام تقنية الذكاء الاصطناعي في التعليم، وربما لا تكون نواياهم نابعة من تحسين التعليم ودعمه. تتبادر هذه التساؤلات إلى الذهن عند الحديث عن تأثير الذكاء الاصطناعي في التعليم. وحتى لو كان تطوير تقنية الذكاء الاصطناعي خالياً من أي مخاوف أخلاقية لدى المطور أو المُصنِّع، فلا يوجد ما يضمن عكس ذلك. كما أن مخاطر الاعتبارات الأخلاقية تعتمد أيضاً على الجودة التقنية. إن الجودة العالية تقلل المخاطر، ولكن هل من الممكن لجميع المؤسسات التعليمية تطبيق تقنيات باهظة الثمن وعالية الجودة؟ (شنايدرمان، 2021 ). ثانيًا، قد تنشأ العديد من المشكلات عند استخدام المعلمين لتقنية الذكاء الاصطناعي (توبكو وزوك، 2020 ). قد تتعلق هذه المشكلات بالأمن، والاستخدام، والتطبيق، وغيرها. وتتبادر إلى الذهن أسئلة حول الأمن، والتحيز، والتكلفة، والثقة، وغيرها (معهد مهندسي الكهرباء والإلكترونيات، 2019 ). ثالثًا، توجد مشكلات تتعلق بالخصوصية، والثقة، والسلامة، والصحة على مستوى المستخدم. ولمعالجة هذه المشكلات، يلزم وجود إطار تنظيمي وسياسات قوية. مع ذلك، وللأسف، لم يتم وضع أي إطار، ولم يتم الاتفاق على أي مبادئ توجيهية، ولم يتم تطوير أي سياسات، ولم يتم سن أي لوائح لمعالجة القضايا الأخلاقية التي يثيرها الذكاء الاصطناعي في التعليم (روز وآخرون، 2018 ).
من الواضح أن تقنية الذكاء الاصطناعي تثير العديد من المخاوف (ستال، 2021 أ، 2021 ب)، ومثل القطاعات الأخرى، يواجه قطاع التعليم تحديات مماثلة (هاكس، 2018 ). وإن لم تؤثر جميع هذه القضايا/المشكلات بشكل مباشر على التعليم والتعلم، فإن معظمها يؤثر بشكل مباشر أو غير مباشر على العملية التعليمية. لذا، يصعب تحديد ما إذا كان للذكاء الاصطناعي تأثير أخلاقي إيجابي على التعليم أم سلبي، أو حتى إيجابي أو سلبي جزئيًا. وسيستمر النقاش حول المخاوف الأخلاقية المتعلقة بتقنية الذكاء الاصطناعي باختلاف الحالات والسياقات (بيتوسي وسيفاكي، 2020 ). يركز هذا البحث على المخاوف الأخلاقية الثلاثة التالية المتعلقة بالذكاء الاصطناعي في التعليم:
دكتور القانون العام والاقتصاد الدولي
ومدير مركز المصريين للدراسات بمصر ومحكم دولي معتمد بمركز جنيف للتحكيم الدولي التجاري
وعضو ومحاضر بالمعهد العربي الأوربي للدراسات السياسية والاستراتيجية بفرنسا
