برنامج بي بي سي الإخباري بانوراما “Panorama“، خصص مؤخرًا حلقة ركزت على المخاطر المحتملة للذكاء الاصطناعي .(AI) وحذر رئيس شركة مايكروسوفت، براد سميث، من السباق بين أمريكا والصين لتطوير هذه التكنولوجيا.
وقال سميث: “أتذكر باستمرار دروس جورج أورويل في روايته “1984”. القصة تدور حول حكومة يمكنها أن ترى وتراقب وتسمع كل ما يفعله ويقوله الجميع طوال الوقت. لكن ذلك لم يحدث في عام 1984، وإذا لم نكن حذرين، فقد يحدث عام 2024. “
جاء التحذير بعد شهر من إصدار الاتحاد الأوروبي مسودة لوائح لوضع قيود على استخدام الذكاء الاصطناعي. ولكن في أمريكا، ركزت التشريعات على الحد من هذه القيود وتعزيز أبحاث وتكنولوجيا الذكاء الاصطناعي لأغراض الأمن القومي.
والذكاء الاصطناعي يشير عمومًا إلى الآلات التي يمكنها التعلم أو حل المشكلات تلقائيًا، دون تدخل بشري. وهذا نهج مفيد للغاية، لكنه قد يكون خطيرًا عند تطبيقه على البيانات الاجتماعية.
بيرنهاردت تروت، أستاذ بمعهد ماساتشوستس للتكنولوجيا ويدرّس دورة حول الذكاء الاصطناعي والأخلاق، قال إن إساءة استخدام الذكاء الاصطناعي، تمثل قضية أكثر تعقيدًا، فهي قضية سياسية وأخلاقية.
وقال سميث: “يعد التعرف على الوجوه أداة قوية لإنجاز مهام جيدة، ولكن إذا أردت مراقبة كل شخص في الشارع، وكل شخص يسير في مظاهرة، يمكنك الاستفادة من الذكاء الاصطناعي”.
بدأت الصين بالفعل في استخدام تكنولوجيا الذكاء الاصطناعي بطرق مفيدة خلال جائحة كورونا، وهي في الوقت نفسه تطبيقات مثيرة للقلق. كما يتم استخدامها للتعرف على الوجه، بدلاً من تذاكر الحافلات والقطارات. وهذا يعني أن الحكومة يمكنها الوصول إلى بيانات وفيرة حول تحركات المواطنين وتفاعلاتهم المتبادلة، وهو ما ذكرته في مقال سابق.
وصفت رواية أورويل الشهيرة “1984” مجتمعًا تراقب فيه الحكومة السكان من خلال “شاشات عرض”، حتى في المنزل. لكن أورويل لم يتخيل قدرات الذكاء الاصطناعي، ففي روايته، يمكن تجنب المراقبة، أما الآن فيصعب تفادي المراقبة الحكومية.
في عام 2018، مثلًا، ألغت جوجل عقدًا مع البنتاجون، كان سيحلل تلقائيًا مقاطع فيديو التقطتها طائرات عسكرية وطائرات بدون طيار، لكن ثارت المخاوف من إمكان استخدام التكنولوجيا لاستهداف الأشخاص والأماكن تلقائيًا بضربات الطائرات بدون طيار، مما أدى إلى ضغط عام قوي وإلغاء المشروع!
بالفعل، كانت هناك حالات لبرامج التعرف على الوجه أدت إلى اعتقالات كاذبة. في يونيو 2020، تم القبض على رجل أسود في ديترويت واحتجز لمدة 30 ساعة لأنه تم التعرف عليه بشكل خاطئ كمشتبه به في سرقة متجر.
مع ذلك، ينفق البنتاجون أكثر من مليار دولار سنويًا على عقود الذكاء الاصطناعي، ولا مفر من تطبيقات الأمن العسكري والأمن القومي للتعلم الآلي، نظرًا لحماس الصين لتحقيق التفوق في هذا المجال.
