في خطوة تعكس الحضور المتنامي للمغرب في صياغة مستقبل التحول الرقمي العالمي، جددت المملكة المغربية، من قلب مدينة جنيف السويسرية، تأكيد التزامها ببناء منظومة ذكاء اصطناعي مسؤولة، تضع الإنسان وحقوقه في صلب كل تحول تكنولوجي.

وخلال مشاركتها في جلسة رفيعة المستوى ضمن فعاليات الحوار العالمي حول حكامة الذكاء الاصطناعي، دعت الوزيرة المنتدبة لدى رئيس الحكومة المكلفة بالانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، إلى إرساء نموذج قانوني ومؤسساتي جديد لمساءلة أنظمة الذكاء الاصطناعي الوكيلة، معتبرة أن هذه القضية ستكون من أكبر التحديات القانونية التي سيواجهها العالم خلال العقد الحالي.

وأكدت السغروشني أن الجيل الجديد من أنظمة الذكاء الاصطناعي لم يعد يعتمد على خوارزمية واحدة أو قرار صادر عن شخص واحد، بل أصبح يقوم على شبكة معقدة من الوكلاء المستقلين الذين يتفاعلون فيما بينهم بصورة ذاتية، الأمر الذي يجعل تحديد المسؤولية القانونية عند وقوع الأخطاء أو الأضرار أكثر تعقيدًا من أي وقت مضى.

وأوضحت أن الإشكال الحقيقي لا يكمن فقط في معرفة أن خللًا قد وقع، وإنما في تحديد المسؤول عن ذلك الخلل، ومتى حدث، وأين بدأ، وما حجم مسؤولية كل طرف داخل سلسلة طويلة من العمليات الرقمية المترابطة، وهي معضلة تزداد تعقيدًا مع النماذج الذكية الحديثة التي تضم مليارات المعلمات والوسائط، وما تطرحه من إشكالات مرتبطة بالسببية الزمنية وتشابك القرارات.

ولإبراز حجم هذا التحدي، كشفت الوزيرة أن الإدارة المغربية تعالج سنويًا حوالي 52 مليون معاملة إدارية، وهو رقم يعكس حجم البيانات والقرارات التي يمكن أن تعتمد مستقبلاً على أنظمة الذكاء الاصطناعي، مما يجعل تحديد مصدر أي خطأ أو خلل مهمة شديدة التعقيد إذا لم تتوفر آليات دقيقة للتتبع والمساءلة.
وانطلاقًا من هذه المعطيات، دعت السغروشني إلى تطوير مقاربات علمية وقانونية جديدة تقوم على مفهوم "فك الارتباط"، بما يسمح بإعادة بناء مسار سببي غير حتمي لجميع الأفعال التي تقوم بها الأنظمة الوكيلة، بما يضمن تحديد المسؤوليات بصورة عادلة وشفافة.

وفي هذا السياق، طرحت الوزيرة ثلاثة التزامات أساسية لبناء منظومة ذكاء اصطناعي مسؤولة، أولها توثيق جميع سلاسل عمل الوكلاء الرقميين بشكل منظم يوضح من قام بماذا، وكيف، ومتى، خاصة داخل المرافق العمومية. أما الالتزام الثاني فيتمثل في تعيين مسؤول بشري واضح عن كل قرار يمكن أن يمس حقوق الأفراد، لضمان عدم تحول التكنولوجيا إلى سلطة خارج نطاق القانون. فيما يركز الالتزام الثالث على ضمان حق المواطنين في الانتصاف الفعلي والسريع، بما يتناسب مع السرعة التي تعمل بها أنظمة الذكاء الاصطناعي.

وأكدت السغروشني، في رسالة تحمل أبعادًا قانونية وأخلاقية عميقة، أن "الاستقلالية التشغيلية للخوارزمية يجب ألا تتحول أبداً إلى استقلالية عن القانون"، معتبرة أن الابتكار لا يمكن أن يكون على حساب الحقوق الأساسية، وأن حماية الإنسان يجب أن تظل المبدأ الحاكم لكل تطور تكنولوجي.

كما شددت على ضرورة اعتماد حكامة استباقية ترتكز على مبادئ حقوق الإنسان، وتواكب التطور المتسارع للذكاء الاصطناعي، مع تطوير آليات عملية لتقييم المخاطر، وتعزيز قابلية التتبع والتدقيق، وضمان الإشراف البشري المستمر، مع احترام خصوصيات كل دولة وأولوياتها التنموية.

وشكلت الجلسة رفيعة المستوى منصة دولية لمناقشة أبرز القضايا المرتبطة بالذكاء الاصطناعي، من بينها الشفافية، والمساءلة، والرقابة البشرية، والوقاية من المخاطر طوال دورة حياة الأنظمة الذكية، إلى جانب حماية الأطفال والنساء والفئات الأكثر هشاشة من الانعكاسات السلبية للتقنيات الحديثة.

وتؤكد المشاركة المغربية في هذا المحفل الدولي أن المملكة لم تعد تكتفي بمواكبة الثورة الرقمية، بل أصبحت طرفًا فاعلًا في رسم معالم حكامتها العالمية، عبر رؤية تجمع بين تشجيع الابتكار، وترسيخ سيادة القانون، وحماية الحقوق والحريات، بما يعزز مكانة المغرب كشريك موثوق في بناء مستقبل رقمي مسؤول وآمن يخدم الإنسان قبل التكنولوجيا.