✍🏼علي بن عبدالله المالكي 

جواباً على تساؤل خبيرة التميز المؤسسي والجودة الدكتورة شيما أحمدين وتعقيبها العلمي المتميّز على موضوع نشر عن: حدود وكلاء الذكاء الاصطناعي وحقيقة تطبيق مفهوم ( الثقة الصفرية )

لنلقي نظرة على وكلاء الذكاء الصناعي الـ AI Agent من واقع تجربة عملية في الأنظمة الحرجة، الحقيقة، مفهوم "الوكيل الذكي" ليس جديداً كما يظن البعض ! فقد استُخدم منذ عقود طويلة بأشكال مختلفة، ولعل الطيار الآلي في الطائرات يُعد من أوائل الأمثلة العملية على هذا النوع من الأنظمة، ومن خلال هذه التجارب، أرى أن الحديث عن الحد من صلاحيات الـ Agent باعتباره وسيلة لزيادة الأمان ليس أمراً دقيقاً دائماً، بل قد يؤدي في بعض الحالات إلى زيادة المخاطر.

فالآلة تعمل وفق مدخلات ومعايير محددة مسبقاً، سواء كانت هذه المدخلات كثيرة أو قليلة، دقيقة أو ناقصة، فجميعها تحمل قدراً من المخاطرة .. لذلك تعتمد الأنظمة الذكية المتقدمة على مبدأ تقليل التدخل البشري المباشر إلى الحد الأدنى مع توفير أعلى درجات الرقابة والمتابعة.

ومن الأمثلة الواضحة على ذلك ما يحدث في مجال الطيران؛ إذ قد يعاكس الطيار الآلي أحياناً تصرفاً بشرياً خاطئاً وينقذ الموقف، لكنه في حالات أخرى قد يعاكس أوامر الطيار نفسه رغم صحتها، لأنه لا يزال يعتمد على المدخلات الأساسية التي بُني عليها .! وقد شهد تاريخ الطيران العديد من الحوادث التي كان أحد أسبابها نسيان تعطيل النظام الآلي قبل تنفيذ إجراء معين، فيقوم النظام تلقائياً بإعادة تصحيح المسار وفقاً للبيانات التي لديه، رافضاً التغيير الذي يحاول الإنسان إدخاله .!

 وينطبق الأمر ذاته على أنظمة إدارة المباني BMS وأنظمة الـ SCADA والتحكم الصناعي بشكل عام ..

إن التعامل مع الـ Agent يتطلب كماً هائلاً من التجارب والاختبارات والسيناريوهات المختلفة، لأن احتمالية الخطأ تبقى قائمة دائماً، وفي بعض البيئات قد يكون خطأ واحد كافياً لإحداث نتائج كارثية تعيد البشرية خطوات إلى الوراء ..

ولهذا أرى أن فكرة استبدال الإنسان بالذكاء الاصطناعي بشكل كامل وآمن جدا لا تزال بعيدة المنال، ولن تكون ممكنة إلا ضمن نطاقات محددة يمكن التحكم فيها من خلال طبقات متعددة من وسائل السلامة والرقابة، تشمل تحديد حدود التنفيذ العليا والدنيا، ووجود Agents أخرى مستقلة لمراقبة الـ Agent الأساسي والتحقق من التزامه بالأوامر وعدم خروجه عن نطاق المهمة المطلوبة، ناهيك عن طرق وبوابات الربط، فالهدف يجب أن يكون تنفيذ المطلوب بأقصى سرعة وكفاءة، ولكن ضمن حدود الأمر الصادر إليه، لا بناءً على اجتهاد ذاتي مستقل .! لأن النظام إذا تجاوز مرحلة التنفيذ إلى مرحلة اتخاذ القرار الكامل وقيادة المهمة وفقاً لتفسيره الخاص، فقد يواصل العمل دون تردد معتقداً أنه يحقق الهدف المطلوب، وعندها قد لا ينفع الندم ..!

العقل البشري، في المقابل، هو أعظم آلة خلقها الله تعالى وأودع فيها من القدرات ما يجعلها فريدة في سرعة التكيف والتحليل والابتكار .. كما أنها تتمتع بالعاطفة والمشاعر، وهي عناصر تؤثر بطبيعتها في صناعة القرار والتفكير البشري .. أما الآلة فهي عقل مركب بلا روح يعتمد على سلسلة من الشروط والاحتمالات؛ فإذا تحقق شرط معين انتقلت إلى الإجراء التالي، ثم الذي يليه، وفق ما بُرمجت عليه، وهي لا تفتقر إلى البدائل والحلول ما دامت موجودة ضمن بياناتها ومدخلاتها، لكنها في النهاية تظل بلا عاطفة ولا إدراك حقيقي للعواقب الإنسانية، والبيئية المحيطة !.

ختاماً، أعتقد أننا ما زلنا في المرحلة التمهيدية لعصر الذكاء الاصطناعي، وما زال أمامنا الكثير لنتعلم كيف نقود هذه الأنظمة ونوجّهها بالشكل الصحيح .. أما إذا تُرك لها الحبل على الغارب دون ضوابط أو رقابة فعّالة، فقد نرى يوماً ما ما يشبه (حرب النجوم) على أرض الواقع .!.

ويبقى الإنسان الكائن الفريد الذي استخلفه الله تعالى في الأرض، والمعمّر لهذا الكون، هوصاحب المسؤولية الأولى والأخيرة في توجيه التقنية وتسخيرها لما فيه خير البشرية، ضمن حدود الدين والأخلاق ..! وأعتذر عن الإطالة.