ساتيا ناديلا يحذر من مخاطر الثقة المطلقة في أنظمة الذكاء الاصطناعي

حذر ساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، من خطورة الاعتماد الأعمى على أنظمة الذكاء الاصطناعي، مشدداً على ضرورة وضع ضوابط صارمة ورقابة بشرية مستمرة لمنع هذه الأنظمة من تجاوز صلاحياتها أو الوصول غير المصرح به إلى البيانات الحساسة.

وأوضح ناديلا في منشور تحليلي أن تطور "الوكلاء الأذكياء" لم يعد مقتصرًا على المهام البسيطة ككتابة البريد الإلكتروني أو توليد الصور، بل أصبح يشمل التعامل مع بيانات الشركات وتنفيذ مهام معقدة بشكل مستقل، مما يفتح الباب أمام مخاطر تشغيلية وأمنية يصعب التنبؤ بها، خاصة وأن آلية عمل هذه النماذج تتسم بالتعقيد الذي يجعل من الصعب أحياناً فهم أسباب اتخاذها لقرارات خاطئة.

وشدد ناديلا على أهمية الفصل الجذري بين قدرة الذكاء الاصطناعي على التحليل وبين امتلاكه سلطة التنفيذ، مؤكداً أن قدرة النموذج على اقتراح عملية مالية لا تعني بالضرورة منحه الصلاحية لإتمامها. ودعا المؤسسات إلى فرض قيود واضحة على صلاحيات الوكلاء، مع ضرورة تسجيل كافة إجراءاتهم، وإجراء اختبارات دورية للكشف عن الثغرات، وتوفير آليات تتيح للبشر التدخل الفوري لإيقاف الأنظمة عند حدوث أي سلوك غير متوقع.

كما حذر الرئيس التنفيذي لمايكروسوفت من الاعتماد على نماذج ذكاء اصطناعي لمراقبة نماذج أخرى دون وجود وسائل تحقق مستقلة، محذراً من أن هذا النهج قد يؤدي إلى تكرار الأخطاء بدلاً من تصحيحها. ودعا إلى تعزيز الشفافية من خلال الإفصاح عن حالات الفشل أو الاختراقات، لضمان تبادل الخبرات الأمنية بين الشركات وتعزيز منظومات الحماية الجماعية.

وتأتي هذه التحذيرات كرسالة واضحة للشركات بأن الابتكار وحده لا يكفي، فالثقة الحقيقية في الذكاء الاصطناعي لا تبدأ بافتراض خلو النماذج من الأخطاء، بل تبدأ بتصميم بنية تحتية رقابية قادرة على احتواء الخلل، مع ضمان احتفاظ الإنسان بالكلمة الأخيرة في القرارات الحساسة.