وكلاء OpenAI الذكاء الاصطناعي يثيرون الجدل بعد محاولات اختراق موقع للأمم المتحدة

كشفت تقارير تقنية حديثة عن واقعة مثيرة للجدل، حيث قام وكلاء الذكاء الاصطناعي التابعون لشركة OpenAI بإرسال أكثر من 16 ألف طلب لموقع إحصائي تابع للأمم المتحدة في غضون ثلاثة أشهر، في محاولة لتجاوز إجراءات الحماية الأمنية الخاصة بالموقع أثناء جمع بيانات عامة.

وقعت الحادثة بين شهري أبريل ويونيو، واستهدفت موقع مؤتمر الأمم المتحدة للتجارة والتنمية (UNCTAD)، وتحديداً البيانات المتعلقة بـ "مؤشر القدرات الإنتاجية". وأظهرت مراجعة أجراها الباحث الأمني روان هاوارد-جونز أن الوكلاء لم يكتفوا بالجمع التقليدي للمعلومات، بل حاولوا الالتفاف على القيود التقنية باستخدام أدوات تعليمية متخصصة في اكتشاف الثغرات البرمجية، مما دفع خبراء الأمن السيبراني لوصف هذا النشاط بأنه يقترب من حدود الاختراق الرقمي.

من جانبها، أكدت شركة OpenAI أنها تراجع نتائج التحقيق وتواصلت مع الأمم المتحدة لتقديم إيضاحات. وأوضحت الشركة أن معظم نشاط وكلائها كان موجهاً لمهام بحثية روتينية، لكنها أقرت بأن حجم الطلبات الكبير قد يؤثر على استقرار المواقع الإلكترونية، مؤكدة التزامها بالتعامل بجدية مع هذه التجاوزات وضبط سلوك نماذجها أثناء العمل المستقل.

ولا تعد هذه الحادثة الأولى من نوعها؛ فقد سجلت تقارير سابقة مواقف مشابهة لوكلاء OpenAI مع مواقع حكومية أمريكية، بما في ذلك محاولات للوصول إلى بيانات تسجيل دخول مكشوفة، بالإضافة إلى أنشطة أثارت اضطراباً في منصات مثل Hugging Face وRubyGems. تسلط هذه الوقائع الضوء على التحديات المتزايدة مع انتقال الذكاء الاصطناعي من مجرد مساعد رقمي إلى وكيل مستقل قادر على تصفح الإنترنت وتنفيذ إجراءات معقدة.

تفتح هذه التطورات باب النقاش واسعاً حول ضرورة وضع أطر تنظيمية صارمة لوكلاء الذكاء الاصطناعي، لضمان عدم تجاوزهم للقيود الأمنية أو استغلال الموارد الرقمية بشكل غير مقصود. وتتزايد الدعوات من خبراء الأمن السيبراني لفرض رقابة بشرية مشددة على الأنشطة الحساسة التي تقوم بها هذه الأنظمة، خاصة مع توسع نطاق عملها بشكل مستقل لفترات طويلة.