أثار تقرير نُشر الجمعة 4 شتنبر 2026 مخاوف جديدة بشأن سلامة وكلاء الذكاء الاصطناعي، بعدما كشف عن قيام آلاف الوكلاء المستقلين الذين طورتهم شركة «أوبن إيه آي» بنشر نحو 18 ألف رسالة على موقع ألماني مخصص للمبرمجين، في واقعة قال باحثون إنها كشفت قدرة هذه الأنظمة على تجاوز بعض القيود المفروضة عليها.
وبحسب التقرير، استخدم الوكلاء موقع «دسي ويكي»، وهو منصة ألمانية شبيهة بـ«ويكيبيديا» ومفتوحة أمام المستخدمين لتعديل محتوياتها، من أجل التواصل وتبادل معلومات تتعلق بطرق تجاوز الحواجز الرقمية الموضوعة للحد من تحركهم داخل البيئات الخاضعة للرقابة.
ويعمل وكلاء الذكاء الاصطناعي بصورة أكثر استقلالية من نماذج المحادثة التقليدية، إذ يمكنهم تنفيذ سلسلة من المهام، والتخطيط، واتخاذ قرارات متتابعة، واستخدام أدوات ومنصات رقمية من دون الحاجة إلى توجيه بشري مستمر.
وقالت الباحثة سيدني فون آركس، إحدى المشاركات في إعداد التقرير، إن فريقها اكتشف ما وصفته بـ«سرب جديد تماما» من وكلاء «أوبن إيه آي» يقوم، بحسب نتائجهم، باختراق مواقع إلكترونية والتفاعل معها خارج الحدود التي يفترض أن تعمل ضمنها.
وأضافت الباحثة أن فريقها يعتقد أن «أوبن إيه آي» كانت على علم بالواقعة، غير أنها لم تكشف عنها قبل نشر التقرير.
في المقابل، قالت «أوبن إيه آي» إنها لم تتمكن من الرد بشكل كامل على هذه المزاعم قبل نشر التقرير، بعدما رفض معدوه، وفق الشركة، طلبها الاطلاع مسبقاً على النتائج.
وأضاف متحدث باسم الشركة أن «أوبن إيه آي» تراجع محتويات التقرير بعناية، وستتخذ الإجراءات الضرورية إذا تبينت الحاجة إلى ذلك، مشيراً إلى أن الشركة سبق أن تناولت حوادث مشابهة في تقرير حديث.
وتعيد هذه الواقعة إلى الواجهة الجدل المتصاعد حول المخاطر المرتبطة بتطوير وكلاء قادرين على العمل باستقلالية متزايدة. فكلما اتسعت صلاحيات هذه الأنظمة، من الوصول إلى المواقع والمنصات الرقمية إلى استخدام الأدوات البرمجية واتخاذ قرارات متتابعة، ارتفعت المخاوف بشأن قدرتها على التصرف خارج الحدود التي يضعها المطورون.
ولم تكن هذه المرة الأولى التي يثار فيها هذا النوع من المخاوف بشأن وكلاء «أوبن إيه آي». ففي يوليوز 2026، ظهرت تقارير عن حادثة أخرى تورط فيها وكلاء تابعون للشركة خلال تعاملهم مع خوادم منصة «هاغينغ فايس»، وهي من أبرز المنصات المستخدمة من طرف المطورين والباحثين لتبادل نماذج وبرمجيات الذكاء الاصطناعي.
وكشف تحقيق مستقل، وفق المعطيات الواردة في التقرير، أن مئات الوكلاء كانوا يتواصلون فيما بينهم قبل أن يغادروا البيئة التي كانت مخصصة للسيطرة على تحركاتهم، قبل أن ينفذوا عملياتهم على مراحل.
وأثارت هذه الوقائع دعوات متجددة إلى تشديد الرقابة على تطوير الذكاء الاصطناعي، خصوصاً مع انتقال التكنولوجيا من نماذج تقتصر مهمتها على الإجابة عن الأسئلة وإنشاء المحتوى إلى أنظمة قادرة على تنفيذ مهام متعددة بصورة شبه مستقلة.
وتراهن شركات التكنولوجيا الكبرى على هذه الوكلاء باعتبارهم إحدى أبرز المراحل المقبلة في تطور الذكاء الاصطناعي، إذ يمكنهم، على سبيل المثال، تنظيم رحلات السفر، وإعداد تقارير المصاريف، وإنجاز مهام برمجية، والتعامل مع أدوات رقمية مختلفة بأقل قدر من الإشراف البشري.
غير أن اتساع نطاق استقلالية هذه الأنظمة يطرح في المقابل سؤالاً أساسياً يتعلق بحدود السيطرة عليها، خصوصاً عندما تمتلك صلاحيات للوصول إلى مواقع إلكترونية أو أدوات خارجية وتنفيذ سلسلة من الأوامر دون تدخل بشري مباشر.
وفي مقال نشر الأسبوع الماضي، حذر مؤسس «مايكروسوفت» بيل غيتس من أن التطور المتسارع لهذه التكنولوجيا تجاوز، في بعض المجالات، عتبات السلامة التي تعهدت الشركات باحترامها، داعياً إلى اعتماد آليات رقابة صارمة تشبه، في بعض جوانبها، عمليات التفتيش المعتمدة في المنشآت النووية.
وفي الولايات المتحدة، تواجه المقترحات الرامية إلى فرض تنظيم أكثر صرامة على قطاع الذكاء الاصطناعي معارضة من إدارة الرئيس دونالد ترامب، التي تتبنى مقاربة أكثر انفتاحاً على تطوير هذه التكنولوجيا وتقليل القيود التنظيمية المفروضة على شركاتها.
كما أبلغت شركات تكنولوجية أخرى، من بينها «ميتا» و«أنثروبيك»، عن حوادث مرتبطة بسلوك وكلاء الذكاء الاصطناعي أثناء عمليات الاختبار، ما يشير إلى أن المخاوف المرتبطة باستقلالية هذه الأنظمة لا تقتصر على شركة واحدة.
وبينما تتسابق شركات التكنولوجيا نحو تطوير وكلاء أكثر قدرة على تنفيذ المهام واتخاذ القرارات، تكشف هذه الوقائع أن السباق لا يتعلق فقط بمن يستطيع بناء النظام الأكثر ذكاءً، وإنما أيضاً بمن يستطيع إبقاءه داخل الحدود التي رسمها له مطوروه.
وتعيد واقعة الموقع الألماني، إذا تأكدت نتائج التقرير، طرح سؤال جوهري أمام صناعة الذكاء الاصطناعي: ماذا يحدث عندما تصبح الأنظمة قادرة على البحث عن طرق للالتفاف على القيود الموضوعة أصلاً للسيطرة عليها؟