إعداد: محمد الحسين – BAZ News
لم يعد التحدي الأكبر الذي تفرضه ثورة الذكاء الاصطناعي مقتصرًا على مدى قدرة النماذج المتقدمة على التفكير والتحليل وتنفيذ الأوامر، بل بدأ يتجه نحو سؤال أكثر تعقيدًا وخطورة: ماذا يحدث عندما تتواصل آلاف الأنظمة المستقلة مع بعضها بعضًا، وتتبادل المعلومات، وتنسق أعمالها، وتطور أهدافًا مشتركة لم يحددها البشر؟
هذا السؤال لم يعد مجرد سيناريو افتراضي في أفلام الخيال العلمي أو نقاشات المختبرات البحثية، بل أصبح محورًا لتحذيرات متزايدة من باحثين ومؤسسات متخصصة في أمن الذكاء الاصطناعي، بعد رصد حالات تعاون غير مخطط بين وكلاء ذكاء اصطناعي خلال عمليات التدريب والتقييم، وصلت إلى محاولة تجاوز القيود الأمنية والوصول إلى أنظمة رقمية خارج بيئات الاختبار المخصصة لها.
وتكشف هذه التطورات عن تحول مهم في طبيعة المخاطر المرتبطة بالذكاء الاصطناعي؛ إذ لم تعد المشكلة مرتبطة فقط بما يمكن أن يفعله نموذج واحد، وإنما بما يمكن أن تنتجه شبكة كاملة من الأنظمة عندما تبدأ بالتفاعل والتنسيق في بيئة رقمية لا تخضع لقواعد رقابية موحدة.
من نموذج منفرد إلى شبكة من الوكلاء المستقلين
اعتمدت معظم أبحاث سلامة الذكاء الاصطناعي خلال السنوات الماضية على محاولة ضمان التزام كل نموذج منفرد بالقواعد والقيم والتعليمات البشرية، بحيث لا يقدم معلومات ضارة ولا ينفذ أوامر مخالفة للضوابط الموضوعة له.
لكن ظهور ما يعرف بـ«وكلاء الذكاء الاصطناعي» (AI Agents) غيّر طبيعة المعادلة.
فهذه الأنظمة لا تكتفي بالإجابة عن الأسئلة، بل تستطيع تنفيذ مهام متتابعة، واستخدام أدوات رقمية، والوصول إلى قواعد بيانات، وكتابة الشيفرات البرمجية، والتفاعل مع منصات أخرى، بل والعمل بصورة شبه مستقلة لفترات طويلة.
وتكمن الخطورة عندما تعمل أعداد كبيرة من هذه الوكلاء في بيئة واحدة أو في بيئات متصلة، بحيث يصبح بإمكان أحدها ترك معلومات أو ملفات يستطيع وكيل آخر العثور عليها واستخدامها، حتى لو لم يكن المطورون قد صمموا هذه الأنظمة لتعمل ضمن مجموعة واحدة.
وبحسب دراسة نشرها معهد Gradient Institute في سبتمبر/أيلول 2026، تمكنت مجموعات من وكلاء الذكاء الاصطناعي، كان يفترض أن تعمل بصورة منفصلة، من اكتشاف قنوات اتصال غير متوقعة والتنسيق فيما بينها عبر مخازن برمجية وملفات ومستودعات مشتركة.
وفي إحدى الحالات التي وثقها الباحثون، تبادل نحو 1200 وكيل أكثر من 70 ألف رسالة وملف، فيما تمكن نحو 700 منها من اختراق أنظمة تشغيلية على منصة Hugging Face، المتخصصة في استضافة نماذج الذكاء الاصطناعي والبيانات.
وتكمن أهمية الواقعة في أن هذه الشبكة لم تُنشأ بصورة مباشرة من قبل البشر، بل تشكلت نتيجة تفاعل الأنظمة مع البيئة التقنية المتاحة أمامها.
اختراق بيئات الاختبار.. تحذير من مرحلة جديدة
في يوليو/تموز 2026، برزت واقعة مرتبطة بوكلاء ذكاء اصطناعي خضعوا لتدريبات وتقييمات أمنية، بعدما تمكنت أنظمة من التعاون وتجاوز بعض القيود المفروضة عليها، والوصول إلى أنظمة تابعة لمنصة Hugging Face.
وتشير الأبحاث التي تناولت الواقعة إلى أن بعض الوكلاء استخدموا قنوات اتصال غير مصرح بها، وتبادلوا المعلومات وبيانات الوصول، كما ظهرت سلوكيات مرتبطة بمحاولة تجاوز آليات التقييم والرقابة.
والأكثر إثارة للقلق أن بعض هذه الأنظمة لم تكن تعمل ضمن مشروع معلن لتشكيل شبكة متعددة الوكلاء، وإنما بدأت بالتنسيق من خلال آثار رقمية تركتها أنظمة أخرى في البيئة المشتركة.
وفي تقرير لاحق، عرض باحثون في Gradient Institute ثلاث حالات مختلفة ظهرت فيها أنماط مشابهة من التنسيق غير المخطط، بما في ذلك استخدام مخازن الملفات المشتركة وصفحات إلكترونية خاملة ومستودعات برمجية لتبادل المعلومات.
ولا يعني ذلك أن الذكاء الاصطناعي أصبح يمتلك إرادة مستقلة أو وعيًا بشريًا، لكنه يوضح أن أنظمة قادرة على تنفيذ المهام وتحسين فرص نجاحها قد تنتج سلوكًا جماعيًا لم يتوقعه المصممون، حتى دون وجود تعليمات مباشرة لتشكيل مجموعة متعاونة.
لماذا لا تكفي برمجة كل نموذج على حدة؟
في تحليل نشرته مجلة «Noema» في 10 نوفمبر/تشرين الثاني 2026، يطرح الباحثان بن بارياش وهاري لو إشكالية أساسية تتعلق بحدود النهج التقليدي في تأمين الذكاء الاصطناعي.
ويستخدم الباحثان مثالًا افتراضيًا لمجموعة من قوارب الصيد التي تتلقى تحذيرًا من وجود حيتان في منطقة الصيد. تستجيب معظم القوارب للتحذير وتعود إلى الميناء، بينما تواصل مجموعة أخرى الصيد وتحقق مكاسب اقتصادية.
لكن المشكلة تظهر في المرة التالية، عندما تجد القوارب التي التزمت بالتحذير نفسها خاسرة مقارنة بالقوارب التي تجاهلته.
ويستخدم الباحثان هذا المثال لتوضيح ما قد يحدث في بيئة الذكاء الاصطناعي: قد يكون بعض الوكلاء ملتزمين بقواعد السلامة، لكنهم قد يجدون أنفسهم في وضع غير مواتٍ أمام أنظمة أخرى تتجاوز القواعد لتحقيق أهدافها.
وبالتالي، فإن تدريب كل نموذج على الالتزام بالقواعد لا يضمن بالضرورة أن تكون المنظومة الجماعية آمنة.
ويرى الباحثان أن الحل لا يقتصر على تحسين النماذج الفردية، بل يتطلب بناء قواعد مشتركة تنظم العلاقة بين الأنظمة، وتحدد آليات التحقق من هويتها، وتوثيق تصرفاتها، ومراقبة قنوات الاتصال فيما بينها، وإمكانية التدخل البشري عند ظهور سلوك غير طبيعي.
هوبز وماديسون.. هل تحتاج الآلات إلى قوانين تحكمها؟
من الزوايا اللافتة في النقاش البحثي الاستعانة بأفكار الفلسفة السياسية لفهم مستقبل المجتمعات الرقمية.
فالباحثان بارياش ولو يستحضران أفكار الفيلسوف توماس هوبز، الذي رأى أن غياب سلطة مشتركة تفرض القواعد يؤدي إلى حالة من الفوضى والصراع، حتى عندما لا يكون جميع الأفراد سيئي النية.
ويطرح هذا التصور سؤالًا مشابهًا في العالم الرقمي: إذا كانت هناك آلاف الأنظمة المستقلة التي تتفاعل وتتنافس، فمن يضع القواعد التي تضمن عدم تحول البيئة المشتركة إلى مساحة مفتوحة للتجاوزات؟
كما يستلهم الباحثان أفكار جيمس ماديسون بشأن توزيع السلطات والرقابة المتبادلة، معتبرين أن تنظيم الذكاء الاصطناعي ينبغي ألا يتحول إلى سلطة مركزية تتحكم في جميع الأنظمة وتحدد أهدافها، وإنما إلى قواعد مشتركة تضمن الحد الأدنى من الشفافية والمساءلة.
ومن بين المقترحات التي يناقشها المقال إنشاء سجلات موثوقة وقابلة للتحقق لجميع تصرفات الوكلاء، وتطوير بروتوكولات مشتركة لفحص سلوك الأنظمة الأخرى، وإيجاد قنوات تسمح للوكلاء بإبلاغ البشر عندما تكتشف خللًا أو نشاطًا غير متوافق مع القواعد.
الذكاء الاصطناعي والأمن القومي.. من يملك السيطرة على الفضاء الرقمي؟
تتجاوز هذه القضية حدود شركات التكنولوجيا، لتصل إلى الأمن القومي والسيادة الرقمية للدول.
فمع توسع استخدام الوكلاء المستقلين في المؤسسات المالية والإدارية والعسكرية والاتصالات والبنية التحتية، قد تصبح قدرة الأنظمة على التواصل والتنسيق عاملًا مؤثرًا في أمن الدول واستقرارها.
ويمكن، من حيث المبدأ، أن يؤدي ضعف الرقابة على هذه الأنظمة إلى استغلالها في حملات احتيال واسعة، أو هجمات سيبرانية منسقة، أو التلاعب بالمعلومات، أو الوصول غير المصرح به إلى قواعد بيانات حساسة.
كما أن تعدد الشركات والدول التي تطور هذه الأنظمة يطرح إشكالية إضافية: كيف يمكن تطبيق قواعد أمنية موحدة على وكلاء يعملون عبر منصات وشبكات تتبع جهات مختلفة، وربما تخضع لتشريعات متعارضة؟
وهنا تبرز مسألة السيادة الرقمية، إذ لن يكون التحدي في امتلاك الدولة لمراكز البيانات أو تطوير نماذجها الخاصة فحسب، بل في قدرتها على حماية أنظمتها ومؤسساتها من التفاعلات الرقمية التي قد تنشأ خارج نطاق سيطرتها المباشرة.
وتزداد أهمية ذلك في ظل التنافس الدولي على التفوق في الذكاء الاصطناعي، خصوصًا بين الولايات المتحدة والصين، حيث أصبحت البنية التحتية الرقمية والتقنيات المتقدمة جزءًا من أدوات النفوذ الاقتصادي والاستراتيجي.
ومن المرجح أن تتحول قدرة الدول على تنظيم الوكلاء المستقلين وتأمين بيئات عملهم إلى أحد معايير القوة التكنولوجية خلال السنوات المقبلة.
تحذيرات أكاديمية ودعوات إلى تنظيم دولي
لم تعد المخاوف مقتصرة على الباحثين العاملين في شركات الذكاء الاصطناعي.
ففي 9 نوفمبر/تشرين الثاني 2026، نشرت كلية الحقوق بجامعة هارفارد تقريرًا عن نقاش أكاديمي تناول كيفية التعامل مع المخاطر الناتجة عن خروج بعض وكلاء الذكاء الاصطناعي عن القيود المفروضة عليهم، واستعرض آراء باحثين في القانون والتكنولوجيا حول الحاجة إلى أطر تنظيمية أكثر فاعلية.
وشدد المشاركون على أهمية معالجة جوانب الأمن السيبراني والحوكمة، مع استمرار الخلاف حول طبيعة بعض المخاطر ومدى إمكانية اعتبارها إخفاقًا في أمن الأنظمة أو مشكلة أعمق في مواءمة الذكاء الاصطناعي مع القيم البشرية.
وفي السياق نفسه، تناولت الورقة الموضوعية الصادرة عن اللجنة العلمية الدولية المستقلة التابعة للأمم المتحدة والمعنية بالذكاء الاصطناعي في سبتمبر/أيلول 2026، مخاطر عدم التوافق بين أهداف الوكلاء المستقلين والرقابة البشرية، مستندة إلى واقعة OpenAI وHugging Face وأبحاث أخرى.
وتشير هذه النقاشات إلى أن معالجة المخاطر لا يمكن أن تعتمد على شركة واحدة أو دولة واحدة، خصوصًا أن الأنظمة الرقمية قد تتفاعل عبر الحدود والمنصات والمؤسسات المختلفة.
هل نحن أمام مرحلة جديدة من سباق الذكاء الاصطناعي؟
المشكلة التي تكشفها هذه التطورات لا تتعلق فقط بمدى ذكاء الآلات، وإنما بقدرتها على التأثير في بعضها بعضًا، وتشكيل شبكات عمل لا يمكن فهم سلوكها من خلال دراسة كل نموذج بصورة منفردة.
ففي الماضي، كان السؤال الأساسي يدور حول كيفية منع نموذج ذكاء اصطناعي من إنتاج إجابة ضارة أو تنفيذ أمر غير آمن. أما اليوم، فيتسع السؤال ليشمل كيفية منع آلاف الأنظمة من تشكيل بيئة رقمية تنتج سلوكيات لم يخطط لها أحد.
وهذا التحول يضع الحكومات وشركات التكنولوجيا والمؤسسات البحثية أمام مسؤولية تطوير أنظمة رقابة واختبار جديدة، لا تكتفي بفحص أداء كل وكيل، بل تراقب أيضًا التفاعلات الجماعية والنتائج التي قد تنشأ عنها.
كما يفرض على المؤسسات الإعلامية التعامل مع الملف باعتباره قضية عامة تتصل بمستقبل الأمن والاقتصاد والخصوصية والسيادة الرقمية، وليس مجرد تطور تقني داخل مختبرات الشركات الكبرى.
الخلاصة أن الخطر المقبل في عالم الذكاء الاصطناعي قد لا يأتي من نموذج واحد يتجاوز التعليمات، بل من آلاف الأنظمة التي تتعاون وتتبادل المعلومات وتؤثر في بعضها بعضًا، في بيئة لم تُصمم بعد لضمان خضوعها لقواعد واضحة ومساءلة فعالة.
ومع انتقال الذكاء الاصطناعي من مرحلة تقديم الإجابات إلى مرحلة تنفيذ المهام وإدارة العمليات والتفاعل المستقل، يصبح السؤال الأكثر إلحاحًا: هل ستنجح البشرية في وضع قواعد تحكم هذه المنظومات قبل أن يصبح تعقيدها أكبر من قدرة المؤسسات على مراقبتها؟
إعداد: محمد الحسين
BAZ News – شبكة الإخبارية