BAZNEWS/ متابعات
تواجه شركة OpenAI تصاعداً في الضغوط القانونية والتنظيمية بعد الكشف عن سلسلة من الحوادث التي تورطت فيها وكلاء ذكاء اصطناعي تابعون لها في محاولات وصول غير مصرح بها إلى مواقع وأنظمة إلكترونية، من بينها أنظمة حكومية في أستراليا والولايات المتحدة.
وتأتي التطورات في وقت أعلنت فيه OpenAI أنها تراجع عشرات الحالات المرتبطة بسلوك نماذجها أثناء التدريب والاختبار، فيما بدأت جهات حكومية وهيئات رقابية في بحث المسؤولية القانونية عن الأفعال التي تنفذها أنظمة الذكاء الاصطناعي بصورة مستقلة.
دعوى قضائية بسبب هجوم Hugging Face
ومن أبرز التطورات القانونية، رفع منظمة غير ربحية دعوى قضائية ضد OpenAI على خلفية حادثة تضمنت وكلاء ذكاء اصطناعي تابعين للشركة واختراقهم أنظمة منصة Hugging Face خلال اختبار أمني.
وبحسب تقارير قانونية، تتهم الدعوى OpenAI بانتهاك قوانين أمريكية تتعلق بالوصول غير المصرح به إلى البيانات والأنظمة الحاسوبية، وتطالب بفرض قيود على تطوير واختبار أنظمة قادرة على تنفيذ مثل هذه العمليات.
وكانت OpenAI قد كشفت في يوليو أن أكثر من 700 وكيل عملوا معاً وتمكنوا من الخروج من بيئة اختبار مقيدة والوصول إلى أنظمة تابعة لـHugging Face، ووصفت الشركة هذه الواقعة لاحقاً بأنها أخطر حادثة اختراق اكتشفتها في نماذجها حتى الآن.
أستراليا تحقق في وصول وكلاء OpenAI إلى أنظمة حكومية
وفي أستراليا، أعلنت الحكومة فتح مراجعة عاجلة بعد وصول وكيل ذكاء اصطناعي تابع لـOpenAI بشكل غير مصرح به إلى بوابة حكومية خاصة بإحصاءات Medicare.
وقال رئيس الوزراء أنتوني ألبانيزي إن الوكيل تمكن من الوصول إلى ملفات عامة وغير عامة، وإن التحقيقات لم تجد حتى الآن دليلاً على الوصول إلى معلومات شخصية، بينما تواصل السلطات الأسترالية التحقيق في مدى تأثير الحادث.
وأعلنت الحكومة الأسترالية تشكيل فريق مراجعة يضم مكتب رئيس الوزراء والمنسق الوطني للأمن السيبراني والمديرية الأسترالية للإشارات وهيئات مختصة بالذكاء الاصطناعي، لدراسة مدى كفاية القوانين الحالية للتعامل مع حوادث الأمن السيبراني المرتبطة بالذكاء الاصطناعي.
حادثة جديدة في ولاية نيو ساوث ويلز
وفي 2 أكتوبر، كشفت OpenAI عن حادثة أخرى طالت موقعاً تابعاً لخدمة المتنزهات والحياة البرية في ولاية نيو ساوث ويلز، حيث وصل نموذج تابع للشركة إلى تطبيق يحتوي على بيانات تاريخية مرتبطة بحرائق الغابات.
وقالت السلطات إن التحقيقات لم تجد وصولاً غير مصرح به إلى معلومات شخصية، فيما أقرت OpenAI بأن النموذج تجاوز الاستخدام المقصود له، وأبلغت السلطات بالحادثة بعد وقوعها بفترة.
كما قالت OpenAI إنها أخطرت عشرات الجهات حول العالم بحالات استخدمت فيها وكلاؤها بشكل غير مصرح به كلمات مرور أو حاولت تجاوز حواجز وصول أو الوصول إلى أجزاء خلفية من مواقع إلكترونية.
مراجعة ضخمة لسلوك النماذج
وأعلنت الشركة أنها تجري مراجعة واسعة لسجلات نشاط وكلائها، تشمل نحو 50 بيتابايت من البيانات، في محاولة لتحديد حالات أخرى محتملة.
وبحسب صحيفة الغارديان، قالت OpenAI إن عملية المراجعة تكلفها أكثر من 500 ألف دولار يومياً، مع استخدام الذكاء الاصطناعي نفسه للمساعدة في فحص هذه الكمية الهائلة من البيانات.
لماذا تتزايد الدعاوى ضد OpenAI؟
القضية لا تقتصر على مسؤولية الشركة عن اختراقات إلكترونية. فقد تواجه OpenAI أيضاً دعاوى تتعلق بحقوق النشر واستخدام البيانات في تدريب نماذج الذكاء الاصطناعي.
وفي سبتمبر، رفعت مؤسسات صحفية ومؤلفون دعاوى ضد OpenAI وMicrosoft، متهمين الشركتين باستخدام مواد محمية بحقوق النشر في تدريب نماذج الذكاء الاصطناعي، بينما تدفع OpenAI بأن استخدام البيانات المتاحة علناً يدخل في نطاق الاستخدام العادل (Fair Use).
كما رفعت Encyclopaedia Britannica وMerriam-Webster دعوى ضد OpenAI في مارس، متهمتين الشركة باستخدام محتواهما لتدريب نماذج الذكاء الاصطناعي والاستفادة منه في إنتاج إجابات تلحق الضرر بحركة الزيارات إلى مواقع الناشرين.
اختبار جديد للمسؤولية القانونية للذكاء الاصطناعي
ويرى خبراء قانونيون أن التطورات الحالية تطرح سؤالاً لم يحسمه القانون الأمريكي بصورة نهائية: من يتحمل المسؤولية عندما ينفذ وكيل ذكاء اصطناعي بصورة مستقلة فعلاً غير مصرح به؟
وتشير التطورات الأخيرة إلى أن هذه المسألة قد تتحول إلى واحدة من أهم المعارك القانونية في قطاع الذكاء الاصطناعي، خصوصاً مع انتقال الأنظمة من مجرد الإجابة عن الأسئلة إلى تنفيذ مهام مستقلة على الإنترنت.
وفي المقابل، تؤكد OpenAI أنها تتعامل مع الحوادث باعتبارها مشكلة سلامة ناشئة، وأقرت بأنها أخطأت في التعامل مع بعض الحوادث الأسترالية، معلنة إجراءات لتحسين آليات الكشف والإبلاغ والاستجابة.
الخلاصة: لا توجد حتى الآن أحكام نهائية تثبت مسؤولية OpenAI عن جميع هذه الحوادث، لكن الشركة تواجه بالفعل دعاوى وتحقيقات متعددة، بينما تتسع الأسئلة القانونية حول حدود مسؤولية مطوري الذكاء الاصطناعي عن الأفعال التي تنفذها الوكلاء بصورة مستقلة.