رفعت ولاية كاليفورنيا الأميركية دعوى قضائية ضد شركة "أوبن إيه آي"، المطورة لتطبيق "تشات جي بي تي"، متهمة إياها بالإخفاق في توفير ضمانات أمنية كافية لنماذج الذكاء الاصطناعي المتقدمة، بعد حادثة نفذ خلالها وكلاء تابعون للشركة هجومًا إلكترونيًا على منصة "هاغينغ فيس" دون توجيه بشري مباشر.
وقُدمت الدعوى أمام المحكمة العليا في سان فرانسيسكو، بقيادة المدعي العام لولاية كاليفورنيا روب بونتا، الذي اتهم الشركة بتعريض الجمهور للخطر نتيجة تطوير واختبار أنظمة ذكاء اصطناعي متقدمة دون إجراءات مناسبة للسلامة والمراقبة.
وبحسب ما أوردته صحيفة "نيويورك تايمز"، تتهم الولاية الشركة بالسماح لنماذجها بتنفيذ هجمات إلكترونية خلال الاختبارات الداخلية، من بينها اختراق منصة "هاغينغ فيس" في يوليو/ تموز الماضي، في حادثة أثارت تساؤلات بشأن قدرة الشركات على التحكم في سلوك وكلاء الذكاء الاصطناعي.
وتقول الدعوى إن قصور إجراءات الحماية والرقابة لدى "أوبن إيه آي" أدى إلى سلوكيات قد تشكل خطرًا على الجمهور، وإن ممارسات الشركة تندرج ضمن الإزعاج العام وتنتهك القوانين المتعلقة بالممارسات التجارية غير العادلة أو الاحتيالية.
اختراق دون تدخل بشري
تعود القضية إلى حادثة وقعت في يوليو/ تموز 2026، عندما تمكن وكلاء ذكاء اصطناعي يعملون بنماذج تجريبية طورتها "أوبن إيه آي" من تجاوز قيود بيئة الاختبار والوصول إلى الإنترنت، قبل تنفيذ هجوم إلكتروني استهدف منصة "هاغينغ فيس".
وأثارت الحادثة اهتمامًا واسعًا في الأوساط التقنية، بعدما تبين أن الوكلاء نفذوا أنشطة اختراق خارج نطاق الاختبارات المخصصة لهم، دون أن يكون الهجوم على المنصة جزءًا من المهمة التي كان يُفترض أن ينفذوها.
وأصبحت الواقعة مثالًا على المخاطر المحتملة المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام متعددة بصورة مستقلة، خصوصًا عند امتلاكهم أدوات تقنية تسمح بالتفاعل مع الأنظمة والشبكات الخارجية.
وترى سلطات كاليفورنيا أن الحادثة تكشف قصورًا في آليات اختبار الأنظمة المتقدمة ومراقبتها، وتثير تساؤلات بشأن المسؤولية القانونية للشركات المطورة عندما تتسبب منتجاتها بأضرار خارج نطاق الاستخدام المقصود.
كاليفورنيا تحمّل المطورين المسؤولية
أكد المدعي العام روب بونتا أن المسؤولية عن أفعال أنظمة الذكاء الاصطناعي يجب ألا تُنسب إلى الآلات نفسها، بل إلى الجهات التي تطورها وتشغلها.
وقال خلال الإعلان عن الدعوى إن الأشخاص الذين يصممون هذه الأنظمة ويديرونها يجب أن يتحملوا مسؤولية تصرفاتها، رافضًا اعتبار استقلالية الذكاء الاصطناعي مبررًا لإعفاء الشركات من المساءلة.
وبحسب تقرير لصحيفة "الغارديان" البريطانية، يرى بونتا أن المشكلة تتجاوز حادثة الاختراق نفسها، وترتبط بثقافة العمل داخل "أوبن إيه آي"، التي يتهمها بإعطاء الأولوية للنمو السريع وتطوير النماذج على حساب السلامة والمحاسبة.
وتأتي هذه الاتهامات وسط جدل بشأن الأطر القانونية المنظمة للذكاء الاصطناعي في الولايات المتحدة، وغياب قواعد اتحادية واضحة تحدد بصورة مباشرة المسؤولية عن الأضرار الناجمة عن تصرفات الوكلاء المستقلين.
رد "أوبن إيه آي"
من جهتها، انتقدت "أوبن إيه آي" الدعوى القضائية، معتبرة أنها تستهدف الشركة بصورة منفردة، رغم الإبلاغ عن حوادث مشابهة لدى شركات أخرى تطور أنظمة ذكاء اصطناعي متقدمة.
وقال المتحدث باسم الشركة، درو بوساتيري، إن القضية تركز على "أوبن إيه آي" دون التعامل مع الحوادث التي أعلنت عنها جهات أخرى في القطاع.
وتعكس هذه المواقف الخلاف بين سلطات الولاية والشركة بشأن حدود مسؤولية مطوري الذكاء الاصطناعي عن السلوك غير المتوقع للنماذج، ومدى كفاية الإجراءات المتبعة لمنع خروجها عن نطاق المهام المصرح بها.
من يتحمل مسؤولية أفعال الذكاء الاصطناعي؟
تثير الدعوى قضية قانونية تتعلق بتحديد الجهة المسؤولة عندما ينفذ نظام ذكاء اصطناعي مستقل تصرفات تؤدي إلى اختراق أنظمة أخرى أو إلحاق الضرر بمؤسسات وأفراد.
ويرى الرئيس الأميركي دونالد ترامب أن الأطر القانونية القائمة للمسؤولية المدنية والمالية يمكن تطبيقها على حوادث الذكاء الاصطناعي، وأن وزارة العدل ينبغي أن تتدخل عندما تخرج هذه الأنظمة عن السيطرة.
في المقابل، يتبنى وزير الخزانة الأميركي سكوت بيسنت ومسؤول الذكاء الاصطناعي السابق في البيت الأبيض ديفيد ساكس موقفًا يؤكد ضرورة تحميل الشركات المطورة المسؤولية القانونية والمالية عن تصرفات وكلائها المستقلين.
وتضع دعوى كاليفورنيا هذا الخلاف أمام القضاء، في قضية تتعلق بمدى مسؤولية الشركات عن أنظمة ذكاء اصطناعي تستطيع اتخاذ خطوات تقنية وتنفيذ مهام إلكترونية تتجاوز ما خُطط لها خلال الاختبارات.
وقد تفتح القضية المجال أمام دعاوى مماثلة من شركات أو مؤسسات تعرضت لاختراقات نفذتها أنظمة ذكاء اصطناعي، إذا ثبت وجود تقصير من الجهات المطورة في إجراءات الحماية والرقابة.
وكلاء ذكاء اصطناعي يخرجون عن السيطرة: دعوى قضائية ضد "أوبن إيه آي"
رفعت ولاية كاليفورنيا الأميركية دعوى قضائية ضد شركة "أوبن إيه آي"، المطورة لتطبيق "تشات جي بي تي"، متهمة إياها بالإخفاق في توفير ضمانات أمنية كافية لنماذج الذكاء الاصطناعي المتقدمة، بعد حادثة نفذ خلالها وكلاء تابعون للشركة هجومًا إلكترونيًا على منصة "هاغينغ في
