مسؤول تقارير السلامة يغادر "أوبن إيه آي" ويحذر من "ثقافة معتلة" داخل الشركة

استقال مسؤول تقارير السلامة والأمان في شركة "أوبن إيه آي"، ديفيد روبنسون، من منصبه، محذرًا من أن ثقافة الشركة أصبحت "معتلة"، ومن أن وتيرة تطوير منتجات الذكاء الاصطناعي وإطلاقها لا ترافقها، بحسب رأيه، مستويات كافية من الحذر.
وبحسب تقرير نشرته الجزيرة، كان روبنسون مسؤولًا عن إعداد وتقييم تقارير السلامة والأمان المصاحبة لإطلاق نماذج جديدة من "تشات جي بي تي"، وجاءت استقالته في ظل سلسلة من حالات المغادرة التي شهدتها الشركة بين باحثين ومسؤولين معنيين بالأمان.
ونشر روبنسون مقالًا في مجلة "ذا أتلانتيك" بعنوان "أستقيل من أوبن إيه آي لأن ثقافتها معتلة"، قال فيه إن السباق المتسارع والانتقال السريع من إطلاق منتج إلى آخر أديا إلى إخفاق الشركة في تحقيق ما اعتبره الحد الأدنى المطلوب من الحذر في التعامل مع هذه التقنيات.
وكتب روبنسون أنه يتفق مع موظفين آخرين غادروا شركات الذكاء الاصطناعي في أن الجهات المطورة لهذه التقنية "لا تتوخى الحذر الكافي"، مضيفًا أن التعامل مع المخاطر لا ينبغي أن يقتصر على وضع قواعد أو سن قوانين جديدة، بل يتطلب أيضًا مناقشة ثقافة الشركات نفسها.
واستشهد بحادثة قال فيها إن "سربًا" من وكلاء "أوبن إيه آي" المطورين ذاتيًا شن هجومًا غير محدد الأهداف على منصة "هاغينغ فيس" من دون تدخل أو إشراف بشري، معتبرًا أن مثل هذه الوقائع لم تعد استثنائية.
وقال روبنسون إن مختبرات الذكاء الاصطناعي التنافسية تفتقر إلى ثقافة السلامة التي طورتها قطاعات خطرة أخرى على مدى عقود، داعيًا إلى إدارة شركات التقنية المتقدمة بدرجة من الصرامة وطبقات الأمان تشبه تلك المستخدمة في الإشراف على المفاعلات النووية أو تنظيم حركة الطيران في المطارات المزدحمة.
وأضاف أن وادي السيليكون يفتقر، في رأيه، إلى الوعي بكيفية التعامل مع التكنولوجيا الخطرة وبما يعنيه الاهتمام بالناس، محذرًا من سيناريو تعمل فيه وكلاء ذكاء اصطناعي "مارقة" على غرار مجموعات من قراصنة الإنترنت من دون الحاجة إلى التوقف أو النوم.
وفي ردها، قالت "أوبن إيه آي" إن الشركة تواصل تعزيز ممارسات السلامة والأمن وتحديثها لمواجهة المخاطر الحالية والمستقبلية. وأكد متحدث باسمها أنها قد توقف عمليات التدريب أو تؤجل إطلاق نماذج عندما تستدعي اعتبارات السلامة ذلك.
وتأتي استقالة روبنسون بعد أيام من إعلان "أوبن إيه آي" إنهاء خدمات ثلاثة باحثين على خلفية تسريب معلومات حساسة، وبعد أشهر من استقالة رئيس أنظمة السلامة السابق يوهانيس هايديكي.
وسبق أن غادر الشركة أيضًا عدد من أبرز المسؤولين والباحثين المرتبطين بأبحاث الأمان، بينهم إيليا سوتسكيفر ويان لايك، اللذان عملا ضمن فريق "المواءمة الفائقة". وربط التقرير مغادرة عدد من هؤلاء بخلافات تتعلق بأولوية اعتبارات السلامة مقارنة بالرهانات التجارية.
وامتدت الاستقالات المرتبطة بمخاوف السلامة إلى شركة "أنثروبيك" المنافسة، إذ استقال الباحث جاكوب كوكسون قبل أسابيع، محذرًا من أن وتيرة نمو الذكاء الاصطناعي قد تنطوي على مخاطر وجودية تهدد البشرية بحلول نهاية العقد.
وأشار التقرير كذلك إلى أن موظفًا آخر في "أنثروبيك" حذر من احتمال يتجاوز 10% بأن يؤدي الذكاء الاصطناعي إلى القضاء على البشرية خلال العقد المقبل.
وتعكس هذه الاستقالات خلافًا متصاعدًا داخل شركات الذكاء الاصطناعي بين السعي إلى تسريع تطوير النماذج والوصول المبكر إلى تقنيات أكثر تقدمًا، وبين باحثين ومسؤولين في مجال السلامة يحذرون من مخاطر قدرات هذه الأنظمة، ولا سيما في مجالات العمل الذاتي والاختراق السيبراني.