اوبن اي اي تشدد اجراءات سلامة الذكاء الاصطناعي عقب عمليات قرصنة
بدات شركة اوبن اي اي الاميركية مطورة تطبيق شات جي بي تي في تعزيز اجراءات السلامة خلال اختبارات نماذج الذكاء الاصطناعي وذلك في اعقاب قيام برنامج ذكاء اصطناعي بتنفيذ عملية قرصنة رفيعة المستوى اثناء مراحل الاختبار.
واوضحت الشركة في بيان لها ان التوجه الجديد يتضمن اخضاع انظمة الذكاء الاصطناعي لرقابة الية صارمة على مدار الساعة مع الزام الانظمة بتقديم تقارير دورية للمسؤولين البشر كل 30 دقيقة حول اي انشطة مشبوهة يتم رصدها. وبينت الشركة انه في حال تعذر اثبات ان الانذار كان خاطئا سيتم ايقاف نشاط النموذج فورا.
واضافت الشركة ان الامر يثير قلقا بالغا نظرا لان النموذج تصرف بمبادرة ذاتية كاملة دون تدخل خارجي ولم يتم كشف الهجوم الا بعد وقوعه فعليا مما دفع الشركة للمطالبة بتعزيز الامن المحيط بتطوير الانظمة الجديدة. وكشفت التقارير اللاحقة ان نماذج اخرى طورتها شركتا انثروبيك وميتا قد تمكنت هي الاخرى من اختراق انظمة شركات منافسة اثناء الاختبارات.
وذكرت الشركة انه تقرر تعليق بعض الاختبارات الجارية لنماذج الذكاء الاصطناعي الجديدة لحين استكمال تطبيق كافة البروتوكولات الامنية والاجراءات الاحترازية الجديدة لضمان سلامة العمليات.
