اتفاق حكومي تقني في واشنطن لتقييد الذكاء الاصطناعي

كشفت وكالة رويترز عن توصل الحكومة الاميركية الى اتفاق مع شركات مايكروسوفت وغوغل واكس ايه اي التابعة لايلون ماسك. وبينت ان الاتفاق يقضي بمنح السلطات وصولا مبكرا لنماذج الذكاء الاصطناعي الجديدة لاجراء اختبارات امنية قبل طرحها للعلن.

تاتي هذه الخطوة في ظل قلق متزايد في واشنطن من القدرات التخريبية لنماذج متطورة. واوضحت الوكالة ان من بين هذه النماذج نموذج ميثوس الذي اطلقته شركة انثروبيك موخرا. والذي اثار مخاوف من قدرته على تعزيز مهارات المخترقين بشكل كبير.

اعلن مركز معايير وابتكار الذكاء الاصطناعي التابع لوزارة التجارة ان الاتفاقية تهدف الى تقييم النماذج وتحديد المخاطر الامنية. واضاف المركز ان التقييم يشمل التهديدات السيبرانية والاستخدامات العسكرية غير المشروعة. واشار الى ان علماء الحكومة سيتعاونون مع الشركات وخاصة مايكروسوفت لتطوير قواعد بيانات وسير عمل لسبر اغوار السلوكيات غير المتوقعة للانظمة الذكية.

تفي هذه الاتفاقية بتعهد قطعته ادارة ترمب في تموز للتعاون مع شركات التكنولوجيا في فحص مخاطر الامن القومي. واكد المركز ان هذا التحرك يبنى على اتفاقيات سابقة مع اوبن ايه اي وانثروبيك ابرمت في عهد ادارة بايدن.

وقد اتم المركز بالفعل اكثر من 40 عملية تقييم لنماذج متطورة غير متاحة للجمهور. وكشف المركز ان الشركات غالبا ما تسلم نسخا من النماذج دون حواجز الحماية لتمكين المركز من فحص الثغرات بعمق.

بالتوازي مع جهود وزارة التجارة اعلنت وزارة الدفاع البنتاغون الاسبوع الماضي عن اتفاقيات مع سبع شركات لنشر قدرات ذكاء اصطناعي متقدمة عبر شبكاتها المصنفة. واظهرت الاخبار غياب شركة انثروبيك عن قائمة البنتاغون نتيجة خلاف مستمر حول حواجز الحماية المفروضة على الاستخدامات العسكرية لادواتها الذكية.