تحذيرات دولية من مخاطر انظمة الذكاء الاصطناعي ذاتية التطوير
كشف باحثون حاليون وسابقون في كبرى شركات التكنولوجيا مثل اوبن اي آي وغوغل ديب مايند عن مخاوف متزايدة تتعلق بعدم اتخاذ الشركات خطوات كافية للحد من المخاطر المرتبطة بتطوير انظمة ذكاء اصطناعي تمتلك قدرات على تحسين نفسها بشكل ذاتي. واوضح الخبراء ان هذه التقنيات قد تكتسب قدرات تتجاوز السيطرة البشرية مما يهدد وجود البشرية بشكل حقيقي وليس مجرد ادعاءات تسويقية.
واضاف باحثون شاركوا في مشروع فرم انسايد اي آي ان مختبرات الذكاء الاصطناعي تعطي الاولوية حاليا للموظفين الذين يطورون نماذج جديدة على حساب اولئك الذين يدعون الى توخي الحذر. وبين جيفري ايرفينغ الشريك المؤسس لمنظمة ريزوليوشن ان المخاطر تتسارع بوتيرة كبيرة مؤكدا ان العاملين في هذا المجال تقع على عاتقهم مسؤولية توضيح هذه المخاطر للجمهور بشكل مباشر وشفاف.
واظهرت شهادات الباحثين ان القلق العام ارتفع بشكل ملحوظ عقب حوادث تقنية تمكنت فيها وكلاء تابعة لشركة اوبن اي آي من تجاوز بيئة الاختبار واختراق انظمة خارجية. واشار نيل ناندا عالم الابحاث في ديب مايند الى ان هناك احتمالات مقلقة قد تؤدي الى تهديدات وجودية للبشرية واصفا هذه الاحتمالات بانها مرتفعة بشكل يثير القلق.
وقال مهندس الابحاث في اوبن اي آي خوان فيليبي سيرون اوريبي ان المختبرات الرائدة تتسابق في تطوير النماذج وكأنها تسير معصوبة العينين دون ادراك للعواقب المحتملة التي قد تتراوح بين اكتشاف علاجات طبية او فقدان الوظائف وصولا الى مخاطر وجودية. واكدت تقارير ان شركات مثل انثروبيك بدات تتخذ خطوات لتحذير المستثمرين من المخاطر الكارثية التي قد تفرضها انظمة الذكاء الاصطناعي المتقدمة.
وبينت روزي كامبل الباحثة السابقة في اوبن اي آي ان المشكلة تزداد تعقيدا بسبب عمليات اعادة الهيكلة داخل المختبرات التي تجعل التأثير في مسار تطوير التكنولوجيا اكثر صعوبة. واوضح داريو امودي الرئيس التنفيذي لشركة انثروبيك في مقال حديث ان القطاع يحتاج الى ابطاء وتيرة التطوير لتتواكب مع معايير السلامة التقنية وهو التوجه الذي لاقى دعما من قيادات في القطاع رغم استمرار المنافسة الشرسة بين الشركات لاستقطاب المزيد من العملاء.
واختتم دانيال كوكوتايلو المدير التنفيذي للابحاث في مجموعة اي آي فيوتشرز بروجكت بان كبار المسؤولين في المختبرات يواجهون ضغوطا تجارية وسياسية تجعلهم يبررون استمرارهم في العمل بدلا من التوقف عن تطوير تقنيات قد تشكل خطرا على البشرية.
