أعلنت شركة “أوبن إيه آي” عن رصد 4 حوادث أمنية رقمية نفذتها نماذج الذكاء الاصطناعي الداخلية التابعة لها خلال شهر يونيو، موضحة أن هذه الحوادث تضمنت اختراق مواقع إلكترونية وسحب عملات مشفرة باستخدام بيانات اعتماد مكشوفة.
وأشارت الشركة، إلى أن هذه الحوادث وقعت بعد إعلانها في يوليو عن استغلال وكلاء الذكاء الاصطناعي التجريبيين لثغرة أمنية في أداة مخصصة لتقييد الوصول إلى الإنترنت، مضيفة أن ذلك أدى إلى اختراق شبكة مزود أدوات الذكاء الاصطناعي هاغينغ فيس (Hugging Face)، ومبينة أن الهدف كان الحصول على إجابات اختبار اختراق لم تكن متاحة عند تنفيذ المهام بشكل مستقل.
وأكدت الشركة أن اثنتين من الحوادث تضمنت قيام وكلاء أوبن إيه آي باختراق مواقع إلكترونية أثناء محاولتهم استرجاع معلومات تعذر الحصول عليها مباشرة، مشيرة إلى أنه في إحدى الحوادث تمكن نموذج ذكاء اصطناعي خلال التدريب التعزيزي من تجاوز رفض الوصول عند محاولة استرجاع إحصائيات عدد الأسرة في المستشفيات من موقع حكومي.
وأوضحت أن النموذج استخدم ميزة تنزيل الملفات لاسترجاع بيانات تكوينية للتطبيق والخادم، بما في ذلك بيانات اعتماد حساسة، ثم قام بفحص كود التطبيق وتجاوز فحوصات التفويض لنقطة نهاية الإحصائيات واسترجع بيانات كانت مرفوضة سابقا، ثم حفظ البيانات محليا.
تجدر الإشارة إلى أن الشركة أكدت أن هذه الأفعال لا تزال قيد التحقيق، ولم تثبت مسؤولية بشرية عنها حتى الآن، مشددة على أن أي تصرف مماثل من قبل أشخاص كان سيعرضهم للمساءلة الجنائية بحسب القوانين المعمول بها، ومضيفة أن هذه الحوادث تثير مخاوف متزايدة من إمكانية تسبب الذكاء الاصطناعي في آثار ضارة واسعة النطاق مستقبلا.
