أطلقت شركة “أوبن إيه آي”، ميزتين أمنيتين رئيسيتين لروبوتها للدردشة “شات جي بي تي”، في خطوة تهدف لمواجهة التحديات سريعة التطور في مجال أمن الذكاء الاصطناعي، وهما “Lockdown Mode” وتعني “وضع القفل”، و”Elevated Risk” وتعني “خطر مرتفع”.
الخطوة تستهدف الحماية من اختراق أنظمة الذكاء الاصطناعي
وقالت الشركة، إن هاتين الأداتين جرى إطلاقهما خصيصًا لحماية المستخدمين من هجمات حقن الأوامر، وهي طريقة تستخدمها جهات خارجية خبيثة لاختراق أنظمة الذكاء الاصطناعي؛ بهدف الكشف عن معلومات حساسة، أو تنفيذ تعليمات غير مصرح بها.
وأوضحت الشركة أن “وضع القفل” الجديد هو إعداد متقدم واختياري مُصمم خصيصًا للمستخدمين العُرضة لمخاطر عالية -مثل المديرين التنفيذيين وفرق الأمن في المؤسسات الكبرى- الذين يحتاجون إلى حماية متزايدة ضد التهديدات المتقدمة.
وأشارت إلى أن “وضع القفل” يفرض قيودًا صارمة على كيفية تفاعل “شات جي بي تي” مع الأنظمة الخارجية؛ للحد من مخاطر تسريب البيانات الناتج عن هجمات حقن الأوامر، مضيفة أنه لا يُعد ضروريًا لمعظم المستخدمين.
أما ميزة “الخطر المرتفع”، فهي تصنف وتشير إلى بعض القدرات في “شات جي بي تي”، “وأطلس”، و”كودكس”؛ لتوضيح أن هذه الميزات قد تُدخل مخاطر إضافية عند استخدامها، بحيث يتلقى المستخدمون تنبيهًا أو إشعارًا واضحًا حول مستوى الخطر المحتمل المرتبط بهذه الإمكانيات.
