منحت شركة أنثروبيك “Anthropic” جهة رقابية خارجية إمكانية وصول موسعة إلى أنظمتها الداخلية لتقييم مخاطر نماذج الذكاء الاصطناعي، مؤكدة أن هذه الخطوة تأتي التزاماً بتعزيز إجراءات السلامة استجابةً للمخاوف المتزايدة من احتمال فقدان السيطرة على التكنولوجيا بشكل كارثي.
وأوضحت الشركة أن منظمة مِتر (METR) غير الربحية، التي سبق أن تعاونت مع مختبرات رائدة مثل أوبن إيه آي (OpenAI)، غوغل (Google)، وميتا (Meta)، بدأت العمل بفريق داخل مكاتب أنثروبيك مع إمكانية الوصول إلى الأجهزة والأنظمة الداخلية للشركة.
وأكدت أنها ترى أن تعزيز دور الجهات الرقابية الخارجية يمثل أحد الإجراءات الأساسية المقترحة من المختبرات الرائدة، في ظل تصاعد المخاوف بشأن المخاطر التي قد تفرضها أنظمة الذكاء الاصطناعي المتقدمة على الاقتصاد والأمن السيبراني والمجتمع.
وأشار المدير التنفيذي داريو أمودي إلى توافق نادر مع منافسيه الرئيسيين سام ألتمان وإيلون ماسك في سبتمبر الماضي، عندما دعم رؤساء أوبن إيه آي وسبايس إكس (SpaceX) مقترحه بشأن إشراك مراقبين خارجيين في المختبرات الرائدة.
وأوضح أن إعلان الخميس يمثل الخطوة الأولى نحو تنفيذ هذه التعهدات، مضيفاً أن أوبن إيه آي لم تعلن بعد عن خطط لاستقدام مقيمين خارجيين رغم تأكيد ألتمان أن المقترحات كانت إيجابية.
وبيّنت أن تصاعد قوة النماذج استدعى ضمانات أقوى وتقييمات مخاطر أكثر تعقيداً، مشددة على رغبتها في تحمل المسؤولية العلنية عن قراراتها، مع الإشارة إلى عدم إمكانية مشاركة جميع المعلومات المتعلقة بإجراءات السلامة بشكل علني.
وأفاد منتقدون بأن إشراك مقيمين خارجيين قد يؤدي إلى تضارب مصالح، مستشهدين بتجارب سابقة في قطاع المحاسبة، ومطالبين بضرورة وجود تنظيم حكومي أكبر.
وأضافت أن نشر المعلومات بشكل علني قد يفيد جهات خبيثة أو منافسين، موضحة أن المقيمين سيعملون بطريقة مشابهة لإشراف البنوك، حيث يعين المنظمون فاحصين مقيمين داخل أكبر المؤسسات المالية.
