كشفت مؤسسة ويكيميديا، التي تقف خلف موسوعة ويكيبيديا، عن رصد أنشطة غير مصرح بها نفذها وكلاء ذكاء اصطناعي تشتبه في ارتباطهم بشركة OpenAI على منصاتها، شملت تعديلات على بعض الصفحات، ومحاولات فاشلة لاختراق أداة لتدوين الملاحظات، إلى جانب ملايين الطلبات الموجهة إلى واجهات برمجة التطبيقات العامة التابعة للمؤسسة.
وقالت المؤسسة إنها رصدت نشاطًا مكثفًا لوكلاء يبدو أنهم يعملون لصالح OpenAI، مشيرة إلى أن روبوتات آلية كثفت عمليات الزحف إلى بيانات منصاتها، مع تنفيذ ملايين الطلبات عبر واجهات برمجة التطبيقات العامة.
وأوضحت سيلينا ديكلمن، كبيرة مسؤولي المنتجات والتكنولوجيا في ويكيميديا، أن تحقيق المؤسسة لم يكشف عن أدلة تشير إلى استخدام وكلاء الذكاء الاصطناعي أنظمة ويكيميديا لتنسيق أنشطتهم، كما لم ترصد أي مؤشرات على اختراق بياناتها أو أنظمتها.
وأضافت أن المؤسسة تشعر بقلق بالغ إزاء ما كان يمكن أن يحدث، إلى جانب صعوبة التحقيق في هذه الأنشطة وتحديد الجهات المسؤولة عنها، محذرة من المخاطر المتزايدة المرتبطة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة.
وأشارت ويكيميديا إلى أن بعض الوكلاء المرتبطين بـOpenAI أجروا تعديلات على عدد من الصفحات والمواد دون الحصول على موافقة مسبقة. وكانت معظم هذه التعديلات تجريبية داخل أقسام مخصصة للاختبار، لذلك لم تظهر في الصفحات التي يصل إليها المستخدمون عادة.
ورصدت المؤسسة أيضًا عددًا محدودًا من التعديلات على إعدادات أداة مخصصة للاستشهاد بالمصادر، وتعتقد أن بعضها ربما كان ضارًا ويهدف إلى استغلال الأداة كوسيط لجلب بيانات من خدمات خارجية.
ورغم سماح ويكيميديا لبعض الروبوتات بإجراء تعديلات على صفحات ويكيبيديا وفق شروط محددة، أكدت المؤسسة أن الموافقة المطلوبة لم تُطلب في هذه الحالات، فيما تحظر النسخة الإنجليزية من ويكيبيديا إنشاء المقالات بالذكاء الاصطناعي.
وفي حادثة أخرى، حاول وكلاء تعتقد ويكيميديا أنهم مرتبطون بـOpenAI استغلال أداة تدوين الملاحظات مفتوحة المصدر Etherpad لجلب بيانات من مواقع أخرى، لكن المحاولات باءت بالفشل.
وقالت المؤسسة إن وكلاء آخرين يُرجح ارتباطهم بـOpenAI سجلوا ملاحظات تتعلق بالمهام التي ينفذونها، لكنها لم تجد دليلًا على تحول هذه الملاحظات إلى آلية لتنسيق الأنشطة.
وتعود مخاوف ويكيميديا من عمليات الزحف الآلي إلى أوائل عام 2024، عندما بدأت الروبوتات الوصول بكثافة إلى منصاتها لجمع البيانات المستخدمة في تدريب نماذج الذكاء الاصطناعي التوليدي.
وقالت المؤسسة إن الوكلاء وصلوا إلى ملايين الصفحات، خاصة من منصتي Wikidata وWikimedia Commons، إضافة إلى تنفيذ مئات الآلاف من الاستعلامات عبر خدمة Wikidata Query Service.
وترى ويكيميديا أن هذا النشاط ربما أسهم في حدوث انقطاع للخدمة في مايو الماضي نتيجة الضغط الكبير على بنيتها التحتية.
وحذرت ديكلمن من أن شركات الذكاء الاصطناعي لا تبذل جهودًا كافية لتأمين أنظمتها والحد من الأضرار التي قد يتسبب فيها الوكلاء المستقلون، مؤكدة أن المؤسسة تشعر بقلق بالغ من تأثير الوكلاء المارقين في منصات المعرفة المفتوحة.
وأكدت ويكيميديا أن الروبوتات والوكلاء سيصبحون جزءًا أساسيًا من مستقبل الإنترنت، لكنها شددت على ضرورة تحمل الشركات التي تطلق هذه الأنظمة وتحقق أرباحًا منها مسؤولية الأضرار التي قد تسببها.
