كتب: ياسين عبد العزيز
كشفت تقارير صحفية عن إرسال وكلاء ذكاء اصطناعي تابعين لـ OpenAI أكثر من 16 ألف طلب إلى موقع إحصاءات تابع للأمم المتحدة، خلال فترة امتدت لنحو 3 أشهر، أثناء محاولتهم جمع بيانات متاحة للعامة، قبل أن يتجه نشاطهم إلى محاولة تجاوز بعض إجراءات الحماية التي كانت تقيد الوصول إلى المعلومات.
OpenAI تطلق ميزة حصاد العام لمستخدمي ChatGPT بلمسات إبداعية وجوائز
ووقعت هذه المحاولات بين أبريل ونهاية يونيو، واستهدفت موقع الإحصاءات التابع لمؤتمر الأمم المتحدة للتجارة والتنمية UNCTAD، بينما رجحت التقارير أن الوكلاء كانوا يحاولون الوصول إلى بيانات مرتبطة بمؤشر القدرات الإنتاجية PCI، الذي يستخدم لقياس قدرة الدول على إنتاج السلع والخدمات.
وأظهرت مراجعة لسجلات النشاط على الإنترنت أجراها الباحث الأمني روان هاوارد-جونز، بالاستناد إلى أبحاث سابقة لشركة أبحاث الذكاء الاصطناعي Transluce، أن الوكلاء لم يعتمدوا فقط على طرق الوصول المعتادة، بعدما بدأوا تجربة أساليب أخرى عقب مواجهة صعوبات في الوصول إلى البيانات المطلوبة.
وأوضحت نتائج المراجعة أن الوكلاء بدوا وكأنهم اعتقدوا وجود مرشح أمني يمنع طلباتهم من الوصول إلى المعلومات، ولذلك حاولوا استخدام وسائل مختلفة للالتفاف على القيود، ووفقًا للتقارير، لجأوا إلى Google XSS Game، وهي أداة تعليمية صممت لمساعدة المستخدمين على فهم ثغرات البرمجة النصية عبر المواقع.
وتمكن الوكلاء في النهاية من تجاوز المرشح الأمني باستخدام أسلوب لم يكن مسموحًا به من جانب مشغلي الموقع، فيما وصف أليكس ستاموس، المحاضر في الأمن السيبراني بجامعة Stanford، النشاط بأنه يقع في منطقة حدودية بين جمع البيانات المكثف ومحاولة الوصول التي يمكن اعتبارها اختراقًا.
وأكدت التقارير في الوقت نفسه عدم وجود دليل حتى الآن على وصول الوكلاء إلى معلومات سرية تابعة للأمم المتحدة، إذ كانت البيانات التي حاولوا جمعها متاحة للعامة في الأساس، بينما ركزت المخاوف على الطريقة التي تعاملت بها الأنظمة مع إجراءات الحماية أثناء تنفيذ مهامها بصورة مستقلة.
وقالت OpenAI إنها تراجع نتائج التحقيق المتعلقة بالواقعة، وإنها تواصلت مع الأمم المتحدة لتقديم إحاطة حول ما حدث، موضحة أن جزءًا كبيرًا من نشاط وكلائها في هذه الحالة ارتبط بمهام بحثية معتادة، مثل زيارة المواقع العامة والبحث عن المعلومات اللازمة للإجابة عن أسئلة المستخدمين.
وأقرت OpenAI في الوقت نفسه بأن المواقع الإلكترونية يمكن أن تتأثر عندما تستقبل أعدادًا كبيرة من الطلبات الصادرة عن وكلاء الذكاء الاصطناعي، مؤكدة أن المخاوف المرتبطة بهذا النوع من السلوك تستحق التعامل معها بجدية، بينما تواصل الشركة مراجعة طريقة تصرف نماذج الذكاء الاصطناعي خلال عمليات التدريب والاختبار.
وسجلت تقارير سابقة وقائع أخرى مرتبطة بوكلاء تابعين لـ OpenAI أثناء تعاملهم مع مواقع حكومية أمريكية، وشملت تلك الوقائع مواقع تابعة لوزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات، حيث واجهت الأنظمة مشكلات أثناء جمع المعلومات وتنفيذ المهام المطلوبة منها عبر الإنترنت.
وعثرت إحدى هذه الوقائع على بيانات تسجيل دخول مكشوفة على الإنترنت، واستخدمها وكيل للذكاء الاصطناعي للوصول إلى بيانات من موقع مكتب الإحصاء الأمريكي، بينما شهدت واقعة أخرى جمع وكيل بيانات عامة من موقع هيئة الأوراق المالية والبورصات، ثم تجاهل قيودًا مرتبطة بطريقة استخدام هذه البيانات ونشرها على منتدى إلكتروني لا يرتبط بالمصدر الأصلي.
وأدت هذه الوقائع، وفقًا للتقارير، إلى مراجعة OpenAI نطاقًا أوسع من نشاط وكلائها، إلى جانب إخطار عشرات المؤسسات الأخرى بشأن سلوكيات مشابهة، في وقت يتزايد فيه استخدام الأنظمة القادرة على تصفح المواقع وتنفيذ سلسلة من المهام دون تدخل مباشر في كل خطوة.
وشهدت منصة Hugging Face واقعة أخرى مرتبطة بهذا النوع من الوكلاء، بعدما أفادت تقارير بأن آلاف الوكلاء التابعين لـ OpenAI تفاعلوا مع أنظمة المنصة أثناء تنفيذ المهام الموكلة إليهم، بينما واجهت منصة RubyGems، وهي مستودع لحزم البرمجيات، حادثة أرسل خلالها وكلاء ذكاء اصطناعي أعدادًا كبيرة من الطلبات وأدى ذلك إلى اضطراب الخدمة.