كتب: عاطف عبد الغنى
كشفت تقارير إعلامية أمريكية عن واقعة بالغة الحساسية كادت تدفع الولايات المتحدة إلى مواجهة عسكرية مع الصين، بعدما استندت تقديرات استخباراتية أمريكية إلى معلومات اتضح لاحقًا أنها خاطئة، وأن إعدادها استعان بأداة للذكاء الاصطناعي ارتكبت ما يُعرف بـ«الهلوسة» التقنية، ففسرت بيانات متعلقة بحمولة سفينة صينية على نحو غير صحيح.
وتكتسب الواقعة خطورتها من أن الخطأ لم يبقَ داخل نطاق تجربة تقنية أو تحليل استخباراتي محدود، وإنما وصل إلى مرحلة تحرك فيها الجيش الأمريكي لوضع خطط لاعتراض السفينة، وسط استعدادات عسكرية لتنفيذ العملية، قبل أن تكشف مراجعة إضافية للتقرير أن المعلومات التي بُني عليها التقييم لا يمكن الوثوق بها.
وبحسب ما أوردته شبكة «CNN»، كانت الواقعة قد حدثت في وقت سابق من العام الجاري، عندما أشار تقرير استخباراتي إلى أن سفينة صينية كانت تنقل مكونات نووية في منطقة الشرق الأوسط، الأمر الذي دفع الجيش الأمريكي إلى التعامل مع السفينة باعتبارها هدفًا محتملًا.
استعدادات لاعتراض السفينة الصينية
ووفق أربعة مصادر مطلعة على الواقعة نقلت عنها «CNN»، بدأ الجيش الأمريكي إعداد خطط لاعتراض السفينة. وقال مصدران إن عناصر عسكرية مسلحة كانت تستعد للصعود إلى متنها، بينما أفاد مصدران بأن طائرات عسكرية كانت موجودة في الأجواء بالفعل استعدادًا للعملية.
لكن قبيل تنفيذ العملية، خضع التقرير الاستخباراتي لتدقيق أعمق، ليتبين للمسؤولين أن المحلل الذي أعده استعان بأداة للذكاء الاصطناعي، وأن روبوت المحادثة المستخدم فسّر طبيعة المواد الموجودة على متن السفينة بصورة خاطئة.
ولم تتمكن «CNN» من تحديد ماهية الشحنة التي جرى تصنيفها بصورة خاطئة، كما لم تتمكن من تحديد اسم أو نوع أداة الذكاء الاصطناعي التي استخدمها المحلل.
كيف وقع الخطأ؟
بحسب التقرير، زوّد المحلل روبوت المحادثة بمعلومات استخباراتية عسكرية، بينها بيانات تتعلق ببيان حمولة السفينة، ثم استخدمت الأداة هذه البيانات إلى جانب معلومات متاحة من مصادر مفتوحة، ومعلومات استخباراتية سرية مرتبطة بإشارات الاتصالات والموجودة في قواعد بيانات حكومية، لإنتاج تقييم استخباراتي انتهى إلى استنتاج خاطئ بشأن طبيعة الشحنة.
ولم يتوقف استخدام الذكاء الاصطناعي عند مرحلة التحليل، إذ استعان المحلل بالأداة مرة أخرى للمساعدة في صياغة النتائج داخل تقرير استخباراتي بالصيغة المعتادة، وهي التقارير التي تُعرض على المسؤولين العسكريين وتحظى بدرجة عالية من الثقة داخل منظومة صنع القرار.
ثم جرى تعميم التقرير، قبل أن تخضع المعلومات لمراجعة إضافية تكشف الخلل.
وهنا تكمن خطورة الواقعة: الذكاء الاصطناعي لم يكن مجرد أداة لتنسيق المعلومات، بل شارك في إنتاج الاستنتاج الذي كان يمكن أن يؤدي إلى عمل عسكري ضد سفينة مرتبطة بالصين.
من خطأ تقني إلى أزمة استراتيجية
تكشف الواقعة عن أحد أكثر المخاطر حساسية في استخدام الذكاء الاصطناعي داخل المؤسسات العسكرية والاستخباراتية. فالأنظمة الحديثة تستطيع معالجة كميات هائلة من البيانات بسرعة، لكنها قد تنتج في بعض الحالات إجابات تبدو مقنعة ومنظمة، رغم احتوائها على معلومات أو استنتاجات غير صحيحة.
وتُعرف هذه الظاهرة باسم «هلوسة الذكاء الاصطناعي»، عندما يقدم النظام معلومات مختلقة أو يربط بين معطيات بصورة خاطئة، من دون أن تكون صياغته الظاهرية كافية بحد ذاتها لكشف الخطأ.
وفي المجالات المدنية، قد يؤدي مثل هذا الخطأ إلى معلومة غير دقيقة أو قرار سيئ. أما في المجال العسكري، فإن الخطأ نفسه يمكن أن تكون له نتائج مختلفة تمامًا، خصوصًا إذا تعلق بتحديد هدف أو تفسير شحنة أو تقدير نوايا دولة أخرى.
لماذا كانت الصين تحديدًا؟
تأتي الواقعة في سياق شديد الحساسية للعلاقات الأمريكية الصينية، وفي وقت تعتبر فيه واشنطن بكين المنافس الاستراتيجي الرئيسي لها على المستوى الدولي.
وكان من شأن اعتراض سفينة صينية على أساس معلومات استخباراتية تشير إلى نقلها مكونات نووية أن يفتح الباب أمام أزمة دبلوماسية وعسكرية خطيرة، خاصة إذا تحولت عملية الاعتراض إلى مواجهة أو مقاومة مسلحة.
ولهذا فإن اكتشاف الخطأ قبل تنفيذ العملية لم يمنع فقط احتمال اتخاذ قرار عسكري مبني على معلومات غير صحيحة، وإنما جنب أيضًا واشنطن وبكين أزمة كان من الممكن أن تتجاوز بكثير حدود الحادث البحري نفسه.
البنتاجون والسباق نحو الذكاء الاصطناعي
تأتي الواقعة في الوقت الذي تدفع فيه وزارة الدفاع الأمريكية بقوة نحو توسيع استخدام الذكاء الاصطناعي في المجالات العسكرية والاستخباراتية، باعتباره عنصرًا أساسيًا في الحفاظ على التفوق التكنولوجي الأمريكي.
وتنظر الإدارة الأمريكية إلى السباق في مجال الذكاء الاصطناعي أيضًا باعتباره جزءًا من المنافسة الاستراتيجية مع الصين، وهو ما يفسر الضغوط الرامية إلى تسريع تطوير هذه التقنيات وعدم السماح للقيود التنظيمية أو المخاوف المتعلقة بالمخاطر بإبطاء الولايات المتحدة.
لكن حادثة السفينة الصينية تضع هذه الاستراتيجية أمام معضلة واضحة: كلما توسع الاعتماد على الذكاء الاصطناعي في صناعة القرار، ارتفعت أهمية وجود آليات بشرية قادرة على مراجعة مخرجاته واكتشاف الأخطاء قبل أن تتحول إلى قرارات تنفيذية.
تحذير من «الخطر الأكثر واقعية»
وترى إيما أشفورد من مركز ستيمسون أن مثل هذه الواقعة تمثل أحد السيناريوهات الأكثر واقعية للخطر المرتبط بالذكاء الاصطناعي؛ فالمشكلة، من وجهة نظرها، ليست أن تصبح الآلات واعية وتقرر القضاء على البشر، وإنما أن ترتكب أنظمة الذكاء الاصطناعي أخطاء تبدو مقنعة، ثم يتعامل البشر معها باعتبارها معلومات موثوقة من دون التحقق منها بصورة كافية.
وتزداد خطورة الأمر عندما تنتقل المعلومة الخاطئة عبر سلسلة مؤسسية تمنحها مزيدًا من المصداقية: من أداة الذكاء الاصطناعي إلى المحلل، ومن المحلل إلى التقرير، ومن التقرير إلى المسؤولين، ثم إلى التخطيط العسكري.
إنذار مبكر للجيش الأمريكي
وبغض النظر عن هوية الأداة المستخدمة في الواقعة، فإن القصة تطرح سؤالًا أكبر من حادثة السفينة نفسها: هل تستطيع المؤسسات العسكرية إدخال الذكاء الاصطناعي إلى عملياتها بسرعة، من دون أن تسمح لسرعة الآلة بأن تتجاوز قدرة الإنسان على التدقيق؟
فالخطأ الذي جرى اكتشافه في اللحظة الأخيرة لم يكن مجرد «هلوسة» تقنية عابرة، بل مثال على الكلفة المحتملة عندما تدخل مخرجات الذكاء الاصطناعي في منظومة استخباراتية مرتبطة بقرارات عسكرية حساسة.
وتكشف الواقعة في النهاية مفارقة السباق الأمريكي الصيني في الذكاء الاصطناعي: التكنولوجيا التي تسعى واشنطن إلى استخدامها للحفاظ على تفوقها الاستراتيجي قد تتحول، إذا غابت الرقابة البشرية الصارمة، إلى مصدر لخطر استراتيجي من نوع مختلف؛ ليس لأن الآلة تريد إشعال الحرب، وإنما لأن الإنسان قد يصدق خطأها في اللحظة التي لا تحتمل الخطأ.