تقرير استخباراتي خاطئ صادر عن الذكاء الاصطناعي للجيش الأمريكي: ما حدث ولماذا هو مهم؟

أصبحت حادثة عسكرية أمريكية كادت أن تؤدي إلى كارثة، ناجمة عن تقرير استخباراتي مدعوم بالذكاء الاصطناعي، مثالاً مفيداً لدراسة مشكلة أوسع نطاقاً: فالذكاء الاصطناعي التوليدي قادر على تسريع التحليل، لكن السرعة لا تعني بالضرورة الدقة المؤكدة. في بيئة بالغة الأهمية، قد يكون الرد المصقول خطيراً إذا لم تكن مصادره وافتراضاته وجوانب عدم اليقين فيه واضحة للأشخاص الذين يتخذون القرارات بناءً عليه.

بحسب تقرير شبكة CNN الأصلي بتاريخ 18 سبتمبر/أيلول 2026 ، نقلاً عن أربعة مصادر مطلعة على الحادثة، فقد تم تداول تقرير استخباراتي داخل الجيش الأمريكي خلال الحرب مع إيران، زعم أن سفينة صينية في الشرق الأوسط كانت تحمل مكونات مرتبطة ببرنامج أسلحة نووية. وأفادت CNN بأنه تم اتخاذ الاستعدادات لاعتراض السفينة، وأن طائرات عسكرية كانت قد حلّقت بالفعل قبل أن يعيد المسؤولون النظر في التحليل الأساسي.

أفادت التقارير بأن المراجعة كشفت أن برنامج دردشة آليًا قد حدد شحنة السفينة بشكل خاطئ. كما ذكرت شبكة CNN أنه تم استخدام الذكاء الاصطناعي مجددًا لتغليف التحليل في نموذج تقرير استخباراتي قياسي. هذه الخطوة الثانية مهمة لأن التنسيق الرسمي قد يُضفي مصداقية أكبر على التحليلات الضعيفة.

هناك حدودٌ مهمة لما هو معروفٌ للعامة. ذكرت شبكة CNN أنها لم تتمكن من تحديد ماهية الشحنة التي تم التعرف عليها خطأً، أو ما إذا كان برنامج الدردشة الآلي نظامًا تجاريًا أم منتجًا حكوميًا. ولم يُصدر البنتاغون وقيادة العمليات الخاصة الأمريكية في المحيط الهادئ أي ردٍّ لشبكة CNN بخصوص هذا الخبر. وبناءً على ذلك، وحتى وقت صدور هذا التقرير، يُعتبر هذا الحادث مجرد رواية إخبارية موثقة، وليس تحقيقًا أو تقريرًا صادرًا عن وزارة الدفاع الأمريكية بعد وقوع العملية.

أهمية الحادثة المبلغ عنها

لا يقتصر القلق المباشر على احتمال أن يكون نظام الذكاء الاصطناعي قد أصدر بيانًا خاطئًا فحسب، بل من المعروف أن أنظمة الذكاء الاصطناعي التوليدية تُنتج مخرجات تبدو واثقة ولكنها غير مدعومة بأدلة، وهو خطر يُصنّفه المعهد الوطني للمعايير والتكنولوجيا ضمن فئة أوسع تُعرف بالتلفيق. ويتعامل ملف تعريف الذكاء الاصطناعي التوليدي الصادر عن المعهد مع هذا الخطر باعتباره خطرًا ينبغي على المؤسسات قياسه وإدارته بفعالية بدلًا من افتراض إمكانية القضاء عليه.

يحدث الفشل الأكثر خطورة عندما تنتقل مطالبة مُولَّدة عبر المؤسسة دون إجراءات كافية. فإذا تم تحويل رد النظام إلى صيغة معلوماتية مألوفة، وتوزيعه عبر قنوات موثوقة، والتعامل معه قبل التحقق المستقل، فإن عدم اليقين في النموذج قد يزول بينما تزداد مصداقية الوثيقة المؤسسية.

يمكن للسرعة أن تضغط الوقت المتاح للتشكيك.

تُولي المؤسسات العسكرية أهمية بالغة لسرعة اتخاذ القرارات لأسباب وجيهة. وتربط استراتيجية وزارة الدفاع الأمريكية لعام 2023، والمتعلقة بتبني البيانات والتحليلات والذكاء الاصطناعي، الذكاء الاصطناعي صراحةً باتخاذ قرارات أسرع وأفضل، مع وضع ضمان الجودة والذكاء الاصطناعي المسؤول ضمن أولوياتها. ولا يمكن تحقيق هذه الأهداف إلا إذا اقترنت سرعة الإنتاج بآليات تحقق قوية وكافية.

لذا فإن اختبار الجودة المفيد ليس "ما مدى سرعة قيام الذكاء الاصطناعي بإنشاء التقييم؟" بل "ما مدى سرعة قدرة المراجع على التحقق من كل مطالبة ذات أهمية تشغيلية؟" إذا زاد وقت التحقق بينما انخفض وقت الصياغة، فقد يبدو سير العمل فعالاً بينما هو في الواقع ينقل العمل والمخاطر إلى المراحل اللاحقة.

يمكن لدمج المصادر إخفاء مكان بدء الخطأ

أفادت شبكة CNN بأن برنامج الدردشة الآلي جمع بين مواد مفتوحة المصدر ومعلومات استخباراتية سرية. قد يكون هذا النوع من التوليف مفيدًا، ولكنه يُثير أيضًا مشكلة في تحديد المصدر. إذ يحتاج المُراجع إلى معرفة أي استنتاج جاء من أي مصدر، وما تمت ملاحظته مباشرةً، وما تم استنتاجه، وما تم توليده بواسطة النموذج.

عندما تُدمج هذه الفروقات في سردٍ واحدٍ سلس، قد يعجز المراجع عن تحديد ما إذا كانت جملةٌ رئيسيةٌ تعكس معلومةً استخباراتيةً خامّة، أو حكماً تحليلياً بشرياً، أو استنتاجاً من الذكاء الاصطناعي. وهذا الأمر بالغ الخطورة، لا سيما عندما يكون الادعاء قادراً على إحداث تغييرٍ لا رجعة فيه.

ما الذي ينبغي أن ينتجه سير عمل ذكاء عالي الجودة مدعوم بالذكاء الاصطناعي؟

إنّ أفضل ردّ فعل على فشل كهذا ليس قاعدة عامة مفادها أن الذكاء الاصطناعي غير آمن دائمًا. بل يكمن النهج الأمثل في تحديد معايير جودة قابلة للملاحظة. تُسهّل الفحوصات التالية عملية تدقيق المخرجات وتُوضّح متى يلزم تغيير سير العمل.

تشير مبادئ الدفاع الأمريكية الحالية بالفعل إلى هذه الضوابط

تُعدّ مبادئ وزارة الدفاع الأمريكية الأخلاقية للذكاء الاصطناعي ذات أهمية بالغة لأنها تُركّز على المسؤولية البشرية، وإمكانية التتبّع، والموثوقية، والحوكمة. وتنصّ مذكرة التنفيذ الصادرة عن الوزارة عام 2021 على ضرورة أن يُمارس الموظفون التقدير السليم والحرص، وأن تكون منهجيات الذكاء الاصطناعي ومصادر البيانات شفافة وقابلة للتدقيق من قِبل الموظفين المعنيين، وأن يتم اختبار القدرات والتأكد من كفاءتها ضمن استخداماتها المُحدّدة. والوثيقة الأصلية هي مذكرة وزارة الدفاع الأمريكية بشأن تطبيق الذكاء الاصطناعي المسؤول .

بالنسبة لأنظمة الأسلحة ذاتية التشغيل وشبه ذاتية التشغيل، يشترط توجيه وزارة الدفاع الأمريكية رقم 3000.09 وجود حكم بشري مناسب، واختبارات واقعية، ومتانة، ومصادر بيانات وتقنيات شفافة أو قابلة للتدقيق. لا ينطبق هذا التوجيه وحده على جميع برامج الدردشة الآلية لتحليل المعلومات الاستخباراتية، لذا لا ينبغي تقديمه كدليل على أن سير العمل المُبلغ عنه قد انتهك سياسة أسلحة معينة. مع ذلك، يظل مفيدًا كدليل على منطق السلامة الأوسع للوزارة: فالأنظمة التي تؤثر على القرارات المصيرية تحتاج إلى حدود محددة، واختبارات، وإشراف، وآلية لإيقافها عندما يكون سلوكها غير جدير بالثقة.

متى يجب على المؤسسات التوقف عن استخدام النموذج التوليدي وتغيير أساليبها؟

ينبغي أن تتضمن سياسة الذكاء الاصطناعي العملية شروط خروج واضحة. يجب على الفرق الابتعاد عن التوليد غير المقيد عندما يعجز النظام عن إظهار مصدر موثوق، أو عندما يمكن أن يؤثر الادعاء بشكل مباشر على استخدام القوة، أو عندما يُطلب من النموذج استنتاج هوية أو غرض شحنة أو معدات غامضة، أو عندما يعجز المراجعون عن إعادة إنتاج الاستنتاج من الأدلة الأساسية.

في هذه الحالات، قد يكون البديل الأكثر أمانًا نظامًا يقتصر على استرجاع النصوص المصدرية ذات الصلة دون استخلاص استنتاجات واقعية جديدة. وثمة خيار آخر يتمثل في دعم القرار المنظم، حيث يمكن للنموذج تنظيم الأدلة دون السماح له بملء الفراغات في الحقائق. أما بالنسبة للمسائل بالغة الأهمية، فقد يكون الأسلوب الأمثل هو التحليل البشري التقليدي مع مساعدة آلية تقتصر على البحث أو الترجمة أو النسخ أو فرز الوثائق.

يعتمد الحد الأمثل على عواقب الخطأ. فالنموذج المستخدم لتلخيص مذكرة لوجستية يمكنه تحمل مستوى مختلف من عدم اليقين المتبقي مقارنةً بنموذج قد تؤثر مخرجاته على قرار الحظر أو الإضراب أو التصعيد.

كيفية الحكم على ما إذا كانت إجراءات الحماية فعالة بالفعل

لا تكفي السياسات ما لم تقم المؤسسات بقياس النتائج. تشمل المؤشرات المفيدة نسبة الادعاءات ذات التأثير الكبير التي تستند إلى مصادر مباشرة، ومعدل عثور المراجعين على تأكيدات نموذجية غير مدعومة، وعدد التقارير المسحوبة أو المصححة بعد نشرها، ومتوسط ​​الوقت اللازم للتحقق من الادعاءات الهامة، وعدد مرات تغيير توصيات الذكاء الاصطناعي بعد المراجعة المستقلة.

ومن المؤشرات القيّمة الأخرى وجود اختلاف في الآراء. فإذا توصل محلل ثانٍ أو نموذج منفصل إلى تفسير مختلف جوهريًا لنفس الأدلة، ينبغي أن يزيد ذلك من التدقيق بدلًا من اللجوء إلى التوسط التلقائي. إذ يمكن أن يكشف الاختلاف عن غموض قد يخفيه جواب واحد واضح.

ينبغي تقييم الجودة أيضًا تحت ضغط واقعي. فسير العمل الذي يُحقق أداءً جيدًا في المختبر ولكنه يفشل عندما يكون المحللون مُستعجلين أو مُثقلين بالأعباء أو يعملون بمعلومات غير مكتملة، لا يكون جاهزًا للاستخدام العملياتي ذي الأثر الكبير. الاختبار المناسب هو نظام الإنسان والآلة ككل، وليس النموذج بمعزل عن غيره.

ما لا تثبته هذه الحلقة

لا يُثبت الحادث الذي كاد أن يقع أن يكون كارثة أن جميع أنظمة الذكاء الاصطناعي العسكرية غير موثوقة، أو أنه لا ينبغي استخدام الذكاء الاصطناعي التوليدي مطلقًا في العمل الاستخباراتي، أو أن مُورّدًا مُحددًا للنماذج هو سبب المشكلة. فالتقرير المنشور لا يُحدد النموذج، ولا التعليمات المُحددة بدقة، ولا الشحنة التي تم تحديدها بشكل خاطئ، ولا سلسلة المراجعة الكاملة، ولا القواعد الداخلية التي طُبقت على المُحلل.

كما أنه لا يحدد مدى تكرار حدوث أخطاء مماثلة. فبدون قاعدة بيانات عامة للحوادث، أو نتائج تدقيق، أو بيانات معلنة توضح عدد منتجات الاستخبارات المدعومة بالذكاء الاصطناعي، لا يمكن لحادثة واحدة أن تدعم معدل فشل موثوق.

تُعدّ هذه الحدود مهمة لأن المبالغة في رد الفعل قد تكون ضارة تمامًا كالتقليل منه. والدرس الأكثر وجاهة هو درسٌ أضيق نطاقًا: عند إدخال الذكاء الاصطناعي في مسار تحليلي ذي عواقب وخيمة، ينبغي تقييم جودة المخرجات بناءً على المصدر، والتأكيد، ومعالجة عدم اليقين، وإمكانية التكرار، والمراجعة البشرية المستقلة، وليس بناءً على السلاسة، أو السرعة، أو التنسيق الاحترافي.

الخلاصة

إن حادثة الذكاء الاصطناعي الكاذب التي تم الإبلاغ عنها في الجيش الأمريكي مهمة لأنها توضح نمط فشل يمكن أن يحدث في أي منظمة ذات مخاطر عالية: حيث يقوم نموذج ما باستنتاج غير مدعوم، ويحول البرنامج هذا الاستنتاج إلى منتج مصقول، وتبدأ العمليات المؤسسية في التعامل مع المنتج كما لو أن سلطته مستمدة من أدلة موثقة.

ليس الهدف العملي جعل الذكاء الاصطناعي التوليدي معصومًا من الخطأ، فالأنظمة الحالية لا تضمن ذلك. بل الهدف هو تصميم سير العمل بحيث يبقى خطأ الذكاء الاصطناعي مجرد خطأ مبدئي قابل للاكتشاف، بدلًا من أن يصبح واقعًا عمليًا. ومن أبرز علامات نضج النظام: إمكانية تتبع مصدر البيانات، والتحقق المستقل من صحة الادعاءات المهمة، والوضوح في تحديد عدم اليقين، وتوثيق خطوات المراجعة، ونقطة محددة مسبقًا يتوقف عندها البشر عن الثقة في المسار المُولّد، وينتقلون إلى أسلوب أكثر دقة.