"فايننشال تايمز": عصر حروب الذكاء الاصطناعي قد بدأ

صحيفة "فايننشال تايمز" البريطانية تنشر تقريراً يتناول كيف يعيد الذكاء الاصطناعي تشكيل الحروب الحديثة، من دون أن يمنح الجيوش حتى الآن تفوقاً حاسماً أو يحسم الحروب بمفرده. ويعرض استخدامه في تحليل كميات هائلة من البيانات، وتسريع تحديد الأهداف، وتقليص "سلسلة القتل"، وتوجيه الطائرات المسيّرة، وتطوير أنظمة الملاحة الذاتية وأسراب الطائرات. 

ويخلص النص إلى أنّ المشكلة المقبلة قد لا تكون فقط في قرار الجيوش استخدام الذكاء الاصطناعي في القتال، بل في مدى قدرة الحكومات والشركات أصلاً على إبقاء النماذج المتقدمة تحت السيطرة.

أدناه نص التقرير منقولاً إلى العربية:

للوهلة الأولى، تبدو طائرة "ساكر سكاوت" (Saker Scout) شبيهة بآلاف الطائرات المسيّرة الأخرى التي تجوب حالياً أجواء الخطوط الأمامية في أوكرانيا. إنها طائرة رباعية المراوح (كوادكوبتر) سوداء اللون، مزوّدة بكاميرا تتيح للمشغّل التحكّم في طيرانها عن بُعد وإيصال شحنة متفجرة تزن 5 كيلوغرامات، تكون عادةً عبارة عن قنبلة يدوية أو رأس حربي مضاد للدبابات.

ولكن ثمة لوحة إلكترونية، لا يتجاوز حجمها حجم بطاقة ائتمان، مخبأة تحت هيكلها المصنوع من ألياف الكربون، وقد تمثّل هذه اللوحة الخطوة التالية في تطور الحروب. إذ يمكن لبرمجيات التعلم الآلي فيها التعرّف إلى 47 فئة من الأهداف العسكرية، بدءاً من الدبابات ووصولاً إلى قوات المشاة، حيث ترسم إطارات افتراضية حول الأهداف وتحدّد درجة ثقة، على شكل نسبة مئوية، لكل ما ترصده.

وقبل الإقلاع، يحدّد المشغّل البشري الأهداف الأكثر أهمية، ويضبط عتبة الثقة المطلوبة للاشتباك، ويحدّد ما يُعرف بـ"منطقة القتل" (kill box)، وهي منطقة جغرافية يُعدّ كل ما بداخلها هدفاً مشروعاً. وبمجرد دخولها هذه المنطقة، تصبح الطائرة قادرة على البحث عن الأهداف وتحديدها ومهاجمتها، شريطة أن تكون درجة الثقة مرتفعة بما يكفي، من دون الحاجة إلى انتظار أمر بشري آخر.

ثمة قيد جوهري واحد: فالآلة قادرة على التمييز بين الدبابة والشاحنة، أو بين المشاة والمدفعية، لكنها لا تستطيع تحديد ما إذا كان الهدف أوكرانياً أم روسياً. ولذلك، يعتمد النظام على افتراض ميداني مفاده أنّ أيّ هدف عسكري يقع داخل "منطقة القتل" (kill box) يُعدّ تابعاً للعدو.

يقول روستيسلاف أولينشين، من شركة "تويست روبوتيكس" (Twist Robotics) الأوكرانية المطوّرة للطائرة المسيّرة "ساكر سكاوت" (Saker Scout): "عليك التأكّد من عدم وجود مدنيين أو أفراد من قواتك في المنطقة المستهدفة. إنه سلاح فريد للغاية، ولا تستخدمه إلا وحدات خاصة وفي حالات محددة".

لقد غيّرت تقنية الذكاء الاصطناعي أسلوب خوض الحرب في أوكرانيا. ففي بداية الصراع، كان تحديد الهدف وشنّ هجوم عليه يستغرق نحو 20 دقيقة، أما الآن فقد تستغرق هذه العملية أقل من دقيقتين، وأحياناً بضع ثوانٍ فقط.

وقع الغزو الروسي الشامل لأوكرانيا قبل تسعة أشهر من إطلاق شركة "أوبن إيه آي" (OpenAI) برنامج "تشات جي بي تي" (ChatGPT)، في لحظة محورية من ثورة الذكاء الاصطناعي. وقد تحوّل الصراع إلى ساحة اختبار لاستخدام أنظمة الذكاء الاصطناعي في العمليات القتالية المباشرة (الحرب الحركية)، حيث تسهم الدروس المستفادة في تشكيل استراتيجيات ليس لأوكرانيا وحلفائها الغربيين فحسب، بل أيضاً للولايات المتحدة في سياق صراعها المحتمل مع إيران.

ووفقاً لأولينشين، فإنّ هذا التسارع لا يعود إلى التكنولوجيا فحسب، بل إلى عامل التكلفة أيضاً؛ إذ يمكن اليوم شراء القدرة الحاسوبية اللازمة لتشغيل خوارزميات متطورة للتعرّف البصري مقابل نحو 250 دولاراً. وتُقارن القدرة الحاسوبية لطائرة "ساكر سكاوت" بتلك التي يتمتع بها جهاز "بلاي ستيشن 4" (PlayStation 4).

لكنّ الحرب تُظهر أيضاً حدود قدرات الذكاء الاصطناعي. فمع دمج هذه التقنية بسرعة في الأنظمة العسكرية لدى كلٍّ من أوكرانيا وروسيا، اتضح للمخططين الاستراتيجيين والمشغّلين على الخطوط الأمامية أنه، على الرغم من أنّ الذكاء الاصطناعي سرّع عملية اتخاذ القرار وجعل الحرب أكثر فتكاً، فإنه لم يمنح أياً من الطرفين ميزة حاسمة حتى الآن.

ومع ذلك، ومع وصول نماذج الذكاء الاصطناعي المتطورة (الرائدة) إلى مرحلة تتطور فيها بوتيرة أسرع من قدرة البشر على السيطرة عليها، سيتعيّن على القادة العسكريين والسياسيين التعامل مع التبعات المترتبة على تجاوز تلك الحدود.

دور الذكاء الاصطناعي في الحروب

عندما تتحدّث المؤسسات العسكرية عن الذكاء الاصطناعي، فهي لا تشير إلى نظام واحد بعينه، بل إلى برمجيات تُستخدم في مراحل مختلفة من العمليات الحربية، مثل جمع البيانات ومعالجتها، ومساعدة القادة في تحديد الأهداف وترتيب أولوياتها، وتمكين الطائرات المسيّرة من مواصلة العمل حتى في ظل التشويش على الاتصالات.

يقول أنتوني كينغ، أستاذ دراسات الحرب ومدير معهد الاستراتيجية والأمن بجامعة إكستر، إنّ البرمجيات المدعومة بالذكاء الاصطناعي قادرة على معالجة "كميات هائلة من البيانات بحجم وسرعة تفوق قدرات ضباط الأركان البشر". ويوضح كينغ أنّ الوظيفة الأساسية للذكاء الاصطناعي، بدلاً من تغيير طبيعة المواجهة المباشرة في الصراع، تتمثل في تعزيز "الوعي الظرفي والمعلومات الاستخباراتية".

ويمكن لهذه التكنولوجيا مساعدة القادة في إجراء تنبؤات تتعلق بساحة المعركة، بدءاً من مدى استدامة الحملة العسكرية ووصولاً إلى معدل استهلاك الذخيرة. ويشير كينغ إلى أنّ الميزة التي تتفوق بها هذه الأنظمة على التقديرات البشرية تكمن، ببساطة، في امتلاكها "مزيداً من الأدلة والمعطيات التي يمكنها تحليلها".

وتكتسب هذه المسألة أهمية بالغة، نظراً إلى أنّ مراكز القيادة الحديثة تتعامل مع كميات ضخمة من المعلومات، تشمل لقطات الطائرات المسيّرة، وصور الأقمار الاصطناعية، والإشارات الإلكترونية، والتقارير البشرية، والبيانات الواردة من أجهزة الاستشعار المنتشرة في ساحة المعركة. ويقول جاك واتلينغ، من المعهد الملكي للخدمات المتحدة، وهو مركز أبحاث دفاعي وأمني مقره المملكة المتحدة، إنّ عملية مقارنة كلّ هذه البيانات وتحليلها تتطلب "جهداً بشرياً هائلاً". وتعمل أنظمة إدارة ساحة المعركة، مثل نظام "دلتا" الأوكراني ونظام "مافن" الأميركي، على تحويل تلك التدفقات من البيانات إلى معلومات قابلة للاستخدام.

وصرّح مسؤول في الاستخبارات الأميركية لكاترينا مانسون، مؤلفة كتاب يتناول "مشروع مافن" (Project Maven)، بأن النظام ساعد في زيادة عدد الأهداف التي يمكن للقوات الأميركية ضربها من أقل من 100 هدف يومياً إلى 1000 هدف، بل وصل هذا العدد إلى 5000 هدف مع دمج نماذج اللغة الكبيرة.

وتتيح هذه الأنظمة أيضاً للجيوش تقليص "سلسلة القتل" (kill chain)، وهي الفترة الزمنية الفاصلة بين تحديد الهدف وتنفيذ الضربة. ويذكر الجيش البريطاني على موقعه الإلكتروني: "ببساطة، كلما تمكن الجنود من القيام بذلك بسرعة أكبر ومن مسافة أبعد، زاد تأثيرهم على العدو". فهي تمكّن الجيوش من توجيه الضربة الأولى، وتزيد عدد الأهداف القابلة للاستهداف، ولا سيما الأهداف المتحركة منها.

وفي حين كان الاستراتيجيون يقيسون القوة العسكرية سابقاً بعدد القوات والطائرات الحربية والدبابات والسفن الحربية التي يمكن نشرها، يتعين عليهم الآن التركيز على سرعة أنظمة معالجة البيانات ودقتها، وكيفية نشر الأسلحة ذاتية التشغيل على نطاق واسع.

وعلى الخطوط الأمامية، لا يزال استخدام الذكاء الاصطناعي مقتصراً، إلى حد كبير، على مهام محددة ومحدودة النطاق، مثل الحفاظ على توازن الطائرة المسيّرة أثناء الطيران، أو مواصلة التحرك نحو الهدف بعد تعرّض الرابط اللاسلكي مع المشغّل للتشويش.

وتقول كاترينا بوندار، وهي باحثة أولى في مركز الذكاء الاصطناعي التابع لـ"مركز الدراسات الاستراتيجية والدولية" (CSIS)، إن تقنيات الملاحة الذاتية، التي استُمد الكثير منها من برمجيات سباقات الطائرات المسيّرة، يمكن أن تساعد الطائرة على التكيف مع الرياح وتثبيت التتبع على الهدف بسرعات تصل إلى 300 كيلومتر في الساعة. وقد ساهمت هذه التقنيات في تقليص فترات تدريب الطيارين، كما زادت احتمالية نجاح الضربات بمقدار ثلاثة إلى أربعة أضعاف عند الاستعانة بالذكاء الاصطناعي.

وقد أثبتت أنظمة التوجيه في المرحلة النهائية (Terminal guidance) أهمية خاصة خلال اللحظات الأخيرة من الضربة، وهي المرحلة التي غالباً ما ينقطع فيها الاتصال بين الطيار والطائرة المسيّرة بسبب التشويش. ويقول قائد عسكري أوكراني: "كثيراً ما يحدث أن تفقد السيطرة على الطائرة المسيّرة وهي على بُعد 100 أو 200 متر من الهدف". ولكن بمجرد أن يثبّت الطيار التتبع على الهدف، يمكن للطائرة المسيّرة مواصلة اقترابها النهائي منه حتى في حال فقدان الإشارة.

يقول أوليكسي بابينكو، مؤسس شركة "فيري دراون" (Vyriy Drone) الأوكرانية المصنّعة للطائرات المسيّرة، التي تورّد منتجاتها إلى الجيش، إن الضربات التي تُنفّذ بواسطة طائرات مسيّرة موجّهة بالذكاء الاصطناعي لا تزال نادرة نسبياً. ويضيف: "ربما تستخدم 2 في المئة من الطائرات المسيّرة نوعاً من تقنيات الذكاء الاصطناعي، بحيث تتمكن الطائرة من فهم ماهية الهدف وتحديده بنفسها. ومع ذلك، فإن نسبة 2 في المئة من إجمالي خمسة ملايين طائرة مسيّرة تُعد عدداً كبيراً".

وتزعم أوكرانيا أن عدد الضربات التي تنفّذها طائرات مسيّرة موجّهة بالذكاء الاصطناعي قد تضاعف عشر مرات منذ بداية عام 2026.

وهناك أيضاً تقنية "أسراب الطائرات" (swarming)، حيث توزّع الآلات المهام فيما بينها. وقد يتضمن ذلك تنسيقاً بين الطائرات المسيّرة والروبوتات الأرضية لانتشال جندي مصاب، أو قيام طائرات مسيّرة هجومية بتقسيم الأهداف فيما بينها لإرباك أنظمة الدفاع. ورغم أن استخدام أسراب مستقلة على نطاق واسع لا يزال تجريبياً في معظمه، فإن مجموعات صغيرة منها بدأت بالفعل في العمل المشترك في ساحات المعارك.

وتُعد شركة "أوتيريون" (Auterion)، وهي شركة ناشئة تأسست في سويسرا، واحدة من الشركات التي تعمل على تطوير برمجيات خاصة بهذه الأسراب.

يقول لورينز ماير، الرئيس التنفيذي لشركة "أوتيريون"، إن القوات العسكرية الغربية ستضطر، بشكل متزايد، إلى الاعتماد على أسراب تتمتع بدرجة كبيرة من الاستقلالية في عملها، نظراً إلى أنها لم تدرّب عدداً كافياً من مشغّلي الطائرات المسيّرة لمجاراة القدرات الروسية أو الأوكرانية.

ويضيف ماير: "بالنسبة إلى دول حلف الناتو، فإن الأمر مسألة حياة أو موت؛ إذ لا يمكنها تشكيل وحدات الطائرات المسيّرة هذه بالسرعة الكافية. لذا، يتعين عليها التوجه نحو مستوى أعلى من الأتمتة لتتمكن من القتال بفعالية".

وقد اكتسبت الأبحاث المتعلقة بالاستهداف المستقل للطائرات المسيّرة الروسية بعيدة المدى أهمية ملحّة، بعد أن بدأت موسكو في إرسال موجات من طائرات "شاهد" (Shahed) لمهاجمة المدن الأوكرانية. ورداً على ذلك، بدأت شركات أوكرانية في تطوير صواريخ اعتراضية قادرة على رصد هذه الطائرات ومهاجمتها.

وتتميز طائرات "شاهد" بشكل فريد، وتحلّق في أجواء تخلو غالباً من طائرات أخرى، ما يتيح تدريب أنظمة الذكاء الاصطناعي على التعرّف إليها.

كثّفت القوات الروسية استخدامها للطائرات المسيّرة التي تعمل بتقنيات الذكاء الاصطناعي خلال العام الماضي. ففي شهر تموز/يوليو، استخدمت طائرة مسيّرة روسية الذكاء الاصطناعي لاستهداف محطة وقود من دون تدخل بشري في اتخاذ قرار الضربة؛ إذ اصطدمت بجدار وانفجرت، ما أسفر عن مقتل ثلاثة أشخاص، في ما يُعدّ، بحسب التقارير، أول حالة وفاة موثقة ناجمة عن طائرة مسيّرة روسية ذاتية الاستهداف في أوكرانيا. وفي الأسابيع الأخيرة، دأبت روسيا على استخدام طائرات "شاهد" (Shahed) المسيّرة، المجهّزة بأنظمة استهداف تعتمد على الذكاء الاصطناعي، لضرب السفن الأوكرانية في البحر الأسود.

وفي نهاية المطاف، تأمل كييف في الارتقاء بقدراتها في مجال الذكاء الاصطناعي إلى مستوى صياغة الاستراتيجيات العسكرية. ويتولى دانيلو تسفوك إدارة مركز أُنشئ حديثاً، ومكلّف بتحويل القوات الأوكرانية إلى "جيش يعتمد على الذكاء الاصطناعي". وقد وصف تسفوك سيناريو افتراضياً يمكن فيه للقائد العسكري إطلاع نظام الذكاء الاصطناعي على نيّاته، مثل قوله: "أريد الدفاع عن هذا الموقع"، ثم وضع خطط المعركة استناداً إلى توصيات النظام. ويقول تسفوك: "نعتقد أن هذا الأمر قد يُحدث تحولاً جذرياً في قواعد اللعبة".

وبالنسبة إلى كثيرين في أوكرانيا، التي تعاني نقصاً في القوى البشرية اللازمة لمواصلة التصدي لروسيا، لا يوجد بديل يُذكر. يقول ماكسيم سافانيفسكي، المسؤول عن التسويق في شركة "The Fourth Law" الأوكرانية، التي طوّرت طائرات مسيّرة مزوّدة بأنظمة توجيه نهائي: "الهدف هو الاستقلالية التشغيلية الكاملة؛ فنحن نطلق على هذا المشروع اسم ’مشروع مانهاتن‘ للقرن الحادي والعشرين، لأنه سيُحدث تغييراً جذرياً في ساحة المعركة".

ولكن، كما تُظهر الحرب في أوكرانيا، فإن احتمال الوصول إلى طريق مسدود يوازي احتمال تحقيق النصر. ويشير أوليفييه شميت، الأستاذ ورئيس الأبحاث في معهد العمليات العسكرية التابع لكلية الدفاع الملكية الدنماركية، إلى وجود "فجوة بين المستوى التكتيكي، الذي يتغير بسرعة فائقة، وبين وتيرة الحملة العسكرية أو إيقاعها، الذي يراوح مكانه فعلياً، نظراً إلى عجز أي من الطرفين عن تحقيق اختراق".

ويُظهر الصراع الأميركي المستمر مع إيران أن عمليات الاستهداف، حتى وإن كانت فعّالة، قد لا تؤدي بالضرورة إلى تحقيق النصر. ويقول فرانز-ستيفان غادي، المحلل الدفاعي في المعهد الدولي للدراسات الاستراتيجية، إن إيران تمثل "نموذجاً مثالياً، أو دراسة حالة، لهذا الأمر".

وتقوم الفكرة على مبدأ: "سنضرب كل هذه الأهداف بسرعة تفوق سرعة الخصم، ثم نأمل أن ينهار العدو في مرحلة ما. لكنك تدرك أنه لا توجد ’خطة بديلة‘ (Plan B) حقيقية في حال لم تنجح هذه الاستراتيجية". ويضيف شميت أن الولايات المتحدة "أظهرت كفاءة عالية في عمليات الاستهداف، ومع ذلك لم ينهَر النظام العسكري [الإيراني]". ويقول شميت: "سيساعدك الذكاء الاصطناعي على إنجاز ما تريد إنجازه، لكن هذا لا يعني بالضرورة أن ما تنجزه سيحقق لك النصر في الحرب".

فجوة المساءلة

يثير مفهوم "الجيش المعتمد على الذكاء الاصطناعي" قلقاً عميقاً لدى بعض الخبراء؛ إذ يشيرون إلى أن ساحات المعارك نادراً ما تكون مسارح واضحة المعالم، تقوم على ثنائية الأبيض والأسود، وتُتخذ فيها قرارات قاطعة ومحسومة.

ويرى بادي ووكر، الخبير في أخلاقيات الذكاء الاصطناعي، أن الحروب الحديثة تتسم بالغموض، وهو أمر يصعب وضع قواعد برمجية للتعامل معه أو تدريب النماذج اللغوية الكبيرة (LLM) عليه. ويضيف قائلاً: "إن الحروب الهجينة وما يُعرف بـ’المنطقة الرمادية‘ تمثل ساحات معارك أكثر تعقيداً بكثير... إذ يتعين عليك استيعاب السياق وفهمه".

صحيح أن أدوات الذكاء الاصطناعي يمكن أن تساعد في رصد طائرات "شاهد" المسيّرة، إلا أن فعاليتها تظل محدودة. وفي هذا الصدد، يقول أرتيم مارتينينكو، وهو مقدم في الجيش الأوكراني وأحد المصممين الأوائل لنظام "دلتا" لإدارة المعارك في أوكرانيا، إن "الرصد الدقيق والمستقل للجنود لا يزال يمثل مشكلة"، ناهيك عن التمييز بين جنسية الجندي أو وضعه الميداني. وتتفاقم هذه المشكلة نظراً إلى طبيعة ساحة المعركة، التي غالباً ما تتداخل فيها المواقع، ويُعدّ فيها التخفي أمراً حيوياً للبقاء على قيد الحياة.

تقول هايدي خلاف، كبيرة علماء الذكاء الاصطناعي في معهد "AI Now"، وهو معهد أبحاث مستقل، إن مثل هذه الأنظمة تواجه صعوبات في التعامل مع "الملابس الموحدة" (مثل الزي الرسمي)، والمركبات، والأسلحة، والحركة؛ نظراً إلى أنها تندرج ضمن "نطاق أوسع وأقل قابلية للتنبؤ". فحتى ظروف الإضاءة قد تدفع الآلة إلى الخلط بين مركبة مدنية وأخرى عسكرية.

يقول موظف سابق في شركة "بالانتير" (Palantir)، التي طورت نظام "مافن" (Maven)، وهو خبير مخضرم في برنامج الجيش الأميركي للحرب باستخدام الطائرات المسيّرة: "تنص القواعد على ضرورة وجود عنصر بشري لاتخاذ القرارات دائماً. لكن التحدي يكمن في أن الحاسوب يطرح قائمة تضم 1000 هدف، بينما لا تكون وتيرة العمل سريعة بما يكفي؛ فتصبح المشكلة أن العنصر البشري هو الذي يمثل عنق الزجاجة. فالمحلل لا يكترث دائماً بالأمر؛ إذ يكون جلّ همه العودة إلى منزله أو الذهاب لتناول شطيرة برغر".

وكلما زاد استخدام هذه الأنظمة في تحديد الأهداف وتصنيفها، أصبحت قيودها أكثر وضوحاً وتأثيراً. فقد تكون المعلومات التي تعتمد عليها مجتزأة أو قديمة أو غامضة. وتشير خلاف، وهي باحثة متخصصة في سلامة الأسلحة ذاتية التشغيل، إلى أن البيانات المجهزة بعناية، مثل البث المباشر من الطائرات المسيّرة، قد تكون غير مكتملة، أو مشوبة بأخطاء ناتجة عن تعطل المستشعرات أو التداخلات البيئية، أو قد تكون مصنفة بشكل خاطئ.

وقد تجلّى هذا الخطر في إيران في وقت سابق من هذا العام؛ إذ مكّنت أنظمة الاستهداف المدعومة بالذكاء الاصطناعي الولايات المتحدة من ضرب 13 ألف هدف خلال الأيام الثمانية والثلاثين الأولى من الصراع. وشمل ذلك مدرسة للفتيات قُتل فيها أكثر من 150 شخصاً، من بينهم 120 طفلاً. ورغم أن المبنى كان جزءاً من مجمع عسكري، فإنه أُنشئ له مدخل منفصل وجدار فاصل في عام 2016، وهو العام الذي أُسست فيه المدرسة، وذلك وفقاً لما ذكره مسؤولون محليون. ويقول كينغ، من جامعة إكستر، إن الغارة كشفت عن مخاطر الأنظمة "القائمة على الارتباط الإحصائي"؛ إذ إن إدخال معلومات خاطئة أو غير محدّثة إليها قد يؤدي إلى نتائج كارثية. ورغم أن أخطاء الاستهداف ليست أمراً جديداً، فإن سرعة العمليات واتساع نطاقها قد يزيدان من احتمال وقوع مثل هذه الأخطاء.

وكلما زادت سرعة النظام في تحديد الأهداف أو التوصية بها، قلّ الوقت المتاح للبشر لتدقيقها وفحصها. ويقول واتلينغ، من المعهد الملكي للخدمات المتحدة (RUSI): "إذا تم دمج أخطاء ناتجة عن قواعد استدلالية [أي افتراضات معيبة]، سواء كانت أخطاء يرتكبها الذكاء الاصطناعي أو البشر، فإن ذلك قد يؤدي بطبيعة الحال إلى تسريع وتيرة الخطأ".

كما أثارت عملية تحديد الأهداف بمساعدة الذكاء الاصطناعي، التي استُخدمت في حملة القصف الإسرائيلية على غزة، تساؤلات أخلاقية. ويشير شميت، من كلية الدفاع الملكية الدنماركية، إلى وجود "ضغط سياسي من المستويات العليا لتحديد عدد كبير من الأهداف وإظهار القوة". وقد عنى ذلك، في السياق العسكري، أن "الضباط كانوا يملكون ما بين 15 و20 ثانية فقط لتقييم ما إذا كان الهدف مشروعاً أم لا".

وفي ظل هذه القيود الزمنية، تقول جيسيكا دورسي، الأستاذة المساعدة في القانون الدولي بجامعة أوتريخت: "من الصعب فهم كيف يمكن ضمان أن الهدف الموجود في مرمى النيران هو هدف عسكري مشروع، وهو ما يقتضيه القانون".

وتزداد المخاطر عندما يكون البشر هم الهدف، وليس مجرد مبانٍ أو بنية تحتية. فبموجب القانون الدولي الإنساني، تعتمد إمكانية استهداف شخص ما على وضعه وأفعاله وظروفه، وهي أمور تتطلب تقييمات قانونية لا تستطيع أجهزة الكمبيوتر إجراءها؛ إذ يمكن أن تتغير حالة الجندي بسرعة، على سبيل المثال، في حال استسلامه أو إصابته.

ويرى شميت أن الحملة التي تشنها "إسرائيل" في غزة لا تقتصر على إظهار آلية عمل هذه التكنولوجيا فحسب، بل تكشف أيضاً كيف تضغط البيئات الاجتماعية والسياسية على البشر لاستخدامها بطريقة محددة للغاية؛ إذ يوضح أنه عندما يطالب القادة السياسيون بنتائج ملموسة، بينما لا يملك الضباط سوى ثوانٍ معدودة لمراجعة الأهداف، فإنهم يميلون غالباً إلى قبول التوصية المعروضة أمامهم.

ولا تزال المعرفة محدودة بالكيفية التي تتوصل بها هذه الأنظمة إلى استنتاجاتها. وفي هذا السياق، تؤكد وزارة الخارجية الأميركية ضرورة أن تكون الأنظمة ذاتية التشغيل "شفافة وقابلة للتدقيق من قِبَل أفراد الدفاع المعنيين"، بينما تشير شركة "بالانتير" (Palantir) إلى أن أدواتها تتيح للمشغّلين تتبّع مسارات البيانات والوثائق التي أدت إلى تقديم مقترح معيّن.

غير أنّ إمكانية تدقيق البيانات لا تعني بالضرورة فهم السبب الذي دفع نموذجاً لغوياً كبيراً إلى اقتراح مسار عمل معيّن. ويقول خلاف (Khlaaf) إنه مع أنظمة دعم القرار القائمة على الذكاء الاصطناعي، "لا توجد وسيلة تتيح لنا التحقيق في سبب اتخاذ قرار معيّن". فهذه النماذج "تُؤتمت ضمنياً ما كان يُعدّ تقليدياً عدة نقاط لاتخاذ القرار في ’سلسلة القتل‘ (kill chain)". وتذكر شركة "بالانتير" (Palantir) أنها طورت أنظمة تُمكّن نماذجها اللغوية الكبيرة (LLMs) من استخدام الأدوات والعمل خطوة بخطوة، ما يجعل قرارات النماذج أكثر قابلية للمراجعة والتدقيق.

وإذا تسبب نظام ذاتي التشغيل في مقتل أشخاص عن طريق الخطأ، فقد يكون من الصعب أيضاً تحديد ما إذا كان الخلل ناجماً عن بيانات معيبة، أو أعطال فنية، أو خطأ بشري. وثمة خطر يتمثل في أن هذا التعقيد قد يؤدي إلى الميل إلى تصنيف الحوادث على أنها مجرد حوادث عرضية، أو إلى إلقاء اللوم على المستخدمين الأفراد بدلاً من الدولة التي طوّرت النظام.

وتصف مادلين إليش، الباحثة في شركة "غوغل ديب مايند" (Google DeepMind)، هذه الحالة بـ"منطقة التهشّم الأخلاقي" (moral crumple zone)، وهي الحالة التي يتحمل فيها المشغّل البشري، الذي يمتلك سيطرة محدودة على نظام آلي، العبء الأكبر من المسؤولية عند حدوث خلل في النظام.

ومع ذلك، تقع المسؤولية النهائية، قانوناً، على عاتق قادة الميدان؛ إذ تقول دورسي: "البشر هم المسؤولون عن الطريقة التي تُشن بها الحرب".

ما يعنيه هذا بالنسبة للحرب

يحدث الدمج السريع للذكاء الاصطناعي في العمليات الحربية بالتزامن مع تطور هذه النماذج بطرق تعجز حتى الجهات التي ابتكرتها عن التنبؤ بها بالكامل.

وقد أظهرت حادثة وقعت مؤخراً -حيث تمكنت مجموعة من وكلاء الذكاء الاصطناعي التابعين لشركة "أوبن إيه آي" (OpenAI) من الخروج من بيئة الاختبار واختراق منصة "هاجينج فيس" (Hugging Face) المخصصة لمطوري الذكاء الاصطناعي- كيف تتجاوز النماذج المتطورة (frontier models) محاولات تقييد سلوكها. ويعتقد بعض الباحثين أن ما يُعرف بـ "التحسين الذاتي التكراري" -أي قدرة النماذج على بناء نسخ أكثر تطوراً من نفسها- قد يتيح تحقيق تقدم بوتيرة وكثافة غير مسبوقتين.

وتقول شركة "أنثروبيك" (Anthropic) إن أكثر النماذج تطوراً في الوقت الراهن ليست موثوقة بما يكفي لاختيار الأهداف والاشتباك معها بشكل ذاتي. وقد تسببت محاولات الشركة لفرض قيود على الاستخدام العسكري للذكاء الاصطناعي في نشوب خلاف بينها وبين البنتاغون.

وفي الوقت نفسه، كشف تقرير الشركة حول استخبارات التهديدات -الذي صدر هذا الشهر- عن قيام جهات غير حكومية باستخدام نموذج "كلود" (Claude) لتطوير أسلحة، بما في ذلك أسراب من الطائرات المسيرة ذاتية التشغيل المصممة لاختيار أهداف بشرية وتفجير نفسها من دون تدخّل بشري في العملية. كما وثّق التقرير حالات إساءة استخدام لنموذج "كلود" من قبل جهات فاعلة في جميع أنحاء العالم؛ بدءاً من الصين وروسيا وأوكرانيا وإيران، ووصولاً إلى اليمن والسودان وتايوان.

وقد لا يعود السؤال قريباً متمحوراً حول مدى استعداد الجيوش لدمج الذكاء الاصطناعي في "سلسلة القتل"، بل حول ما إذا كانت الحكومات وشركات الذكاء الاصطناعي قادرة أصلاً على وضع تلك القيود.

نقله إلى العربية: الميادين نت.