"ذا إنترسبت": أميركا تطوّر أسلحة بالذكاء الاصطناعي.. هل تخرج عن السيطرة؟

موقع "ذا إنترسبت" الأميركي ينشر تقريراً يتناول مساعي الجيش الأميركي لتطوير أسلحة سيبرانية تعتمد على وكلاء ذكاء اصطناعي مستقلين، قادرين على اختراق الأنظمة الحاسوبية للخصوم، وتحديد الأهداف وتعطيلها أو تدميرها، بأقلّ قدر من التدخّل البشري.

ويكشف المقال تفاصيل مشروع عسكري يحمل اسم "إيكو تريبل" (ECHOTRIBBLE)، ويسلّط الضوء على المخاطر الناجمة عن منح أنظمة الذكاء الاصطناعي صلاحيات لتنفيذ هجمات سيبرانية بصورة مستقلة، محذّراً من احتمال خروجها عن السيطرة، واستهداف أنظمة مدنية وبنى تحتية حيوية، والتسبّب بأضرار غير مقصودة.

أدناه نص التقرير منقولاً إلى العربية:

في الوقت الذي تواجه الحكومات حول العالم وشركات التكنولوجيا الكبرى تداعيات الكشوفات واسعة النطاق حول قيام وكلاء ذكاء اصطناعي مستقلين باختراق أنظمة حاسوبية بشكل غير متوقع، تُظهر وثائق حصل عليها موقع "ذا إنترسبت" أن الجيش الأميركي يسعى إلى استغلال هذه التكنولوجيا ذاتها لأغراض البحث عن الأهداف وتدميرها. وتشير الوثائق إلى أن قيادة الفضاء الإلكتروني في الجيش الأميركي (Army Cyber ​​Command) تعمل على تطوير منصة لتحويل وكلاء الذكاء الاصطناعي إلى أسلحة مستقلة قادرة على التنقل داخل أنظمة حاسوبية تابعة للخصوم و"تحييدها".

ومنذ عام 2010، تتولى قيادة الأمن السيبراني للجيش الأميركي (المعروفة اختصاراً بـ" ARCYBER") إدارة العمليات السيبرانية للجيش؛ ويشمل ذلك الجهود الدفاعية لحماية الأنظمة الحاسوبية المحلية، بالإضافة إلى العمليات الهجومية السرية التي تستهدف اختراق الأنظمة العسكرية للخصوم. وحتى الآن، كانت هذه المهام تُنفذ بشكل رئيس من قبل عناصر بشرية من الجنود تستخدم أجهزة الحاسوب، مثل أفراد لواء الاستخبارات العسكرية رقم 780. لكن مع تسارع جهود الحكومة الأميركية لتبني تقنيات الذكاء الاصطناعي، تتجه قيادة الأمن السيبراني للجيش إلى تفويض جزء من عملياتها الهجومية لأنظمة الذكاء الاصطناعي.

ويعتمد هذا البرنامج الناشئ، الذي يحمل الاسم الرمزي "إيكو تريبل" (ECHOTRIBBLE)، على أحد أبرز الاتجاهات في طفرة الذكاء الاصطناعي ألا وهي الوكلاء. ووكلاء الذكاء الاصطناعي في الأساس هم عبارة عن برامج حاسوبية تستفيد من تقنية التعلم الآلي، وغالباً ما تستخدم نماذج لغوية ضخمة مثل "كلود" (Claude) من شركة "أنثروبيك"، لإنجاز المهام التي يُحددها المستخدم بشكل مستقل. ويمكن للمستخدمين الاستعانة بوكلاء الذكاء الاصطناعي لجدولة الاجتماعات، وإنشاء خطط الرحلات، وإجراء عمليات الشراء عبر الإنترنت، أو حجز التذاكر. من خلال "إيكو تريبل"، يخطط البنتاغون لتحويل وكلاء الذكاء الاصطناعي إلى أدوات حرب "مصممة للتنقل بشكل مستقل في البنى التحتية" وقادرة على "تحديد التهديدات/الأهداف المحددة وتحييدها"، وفقاً لوثيقة صادرة عن قيادة الأمن السيبراني للجيش اطلع عليها موقع "ذا إنترسبت" وتم توزيعها على المتعاقدين المحتملين.

ولا يُعد تبني الجيش للتقنيات المتطورة أمراً مفاجئاً، لا سيما بالنظر إلى حماس وزير الدفاع بيت هيغسيث لاستخدام للذكاء الاصطناعي. إلا أنه في ظل الكشف المستمر عن سلوكيات طائشة وغير متوقعة من جانب هؤلاء الوكلاء، يحذر الخبراء من أن احتمالية وقوع أخطاء جسيمة هائلة للغاية. 

ويقول ديفيد كروجر، أستاذ التعلّم الآلي في جامعة مونتريال ومؤسس منظمة "إيفايتابل" (Evitable) - التي تدعو إلى فرض حظر مؤقت على تطوير الذكاء الاصطناعي -: "بالنظر إلى أنماط الفشل المعروفة في النموذج الحالي للذكاء الاصطناعي، فإن إنشاء أنظمة ذكاء اصطناعي مستقلة مُكلّفة بـ’تحييد التهديدات‘ يُعد أمراً بالغ الخطورة. فقد سبق أن رأينا أنظمة ذكاء اصطناعي تهاجم عن عمد أهدافاً لم تكن مقصودة بالأساس. وفي عمليات المحاكاة، أبدت هذه الأنظمة استعداداً حتى للقتل في سبيل تحقيق أهدافها".

وتقدم وثيقة تتضمن أسئلة وأجوبة موجهة للمتعاقدين المحتملين مزيداً من التفاصيل حول هذه المبادرة؛ إذ توضح أن برنامج "إيكو تريبل" (ECHOTRIBBLE) يركز "بشكل أساسي" على المهام الهجومية، مشيرة إلى أن "تحييد" الهدف قد يتضمن "تعطيل التهديد بشكل كامل أو مؤقت، أو حذفه من النظام المُستهدف". وسيعمل "إيكو تريبل" بطريقة تشبه إلى حد كبير "دودة الحاسوب" (computer worm)؛ بحيث يتنقل بصمت داخل شبكة أجنبية، وينتقل من جهاز إلى آخر حتى يعثر على الهدف المطلوب للجيش، مستهدفاً الأنظمة الموجودة في السحابة الإلكترونية، وكذلك الأنظمة "المعزولة تماماً" (air-gapped) التي لا تتصل بأي شبكات على الإطلاق.

وبمجرد إنجاز مهمتها، سينفذ وكلاء "إيكو تريبل" عملية تدمير ذاتية، ومن المفترض أن يتم ذلك من دون أن يلاحظها الطرف المستهدف على الإطلاق. فقدد صُممت هذه البرمجيات لتكون خفية؛ فهي لا ترسل سوى الحد الأدنى من المعلومات إلى الجيش، وتعمل على إخفاء أي عمليات نقل بيانات خارجية ضرورية. وتشير الوثائق إلى أنه على الرغم من إمكانية تزويد وكلاء "إيكو تريبل" بـ"محفزات محددة مسبقاً" تحدد طبيعة الهجوم ومكانه، إلا أنه يجب على هذا البرنامج "العمل بأقل قدر من الإشراف البشري" وأن يكون قادراً على "السلوك الموجه ذاتياً".

وقدم عرض توضيحي للموردين المهتمين خلال فعالية نظمتها قيادة الأمن السيبراني للجيش الأميركي (ARCYBER) في 24 حزيران/ يونيو مثالاً افتراضياً على هذا النوع من التوجيه الذاتي: فبمجرد تحميل برنامج "إيكو تريبل" على حاسوب محمول، يقوم هذا البرنامج تلقائياً بـ"تحديد أهداف محتملة أخرى" على الشبكة ذاتها، ثم "ينشئ نسخة طبق الأصل، مُعدّة خصيصاً لتناسب أجهزة "أيباد"، وحواسيب "أبل" المكتبية، وأجهزة الكمبيوتر التي تعمل بنظام "ويندوز 11" (Windows 11). 

اقرأ أيضاً: "ذا إنترسبت": البنتاغون يطوّر أسلحة سيبرانية مستقلة بالذكاء الاصطناعي.. هل تخرج عن السيطرة؟

يأتي توجه الجيش نحو استخدام أنظمة ذاتية التشغيل وقادرة على الانتشار تلقائياً في أعقاب سلسلة من الكشوفات حول قيام أنظمة ذكاء اصطناعي مستقلة بتنفيذ تصرفات مقلقة وغير مقصودة أثناء سعيها لتحقيق أهدافها؛ وشملت هذه التصرفات اختراق حواسيب تابعة للحكومة الأسترالية، واختراق البنية التحتية لشركة الذكاء الاصطناعي "هاجينغ فيس" (Hugging Face)، وتحميل برمجيات خبيثة على منصة "روبي جيمز" (RubyGems)، ومحاولة اختراق وزارة التعليم الأميركية.

وقد وقعت هذه الهجمات في سياقات لم تتلقَّ فيها تلك الأنظمة أي أوامر بمهاجمة أي جهة. ويحذر الخبراء من أن النسخ العسكرية من هذه الأنظمة - إذا ما أُسندت إليها أهداف تدميرية صريحة - قد تشكل تهديداً للجمهور، حتى في ظل وجود قواعد تنظيمية وضعها الجيش. وكما كان بإمكان الجيوش في الماضي اعتبار تدمير البنية التحتية المدنية وسيلة مقبولة لتحقيق غاية ما، فقد يتخذ وكيل الذكاء الاصطناعي الموجه ذاتياً - يُطلقه البنتاغون - قرارات مماثلة في ما يتعلق بالأضرار الجانبية.

غالباً ما تُمرّر وكالات الاستخبارات الحكومية عملياتها الهجومية عبر أجهزة مدنية. فقد وجّهت مجموعة "فولت تايفون" (Volt Typhoon) - وهي مجموعة قرصنة تابعة للدولة الصينية - هجماتها عبر أجهزة في منازل وشركات صغيرة، كما تقوم باختراق أنظمة تكنولوجيا المعلومات الأميركية استباقياً لاستخدامها لاحقاً. وفي واقعة أخرى، استُخدمت أجهزة توجيه الإنترنت (راوتر) الخاصة بجامعة صينية في عملية اختراق نُسبت إلى وكالة الأمن القومي الأميركية. فماذا سيحدث لو قررت "إيكو تريبل" أن هذه الوسائط - التي تُستخدم كنقاط انطلاق - هي جزء من المشكلة ذاتها؟

ويتساءل هايروم أندرسون، المؤسس المشارك والرئيس التنفيذي لشركة "أبوندانت" (Abundant) المتخصصة في أمن الذكاء الاصطناعي: "قد يتعرض الهدف للهجوم بالفعل، لكن ما المسار الذي سيسلكه هذا الهجوم؟ هل سيمر عبر مرفق مياه أميركي باعتباره الموقع الذي اتخذه الخصم مركزاً للقيادة والتحكم ما يؤدي إلى تعطيل ذلك المرفق أيضاً؟"

وذكر أندرسون، الذي عمل سابقاً في مجال الأمن السيبراني لدى شركة "مايكروسوفت" والحكومة الأميركية، أن جزءاً كبيراً من شبكة الإنترنت عرضة لهجمات يشنها "وكلاء" الذكاء الاصطناعي. وقال: "هناك فئة ضخمة من المؤسسات العامة والخاصة التي تقع تحت ’خط فقر الأمن السيبراني‘؛ وتشمل هذه الفئة مرافق البنية التحتية الوطنية الحيوية، والشركات الصغيرة، والمتاجر العائلية، وعيادات أطباء الأسنان، والمكاتب القانونية، وأي جهة أخرى لا تضم ​​في طاقم عملها ولو خبيراً واحداً في الأمن السيبراني". ونظراً لأن شبكات هذه الجهات تظل مفتوحة تماماً أمام الاختراق، يخشى هايروم من "تعرض هذه المؤسسات لهجمات مباشرة، أو وقوعها ضمن النطاق المتضرر جراء استهداف جهة أخرى".

وبالنظر إلى القدرة المذهلة التي يتمتع بها وكلاء الذكاء الاصطناعي في تجاوز العقبات التي تعترض طريقهم، حتى تلك التي يضعها مطوروهم، فمن المنطقي أن يسعى البنتاغون إلى تسخير هذه القوة لأغراض عسكرية. غير أن البرمجيات القائمة على الوكلاء أثبتت أنها غير قابلة للتنبؤ، وأنها قد تنفذ الأوامر الموكلة إليها بطرق لم يرغب فيها القائمون على توجيهها؛ ويشبه ذلك طائرة مسيّرة تنجح في الوصول إلى هدفها، لكنها تصيب مستشفىً أثناء طريقها إليه. لذا، من الضروري للغاية تذكر أن هؤلاء الوكلاء ليسوا سوى برمجيات تفتقر إلى الحكم والتقدير البشري.

من جهته، يقول ويليام مارسيلينو، وهو عالم سلوكي بارز في مؤسسة "راند" (RAND) تركز أبحاثه على تطبيقات الذكاء الاصطناعي في المجال العسكري: "أحد الأسباب التي تجعلنا نأتمن عريفاً في مشاة البحرية يبلغ من العمر 19 عاماً في الرمادي على أسلحة وذخيرة حية، هو أنه يمتلك ليس فحسب القدرة على المعالجة الذهنية، أي العقل والعينين، بل أيضاً معرفة عميقة بالعالم تتيح له إدراك أمور مثل: ’نعم، ربما لا ينبغي عليّ فعل ذلك‘. وهذا النوع من الإدراك غير متوفر في تقنيات الذكاء الاصطناعي المتاحة للجمهور حالياً". ومن المرجح أن يعتمد حجم المخاطر التي ينطوي عليها برنامج "إيكو تريبل" على قدرة الجيش ورغبته في فرض ضوابط وقائية عليه. ولم ترد قيادة الأمن السيبراني للجيش على أسئلة طرحها موقع "ذا إنترسبت"، بما في ذلك الأسئلة المتعلقة بالتدابير التي قد تتخذها لمنع هذا البرنامج من التسبب في أضرار غير مقصودة.

قد يؤدي فرض قيود على الإجراءات التي يمكن لوكيل الذكاء الاصطناعي اتخاذها إلى عرقلة قدرته على تحييد هدفٍ ما في نهاية المطاف. ولكن حتى مع وجود ضمانات صارمة، فإن تقييد سلوك الوكيل المستقل - كما اكتشفت شركتا "أنثروبيك" (Anthropic) و"أوبن إيه آي" (OpenAI) مؤخراً - أمرٌ أسهل قولاً من فعله. فقد أثبت وكلاء الذكاء الاصطناعي قدرتهم على تجاوز العقبات التي تواجههم، ما قد يؤدي إلى عواقب غير متوقعة وربما خطيرة. وفي هذا الصدد، يقول مارسيلينو: "إذا منحتَ هدفاً لآلات قوية تفتقر إلى القدرة على التقدير أو إلى السياق اللازم لهذا التقدير فما لم تكن قد بذلت جهداً فائقاً في بناء أطرٍ ضابطة حولها، فهناك احتمال حقيقي بأن تخرج الأمور عن مسارها؛ إذ قد تقرر الآلة: ’حسناً، سأقوم بما طلبتَه مني، ولكن بطريقتي الخاصة‘".

ويشير أندرسون إلى أنّ الأمر يزداد خطورة عندما تُستخدم هذه التكنولوجيا لأغراض الحرب. فــ"غالباً ما يتعامل وكلاء الذكاء الاصطناعي مع الضوابط الوقائية تحت الضغط باعتبارها عقبات. فإذا أضفت سياقاً يقتضي كسر هذه الضوابط أو تدميرها أو تعطيلها، فمن المنطقي أن يتسع نطاق الضرر بشكل كبير، ما لم يتم وضع آليات تحكّم مناسبة للحد من ذلك".

نقلته إلى العربية: زينب منعم.