OpenAI تؤجل إطلاق نموذج "أسترا" بعد مخاوف من قدرته على شن ههجمات سيبرانية ذاتياً

نموذج Astra الذي أطلقته Open AI حقّق تقدّماً ملحوظاً في مجال البرمجة الذاتية والأمن السيبراني، لكنّ اختباراته الأولية أثارت مخاوف جدّية جعلته قادراً على استغلال الثغرات في الأنظمة الحيوية من دون تدخّل بشري.

  • OpenAI تؤجل إطلاق نموذج
    OpenAI تؤجّل إطلاق نموذج "أسترا" بعد مخاوف من شنّ هجمات سيبرانية ذاتياً

قرّرت شركة  OpenAI تعليق جزء من خططها لتحديث تطبيق ChatGPT، بعدما أظهرت الاختبارات أنّ نموذجها الجديد ِAstra قد يكون خطيراً إذا أطلق في نسخته الحالية.

وقالت الشركة إنّ النموذج التطويري "أسترا" (Astra)، يحقّق تقدّماً ملحوظاً في مجال البرمجة الذاتية والأمن السيبراني، لكنّ اختباراته الأولية أثارت مخاوف جدّية، إذ تبيّن أنه قد يكون قوياً بشكل مفرط، ما يجعله قادراً على استغلال الثغرات في الأنظمة الحيوية من دون تدخّل بشري، وهو ما قد يمثّل تهديداً حقيقياً إذا تمّ نشره من دون وضع ضوابط أمنية مشدّدة، بحسب ما ذكره موقع صحيفة The Independent البريطانية.

وبالرغم من أنّ نموذج "أسترا" لم تكن له علاقة بتلك الحادثة، إلا أنّ أداءه المتميّز جعل الشركة ترى أنه قد لا يكون آمناً بما يكفي للنشر العلني في الوقت الراهن، وقرّرت أنه سيكون من الضروري وضع تدابير حماية جديدة قبل إطلاقه للمستخدمين. 

وجاء هذا القرار في وقت لا تزال فيه OpenAI تتعامل مع تداعيات حادثة سابقة، قام خلالها أحد نماذجها التجريبية غير المطروحة بشنّ هجوم سيبراني على شركة ذكاء اصطناعي أخرى تدعى Hugging Face، وذلك بشكل مستقل تماماً ومن دون أيّ تدخّل بشري، وقد تسبّب اكتشاف هذه الواقعة في موجة من التصريحات المماثلة من شركات أخرى، وزاد من المخاوف من أن تصبح أنظمة الذكاء الاصطناعي الجديدة أقوى من أن يمكن احتواؤها.

اقرأ أيضاً: هل يشكّل الذكاء الاصطناعي خطراً وجودياً على البشر؟.. دراسة تجيب!

ويأتي هذا التريث في وقت يروّج فيه خبراء الأمن السيبراني لأدوات الذكاء الاصطناعي باعتبارها وسيلة فعّالة لاكتشاف الثغرات في البرمجيات وإصلاحها، لكنّ هذه القدرات نفسها قد يستغلها قراصنة الإنترنت لشن هجمات متطورة قد لا يحتاجون حتى إلى إدارتها بأنفسهم.

ولمواجهة هذه التحدّيات، كانت OpenAI قد أطلقت في نهاية عام 2023 ما يعرف بـ"إطار الجاهزية" (Preparedness Framework)، وهو نظام يهدف إلى تتبّع التقدّم في قدرات النماذج والاستجابة لأي اختراقات تقنية بطريقة تضمن السلامة، ويبدو أنّ نموذج "أسترا" قد بلغ العتبة الحرجة المحددة في ذلك الإطار، وهي المرحلة التي يصبح فيها النظام قادراً على اكتشاف واستغلال الثغرات في الأنظمة الحيوية من دون إشراف بشري، أو تنفيذ استراتيجيات متقدمة للهجمات السيبرانية بشكل ذاتي.

ومع أنّ الشركة لم تستطع الجزم بشكل قاطع بأنّ "أسترا" قد وصل فعلاً إلى هذه المرحلة، إلا أنّ أداءه دفعها إلى تعزيز اختباراتها للضوابط الأمنية وتطويقه في بيئات اختبار معزولة لمنعه من تجاوز تلك الضمانات، كما فعل نموذجها السابق في هجوم Hugging Face.

ونتيجة لذلك، قررت OpenAI وقف العمل على نموذج "أسترا" في أي حالة لا تتوافق مع الضوابط الأمنية المشددة، كما ستواصل مراقبته عن كثب بحثاً عن أي سلوكيات خطيرة أو غير مرغوب فيها، إضافة إلى التعاون مع الجهات الحكومية المختصة ومنظمات سلامة الذكاء الاصطناعي لاختبار قدراته، وتوفير حماية أمنية أفضل للمطورين الخارجيين الذين قد يختبرونه. 

وأكدت الشركة في بيانها التزامها بالعمل مع الحكومات ومؤسسات السلامة والمجتمع المدني لضمان أن يتم نشر قدرات النماذج المتطورة مثل "أسترا" وما سيأتي بعده بشكل مسؤول يخدم البشرية جمعاء، مشددةً على أنّ الهدف من هذه النماذج هو مساعدة المدافعين على تحديد الثغرات ومعالجتها قبل أن يفعلها المهاجمون.

اقرأ أيضاً: نموذج من OpenAI يقلب تجربة أمنية إلى شن هجمات سيبرانية.. ما القصة؟

اخترنا لك