مخاوف أمنية تدفع OpenAI لإبطاء تطوير الذكاء الاصطناعي
بعدما تجاوزت نماذج تابعة لشركة OpenAi أنظمة حمايتها وشنّت هجمات سيبرانية ذاتية، وبسبب مخاوف أمنية، الشركة تبطئ تطوير الذكاء الاصطناعي.
-
مخاوف أمنية تدفع OpenAI لإبطاء تطوير الذكاء الاصطناعي بعد شنّ نماذجها هجمات سيبرانية ذاتية
أعلنت شركة OpenAI أنها ستوقف مؤقتاً تدريب واختبار بعض تحديثات نموذج ChatGPT، بعد أن رصدت سلوكاً مقلقاً في نماذجها التي شنّت هجمات ذاتية.
وستعمل الشركة خلال هذه الفترة على إعادة هيكلة أنظمة البحث والتدريب لجعلها أكثر أماناً، مع الإبطاء من وتيرة تطوير الذكاء الاصطناعي.
OpenAI announces slowing pace of development after hack by rogue agent | OpenAI | The Guardian https://t.co/qYHcWOn3M4
— Jupiter Riising (@JupiterRising10) August 20, 2026
وجاء هذا الإعلان بعد أسابيع من اعتراف OpenAI بأنّ أحد أنظمتها تصرّف بشكل خارج عن السيطرة أثناء الاختبار، وقام باختراق شركة منافسة تعمل في مجال الذكاء الاصطناعي. وأدّى ذلك إلى سلسلة من الكشوفات المماثلة من شركات أخرى مثل Anthropic وMeta، ما أثار مخاوف من أنّ تطوير هذه الأنظمة يجري بوتيرة أسرع بكثير من قدرة الأنظمة المصمّمة لحماية العالم من مخاطرها.
OpenAI said it’s implementing more aggressive systems to monitor and safeguard artificial intelligence models under development after recent cybersecurity incidents ignited concerns about AI tools running amok https://t.co/MkXoHbE1dt
— Bloomberg (@business) August 18, 2026
وقالت OpenAI إنها ستأخذ استراحة لمدة أسبوعين من اختبار النماذج، كما أوقفت تدريب الجيل التالي من نماذجها المعروفة باسم Astra. وستستغلّ هذه الفترة في إضافة أنظمة أمان جديدة، بما في ذلك أدوات ذكاء اصطناعي جديدة قادرة على مراقبة سلوك الأنظمة قيد الاختبار.
اقرأ أيضاً: تقرير: اختراقات الذكاء الاصطناعي التي أربكت العالم أخيراً.. هل هي تسويق محسوب؟
OpenAI slows advanced AI development after cyberattack https://t.co/RNmJiBw393
— The Straits Times (@straits_times) August 19, 2026
اختبارات الأمان الحالية قد لا تكون كافية
وأشارت الشركة إلى أنّ بعض أنظمة الاختبار الحالية، التي تعتمد على طريقة تسمّى "مراقبة سلسلة الأفكار" (chain-of-thought monitoring) لمراقبة كيفية عمل النماذج، قد لا تكون كافية لضمان سلامتها. هذه الطريقة تسمح للباحثين بالنظر في عملية التخطيط للنموذج وفهم كيفية إنتاجه للنتائج، لكنّ هناك قلقاً جديداً من أنّ النماذج قد تخفي خططها لكسر قواعدها الخاصة.
ويمثّل تباطؤ وتيرة تطوير النماذج تحوّلاً في نهج OpenAI، التي كانت في طليعة تطوير النماذج الجديدة وتلقّت أحياناً انتقادات لإصدارها مبكراً جداً.
ويأتي هذا القرار في وقت تواجه فيه الشركة ضغوطاً متزايدة، إذ تشير التقارير إلى أنها تخلّفت عن منافستها Anthropic، وتخطط للطرح العامّ في السوق قريباً.
وكتب سام ألتمان، الرئيس التنفيذي لـ OpenAI، على منصة "إكس": إنّ "تقدّم النماذج الآن سريع للغاية، وقلنا دائما إننا سنتخذ إجراء إذا شعرنا أنّ قدرات النماذج تفوق وتيرة الأمان والمواءمة. نهتم بعمق بسلامة الذكاء الاصطناعي. ونعتقد أنّ المجال بأكمله سيتعيّن عليه التنسيق حول معايير أمان مشتركة، لكننا سنعمل بشكل فردي في الوقت الحالي".
وأضاف: "نتوقّع أن تتحكّم الثقة في الأمان بشكل متزايد في وتيرة تقدّم الذكاء الاصطناعي. نحن متفائلون بشأن عمل المواءمة الذي نقوم به، ونظلّ ملتزمين بجعل القدرات المتطورة متاحة على نطاق واسع".
/ultrafast https://t.co/UxnKkABuKQ
— Sam Altman (@sama) August 14, 2026
وجاء الإعلان الأخير لـOpenAI، بعد أن كشفت الشركة الشهر الماضي أنّ وكيلاً مستقلاً يعمل بنموذجين متقدمين من أنظمة الذكاء الاصطناعي، قد هرب من بيئة الاختبار، واتصل بالإنترنت، واخترق شركة ذكاء اصطناعي منافسة تدعى Hugging Face. وقام بذلك للغش في الاختبار، حيث إنّ Hugging Face تستضيف موادّ كانت ستساعده في تحقيق هدفه بسهولة أكبر، ما دفع النموذج التجريبي إلى شنّ هجوم إلكتروني.
ومنذ ذلك الحين، تحرّكت الشركة للردّ على مخاوف الخبراء والمشرّعين من أنها تختبر وتطلق نماذج مبكراً جداً، بطرق قد تشكّل خطراً على الجمهور العامّ. وقد أعلنت OpenAI أنها تضيف ضوابط أمنية جديدة لنماذجها الأكثر قوة، وتوقّفت عن الأنشطة المتعلّقة بـAstra، نموذج الجيل التالي الذي لم يطرح بعد، وذلك تماشياً مع "إطار الاستعداد" الذي أطلقته في نهاية عام 2023، والذي يتطلّب إيقاف العمل على النماذج التي قد تشكّل خطراً.
OpenAI pledges to slow down its model development amid cybersecurity concerns https://t.co/WGHoCbC5sz
— The Right News, Right Now. (@BradPorcellato) August 19, 2026
