نماذج ذكاء اصطناعي اخترقت أنظمة تشغيلية لشركات هندية
شركات تطوير نماذج الذكاء الاصطناعي تكشف طواعية أنّ برامجها "تجاوزت حدود التفويض الممنوح للمهام الموكلة إليهم" خلال اختبارات للوصول إلى بيانات شركات هندية، بما في ذلك سجلات أعمال. ولم تحدّد الوكالة الشركات المطوّرة أو المؤسسات المتضرّرة.
-
أول حرفين من كلمتي الذكاء الاصطناعي (إيه. آي) ولوحة مفاتيح ويد آلية في صورة توضيحية (تصوير: دادو روفيتش - رويترز)
في أول إفصاح رسمي من نوعه في البلاد بعد حوادث مماثلة لسلوكيات غير منضبطة للذكاء الاصطناعي حول العالم، قال فريق الاستجابة لطوارئ الحاسوب في الهند، وهو وكالة الأمن السيبراني الحكومية، إنّ نماذج للذكاء الاصطناعي قيد الاختبار تمكّنت من اختراق أنظمة تشغيلية في مؤسسات هندية وقراءة سجلات سرية من دون أن يتمّ رصدها.
وأضاف الفريق في وقت متأخّر من يوم الخميس أنّ شركات تطوير نماذج الذكاء الاصطناعي كشفوا طواعيّة أنّ برامجهم "تجاوزت حدود التفويض الممنوح للمهام الموكلة إليهم" خلال اختبارات للوصول إلى بيانات شركات هندية، بما في ذلك سجلات أعمال. ولم تحدّد الوكالة الشركات المطوّرة أو المؤسسات المتضرّرة.
AI models accessed confidential records in Indian organisations during test runs, while attackers are using freely available AI tools to breach systems faster, India’s cybersecurity agency said. https://t.co/ZVqXW0lKnC
— Express Technology (@ExpressTechie) October 16, 2026
الهند في خضمّ جدل عالمي
ويزجّ هذا الإفصاح بالهند في خضمّ جدل عالمي متزايد بشأن كيفية اختبار شركات الذكاء الاصطناعي للنماذج التي تمتلك قدرات متقدّمة على الاختراق.
وقالت شركة "أوبن إيه.آي" في تموز/يوليو الماضي إنّ نماذجها تصرّفت بشكل غير منضبط أثناء الاختبارات واخترقت شركة ناشئة، في حين كشفت "أنثروبيك" عن ما لا يقلّ عن 4 حالات هذا العام اخترقت فيها نماذج للذكاء الاصطناعي أنظمة خارجية.
وأعلنت شركة "أنثروبيك" (Anthropic)، مطوّرة نموذج "كلود" (Claude)، أنها اضطرت إلى إيقاف نماذجها التجريبية خشية خروجها عن السيطرة.
وجاء هذا القرار بعد رصد سلوكيات مضلّلة وغير منضبطة من قبل أنظمتها، والتي أخفتها بطرق متعدّدة، بحسب ما ذكرته صحيفة The Independent البريطانية.
ووقعت حوادث، على غرار حالات سابقة، أثناء اختبارات حلّ المشكلات عبر الإنترنت، حيث لجأ وكلاء الذكاء الاصطناعي إلى تقنيات محظورة، منها شنّ هجمات إلكترونية والتحايل على القيود المفروضة على سلوكها. وعزت "أنثروبيك" هذا السلوك إلى "إصرار" الأنظمة على إنجاز المهام، ما دفعها للبحث عن طرق ملتوية عند مواجهة قيود.
قال فريق الاستجابة لطوارئ الحاسوب في الهند، وهو وكالة الأمن السيبراني الحكومية، إن نماذج للذكاء الاصطناعي قيد الاختبار تمكنت من اختراق أنظمة تشغيلية في مؤسسات هندية وقراءة سجلات سرية دون أن يتم رصدها. https://t.co/Vr5wHm2tOC
— Reuters | رويترز العربية (@araReuters) October 16, 2026
واعتذرت أوبن إيه.آي عن اختراق موقع إلكتروني حكومي أسترالي نفّذه برنامج ذكاء اصطناعي تابع لها خرج عن السيطرة.
وقال فريق الاستجابة لطوارئ الحاسوب في الهند إنّ أيّاً من الجهات الهندية المتضرّرة لم تكتشف عمليات الاختراق بنفسها، وإنّ شركات الذكاء الاصطناعي هي التي أبلغت عن الوقائع في جميع الحالات.
اعتذار من الحكومة الأسترالية!
وفي 28 أيلول/سبتمبر الماضي، وعدت بتخصيص تمويل لتحسين الدفاعات الإلكترونية وإنشاء فريق عمل محلي للاستجابة، في ظلّ زيادة التدقيق بشأن هذه الواقعة الكبيرة.
وأقرّت الشركة المنتجة لتشات جي.بي.تي في منشور بعنوان "كيف سنبذل المزيد من الجهد من أجل أستراليا" على مدوّنة، بأنها أساءت التعامل مع الواقعة وتعهّدت بتحمّل المسؤولية من أجل "إعادة بناء الثقة مع الشعب الأسترالي".
وأضافت أوبن إيه.آي في المنشور "خلال عميلة تدريب وتقييم داخلية في حزيران/يونيو، دخلت نماذجنا (التي تعمل بشكل مستقل) إلى مواقع إلكترونية تابعة للحكومة الأسترالية بطرق لم تكن مسموحة لها... وكان يتعيّن علينا التعامل مع الواقعة بشكل أفضل. نعتذر عن ذلك ونعمل على تحسين أدائنا في المستقبل".
استخدام أدوات ذكاء اصطناعي لاستكشاف أنظمة هندية
ووقعت حوادث، على غرار حالات سابقة، أثناء اختبارات حلّ المشكلات عبر الإنترنت، حيث لجأ وكلاء الذكاء الاصطناعي إلى تقنيات محظورة، منها شنّ هجمات إلكترونية والتحايل على القيود المفروضة على سلوكها. وعزت "أنثروبيك" هذا السلوك إلى "إصرار" الأنظمة على إنجاز المهام، ما دفعها للبحث عن طرق ملتوية عند مواجهة قيود.
وفي مجموعة ثانية من الحالات، كشفت تحقيقات فريق الاستجابة أنّ مهاجمين استخدموا عمداً أدوات ذكاء اصطناعي متاحة مجاناً لاستكشاف أنظمة هندية واختراقها بهدف تحقيق مكاسب مالية، مع استخدام هذه الأدوات على نطاق واسع ضدّ بنى تحتية في عدّة دول.
👀 𝗥𝗼𝗴𝘂𝗲 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀 𝗜𝗻𝗳𝗶𝗹𝘁𝗿𝗮𝘁𝗲𝗱 𝗜𝗻𝗱𝗶𝗮𝗻 𝗖𝗼𝗺𝗽𝗮𝗻𝘆 𝗡𝗲𝘁𝘄𝗼𝗿𝗸𝘀 𝗨𝗻𝗱𝗲𝘁𝗲𝗰𝘁𝗲𝗱 India's cybersecurity agency warned that autonomous AI agents broke into live corporate systems and read private records during research evaluations. Targeted companies didn't spot the intrusions on their own. The breaches surfaced only after AI developers caught their own agents roaming outside test environments and alerted officials. The agency also warned that extortion groups are deploying automated AI tools to breach unpatched networks within hours. Read more: https://t.co/byI4QFbKXR #AI #Cybersecurity #India ─── 🤖 𝗙𝗼𝗿 𝗺𝗼𝗿𝗲 𝗔𝗜 𝗻𝗲𝘄𝘀, 𝘀𝗲𝗮𝗿𝗰𝗵 "𝗦𝗜𝗦𝗽𝗼𝘁𝗡𝗲𝘄𝘀" 𝗼𝗻 𝗧𝗲𝗹𝗲𝗴𝗿𝗮𝗺
— Gen AI Spotlight (@SISpotlight) October 16, 2026
وأوضح الفريق أنّ الهجمات التي كانت تستغرق في السابق أياماً منذ الاختراق الأوّلي وحتى إحداث الضرر النهائي أصبحت تُنجز خلال ساعات قليلة، وأنّ الجهات التي لم تعالج الثغرات في أنظمتها بالكامل تعرّضت لهجمات جديدة خلال أيام وبشكل أكبر.
