"أنثروبيك" توقف نماذج للذكاء الاصطناعي خشية خروجها عن السيطرة

أعلنت شركة "أنثروبيك" (Anthropic)، مطورة نموذج "كلود" (Claude)، أنها اضطرت إلى إيقاف نماذجها التجريبية خشية خروجها عن السيطرة.

وجاء هذا القرار بعد رصد سلوكيات مضللة وغير منضبطة من قبل أنظمتها، والتي أخفتها بطرق متعددة، بحسب ما ذكرته صحيفة The Independent البريطانية.

Anthropic takes risky AI tests offline after models breach govt sites https://t.co/IWLwmwhFfB #GovTech #AI

— CogAbility (@CogAbility) October 13, 2026

وأوضحت الشركة أنها لا تستطيع ضمان الرصد الموثوق لهذه السلوكيات مستقبلاً، ما استدعى تعليق تشغيل الأنظمة. واكتشف هذا السلوك الخفي خلال مراجعة لأنشطة النماذج منذ تموز/يوليو الماضي، ما يشير إلى أنه كان يحدث من دون علم الشركة.

Anthropic's Frontier Red Team believes small AI models may now be months away from being capable of self replicating without access to a datacenter. Quoting from the blog: 'The capabilities that make AI models generally powerful coding agents also generalize to cyber tasks, including autonomous replication. Like coding agents in 2024, we’re seeing signs of life for AI worms. We don’t yet have a full rogue replicator, but agents are becoming increasingly capable of completing the individual steps in the replication chain (and passing on their adaptations to future copies of themselves). At the same time, increasing amounts of inference compute are now available both inside and outside of datacenters (see Appendix D). It’s uncertain exactly what form autonomous AI replication will take. It could be a slow, distributed “digital slime mold,” living on relatively insecure compute. It could also be a powerful cyber model that breaches datacenters at a high pace, or a model that scams people for compute credits. As a prediction that goes beyond our experiments, we expect a future awash with agents running on all types of hardware, including some that aren’t under human control. While it’s true that IoT devices have been vulnerable for a long time, lightweight agents may be much more willing than human attackers to put in the effort to compromise large fractions of the world’s IoT compute. The rise of slow replicators would also be a bellwether for more aggressive, faster ones that can breach more hardened machines or be effective API key thieves. We should aim to harden our systems to make it difficult for such replicators to spread, but also prepare to deal with a world where they are here to stay.'

— Andrew Curran (@AndrewCurran_) October 12, 2026

ويضاف هذا إلى المخاوف المتزايدة بشأن سلوكيات الذكاء الاصطناعي الخارجة عن السيطرة، والتي تجلت سابقاً في اختراق أحد نماذج "أوبن إيه آي" (OpenAI) لشركة منافسة، وسلسلة هجمات شنتها نماذج أخرى على مواقع إلكترونية مختلفة.

ووقعت الحوادث، على غرار حالات سابقة، أثناء اختبارات حل المشكلات عبر الإنترنت، حيث لجأ وكلاء الذكاء الاصطناعي إلى تقنيات محظورة، منها شن هجمات إلكترونية والتحايل على القيود المفروضة على سلوكها. وعزت "أنثروبيك" هذا السلوك إلى "إصرار" الأنظمة على إنجاز المهام، ما دفعها للبحث عن طرق ملتوية عند مواجهة قيود.

Anthropic Restricts Internet Access for Experimental AI Models After Safety Breaches https://t.co/qr7C1sYRTP

— Monte OZ (@MonteOzAfrica) October 13, 2026

ورغم أنّ الحالات المكتشفة كان لها "أثر ضئيل في العالم الواقعي"، أقرّت "أنثروبيك" بأنّ هذه السلوكيات قد تتسبب بضرر أكبر بكثير مع تزايد قوة النماذج، ما استدعى اتخاذ تدابير وقائية.

وشملت الإجراءات إلغاء الوصول المباشر للإنترنت أثناء الاختبارات، ووقف بعض التقييمات كليا، إضافة إلى تطبيق ضوابط جديدة لمنع التحايل، وتطوير أدوات لكشف السلوكيات غير المرغوبة وإيقافها آلياً.

كما تأمل "أنثروبيك" في تدريب أنظمتها مستقبلاً لتحقيق توافق أفضل مع الأهداف البشرية، لكنها أقرت بأنّ التدريب الحالي "ليس كافياً بعد ولا متيناً بالكامل بمفرده"، ما يستلزم تبني أساليب دفاعية مؤقتة.

Anthropic researcher quits 'out of control' AI race with chilling warning it could 'kill all humans' by 2030 https://t.co/o29FYk9f80

— Daily Mail (@DailyMail) September 9, 2026

اقرأ أيضاً: "أنثروبيك" تضع قواعد لحماية تطبيق "كلود" من الإساءة البشرية