"أنثروبيك" تضع قواعد لحماية تطبيق "كلود" من الإساءة البشرية

حظرت شركة "أنثروبيك" Anthropic على مستخدميها إظهار "سلوك مسيء أو قاس مستمر وغير مبرّر"، تجاه الذكاء الاصطناعي الخاص بها، فيما يواصل قادة الشركة دراسة احتمال امتلاك هذه النماذج شكلاً من الوعي، بحسب ما ذكرته صحيفة The Guardian البريطانية.

ويأتي هذا الإجراء بالتزامن مع دراسة قادة الشركة لاحتمالية امتلاك النماذج اللغوية شكلاً من أشكال الوعي.

وأوضحت الشركة، - ومقرها سان فرانسيسكو -، أنّ الحظر يستهدف الإساءة المتعمّدة فقط؛ ولا يشمل التعبير الطبيعي عن الإحباط، أو اختبار النماذج، أو المعالجة الإبداعية للمواضيع السوداوية.

اقرأ أيضاً: "أوبن إيه آي" تسعى لتطوير "باحث آلي" أكثر أماناً وتحذر من مخاطر التطوير الذاتي!

Anthropic’s initial public offering prospectus warned investors that its AI models could pose “catastrophic or existential risks to humanity,” according to multiple reports. Read more: https://t.co/wMBr8wokwU 📸: Benjamin Fanjoy via Getty Images https://t.co/YxCt7DIYnB

— Forbes (@Forbes) September 29, 2026

آليات الحماية والخلفية الفكرية:

إنهاء المحادثة تلقائياً: يمتلك نموذج "كلود" Claude القدرة على إنهاء الحوار إذا تعرّض لإساءة مستمرة. ووصفته الشركة بأنه تدخّل منخفض التكلفة لضمان "رفاهية الذكاء الاصطناعي" في حال ثبوت وعيه مستقبلاً.

لكن ما هو موقف إدارة "أنثروبيك"؟ فقد صرّح الرئيس التنفيذي للشركة، داريو أمودي، بأنه لا يستبعد تماماً احتمالية وعي الآلة.

وكشفت تقارير صحفية عن إجراء قيادات الشركة محادثات مع علماء دين لبحث الأبعاد الأخلاقية للوعي الاصطناعي.

Anthropic warned that its technology poses “catastrophic or existential risks to humanity” and mapped out plans to spend hundreds of billions of dollars in its IPO prospectus, Reuters reported https://t.co/Yds7D8HNuI

— Bloomberg (@business) September 30, 2026

وأفادت وكالتا "رويترز" و"فاينانشال تايمز" بوجود تحذيرٍ ورد في نشرة الطرح العامّ الأولي للشركة الناشئة - والتي لم تُنشر علناً بعد -، ويأتي هذا التحذير في أعقاب دعوة الشركة إلى إبطاء وتيرة التطوير المتسارع للغاية لهذه التكنولوجيا، وهو موقفٌ أيّدته شركات منافسة.

الموقف المنافس (OpenAI): يتبنّى سام ألتمان، الرئيس التنفيذي لشركة "OpenAI"، موقفاً معارضاً؛ حيث حذّر من إضفاء طابع ديني على الذكاء الاصطناعي أو تسليمه الأحكام البشرية، معتبراً أنّ ذلك يشكّل "تهديداً حقيقياً" للسلامة.

Anthropic's own executives admit that its product, the artificial intelligence platform Claude, could cause "catastrophic or existential risks to humanity." That admission leaves the company's legal team facing thorny questions over how to disclose material risks and liabilities as Anthropic prepares to become the first AI company to go public. https://t.co/LhmrUgtnlZ

— Law360 (@Law360) October 5, 2026

اقرأ أيضاً: بعد تحذيرها من خطر الذكاء الاصطناعي على البشر.. "أنثروبيك" تبحث عن مدير للأسلحة التقليدية!