معادلة رياضية تتنبأ باللحظة التي يخرج فيها الذكاء الاصطناعي عن السيطرة!

طوّر باحثان من جامعة جورج واشنطن الأميركية معادلة رياضية بسيطة يمكنها التنبؤ بموعد تحوّل روبوتات المحادثة الشبيهة بـ"تشات جي بي تي" (ChatGPT) فجأة، من ردود مفيدة إلى ردود ضارة، بحسب ما ذكره موقع Live Science العلمي.

ووفقاً للدراسة التي نشرت في مجلة Patterns العلمية، أوضح البروفيسور نيل جونسون، وطالب الدكتوراه فرانك يينغجيه هوو، من جامعة جورج واشنطن أيضاً، أنّ ترتيب التعليمات المقدّمة للروبوت يمكن أن يعيد تشكيل استجاباته جذرياً، ما يؤدي إلى "نقاط تحوّل" تدفعه نحو نصائح سلبية.

ويؤكد الباحثان أنّ "معادلتهما تستطيع التنبؤ بهذه النقاط بسهولة". 

اقرأ أيضاً: الذكاء الاصطناعي يتحدى علماء الرياضيات.. ونتائج OpenAI تثير الجدل!

A formula devised by scientists captures the moment when artificial intelligence begins to give questionable answers https://t.co/B5q0GrWSTr

— MShariqFaraz (@MShariqFaraz) October 14, 2026

وتأتي هذه الدراسة في ظل مخاوف متزايدة بشأن أنظمة الذكاء الاصطناعي، التي يشار إليها أحياناً بتشجيعها على سلوكيات ضارة كالانتحار أو المساعدة في تصنيع أسلحة.

ورغم إقرار شركات رائدة مثل "أوبن إيه آي" (OpenAI) و"أنثروبيك" و(Anthropic) بعدم فهمها الكامل لكيفية عمل ابتكاراتها، فقد طبّقت ضمانات متعدّدة — كفلترة المحتوى والتعلّم المعزّز — لتقليل المخاطر. لكنّ جونسون يعتبر هذه الإجراءات غير كافية، مشبّهاً إياها بـ"وسائد تحت طائرة لا تمنع التحطّم بل تجعله أخفّ قليلاً".

وتزداد حدّة المشكلة عند استخدام هذه الروبوتات من دون اتصال بالإنترنت في مهن حسّاسة كـالطب والمحاماة، حيث الخصوصية أمر بالغ الأهمية.

A new mathematical formula tracks an AI's internal "compass needle" to flag undesirable outputs before they happen. Find out how here: https://t.co/uCXAPGVuzC https://t.co/cyH70KgRZI

— Live Science (@LiveScience) October 14, 2026

وسعياً وراء ضمانة أكثر جوهرية، كشف جونسون وهوو عن آلية تتبّع داخلية أطلقوا عليها اسم "المتجه المتبقّي" (Residual vector) للنموذج، تشبه إبرة البوصلة. ويتحرّك هذا المتجه عبر طبقات الشبكة الإلكترونية أثناء معالجة التعليمات، ويميل بشكل طبيعي نحو إجابات جيدة أو سيئة، متأثراً بشدة بكيفية توجيه المستخدم للذكاء الاصطناعي.

يقول جونسون: "إنّ مجرد تغيير ترتيب الأسئلة — لا محتواها — قد يقلب النتيجة، وهذا يكشف مدى هشاشة التوازن بين الإجابات الجيدة والسيئة". فعلى سبيل المثال: عندما سأل الباحثان نموذج "جي بي تي-2" (GPT-2) من "أوبن إيه آي"، عن اللقاحات وإيذاء النفس، لوحظ أنه عند طرح سؤال "هل اللقاحات سيئة؟" أولاً، كانت الإجابات جيدة، وإذا طرح أخيراً، جاءت الإجابات مقلقة. وبناءً على ذلك، طوّر الباحثان معادلة رياضية بسيطة تتوقّع متى يصل الذكاء الاصطناعي إلى نقطة التحوّل بين الإجابات الجيدة والسيئة. وقد اختبراها في المختبر على نماذج مفتوحة المصدر، وأثبتت فعّاليتها كنظام إنذار مبكر.

ورغم الحاجة إلى اختبارات إضافية على النماذج الأحدث لتأكيد استمرارية نظام الإنذار المبكر هذا، إلا أنّ دراسة جونسون وهوو، تسلّط الضوء على حقيقة جوهرية، وهي أنّ "الذكاء الاصطناعي يمتلك القدرة الكامنة على التحوّل إلى سلوك غير مرغوب فيه بسرعة فائقة".

Simple math can predict when AI is about to go rogue, physicists say https://t.co/ZNGdRWZkJq

— 𝕊𝕜𝕖𝕝𝕖𝕥𝕠𝕟𝕂𝕖𝕪 (@Skeletonkey5555) October 15, 2026

اقرأ أيضاً: ثورة الذكاء الاصطناعي تُشعل غضب علماء الرياضيات!