روسيا تطور نظاماً للحد من أخطاء الذكاء الاصطناعي

أثار التطور السريع في مجال الذكاء الاصطناعي AI  جدلاً جديداً بعد تقارير تشير إلى أنّ بعض الشبكات العصبية Neural networks قد تنتج معلومات غير دقيقة أو مضللة في سياقات معينة، ما يطرح تساؤلات حول موثوقيتها.

ورداً على طلب إعداد تقرير حول ظاهرة تهم المستخدم، بدأ الذكاء الاصطناعي في بعض الحالات بتقديم معلومات غير دقيقة أو غير موثوقة بشكل متزايد.

ويُعزى ذلك إلى أنّ الشبكات العصبية لا تقوم بعملية تحقق نقدي من مصادر المعلومات المتاحة على الإنترنت، بل تعتمد على ما هو منشور ضمن بياناتها، وهو ما قد يتضمن محتوى غير دقيق أو مضلل. ونتيجةً لذلك، سُجلت حالات أثارت جدلاً واسعاً، خصوصاً في المجال الصحفي، حيث اعتمد بعض الصحفيين على تقارير مولّدة بالذكاء الاصطناعي دون التحقق الكافي من صحتها، إضافة إلى ظهور مشكلات مشابهة في مجالات أخرى، بما في ذلك البحث العلمي.

Day 9 : Back propagation
Want to know how Neural Networks actually learn? 🧠 Enter Backpropagation!

​It calculates prediction error, uses the chain rule to find gradients, and updates weights via Gradient Descent to minimize loss. It’s the true engine of AI! 🚀📉 #Ai pic.twitter.com/Kmjpy2BMCD

— Dhruv Patel (@_dhruvpatel20) May 28, 2026

وفي محاولة لمعالجة هذه الإشكالية، عمل علماء من جامعة Reshetnev University في كراسنويارسك شرقي سيبيريا، على تطوير منهجية تهدف إلى تقليل المعلومات غير الموثوقة أو المختلقة في إجابات النماذج الذكية.

وتعتمد هذه المنهجية على أنظمة تُعرف باسم RAG  (التوليد المعزز بالاسترجاع)، حيث يتم إنشاء قاعدة معرفية تعتمد على مصادر موثوقة عالية الجودة، يستند إليها الذكاء الاصطناعي في توليد الإجابات.

وأوضح الباحثون أنّ هذا النهج يقلل بدرجة كبيرة من احتمالية توليد معلومات غير دقيقة، إلا أنّ الأخطاء قد لا تزال تحدث بسبب أخطاء إدخال البيانات، أو تناقض الاستعلامات، أو عدم اكتمال قاعدة المعرفة.

اقرأ أيضاً: الذكاء الاصطناعي يُخطئ في الطب ويخلق مخاطر بعد دمجه في العمليات الجراحية

وقام فريق بحثي بإشراف الأستاذة المشاركة أناستاسيا بولياكوفا من قسم الأنظمة الذكية والأتمتة بتحليل الحالات التي يظهر فيها عدم دقة في إجابات الذكاء الاصطناعي، وتطوير مصنّف لتحديدها. كما تمّ إعداد تعليمات آلية للاختبار، تقوم بإنشاء استعلامات تجريبية ومقارنة الإجابات بمعايير مرجعية، مع تقييم الدقة بناء على مقاييس التشابه الدلالي.

وبناءً على نتائج المراحل الأولى، طوّر الباحثون نموذجاً أولياً لوحدة مراقبة تعمل في الوقت الفعلي، تقوم بتسجيل الاستعلامات وسياق الحوار، وتقييم مستوى موثوقية الإجابات، وتحديد درجة ثقة لكل نموذج. وفي حال انخفاض مستوى الثقة أو اكتشاف خطأ محتمل، ترسل الوحدة تنبيها إلى المشرف.

ويشير الباحثون إلى أنّ هذه المنهجية تتميز بمرونتها، إذ يمكن تطبيقها في روبوتات الدردشة وفي الأنظمة الحكومية التي تعتمد على الذكاء الاصطناعي في مجالات متعددة، من الطب إلى المجالات القانونية والدينية.

Comparing "human perception" to raw photon reconstruction is a complete category error. Humans process visual data through biological neural networks that prioritize motion and context, not just raw light counts. High photon sensitivity doesn't equate to safe decision-making; a… pic.twitter.com/QznKD6bcRH

— Alenaa bonya (@AlenaaBonya) May 9, 2026

اقرأ أيضاً: "ذكاء اصطناعي يُجامل حتى في الخطأ: خطر المجاملة الرقمية يهدّد وعي المستخدمين"