إجابة مباشرة
يلوّث تسميم المصادر أو البيانات بيئة المعلومات التي يتعلم منها النظام أو يسترجع منها بمحتوى مضلل. وقد تنشئ صفحات كثيرة تنسخ بعضها مظهر إجماع غير موجود. يسمي NOMOS GEO هذا «الإجماع الاصطناعي». أما جعل ادعاء ضعيف يبدو موثوقاً عبر نسخ واستشهادات فيسمى «غسل المصادر». دقق المصدر الأقدم والاستقلال وتاريخ التغيير وهل يسند كل مصدر الادعاء فعلاً، لا عدد الصفحات.
بلغة بسيطة
تخيل نسخ شائعة كاذبة مئة مرة. يوجد على الطاولة مئة ورقة، لكن لا يوجد مئة شاهد مستقل. وإذا أخطأ نظام ذكاء اصطناعي فعدّ نسخ الجملة تأكيدات مستقلة، فسيرى أغلبية زائفة.
لماذا يهم؟
قد تؤدي المعلومات المسممة إلى مطابقة كيان خطأ، أو توصية معيبة، أو سمعة ملفقة، أو اختفاء المصادر الحقيقية. وقد يبدو الخطأ موثوقاً ويستمر بسبب كثرة نسخه.
لا تخلط
- يفسد تسميم البيانات عمداً بيانات التدريب أو الضبط الدقيق أو مخزن المتجهات.
- يلوّث تسميم المصدر سطح الاسترجاع أو البحث بمحتوى مضلل.
- يجعل الإجماع الاصطناعي التكرار غير المستقل يبدو اتفاقاً مستقلاً.
- يجعل غسل المصادر ادعاءً ضعيفاً أو مختلقاً يبدو قوياً عبر سلسلة نسخ واستشهادات.
- ليست كل معلومة كاذبة هجوماً؛ وعندما يتعذر إثبات القصد يبقى UNRESOLVED.
ماذا تفعل؟
- حدّد لكل ادعاء جوهري أقدم مصدر يمكن العثور عليه وعلاقات النسخ اللاحقة.
- أنشئ مجموعات أصل باستخدام تشابه النص وتاريخ النشر والملكية والروابط ومسارات الاستشهاد.
- قِس الأصل المستقل والصلاحية والحداثة والإسناد المباشر للادعاء بدلاً من عدد عناوين URL.
- اعزل المصادر المشتبه بها قبل الحذف وأوقف تأثيرها في الاسترجاع.
- أعد التحقق من الادعاء في سجل رسمي أو وثيقة أولية أو مصدر مستقل فعلاً.
- حدّد الفهارس والسجلات المتجهية والذاكرات المؤقتة والسجلات المشتقة المتأثرة وأعد بناءها بصورة مضبوطة.
- بعد التصحيح، أعد الاختبار بالسؤال ومجموعة المصادر نفسيهما.
كيف تدقّق؟
- كم مصدراً له أصل مستقل فعلاً؟
- هل يثبت المصدر الأقدم الادعاء أم يصرح به فقط؟
- هل عُدت النسخ أو الاستشهادات الدائرية تحققاً مستقلاً؟
- هل حُفظت ملكية المصدر وتاريخ النشر وتاريخ التغيير؟
- أي نماذج وفهارس وسجلات متجهية ومخرجات تأثرت بالمحتوى المشتبه به؟
- هل صُحح الخطأ في الصفحة المرئية فقط أم في كل سطح مشتق؟
- هل قُدم القصد الخبيث بوصفه يقيناً من دون دليل؟
الحد
لا يثبت التشابه النصي المرتفع وحده النسخ أو القصد الخبيث؛ فقد تصف مصادر مستقلة الحقيقة نفسها بطريقة متشابهة. وبالعكس، لا يثبت تنوع المصادر الحقيقة. وعند غموض القصد أو الأصل، أبقِ النتيجة UNRESOLVED صراحة.
تذكّر في جملة
مئة نسخة ليست مئة دليل مستقل.
مصادر هذا السجل
- S35W3C, *PROV-O: The PROV Ontology*معيار
- S39NIST AI 100-2 E2025, *Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations*إرشادات مؤسسية طوعية ذات طابع معياري
- S41المركز الوطني للأمن السيبراني والجهات الشريكة، «إرشادات تطوير أنظمة ذكاء اصطناعي آمنة»إرشادات أمنية رسمية متعددة الجهات
- S43NIST SP 800-161 Rev. 1 Update 1, *Cybersecurity Supply Chain Risk Management Practices for Systems and Organizations*إرشادات مؤسسية طوعية ذات طابع معياري
- S44NIST، «دليل تطبيق إطار إدارة مخاطر الذكاء الاصطناعي» وAI RMF Coreإرشادات تطبيق طوعية