NOMOS GEO-QA / الطبعة العربية

NGQ-052 / الأمن والتلاعب وسلامة الحوادث

عندما يُوقف نظام ذكاء اصطناعي في حالة طوارئ أو خطر مرتفع، كيف تُدار عملية الإيقاف الآمن والتدابير المؤقتة والمراجعة البشرية وإعادة التشغيل؟

إجابة قصيرةيجب أن يستطيع النظام التوقف سريعاً عند الحاجة؛ وتعتمد إعادة التشغيل على دليل معالجة السبب وقرار بشري مخول.
الإصدار
0.3.1
الحالة
طبعة المؤسس · منشورة
المصادر الأولية
5

إجابة مباشرة

الإيقاف الآمن عملية مسجلة تقطع خطراً محدداً بسرعة مع الحد من الضرر غير الضروري. سجّل منذ البداية السبب والنطاق ومالك الحادث والخدمة المؤقتة الآمنة والأدلة الواجب حفظها وشروط إعادة التشغيل. ولا تعد تشغيل النظام لأنه يمكن تشغيله تقنياً، بل لأن السبب الجذري عولج والاختبارات المطلوبة نجحت وشخصاً مخولاً وافق على العودة.

بلغة بسيطة

تخيل ضوء تحذير خطيراً يظهر في سيارة. التوقف على جانب الطريق هو الخطوة الأولى الصحيحة. لكن ترك السيارة هناك إلى الأبد ليس إدارة آمنة، ولا إطفاء الضوء ومواصلة القيادة بلا فحص. اعثر على العطل، ووفر نقلاً مؤقتاً، وتحقق من الإصلاح، وأعد السيارة إلى الطريق بصورة مضبوطة.

لماذا يهم؟

قد يزيد النظام الذي يتوقف متأخراً الضرر. وقد يسبب الإيقاف غير المتناسب أو غير المحدود خسارة خدمة وحقوقاً ورفضاً مستتراً. وقد تكرر إعادة التشغيل غير المسنَدة الحادث نفسه.

لا تخلط

  • يقطع الإيقاف العملية الخطرة؛ ويقيد الحظر وظائف أو مستخدمين محددين فقط.
  • يعزل الحجر بيانات أو نموذجاً أو أداة أو اتصالاً مشتبهاً به عن مكونات أخرى.
  • يعيد التراجع النظام إلى حالة سابقة متحقق منها؛ وقد لا يحل السبب الجذري.
  • إعادة التشغيل ليست ضغط زر؛ بل اجتياز بوابات أمان محددة.
  • الإخراج الدائم من الخدمة قرار مستقل ومعلل في دورة الحياة عن الإيقاف المؤقت للطوارئ.

ماذا تفعل؟

  1. سجّل معرّف الحادث وسبب الإيقاف ووقته ونطاقه وصاحب القرار.
  2. أوقف المكونات اللازمة فقط للسيطرة على الخطر، ولا توسع الأثر بلا أسباب.
  3. وفر حيث أمكن مراجعة بشرية أو وصولاً للقراءة فقط أو خدمة بديلة أقل خطراً.
  4. احفظ سجلات الحادث وإصدارات النموذج والبيانات والموجهات والمخرجات ومسارات الأدوات من دون تغيير.
  5. وثّق السبب الجذري ومالك المعالجة والمهلة وشروط إعادة التشغيل.
  6. للعودة عالية المخاطر، احصل على موافقة شخص مخول منفصل عن منفذ التغيير.
  7. أعد الخدمة على مراحل مع مراقبة حية وخطة تراجع وحد لإيقاف جديد.

كيف تدقّق؟

  • هل برر خطر ونطاق محددان الإيقاف؟
  • هل نُظر في بديل آمن واستمرارية الخدمة؟
  • هل حُفظ دليل الحادث بسلامة؟
  • هل فُصل السبب الجذري عن العَرَض الظاهر؟
  • هل شروط إعادة التشغيل قابلة للاختبار ومحددة مسبقاً؟
  • هل تتوفر الموافقة البشرية المطلوبة وفصل المهام ومسار الاعتراض؟
  • هل جرى التحقق من النتيجة الحية وجاهزية التراجع أثناء العودة المرحلية؟

الحد

عند وجود خطر حقيقي ووشيك، قد يُوقف النظام قبل اكتمال المراجعة الأولية. ولا يفرض هذا السجل مدة أو مستوى موافقة أو إجراءً قانونياً واحداً لكل قطاع؛ بل ينبغي حصر الاستجابة بحسب الخطر والبنية والعقد والتنظيم والأشخاص المتأثرين.

تذكّر في جملة

يقطع إيقاف الطوارئ الضرر؛ ويفتح الدليل طريق العودة الآمنة.

مصادر هذا السجل

سجل الاستشهاد

Muraz, K. (2026). NOMOS GEO-QA: السجل المرجعي للأسئلة (الطبعة العربية, v0.3.1). NobleJackal. https://noblejackal.com/ar/nomos-geo-qa/
© 2026 Kaan MURAZ. جميع الحقوق محفوظة.