Bir AI sistemi acil veya yüksek riskli bir durumda durdurulduğunda…

Doğrudan cevap

Güvenli durdurma, belirli bir riski hızla keserken gereksiz zararı sınırlayan kayıtlı bir süreçtir. Durdurma nedeni, kapsamı, olay sahibi, geçici güvenli hizmet, korunacak kanıtlar ve yeniden başlatma koşulları baştan kaydedilir. Sistem, yalnız teknik olarak açılabildiği için değil; kök neden giderildiği, gerekli testler geçtiği ve yetkili insan onay verdiği için yeniden çalıştırılır.

Sade dille

Bir araçta ciddi bir uyarı ışığı yandığını düşünün. Aracı kenara çekmek doğru ilk adımdır. Fakat aracı sonsuza kadar yol kenarında bırakmak da, ışığı söndürüp hiçbir kontrol yapmadan yeniden sürmek de güvenli değildir. Önce sorun bulunur, geçici ulaşım sağlanır, onarım doğrulanır ve araç kontrollü biçimde yeniden yola çıkarılır.

Neden önemli?

Geç durdurulan bir sistem zararı büyütebilir. Ölçüsüz veya süresiz durdurulan bir sistem ise hizmet kaybı, hak kaybı ve gizli ret üretebilir. Kanıtsız yeniden başlatma aynı olayın tekrarına yol açabilir.

Karıştırma

Durdurma, riskli işlemi keser; kısıtlama yalnız belirli işlevleri veya kullanıcıları sınırlar.
Karantina, şüpheli veri, model, araç veya bağlantıyı diğer bileşenlerden ayırır.
Geri alma, sistemi doğrulanmış önceki duruma döndürür; sorunun kök nedenini tek başına çözmeyebilir.
Yeniden başlatma, düğmeye basmak değil, belirlenmiş güvenlik kapılarını geçmektir.
Kalıcı kapatma, geçici acil durdurmadan ayrı ve gerekçeli bir yaşam döngüsü kararıdır.

Ne yapmalısın?

Olay kimliği, durdurma nedeni, saat, kapsam ve kararı veren kişiyi kaydedin.
Yalnız risk için gerekli bileşenleri durdurun; etki alanını gerekçesiz büyütmeyin.
Mümkünse insan incelemesi, salt okunur erişim veya düşük riskli alternatif hizmet sağlayın.
Olay kayıtlarını, model ve veri sürümlerini, istemleri, çıktıları ve araç izlerini değişmeden koruyun.
Kök neden, düzeltme sahibi, son tarih ve yeniden başlatma koşullarını yazın.
Yüksek riskli dönüşlerde değişikliği yapan kişiden ayrı bir yetkili insan onayı kullanın.
Sistemi aşamalı açın; canlı izleme, geri alma planı ve tekrar durdurma eşiği bulundurun.

Nasıl denetlersin?

Durdurma kararı belirli bir risk ve kapsamla gerekçelendirilmiş mi?
Güvenli alternatif veya hizmet devamlılığı değerlendirilmiş mi?
Olay kanıtları değişmez biçimde korunmuş mu?
Kök neden ile yalnız görünen belirti birbirinden ayrılmış mı?
Yeniden başlatma ölçütleri test edilebilir ve önceden belirlenmiş mi?
Gerekli insan onayı, görev ayrılığı ve itiraz yolu var mı?
Aşamalı dönüşte canlı sonuç ve geri alma hazırlığı doğrulanmış mı?

Sınır

Gerçek ve yakın bir tehlikede sistem ön inceleme tamamlanmadan durdurulabilir. Bu kayıt her sektör için tek bir süre, onay seviyesi veya hukukî prosedür koymaz; karar risk, sistem mimarisi, sözleşme, mevzuat ve etkilenen kişiler bağlamında daraltılmalıdır.