İhtiyaç ve karar sınırı
Yüksek etkili işlemler doğrudan model kararına bırakılmamalıdır.
Yapay zekâda insan onayı konusunda ilk iş, mevcut davranışı gözlemleyip beklenen sonucu açıkça yazmaktır. İlgili kullanıcıyı, veriyi ve işlemin tamamlandığı noktayı belirlemeden araç seçimine geçmeyin. Bu rehberdeki örnek bir uygulama senaryosudur; gerçekleşmiş bir müşteri sonucu veya performans garantisi değildir.
Uygulama yaklaşımı
Öneri ile uygulama yetkisini ayırın ve onay ekranında dayanak gösterin.
Örnek senaryo: İade önerisi temsilci tarafından onaylanmadan ödeme yapılmaz. Bu akışı önce sınırlı veriyle çalıştırın. Girdiyi, yetkili kullanıcıyı ve beklenen çıktıyı aynı kayıtta tutun. Gereken bağımlılıkları ve hata durumunda sorumluluğun hangi ekipte olduğunu görünür hâle getirin; böylece çözüm yalnızca normal koşullara bağlı kalmaz.
Kaçınılacak hata
Onay düğmesi arkasında değişmiş içerik çalıştırmak kontrolü anlamsızlaştırır.
Bu riski kabul kriterine dönüştürün: beklenmeyen girdi, eksik izin veya kesilen işlem sırasında sistemin ne yapacağı belli olmalıdır. Sorunu gizleyen genel bir başarı mesajı yerine gerçek durumu gösterin. Düzeltmenin başka bir kullanıcı akışını bozmadığını kontrol etmek için önceki davranışı da karşılaştırmaya dahil edin.
Doğrulama ve takip
Onaylanan yük ile çalıştırılan yükün aynı olduğunu test edin.
Test sonucunu yalnızca geçti veya kaldı diye kaydetmeyin. Kullanılan ortamı, örnek veriyi, gözlenen sonucu ve kalan sınırlamayı belirtin. Yayın sonrası aynı kontrolü gerçek kullanım sinyalleriyle gözden geçirin. Yeni bir araç ya da sürüm geldiğinde önce bu kabul kaydını yeniden çalıştırın; kararın gerekçesi değişmişse yaklaşımı küçük adımlarla güncelleyin.