İhtiyaç ve karar sınırı
Sistem bazen yeterli bilgiye sahip olmadığını söylemelidir.
Yapay zekâda geri çekilme yanıtı konusunda ilk iş, mevcut davranışı gözlemleyip beklenen sonucu açıkça yazmaktır. İlgili kullanıcıyı, veriyi ve işlemin tamamlandığı noktayı belirlemeden araç seçimine geçmeyin. Bu rehberdeki örnek bir uygulama senaryosudur; gerçekleşmiş bir müşteri sonucu veya performans garantisi değildir.
Uygulama yaklaşımı
Yanıtsız bırakma ve insana aktarım koşullarını önceden tanımlayın.
Örnek senaryo: Belgede olmayan sözleşme hükmü için bot kesin cevap üretmez. Bu akışı önce sınırlı veriyle çalıştırın. Girdiyi, yetkili kullanıcıyı ve beklenen çıktıyı aynı kayıtta tutun. Gereken bağımlılıkları ve hata durumunda sorumluluğun hangi ekipte olduğunu görünür hâle getirin; böylece çözüm yalnızca normal koşullara bağlı kalmaz.
Kaçınılacak hata
Her soruya kendinden emin yanıt verme hedefi hatalı bilgi üretir.
Bu riski kabul kriterine dönüştürün: beklenmeyen girdi, eksik izin veya kesilen işlem sırasında sistemin ne yapacağı belli olmalıdır. Sorunu gizleyen genel bir başarı mesajı yerine gerçek durumu gösterin. Düzeltmenin başka bir kullanıcı akışını bozmadığını kontrol etmek için önceki davranışı da karşılaştırmaya dahil edin.
Doğrulama ve takip
Belirsiz ve kapsam dışı sorularda güvenli davranışı kontrol edin.
Test sonucunu yalnızca geçti veya kaldı diye kaydetmeyin. Kullanılan ortamı, örnek veriyi, gözlenen sonucu ve kalan sınırlamayı belirtin. Yayın sonrası aynı kontrolü gerçek kullanım sinyalleriyle gözden geçirin. Yeni bir araç ya da sürüm geldiğinde önce bu kabul kaydını yeniden çalıştırın; kararın gerekçesi değişmişse yaklaşımı küçük adımlarla güncelleyin.