Hataları tekrar üretilebilir kılın
Sorunu yalnızca genel bir şikâyet olarak kaydetmeyin. Girdi, ortam ve beklenen davranışı belirleyin. Düzeltmeyi önce hatayı gösteren bir senaryoyla sınayın, ardından komşu akışların etkilenmediğini kontrol edin.
Yapay Zekâ için bu kararın somut karşılığı: Modele gönderilen içerik gereğinden fazla kişisel veri içerebilir. İnsana aktarımda konuşma bağlamı kaybolmamalıdır.
Kişisel veri maskeleme
Modele gönderilen içerik gereğinden fazla kişisel veri içerebilir.
Görev için gereksiz alanları çıkarın ve geri eşlemeyi güvenli sınırda tutun. Örnek senaryo: Destek sınıflandırmasında kimlik numarası modele gönderilmez.
Basit desenlerle bütün hassas verinin bulunduğunu varsaymak hatalıdır. Kontrol: Farklı yazım biçimleri ve yanlış pozitiflerle maskeleme kalitesini ölçün.
AI destek botunda devir akışı
İnsana aktarımda konuşma bağlamı kaybolmamalıdır.
Sorun özeti, denenmiş adımlar ve izinli kaynakları temsilciye aktarın. Örnek senaryo: Bot çözemediği teslimat sorununu tekrar soru sormadan devreder.
Kullanıcıyı sürekli aynı otomatik döngüye sokmak deneyimi bozar. Kontrol: Aktarım sonrasında temsilcinin gerekli bilgiye ulaştığını test edin.
Yapay zekâda geri çekilme yanıtı
Sistem bazen yeterli bilgiye sahip olmadığını söylemelidir.
Yanıtsız bırakma ve insana aktarım koşullarını önceden tanımlayın. Örnek senaryo: Belgede olmayan sözleşme hükmü için bot kesin cevap üretmez.
Her soruya kendinden emin yanıt verme hedefi hatalı bilgi üretir. Kontrol: Belirsiz ve kapsam dışı sorularda güvenli davranışı kontrol edin.
Karar ve kabul kaydı
Bu rehberin çıktısını üç ayrı kabul maddesine dönüştürün: Farklı yazım biçimleri ve yanlış pozitiflerle maskeleme kalitesini ölçün. Aktarım sonrasında temsilcinin gerekli bilgiye ulaştığını test edin. Belirsiz ve kapsam dışı sorularda güvenli davranışı kontrol edin.
Öncelik, yaygın proje risklerini teslimattan önce azaltma için en belirsiz noktayı görünür kılmaktır. Her kontrolün sorumlusunu, kullanılan örneği ve sonucunu kaydedin. Başarısız bir denemeyi gizlemek yerine hangi varsayımın değiştiğini açıklayın; kapsamı bu kanıta göre yeniden değerlendirin.