Risk sınırını tanımlayın
Korunacak veri ve kritik işlemleri listeleyin. Kimlerin hangi eylemleri yapabileceğini açıkça belirleyin; istemcideki görünürlüğü güvenlik kontrolü yerine koymayın. Hata durumunda sistemin hangi güvenli davranışa döneceğini yazın.
Yapay Zekâ için bu kararın somut karşılığı: Token tüketimi trafik ve belge uzunluğuyla hızla değişebilir. Kullanıcı için toplam bekleme tek model çağrısından uzundur.
Model maliyetini izlemek
Token tüketimi trafik ve belge uzunluğuyla hızla değişebilir.
Görev bazında giriş, çıkış ve yeniden deneme maliyetini kaydedin. Örnek senaryo: Belge özeti ile kısa sınıflandırma ayrı maliyet gruplarında izlenir.
Sadece tek çağrının fiyatını hesaplamak zincir maliyetini gizler. Kontrol: Başarılı iş başına toplam maliyeti dönemsel karşılaştırın.
Yapay zekâ gecikmesini azaltmak
Kullanıcı için toplam bekleme tek model çağrısından uzundur.
Arama, model ve araç sürelerini ayrı ölçün; bağımsız işleri paralelleştirin. Örnek senaryo: Kaynak arama ve izin kontrolü toplam akışta ayrı izlenir.
Akışlı yanıtı hız sanmak sonucun tamamlanma süresini gizler. Kontrol: İlk yanıt ve tamamlanma gecikmesini birlikte raporlayın.
Vektör aramasında erişim kontrolü
Arama sonuçları kullanıcının göremeyeceği belgeleri taşımamalıdır.
Yetki filtresini belge indeksleme ve sorgulama tasarımına dahil edin. Örnek senaryo: İK belgesi yalnızca ilgili yetki grubunun sonuçlarında görünür.
Yanıttan sonra metni gizlemek modelin erişimini geri alamaz. Kontrol: Farklı rollerle aynı sorunun kaynaklarını karşılaştırın.
Karar ve kabul kaydı
Bu rehberin çıktısını üç ayrı kabul maddesine dönüştürün: Başarılı iş başına toplam maliyeti dönemsel karşılaştırın. İlk yanıt ve tamamlanma gecikmesini birlikte raporlayın. Farklı rollerle aynı sorunun kaynaklarını karşılaştırın.
Öncelik, riskleri erken aşamada tespit eden sürdürülebilir önlemler alma için en belirsiz noktayı görünür kılmaktır. Her kontrolün sorumlusunu, kullanılan örneği ve sonucunu kaydedin. Başarısız bir denemeyi gizlemek yerine hangi varsayımın değiştiğini açıklayın; kapsamı bu kanıta göre yeniden değerlendirin.