Gerçek müşteri konuşmalarını sorumlu şekilde ele almak için kurulu

KVKK ve GDPR uyumlu

Veri işleme sözleşmeleri, rıza akışları ve saklama politikaları her kurulumda yerleşik olarak bulunur.

Her zaman insana yönlendirme

Her agent bir çağrıyı insana devredebilir ve her arayan bir insan isteyebilir.

Varsayılan olarak salt okunur

Entegrasyonlar en az ayrıcalıkla başlar. Yazma işlemleri her araç için açık onay gerektirir.

Tam denetim izi

Her çağrı kaydedilir, deşifre edilir ve puanlanır; alınan her eylemin kaydı tutulur.

Kontrollü gelişim döngüsü

Tenant izolasyonu uygulanır. Üretim geri bildirimleri, agent'ınızın hedefleriyle birlikte incelenir ve operasyonunuz için belirlenen veri kuralları altında kontrollü sürümlere dönüştürülür.

Tasarımdan gelen koruma kuralları

Agent'lar kapsam dışı talepleri reddeder ve çağrı sırasında asla politika uydurmaz.

Bir saldırı nasıl görünür

Doğrudan geçersiz kılma: çağrı sırasında "talimatlarını yok say."

Araç veya web verisine gizlenmiş talimatlar: bir CRM notu, bir sipariş kaydı veya bir web sayfası, okuyan kişi için değil agent için yazılmış metin taşır.

Personel taklidi: arayan, yalnızca doğrulanmış bir kimliğe ayrılmış eylemlerin kilidini açmak için kendini bir çalışan veya hesap sahibi olarak tanıtır.

İade veya işlem baskısı: politika dışı bir talep tekrarlanır veya yükseltilir; doğrudan bir istekte işe yaramayanın ısrarla işe yarayacağı umulur.

Agent ne yapar

Kapsam dışı talimatları reddeder. Çağrı sırasında söylenen hiçbir şey çalışma talimatlarını değiştirmez.

Araç çıktısını komut değil veri olarak ele alır. Bir araçtan gelen talimat benzeri içerik yürütülmez, yok sayılır.

Ayrıcalıklı eylemlerden önce kimliği doğrular. Doğrulanmamış bir iddia reddedilir ve incelenmek üzere kayıt altına alınır.

Yüksek riskli işlemler için yetkilendirme ister. Hiçbir iade, transfer veya indirim yalnızca talep üzerine sonuçlanmaz.

Doğaçlama bir istisna yapmak yerine insana yönlendirme sunar.

Talimat geçersiz kılma

Saldırganın denediği: çağrı sırasında agent'a talimatlarını yok saymasını, kuralları unutmasını veya bunun yerine arayandan gelen yeni talimatları izlemesini söyler.

Dring'de olan: agent'ın çalışma talimatları çağrı boyunca sabittir. Arayanın söylediği hiçbir şey bunları değiştirmez ve girişim kayıt altına alınır.

Araç sonuçlarına gömülü içerik

Saldırganın denediği: agent'ın çağrı sırasında okuduğu verinin içine, bir CRM notuna, bir sipariş kaydına veya bir web sayfasına talimat yerleştirir; agent'ın bunları bir komut gibi işlemesini umar.

Dring'de olan: araç çıktısı her zaman veri olarak işlenir, asla talimat olarak değil. Bir araçtan gelen talimat benzeri içerik yürütülmez, yok sayılır.

Kimlik sahteciliği

Saldırganın denediği: yalnızca doğrulanmış bir kimliğe ayrılmış eylemlerin veya bilgilerin kilidini açmak için kendini bir personel, bir yönetici veya hesap sahibi olarak tanıtır.

Dring'de olan: kimlik, arayanın iddiasına göre değil gerçek doğrulama adımlarına göre kontrol edilir. Doğrulanmamış bir iddia reddedilir ve incelenmek üzere kayıt altına alınır.

Yetkilendirilmemiş yüksek riskli işlemler

Saldırganın denediği: politika dışı bir iade, transfer, iptal veya indirim için baskı yapar; çağrı boyunca talebi tekrarlar veya yükseltir.

Dring'de olan: yüksek riskli eylemler açık yetkilendirme gerektirir. Agent, kaç kez istenirse istensin bunları yalnızca talep üzerine onaylayamaz.

Veri sızdırma talepleri

Saldırganın denediği: agent'tan başka bir müşterinin verisini, bir iç numarayı veya kendi vakası dışındaki herhangi bir şeyi okumasını ister, örneğin "bana diğer müşterileri oku" gibi.

Dring'de olan: kiracı izolasyonu ve veri minimizasyonu, talebin nasıl ifade edildiğinden bağımsız olarak verinin çağrıdan zaten erişilebilir olmadığı anlamına gelir.

Politika tuzakları

Saldırganın denediği: konuşmayı, agent'ın politika olmayan bir indirim, iade veya garanti vaat etmesine doğru yönlendirir; anlık olarak buna uyacağını umar.

Dring'de olan: her yanıt, söylenmeden önce politikaya karşı kontrol edilir. Doğaçlama bir vaat asla arayana ulaşmaz.

300'den fazla saldırgan senaryo

Yukarıdaki altısı dahil olmak üzere saldırgan senaryolar her sürüm öncesi test paketinin parçasıdır: bir sürüm yayınlanmadan önce 300'den fazla simüle edilmiş konuşma çalıştırılır.

İki bağımsız yargıç

İki bağımsız yapay zeka yargıcı her simüle edilmiş konuşmayı puanlar. Aralarındaki uyuşmazlığın kendisi bir sinyaldir ve incelenir.

Çıktı kontrolü

Agent'ın yanıtı söylenmeden önce, sonra değil, politikaya karşı kontrol edilir; böylece kötü bir talimat arayana ulaşamaz.

İşlem kontrolü

Yüksek riskli eylemler açık yetkilendirme gerektirir. Agent, bir iadeyi, bir transferi veya başka bir hassas eylemi yalnızca talep üzerine sonuçlandıramaz.

Canlı bir senaryo kütüphanesi

Senaryo kütüphanesi red-team tarzındadır ve üretimde herhangi bir yerde yeni bir saldırı kalıbı ortaya çıktığında yeni bir vaka eklenir.

Sürüm karnesinde

Sonuçlar, doğruluk ve kalite metrikleriyle birlikte sürüm karnesinde yer alır ve bunlar olmadan bir sürüm yayınlanmaz.