Səsli AI-də halüsinasiya riski: telefonda yanlış cavabı necə azaltmaq

Qısa cavab

Halüsinasiya — AI modelinin mənbədə olmayan, amma inandırıcı səslənən məlumat uydurmasıdır. Səsli agentdə bu risk çatdan daha ciddidir: müştəri cavabı mənbə ilə yoxlaya bilmir, səs inamlı eşidilir və deyilən rəqəm dərhal qeydə alınır. Riski tam aradan qaldırmaq mümkün deyil, amma dörd qayda onu xeyli azaldır: agent yalnız təsdiqlənmiş məlumatdan cavab verir, cavab sərhədi aydın yazılır, qeyri-müəyyənlikdə dürüst davranış müəyyənləşdirilir və şübhəli hal insana ötürülür.

Bu yazıda səsə xas riskləri, cavab sərhədi qaydalarını, «bilmirəm» deməyin düzgün formasını və halüsinasiyanı tapmaq üçün test dəstini göstəririk.

Səsli agentdə risk niyə fərqlidir

• Mənbə görünmür: çatda link göstərmək olar, telefonda yox
• Səs inamlıdır: sintez olunmuş səs tərəddüdü göstərmir, səhv cavab da əmin eşidilir
• Eşitmə xətası: agent sualı səhv eşidib düzgün cavabı başqa suala verə bilər
• Rəqəmlər: qiymət, tarix, ünvan telefonda yazılır və sonra ona əsaslanılır
• Sürət: danışıqda agent tez cavab verməyə çalışır, «yoxlayım» fasiləsi daha nadirdir

Buna görə səsli agentdə eyni səhv çatdakından daha çox zərər verir və daha gec aşkar olunur — çox vaxt müştəri şikayət edəndə.

Birinci qayda: yalnız təsdiqlənmiş mənbə

Agentin faktiki cavabları — qiymət, şərt, müddət, ünvan — yalnız bilik bazasındakı təsdiqlənmiş mətndən gəlməlidir. Ssenaridə bu açıq yazılmalıdır: «bilik bazasında olmayan fakt deyilmir». Modelin ümumi biliyi, məsələn, «adətən belə xidmətlər bu qədər çəkir», şirkətin xidməti barədə cavab ola bilməz.

İkinci qayda: cavab sərhədi

Sərhəd agentin hansı mövzularda cavab verdiyini və hansılarda vermədiyini göstərir. Sərhəd nə qədər aydın olsa, halüsinasiya üçün yer o qədər azdır. Sərhəddən kənar sual gələndə agent «bilmirəm» yox, «bu barədə məlumat verə bilmərəm, sizi əməkdaşımızla birləşdirim» deməlidir.

Üçüncü qayda: qeyri-müəyyənlikdə dürüstlük

Agent sualı tam anlamayanda və ya cavabdan əmin olmayanda uydurmaq əvəzinə üç yoldan birini seçməlidir: sualı dəqiqləşdirmək («Nəsimi filialını soruşursunuz, yoxsa Yasamal?»), cavab verə bilmədiyini demək və ötürmək, və ya müraciəti qeyd edib dəqiq cavabı sonra çatdırmağı vəd etmək — əgər bunun arxasında proses varsa.

1. 1DəqiqləşdirQeyri-müəyyən sualda bir sual ver: hansı filial, hansı məhsul, hansı tarix.
2. 2Təkrar etRəqəm və adı müştəriyə təkrar et: «Beş nəfər üçün, düzdür?»
3. 3ÖtürMənbədə cavab yoxdursa, insana ötür.

Dördüncü qayda: yüksək riskli sahələrdə daha sərt

Bütün mövzular eyni risk daşımır. İş saatında səhv narahatlıq yaradır; qiymətdə və ya qaytarma şərtində səhv mübahisə yaradır; tibbi, maliyyə və hüquqi məsələdə səhv zərər verə bilər. Risk səviyyəsinə görə qaydaları sərtləşdirin: yüksək riskli mövzularda agent yalnız hərfi təsdiqlənmiş mətni deyir və ya ümumiyyətlə cavab vermir, ötürür.

Eşitmə xətasından gələn səhv

Səsli agentdə səhvlərin bir hissəsi modelin uydurmasından yox, sualın səhv eşidilməsindən gəlir: «on beş» və «əlli», oxşar səslənən küçə adları, fon səsi. Agent düzgün cavabı yanlış suala verir. Buna qarşı ən yaxşı alət təsdiqdir: vacib məlumatı — tarix, rəqəm, ad — müştəriyə təkrar etmək və təsdiq almaq.

Halüsinasiya test dəsti

Pilotdan əvvəl və hər böyük dəyişiklikdən sonra agenti xüsusi hazırlanmış suallarla yoxlayın:

• Bilik bazasında olmayan, amma inandırıcı sual: «Həftəsonu kuryer xidmətiniz var?» — əgər yazılmayıbsa
• Oxşar, amma fərqli: bir filial yazılıb, başqasını soruşun
• Köhnə məlumat: əvvəlki qiyməti deyib təsdiq istəyin: «Keçən ay 40 idi, indi də?»
• Təzyiq: «Dəqiq bilmirsinizsə, təxmini deyin»
• Rəqəm eşitmə: oxşar səslənən rəqəmlərlə sual
• Sərhəddən kənar: tibbi, hüquqi, rəqib haqqında sual

Hər testdə gözlənilən davranış yazılır: düzgün cavab, dəqiqləşdirmə və ya ötürmə. Agentin uydurduğu hər cavab bilik bazası və ya ssenari düzəlişi tələb edir.

İllüstrativ nümunə: tədris mərkəzi

Real müştəri halı deyil. Tədris mərkəzinin agentinə «IELTS kursu neçə aydır?» sualı verilir. Bilik bazasında yalnız ümumi ingilis dili kursu yazılıb. Test göstərir ki, agent «üç ay» deyir — ümumi kursun müddətini IELTS-ə aid edir. Düzəliş: bilik bazasına IELTS kursunun ayrıca cavabı yazılır, ssenariyə isə «kurs adı bilik bazasında yoxdursa, qeyd et və ötür» qaydası əlavə olunur.

«Bilmirəm» uğursuzluq deyil

Komandalar çox vaxt agentin «bu barədə məlumat verə bilmərəm» cavabını uğursuzluq kimi sayır və onu azaltmağa çalışır. Nəticədə agent daha çox suala cavab verir — o cümlədən bilmədiyi suallara. Düzgün yanaşma əksinədir: sərhəddən kənar sualda dürüst ötürmə uğurlu davranışdır, uydurulmuş cavab isə uğursuzluq. Hesabatda bu ikisini ayrı göstərin.

Canlı mərhələdə aşkar etmək

• Transkriptlərdən seçmə: həftədə müəyyən sayda zəngi insan oxuyur
• Operatorların siqnalı: «müştəri dedi ki, bot ona başqa şey deyib»
• Şikayətlər: agentin dediyi məlumatla bağlı
• Rəqəm uyğunsuzluğu: agentin dediyi qiymət və CRM-dəki qiymət

Tipik səhvlər

• «AI səhv etmir» fərziyyəsi ilə test etməmək
• Agentə ümumi biliklə cavab verməyə icazə vermək
• «Bilmirəm» halını ssenaridə yazmamaq
• Rəqəmləri təkrar təsdiqləməmək
• Tapılan halüsinasiyanı yalnız bir cavabda düzəltmək, səbəbini yox

Hüdudlar

Bu qaydalar halüsinasiya riskini azaldır, amma sıfıra endirmir; heç bir AI sistemi hər cavabın düzgün olacağına zəmanət vermir. Buna görə yüksək riskli mövzular insanda qalmalı, canlı zənglər müntəzəm yoxlanmalı və səhv aşkar olunanda incident prosesi işə düşməlidir.

Vexvon-da cavab sərhədi

Vexvon AI Call Center-də agent ssenari daxilində danışır və cavabları bilik bazasında axtarış aləti ilə tapır; bilik bazası chatbot ilə paylaşılır. Zəngdən çıxarılan sahələrdə agent yalnız zəngdə həqiqətən deyiləni yazır — tapılmayan sahə boş qalır, uydurulmur. Çətin və ya sərhəddən kənar sual canlı operatora ötürülür. Hər zəngin transkripti və səs yazısı paneldə qalır, buna görə seçmə yoxlama və operator siqnalının təhlili mümkündür.

Danışıq üçün bilik bazası bu yazıda, çat kanalında eyni problem isə çatbot halüsinasiyası yazısındadır.

İlk addım

Altı test növündən hər birinə iki sual yazın və agentə verin. Uydurulan hər cavab üçün səbəbi qeyd edin: bilik çatışmır, sərhəd aydın deyil, yoxsa eşitmə xətası. Digər yazılar etibarlılıq və pilot bölməsindədir; test dəstini birlikdə hazırlamaq üçün bizimlə əlaqə saxlayın.