Chatbot z bazy wiedzy (RAG) dla firmy

Nowy pracownik zamiast przekopywać folder z 200 plikami pyta: „jak wystawiamy fakturę korygującą?” i dostaje procedurę z linkiem do dokumentu. Tak może wyglądać korzystanie z wewnętrznej bazy wiedzy z chatbotem RAG. Podobnie można udostępnić klientom odpowiedzi z regulaminu, instrukcji czy cennika.

Żeby to działało, trzeba zadbać o dokumenty, wyszukiwanie i sposób sprawdzania odpowiedzi. Samo wrzucenie plików do narzędzia nie daje jeszcze pewności, że bot dobrze z nich skorzysta.

Co się dzieje po zadaniu pytania

RAG łączy wyszukiwanie w materiałach z generowaniem odpowiedzi. Najpierw system szuka fragmentów związanych z pytaniem. Potem przekazuje je modelowi, który na ich podstawie układa odpowiedź. To podstawowy schemat opisany również w dokumentacji Microsoftu o RAG.

Załóżmy, że klient pyta o koszt dostawy. System znajduje odpowiedni fragment cennika, a model wyjaśnia warunki i podaje link do źródła. Dzięki temu klient może zajrzeć do dokumentu, na którym opiera się odpowiedź.

Przygotowanie takiej bazy nie oznacza samo w sobie trenowania modelu na twoich plikach. Model dostaje znalezione fragmenty przy obsłudze pytania. Osobno trzeba ustalić, co dostawca robi z przesyłanymi danymi i jak długo je przechowuje.

Jakie pytania można w ten sposób obsłużyć

Dobrze zacząć od pytań, na które odpowiedzi już gdzieś są, tylko trudno je znaleźć. Pracownik pyta, gdzie zgłosić reklamację do dostawcy. Handlowiec sprawdza, czy dana usługa obejmuje montaż. Klient szuka instrukcji wymiany części.

W każdym z tych przypadków można wskazać dokument i sprawdzić, czy odpowiedź się z nim zgadza. Przyda się też wyszukiwanie uwzględniające znaczenie: ktoś może pytać o „anulowanie zamówienia”, chociaż instrukcja używa innego określenia. Nadal trzeba sprawdzić, czy system znalazł właściwą procedurę i nie pomylił podobnych spraw.

Jeśli pytanie dotyczy statusu konkretnego zamówienia, sama instrukcja obsługi nie wystarczy. Bot potrzebuje dostępu do aktualnych danych w systemie zamówień. Takie połączenie jest dodatkową częścią wdrożenia.

Czego baza wiedzy za ciebie nie załatwi

Nie ogarnie sprzecznych dokumentów bez zasad wyboru źródła. Jeśli w bazie leżą trzy wersje cennika i nikt nie oznaczył, która obowiązuje, system może sięgnąć po starą cenę. Trzeba oznaczyć wersje, usunąć nieaktualne pliki albo określić, kiedy każda z nich ma zastosowanie.

Podobnie z informacjami, których nikt nie spisał. Pytanie o wyjątek uzgadniany zwykle przez telefon powinno skończyć się odpowiedzią „nie mam tego w dokumentach” i wskazaniem osoby, która może pomóc. To poprawne zachowanie, choć ktoś liczący na odpowiedź na każde pytanie może być rozczarowany.

RAG nie usuwa jednak ryzyka zmyślania. Wyszukiwarka może pominąć potrzebny fragment, a model może źle odczytać warunek albo dopisać coś od siebie. Sam link do dokumentu też nie dowodzi, że odpowiedź jest poprawna. W testach trzeba zajrzeć do źródła i porównać jego treść z tym, co napisał bot.

Nie warto też zlecać samemu wyszukiwaniu podsumowania wszystkich kwot z trzydziestu faktur. Może odnaleźć tylko część dokumentów. Do takiego zadania potrzebne są kompletne dane i obliczenia w arkuszu albo kodzie; chatbot może być sposobem zlecania tej pracy.

Jak sprawdzić, czy odpowiedzi są użyteczne

Przygotuj pytania, które rzeczywiście padają w firmie. Do każdego dopisz oczekiwaną odpowiedź i dokument, z którego wynika. Dodaj kilka pytań bez odpowiedzi w bazie oraz takie, w których łatwo pomylić dwa produkty lub wersje usługi.

Przy każdej próbie sprawdź:

czy system znalazł właściwy dokument;
czy odpowiedź uwzględnia warunki i wyjątki zapisane w źródle;
czy bot potrafi zgłosić brak informacji;
czy użytkownik dostaje wyłącznie treści, do których ma dostęp.

Ostatni punkt ma znaczenie zwłaszcza wewnątrz firmy. Instrukcja wystawiania faktur i dokument z wynagrodzeniami mogą leżeć na tym samym dysku, ale nie powinny być dostępne dla tych samych osób. Uprawnienia trzeba uwzględnić już przy wyszukiwaniu dokumentów; opisuje to również dokumentacja kontroli dostępu w RAG.

Jeśli odpowiedzi mają trafiać do klientów, można zacząć od podpowiedzi dla pracownika. Dostaje szkic ze źródłem, sprawdza go i poprawia. Wtedy widać, przy jakich pytaniach bot pomaga, a przy jakich dokłada pracy. Zakres późniejszego samodzielnego odpowiadania zależy od wyników tych testów i skutków ewentualnego błędu.

Kto będzie aktualizował dokumenty

Zmiana cennika musi trafić również do materiałów, z których korzysta bot. W zależności od rozwiązania może to wymagać podmiany pliku, ponownego wczytania danych albo automatycznej synchronizacji. Warto ustalić, kto to robi i po czym poznaje, że nowa wersja jest już dostępna.

To samo dotyczy kosztów: dochodzi przygotowanie dokumentów, wyszukiwanie, użycie modelu, integracje i utrzymanie. Rozbicie tych wydatków opisuję we wpisie o kosztach wdrożenia AI.

Na pierwszą próbę wystarczy wybrać jeden obszar, np. pytania o dostawę. Zbierz aktualne dokumenty i pytania od klientów. Podczas testu zobaczysz również, których odpowiedzi w tych dokumentach brakuje.