Czatbot RAG w czasie rzeczywistym dla konkretnej domeny

Czatbot w czasie rzeczywistym, który korzysta z wyszukiwarki Google ograniczonej do Twojej własnej domeny, pobiera odpowiednie treści z sieci i wykorzystuje OpenAI LLM do udzielania odpowiedzi na zapytania użytkowników z aktualnymi informacjami. Idealny do udzielania precyzyjnych, domenowo-specyficznych odpowiedzi w obsłudze klienta lub portalach informacyjnych.

Jak działa przepływ AI - Czatbot RAG w czasie rzeczywistym dla konkretnej domeny

Jak działa przepływ AI

Wprowadzanie zapytania przez użytkownika

Rejestruje pytania użytkownika za pomocą wejścia czatu lub predefiniowanych przycisków.

Rozszerzanie zapytania

Parafrazuje i rozwija zapytanie użytkownika w celu poprawy trafności wyszukiwania.

Wyszukiwanie Google w wybranej domenie

Wykonuje wyszukiwanie w Google ograniczone do określonej domeny przy użyciu rozszerzonych zapytań.

Pobieranie treści z sieci

Pobiera treści z najtrafniejszych adresów URL zwróconych przez wyszukiwarkę.

Generowanie odpowiedzi przez LLM

Wykorzystuje OpenAI LLM do generowania końcowej, wzbogaconej o kontekst odpowiedzi wyświetlanej użytkownikowi.

Prompty wykorzystane w tym przepływie

Poniżej znajduje się pełna lista wszystkich promptów wykorzystanych w tym przepływie do osiągnięcia jego funkcjonalności. Prompty to instrukcje przekazywane modelowi AI w celu generowania odpowiedzi lub wykonywania działań. Kierują one AI w zrozumieniu intencji użytkownika i generowaniu odpowiednich wyników.

Komponenty wykorzystane w tym przepływie

Poniżej znajduje się pełna lista wszystkich komponentów wykorzystanych w tym przepływie do osiągnięcia jego funkcjonalności. Komponenty są podstawowymi elementami każdego przepływu AI. Pozwalają tworzyć złożone interakcje i automatyzować zadania poprzez łączenie różnych funkcjonalności. Każdy komponent służy określonemu celowi, takiemu jak obsługa danych wejściowych użytkownika, przetwarzanie danych lub integracja z zewnętrznymi usługami.

Opis przepływu

Cel i korzyści

Przegląd

Ten przepływ pracy wdraża prostego czatbota RAG (Retrieval-Augmented Generation), który korzysta z wyszukiwarki Google w czasie rzeczywistym, aby pobierać najnowsze informacje z internetu — można go skonfigurować tak, by ograniczał wszystkie wyszukiwania do konkretnej domeny. Głównym celem jest stworzenie czatbota, który może odpowiadać na zapytania użytkowników, wykorzystując najbardziej aktualne i trafne treści znalezione online, co jest niezwykle wartościowe tam, gdzie statyczne bazy wiedzy nie wystarczają.

Kluczowe komponenty i przepływ

Przepływ składa się z kilku modułowych bloków, z których każdy odpowiada za określoną funkcjonalność. Poniżej znajduje się podział struktury i działania przepływu:

KomponentRola
Chat InputOdbiera zapytania i wiadomości użytkownika.
Chat HistoryPrzechowuje historię rozmowy dla odpowiedzi uwzględniających kontekst.
Query ExpansionParafrazuje wejście użytkownika na wiele alternatywnych zapytań, by zwiększyć zakres wyszukiwania.
Google SearchPrzeprowadza wyszukiwania w Google, ograniczone przez konfigurowalny prefiks domeny.
URL RetrieverPobiera treści z adresów URL zwróconych przez wyszukiwanie Google.
Prompt TemplateStrukturyzuje kontekst, wejście użytkownika i historię dla modelu językowego.
OpenAI LLMGeneruje odpowiedzi za pomocą modelu językowego (np. GPT-3/4).
GeneratorWywołuje LLM z promptem i kontekstem, aby uzyskać odpowiedź.
Chat OutputWyświetla odpowiedzi czatbota użytkownikowi.
Button WidgetsUdostępnia szybkie przykładowe zapytania do wypróbowania jednym kliknięciem.
Chat Opened TriggerInicjuje rozmowę i wyświetla przyciski szybkiego startu.

Jak działa przepływ pracy

Gdy użytkownik otwiera czat, aktywuje się Chat Opened Trigger. Inicjuje on interfejs czatu i prezentuje kilka Button Widgets z przykładowymi pytaniami (np. “jaki dinozaur ma 500 zębów?”). Po kliknięciu przycisku lub wpisaniu własnej wiadomości przez Chat Input, przepływ pracy przebiega następująco:

  1. Rozszerzanie zapytania: Wejście użytkownika jest parafrazowane na kilka wersji, aby zmaksymalizować szanse na uzyskanie trafnych wyników wyszukiwania.

  2. Wyszukiwanie Google: Rozszerzone zapytania wysyłane są do wyszukiwarki Google. Domyślnie wyszukiwanie jest ograniczone do konkretnej domeny (ustawionej przez pole query_prefix, np. site: www.TWÓJADRES.com), co pozwala skoncentrować wiedzę czatbota na Twojej stronie lub wybranym źródle.

  3. Pobieranie treści z URL: Przepływ pobiera treści z najważniejszych wyników wyszukiwania (adresów URL) jako pełne dokumenty.

  4. Budowanie promptu: Pobraną treść, wejście użytkownika i historię rozmowy łączy się za pomocą komponentu Prompt Template, aby zapewnić bogaty kontekst odpowiedzi.

  5. Generowanie odpowiedzi przez model językowy: Prompt trafia do OpenAI LLM, który generuje spójną i kontekstowo trafną odpowiedź.

  6. Wyświetlanie odpowiedzi: Wygenerowana odpowiedź prezentowana jest użytkownikowi przez Chat Output.

Przykładowy przebieg użycia

  • Użytkownik otwiera czat: pojawia się wiadomość powitalna i trzy przykładowe przyciski z pytaniami.
  • Użytkownik klika “kiedy jest dzień matki 2024?”: Pytanie natychmiast pojawia się w czacie (dla szybkiej informacji zwrotnej).
  • Przepływ przechodzi przez rozszerzanie zapytania, wyszukiwanie, pobieranie, budowanie promptu i generowanie odpowiedzi przez LLM, po czym wyświetla odpowiedź.

Dlaczego ten przepływ pracy jest przydatny

  • Wiedza w czasie rzeczywistym: Czatbot odpowiada na pytania, korzystając z najnowszych informacji dostępnych w sieci lub wybranej domenie.
  • Ograniczenie do domeny: Modyfikując query_prefix, zapewniasz, że czatbot korzysta wyłącznie z informacji zaufanych (np. z Twojej strony lub bazy wiedzy), co podnosi wiarygodność odpowiedzi.
  • Świadomość kontekstu: Uwzględnianie historii czatu i pobranych treści w promptcie pozwala na precyzyjnie dostosowane odpowiedzi w wieloetapowych rozmowach.
  • Skalowalność i automatyzacja: Modułowa budowa pozwala łatwo rozbudowywać lub dostosowywać przepływ pracy do różnych domen i wdrażać go na szeroką skalę.
  • Doświadczenie użytkownika: Przyciski szybkiego startu i natychmiastowa informacja zwrotna sprawiają, że czatbot jest łatwy w obsłudze.

Podsumowanie przepływu pracy – tabela

KrokOpis
Wejście użytkownikaUżytkownik wpisuje pytanie lub klika przycisk szybkiego startu
Rozszerzanie zapytaniaWejście jest parafrazowane w celu szerszego zakresu wyszukiwania
Wyszukiwanie GoogleWyszukiwania wykonywane są w Google, ograniczone do wybranej domeny
Pobieranie treści z URLPobierane są treści z najlepszych wyników wyszukiwania
Budowanie promptuWejście użytkownika, wyniki wyszukiwania i historia czatu są łączone w prompt
Generowanie przez LLMOpenAI LLM generuje odpowiedź z pełnym kontekstem
WyjścieOdpowiedź jest wyświetlana użytkownikowi

Dostosowanie

  • Aby skoncentrować czatbota na własnej domenie, zmodyfikuj pole query_prefix w komponencie Google Search (np. site: www.TWÓJADRES.com).
  • Dodawaj lub zmieniaj przykładowe zapytania za pomocą komponentów Button Widget, aby lepiej dopasować doświadczenie użytkownika.

Idealne zastosowania

  • Boty wsparcia klienta, które zawsze odpowiadają na podstawie aktualnej dokumentacji lub treści z Twojej strony.
  • Wewnętrzni asystenci wiedzy ograniczeni do intranetu lub portalu wsparcia Twojej firmy.
  • Każdy czatbot, który zawsze musi cytować lub opierać się na zewnętrznych, autorytatywnych źródłach (np. dla zgodności lub dokładności).

Automatyzując proces wyszukiwania, pobierania i generowania odpowiedzi, ten przepływ pracy oszczędza czas ręcznego researchu i zapewnia użytkownikom zawsze najbardziej aktualne i trafne informacje.

Let us build your own AI Team

We help companies like yours to develop smart chatbots, MCP Servers, AI tools or other types of AI automation to replace human in repetitive tasks in your organization.

Dowiedz się więcej