Aangepaste Guardrail
Custom Guardrail gebruikt een AI-model en prompt om gebruikersinvoer te valideren, zodat alleen relevante onderwerpen door je workflow worden toegelaten.
Componentbeschrijving
Hoe de Aangepaste Guardrail-component werkt
Custom Guardrail-component
De Custom Guardrail-component fungeert als een intelligente filter binnen een AI-workflow en zorgt ervoor dat gebruikersinvoer voldoet aan specifieke criteria die door de workflowontwerper zijn ingesteld. Deze component maakt gebruik van een taalmodel (LLM) in combinatie met een aanpasbare prompt om de conversatie of gegevens te valideren en te sturen.
Wat doet de component
In de kern fungeert de Custom Guardrail als poortwachter voor gebruikersinvoer. Het gebruikt een prompt (de “Guardrail Prompt”) om het LLM te instrueren wat als acceptabele inhoud wordt beschouwd. Zo beperkt de standaardprompt gesprekken strikt tot sportonderwerpen en blokkeert alle niet-gerelateerde of onzinnige (gibberish) invoer. Dit mechanisme zorgt ervoor dat de AI-workflow gefocust blijft en niet afwijkt van het beoogde doel.
Hoe werkt het
- De component ontvangt een invoertekst (meestal een gebruikersbericht).
- Deze invoer wordt samen met de guardrail-prompt naar het geselecteerde LLM gestuurd.
- Het LLM beoordeelt de invoer op basis van de prompt en bepaalt of deze aan de criteria voldoet.
- Afhankelijk van het resultaat geeft de component het bericht door via één van de twee routes: geaccepteerd (true) of afgewezen (false).
Invoer
| Naam | Type | Omschrijving |
|---|---|---|
| LLM | HandleInput | Het taalmodel dat wordt gebruikt om de guardrail te beoordelen en af te dwingen. |
| Guardrail Prompt | PromptInput | De instructie die aan het LLM wordt gegeven over welke inhoud is toegestaan. |
| Invoertekst | Message | Het gebruikersbericht of de inhoud die gevalideerd moet worden. |
- LLM: Kies het model dat je wilt gebruiken als guardrail-handhaver. Dit biedt flexibiliteit om verschillende LLM’s te gebruiken die bij jouw behoeften passen.
- Guardrail Prompt: Pas aan hoe streng of soepel de guardrail moet zijn door de prompt te bewerken.
- Invoertekst: De daadwerkelijke tekst die gevalideerd moet worden.
Uitvoer
| Naam | Type | Omschrijving |
|---|---|---|
| True Route | Message | Uitvoer als de invoertekst door de guardrail-controle komt (voldoet aan de criteria). |
| False Route | Message | Uitvoer als de invoertekst niet aan de criteria voldoet en wordt gefilterd/afgewezen. |
- True Route: Als de invoer aan de guardrail voldoet, wordt deze via deze uitvoer voor verdere verwerking doorgestuurd.
- False Route: Als de invoer off-topic is of niet door de controle komt, wordt deze via deze uitvoer gestuurd, zodat je deze anders kunt afhandelen (bijv. een waarschuwing sturen of om verduidelijking vragen).
Waarom deze component gebruiken?
- Kwaliteitscontrole: Stel strikte onderwerpgrenzen of inhoudsregels in binnen je AI-toepassingen.
- Veiligheid en relevantie: Voorkom dat AI reageert op off-topic, irrelevante of ongepaste inhoud.
- Aanpasbare handhaving: Pas de guardrail-prompt eenvoudig aan op veranderende eisen of beleid.
- Naadloze integratie: Werkt met verschillende LLM’s en accepteert flexibele input/output-routing binnen je workflow.
Gebruikssituaties
- Chatbots modereren zodat ze on-topic blijven (bijv. klantenservice, educatieve bots).
- Gebruikersgegenereerde inhoud filteren voordat deze wordt verwerkt of opgeslagen.
- Naleving of juridische vereisten afdwingen in geautomatiseerde AI-interacties.
- Spam of onzinnige invoer voorkomen die workflows kunnen verstoren.
Door de Custom Guardrail-component in je AI-workflow te integreren, krijg je gedetailleerde controle over welke inhoud wordt geaccepteerd. Zo zorg je ervoor dat je AI-systeem zich gedraagt zoals bedoeld en betrouwbare, relevante resultaten levert.
Veelgestelde vragen
- Wat doet de Custom Guardrail-component?
Custom Guardrail controleert gebruikersinvoer aan de hand van een ingestelde prompt met een LLM, zodat alleen invoer die aan jouw criteria voldoet (zoals onderwerpbeperkingen) verdergaat in de workflow.
- Hoe filtert het gebruikersinvoer?
Het gebruikt een guardrail-prompt en een AI-model om gebruikersberichten te analyseren, waarbij geldige invoer automatisch wordt doorgestuurd en alles buiten de opgegeven onderwerpen of regels wordt geblokkeerd of omgeleid.
- Kan ik de guardrail-prompt aanpassen?
Ja, je kunt elke gewenste prompt instellen om je validatielogica te bepalen, zoals het beperken van onderwerpen, het blokkeren van onzin of het naleven van gespreksrichtlijnen.
- Wat gebeurt er met invoer die niet aan de criteria voldoet?
Invoer die niet door de guardrail-controle komt, wordt via een alternatieve route geleid, zodat je afgewezen berichten op de juiste manier in je flow kunt afhandelen.
- Heb ik programmeerkennis nodig om Custom Guardrail te gebruiken?
Er is geen codering nodig. Je stelt de criteria eenvoudig in gewone taal in en koppelt de component in je flow.
Probeer FlowHunt Custom Guardrail
Bescherm je AI-workflows en stuur gebruikersinteracties met de Custom Guardrail-component—ontworpen voor nauwkeurige inputfiltering en onderwerpcontrole.
Meer informatie
