Fai sì che gli LLM verifichino le loro risposte e includano le fonti

Cos’è RIG (Retrieval Interleaved Generation)?

La Retrieval Interleaved Generation, o RIG in breve, è un metodo di IA all’avanguardia che combina in modo fluido la ricerca di informazioni e la creazione di risposte. In passato, i modelli di IA utilizzavano RAG (Retrieval Augmented Generation) o la generazione, ma RIG fonde questi processi per migliorare l’accuratezza dell’IA. Intrecciando recupero e generazione, i sistemi IA possono attingere a una base di conoscenza più ampia, offrendo risposte più precise e rilevanti. L’obiettivo principale di RIG è ridurre gli errori e aumentare l’affidabilità delle risposte dell’IA, rendendolo uno strumento essenziale per gli sviluppatori che vogliono ottimizzare l’accuratezza dell’IA. Così, la Retrieval Interleaved Generation si propone come alternativa a RAG (Retrieval Augmented Generation) per generare risposte basate su contesto con IA.

Come funziona RIG (Retrieval Interleaved Generation)?

Ecco come funziona RIG. Le fasi seguenti sono ispirate all’articolo originale del blog, che si concentra maggiormente su casi d’uso generali utilizzando l’API Data Commons. Tuttavia, nella maggior parte dei casi, potresti voler utilizzare sia una [base di conoscenza generica (ad esempio Wikipedia o Data Commons) sia i tuoi dati personali. Ecco come puoi sfruttare la potenza dei flussi in FlowHunt per creare un chatbot RIG dalla tua base di conoscenza e da una base di conoscenza generale come Wikipedia.

1. Una query dell’utente viene fornita a un generatore, che genera una risposta di esempio con la citazione delle relative sezioni. In questa fase, il generatore potrebbe anche produrre una buona risposta ma con dati e statistiche errati (allucinati).

2. Nella fase successiva, utilizziamo un AI Agent che riceve questo output e affina i dati in ogni sezione collegandosi a Wikipedia e, inoltre, aggiunge le fonti per ogni sezione corrispondente.

Come puoi vedere, questo metodo migliora notevolmente l’accuratezza del chatbot e garantisce che ogni sezione generata abbia una fonte e sia basata sulla verità.

Come creare un chatbot RIG in FlowHunt?

Aggiungi la prima fase (Generatore di risposte di esempio “grezzo”):

La prima parte del flusso è composta da input chat, un template di prompt e un generatore. Basta collegarli insieme. La parte più importante è il template del prompt. Ho utilizzato il seguente:

È fornita la query dell’utente. In base alla query dell’utente, genera la migliore risposta possibile con dati o percentuali fittizie. Dopo ciascuna delle diverse sezioni della tua risposta, includi quale fonte usare per ottenere i dati corretti e perfezionare quella sezione con dati corretti. Puoi specificare di scegliere la fonte di conoscenza interna per cercare dati personalizzati sul prodotto o servizio dell’utente oppure usare Wikipedia come fonte di conoscenza generale.

Esempio di input: Quali paesi sono i migliori in termini di energia rinnovabile e qual è la migliore metrica per misurarlo e qual è quel valore per il paese al top?
Esempio di output: I principali paesi per l’energia rinnovabile sono Norvegia, Svezia, Portogallo, USA [Cerca su Wikipedia con la query “Top Countries in renewable Energy”], la metrica usuale per l’energia rinnovabile è il Capacity factor [Cerca su Wikipedia con la query “metric for renewable energy”], e il primo paese ha un capacity factor del 20% [cerca su Wikipedia “biggest capacity factor”]

Iniziamo ora!
Input utente: {input}

Qui utilizziamo il prompting Few Shot per far sì che il generatore produca esattamente il formato desiderato.

Aggiungi la parte di verifica dei fatti:

Ora, aggiungi la seconda parte, che verifica l’output della risposta di esempio e lo affina in base a fonti reali. Qui utilizziamo Wikipedia e AI Agent, poiché è più semplice e flessibile collegare Wikipedia agli AI Agent rispetto ai semplici Generator. Collega l’output del generatore all’AI Agent e collega lo strumento Wikipedia all’AI Agent. Ecco l’obiettivo che uso per l’AI Agent:

Ti viene fornita una risposta di esempio alla domanda dell’utente. La risposta di esempio potrebbe includere dati errati. Usa lo strumento Wikipedia nelle sezioni date con la query specificata per utilizzare le informazioni di Wikipedia e perfezionare la risposta. Includi il link di Wikipedia in ciascuna delle sezioni specificate. RECUPERA I DATI DAI TUOI STRUMENTI E PERFEZIONA LA RISPOSTA IN QUELLA SEZIONE. AGGIUNGI IL LINK ALLA FONTE IN QUELLA PARTICOLARE SEZIONE E NON ALLA FINE.

Allo stesso modo, puoi aggiungere Document Retriever all’AI Agent, che può collegarsi alla tua base di conoscenza personalizzata per recuperare documenti.

Puoi provare questo flusso esatto qui.

Capire la Retrieval-Augmented Generation (RAG)

Per apprezzare davvero RIG, è utile prima guardare al suo predecessore, la Retrieval-Augmented Generation (RAG). RAG unisce i punti di forza dei sistemi che recuperano dati rilevanti e dei modelli che generano contenuti coerenti e adatti. Il passaggio da RAG a RIG è un grande passo avanti. RIG non solo recupera e genera, ma intreccia questi processi per una maggiore accuratezza ed efficienza. Questo consente ai sistemi IA di migliorare la loro comprensione e produzione in modo graduale, offrendo risultati non solo accurati ma anche rilevanti e approfonditi. Unendo recupero e generazione, i sistemi IA possono attingere a enormi quantità di informazioni mantenendo le risposte coerenti e pertinenti.

Il futuro della Retrieval Interleaved Generation

Il futuro della Retrieval Interleaved Generation sembra promettente, con molte innovazioni e direzioni di ricerca all’orizzonte. Con la continua crescita dell’IA, RIG è destinata a giocare un ruolo chiave nel plasmare il mondo del machine learning e delle applicazioni IA. Il suo potenziale impatto va oltre le capacità attuali, promettendo di trasformare il modo in cui i sistemi IA elaborano e generano informazioni. Con la ricerca in corso, ci aspettiamo ulteriori innovazioni che miglioreranno l’integrazione di RIG in vari framework di IA, portando a sistemi ancora più efficienti, accurati e affidabili. Con il progredire di questi sviluppi, l’importanza di RIG non farà che aumentare, consolidando il suo ruolo come pilastro dell’accuratezza e delle prestazioni dell’IA.

In conclusione, la Retrieval Interleaved Generation rappresenta un grande passo avanti nella ricerca dell’accuratezza e dell’efficienza dell’IA. Fondendo abilmente i processi di recupero e generazione, RIG migliora le prestazioni dei Large Language Models, potenzia il ragionamento multi-step e offre possibilità entusiasmanti nell’istruzione e nella verifica dei fatti. Guardando al futuro, l’evoluzione continua di RIG darà sicuramente vita a nuove innovazioni nell’IA, consolidando il suo ruolo come strumento fondamentale nella ricerca di sistemi di intelligenza artificiale più intelligenti e affidabili.