KI Chatbot erstellen mit Wissensdatenbank (RAG-Agent) in n8n

n8n bietet die Möglichkeit, Chatbots mit Retrieval-Augmented Generation (RAG) zu erstellen. Auf Deutsch würde man das wahrscheinlich mit etwas wie "Abruf-unterstützte (Text-)Erzeugung" übersetzen. Das bedeutet, dass wir nicht nur das Large Language Model an sich antworten lassen, sondern dieses Informationen abrufen lassen, um das Wissen des LLMs zu erweitern.

Dadurch wird es uns möglich, einen Chatbot zu erstellen, der ganz individuell auf unseren Anwendungsfall angepasst ist und der auch gezielt Informationen nutzt, die wir ihm zur Verfügung stellen. So können wir zum Beispiel einen Chatbot erstellen, der Fragen zu unserem Unternehmen beantwortet und unseren Kunden somit weiterhilft.

Es wäre allerdings auch zum Beispiel denkbar, dass wir Produktinformationen hinzufügen, um dem Kunden die Auswahl zu erleichtern oder sogar ganze Bedienungsanleitungen hinzufügen, damit der Kunde spezielle Fragen oder Probleme direkt über einen Chatbot klären kann ohne sich durch hunderte PDF-Seiten zu blättern.

Wie das Ganze funktioniert, erfahrt ihr im Video:

Wir nutzen Supabase als Backend-Service für unsere Datenbank. Die Seite mit dem Befehl, um die Tabelle in PostgreSQL bei Supabase vorzubereiten, findet ihr hier.

In dem Tutorial verwenden wir die OpenAI API. Solltet ihr dort noch keinen Account haben, könnt ihr euch hier registrieren und euch euren API-Key generieren.