Der rms. KI Chatbot.

Öffentlich zugängliche Chatbots wie ChatGPT, Gemini oder Perplexity haben gravierende Nachteile, wenn es um die Verarbeitung von individuellen Anfragen oder Anfragen zu aktuellen Themen geht: Sie können diese entweder gar nicht beantworten, da firmeninterne Daten nicht Teil ihrer Trainingsdaten waren oder diese zum Zeitpunkt des Trainings nicht zur Verfügung standen (z. B. aktuelle News). Oder sie beantworten die Fragen basierend auf allgemeinem Wissen, was zu Abweichungen oder Aussagen führen kann, die nicht direkt mit den eigenen Inhalten korrelieren. Es werden ggf. andere Markennamen genannt, Links führen auf Seiten der Konkurrenz etc.
Fragen zu firmeninternen Daten (Supportdatenbanken, interne Dokumente, Forschungsdatenbanken etc.) können in der Regel überhaupt nicht beantwortet werden.

• Unser RAG-Ansatz kombiniert die Stärken eines großen Sprachmodells (LLM) mit Ihrer spezifischen Wissensbasis. Der rms. Chatbot sucht in Ihren Dokumenten nach passenden Informationen und formuliert die Antwort auf Basis dieses Kontexts, was folgende Vorteile bietet:
• Präzise und unternehmensspezifische Antworten: Der Chatbot liefert stets sachlich korrekte und auf Ihr Unternehmen zugeschnittene Informationen.
• Datenschutz gewährleistet: Ihre Daten bleiben unter Ihrer Kontrolle. Wir setzen auf sichere, dedizierte Speicherlösungen, die strengsten Datenschutzrichtlinien entsprechen.
• Einfache Integration: Die Implementierung und Verwaltung des Chatbots erfordert keine Programmierkenntnisse.
• Kontrolle über Inhalte: Sie bestimmen, welche Inhalte der Chatbot lernt und verwendet. Eine unkontrollierte Nutzung Ihrer sensiblen Daten wird ausgeschlossen.
   

Hier werden zuerst alle verfügbaren Daten in sogenannte numerische Vektoren umgewandelt, die die semantische Bedeutung der Inhalte erfassen und in dafür geeigneten Datenbanken, sogenannten Vektordatenbanken, gespeichert. Beispiele hierfür sind z. B. Chroma, Pinecone, Faiss, Elasticsearch oder Milvus. Die Vektordatenbanken ermöglichen eine semantische Ähnlichkeitssuche, das heißt, sie finden Inhalte, die inhaltlich oder kontextuell ähnlich zur Suchanfrage sind, auch wenn die exakten Wörter nicht übereinstimmen. Dies ist vergleichbar mit Anwendungen wie der Suche nach ähnlichen Bildern oder der Erkennung eines Liedes in Shazam durch Vorsingen. Im RAG-Prozess wird bei einer Nutzeranfrage die Vektordatenbank nach den relevantesten Dokumenten durchsucht. Diese Dokumente werden dann als Kontext verwendet, um die Antwort des LLM informativer und genauer zu machen. Dadurch werden die Einschränkungen von LLMs in Bezug auf Wissensaktualität und Quellenangaben deutlich reduziert. Ein RAG-System kann bei Bedarf komplett ohne die Nutzung externer LLM Provider (z. B. OpenAI, Gemini oder Perplexity)  auf einem eigenen Server betrieben werden.

Mittels RAG kann das Datenmanagement zu 100 % gesteuert werden. Es sind beispielsweise die folgenden Szenarien abbildbar. Es ist auch möglich, eigene API-keys zu verwenden.