Blog

RAG Evaluation – Woher wissen wir eigentlich, dass es stimmt?

Der Chatbot ist live. Die erste Begeisterung legt sich. Dann kommt die Frage aus dem Management, vor der sich jeder Entwickler fürchtet: "Woher wissen wir eigentlich sicher, dass der Bot dem Kunden keinen Unsinn erzählt?"

Size matters: RAG & Data Ingestion

Size matters. Zumindest, wenn es um die Daten für deine KI geht. Wir erleben es in Projekten immer wieder: Das LLM (Large Language Model) ist State-of-the-Art (z.B. GPT-5), aber die Antworten sind ungenau oder verfehlen den Kontext. Der Schuldige ist oft nicht das Modell, sondern das „Chunking“.
 

RAG-Systeme optimieren: Warum Reranking der Schlüssel zu präzisen Antworten ist

Schon einmal erlebt? Das RAG-System liefert viele Dokumente – aber die Antwort des LLM bleibt trotzdem ungenau.

State Management bei fortschrittlichen Chatbots

Mehr als nur Frage & Antwort: So verwalten Chatbots den Gesprächskontext (State Management)Chatbots sind heute allgegenwärtig, aber ihre wahre Intelligenz zeigt sich nicht nur in der Beantwortung einzelner Fragen, sondern in ihrer Fähigkeit, sich an den Verlauf eines Gesprächs zu erinnern. 

Chatbots: Das Fundament des Erfolgs

Ein Chatbot ist nur so intelligent, präzise und hilfreich wie die Daten, mit denen er trainiert wurde. Diese einfache Wahrheit ist der Dreh- und Angelpunkt für die Entwicklung erfolgreicher dialogorientierter KI-Systeme. Während Aspekte wie die Benutzeroberfläche oder die Integrationsfähigkeit wichtig sind, bildet die inhaltliche Qualität der Datenbasis das unumstößliche Fundament.

RAG (Retrieval-Augmented Generation) in a nutshell

RAG (Retrieval-Augmented Generation) ist der Weg, um externe, aktuelle Daten in die "Blackbox" eines Large Language Models (LLM) einzuspeisen, ohne es neu trainieren zu müssen.

Suchtechnologien: RAG vs SolR

Die Retrieval-Augmented Generation (RAG) ist eine revolutionäre Technologie, die modernen KI-Chatbots und Large Language Models (LLMs) zugrunde liegt. Sie löst ein zentrales Problem reiner LLMs: die Halluzination (das Erfinden von Fakten) und die Beschränkung auf veraltetes Trainingswissen.

API für gesicherten automatisierten Datei-Upload

Eine robuste und gesicherte API für den Datei-Upload ist ein zentraler Baustein, um einen AI Bot kontinuierlich und automatisiert mit neuen Inhalten zu versorgen. Diese Schnittstelle ermöglicht es, Dokumente (z.B. PDFs, Textdateien, CSVs) direkt in das Backend hochzuladen, wo sie anschließend automatisch verarbeitet und in die Wissensdatenbank des Chatbots importiert werden.

AI Bot: Slack und Confluece Integration

Der AI Bot verfügt ab sofort über dedizierte Schnittstellen zu zwei zentralen Plattformen für die Teamarbeit: Slack und Confluence

Mehr als nur Kommunikation: Wie ein Chatbot mit „Einfacher Sprache“ und JWT-Authentifizierung überzeugt

Chatbots  automatisieren den Kundenservice, verbessern die Effizienz und machen Webangebote intelligenter. Wir beleuchten zwei herausragende konfigurierbare Features des rms. AI Bots: Kommunikation in "Einfacher Sprache" und die Einbindung mittels JWT-Authentifizierung.

Servermonitoring mit Prometheus und Grafana

Prometheus und Grafana sind leistungsstarke Tools, die dabei helfen, die Leistung und Stabilität von Websites, Apps oder IT-Systemen zu überwachen. Wir verwendet Diese Monitoringlösungen für eine permanente Überwachung aller wichtigen Systemressourcen.

Update Debian 11 auf Debian 12 (bookworm)

Im Juni 2023 wurde Debian 12 released. Wir haben die neue Distribution getestet und bereits im produktiven Einsatz. Hier findet sich eine kurze Beschreibung, wie das Update von Version 11 auf 12 klappt.

Security: Fix Weak Key Exchange Algorithm in SSH

Ein Security-Scan eines Servers meldet folgendes Ergebnis: The remote SSH server is configured to allow / support weak key exchange (KEX) algorithm(s). Wie lässt sich die SSH-Verbindung absichern?

KI-Übersetzung in TYPO3

Übersetzungen von TYPO3 Seiten zu erstellen ist oft lästig und immer aufwändig. Hier wird gezeigt, wie sich Inhalte per Klick mittels deepL in fast beliebige Zielsprachen übersetzen lassen.

Integration von KI / AI in TYPO3

Anwendungen, die auf Sprachmodellen wie GPT-3 oder BERT basieren, werden immer populärer und die Anzahl der Tools wie z.B. ChatGPT erhöht sich beinahe täglich. Dieser Beitrag bezieht sich konkret auf die Integration von GPT-3 in TYPO3.

Sicheres VPN mit Wireguard und wg-easy

Automatische Verbindung von SSH über einen Proxy

Wie konfiguriert man automatisch die Verwendung eines Proxies für bestimmte SSH-Verbindungen um z.B. aus dem Homeoffice eine statische IP innerhalb eines Firmennetzwerks zu verwenden?

Content-Security-Policy (CSP)

Content-Security-Policy ist ein Sicherheitsfeature, welches Webdesigner und Serveradministratoren einsetzen können, um Angriffe durch z.B. Cross-Site-Scripting (XSS) zu verhindern.

VirtualBox VDI Image verkleinern

Virtual Box VDI Images können im Lauf der Zeit viel relativ groß werden. Dies ist eine kurze Anleitung zum Verkleinern dieser Images.

TYPO3 Multi-Factor Authentifizierung

TYPO3 V11 beinhaltet 2-Faktor-Authentifizierung im Core. Damit lassen sich einfach sicherer Authentifizierungsmechanismen für alle Backendlogins implementieren.

Thumbnails und Paginierung in TYPO3 11

Fehlende Thumbnails im Backend und nicht mehr funktionierende Paginierung bei news oder solr im Frontend. Diese kleine Anleitung zeigt wie die Thumbnails wieder angezeigt werden.

Übersetzen von XMLs mit DeepL

Automatisiern von komplexen und aufwändigen manuellen Übersetzungsprozessen mittels der AI von DeepL über eine php-API.

TYPO3 PageTitleProvider für eigene Extensions

Erstellen von eigenen PageTitleProvidern für TYPO3. Anwendungsfälle sind Erweiterungen, die eine einzelne Seite für die Darstellung verschiedener Inhalte verwenden wie z.b die Einzelansichten von News oder Blog-Posts.