Kategorie RAG
Die perfekte Rechnungsextraktion: Warum eine Hybrid-Pipeline aus Docling und GOT-OCR-2.0 ein gutes Match ist. Stell dir vor, du musst tausende Rechnungen verarbeiten. Die Dokumente kommen aus ganz Europa: Schweden, Italien, Spanien, Deutschland. Manche sind perfekt digital als PDF erzeugt, andere
EntityGuard: Warum LLMs im Gesundheitswesen eine ‚Sicherheitsleine‘ brauchen Ich habe in den letzten Monaten intensiv an der Integration von Large Language Models (LLMs) in produktive Umgebungen gearbeitet. Dabei ist mir ein Muster aufgefallen: Die Begeisterung über die Fähigkeiten von Modellen
RAG auf CSV- und SQL-Daten: Warum Embeddings allein nicht reichen „Wie hoch ist unser Gesamtgewinn bei Möbeln?“ – und das RAG-System antwortet falsch. Nicht weil das LLM dumm ist. Nicht weil die Embeddings schlecht sind. Der Grund ist tiefer: Embeddings
Du betreibst RAG mit einem lokalen LLM – und die Antworten sind ungenau, fragmentiert oder völlig daneben. Du verdoppelst den Kontextfenster, steigst auf ein größeres Modell um, und plötzllich brauchst du eine GPU mit >24 GB VRAM oer Cloudmodelle, nur