LLM Knowledge Bases: Warum KI mehr kann als chatten – sie kann Wissen organisieren

LLMs als Wissens-Compiler statt als Chatbots

Ein Post von Andrej Karpathy – dem ehemaligen KI-Chef von Tesla, OpenAI-Mitgründer und einer der einflussreichsten Stimmen der KI-Welt – hat Anfang April für Aufsehen gesorgt. Mit über 16 Millionen Views auf X beschrieb er ein System, das die Art verändert, wie wir über den Einsatz von KI nachdenken sollten. Seine Kernthese: LLMs sind keine Chatbots. Sie sind Wissens-Compiler.

Für österreichische KMU ist das mehr als ein Tech-Trend. Es ist eine Antwort auf ein Problem, das jedes Unternehmen kennt: zu viel Wissen, zu wenig Struktur.

Was Karpathy gebaut hat

Karpathys System funktioniert in fünf Schritten:

1. Daten sammeln (Data Ingest)

Er speichert Artikel, Forschungspapiere, Datensätze und andere Quellen als Rohdateien in einem Ordner. Dazu nutzt er den Obsidian Web Clipper, um Webinhalte als Markdown-Dateien zu speichern, und lädt auch Bilder lokal herunter.

2. KI „kompiliert" ein Wiki

Ein LLM verarbeitet diese Rohdaten und erstellt daraus eine vernetzte Wissensdatenbank – ein Wiki aus Markdown-Dateien mit Zusammenfassungen, Querverweisen, Kategorien und Backlinks. Das Entscheidende: Die KI schreibt und pflegt dieses Wiki eigenständig. Karpathy sagt, er bearbeite die Inhalte selten manuell.

3. Obsidian als Frontend

Das Wiki wird in Obsidian dargestellt – einer kostenlosen Notiz-App, die Markdown-Dateien als vernetzte Wissensgraphen visualisiert. So entstehen automatisch Verbindungen zwischen Konzepten, die man manuell nie gefunden hätte.

4. Q&A gegen die Wissensbasis

Sobald das Wiki eine gewisse Größe erreicht (Karpathy spricht von ~100 Artikeln und ~400.000 Wörtern), kann man der KI komplexe Fragen stellen, und sie recherchiert die Antworten direkt in der eigenen Wissensdatenbank. Überraschenderweise funktioniert das ohne komplexe RAG-Systeme – die KI pflegt selbst Index-Dateien und Zusammenfassungen, die ihr helfen, relevante Informationen schnell zu finden.

5. Qualitätssicherung (Linting)

Karpathy lässt die KI regelmäßig „Gesundheitschecks" über das Wiki laufen: Inkonsistenzen finden, fehlende Daten ergänzen, neue Verbindungen vorschlagen. Die KI wird also nicht nur zum Schreiben, sondern auch zum Kuratieren eingesetzt.

Warum das ein Paradigmenwechsel ist

Der springende Punkt ist die Verschiebung von „Code manipulieren" zu „Wissen manipulieren". Statt die KI zu bitten, etwas zu generieren und das Ergebnis per Copy-Paste zu verwenden, wird die KI zum dauerhaften Verwalter einer wachsenden Wissensbasis.

Wie ein Kommentator unter dem Post treffend formulierte: „Der Trick ist, die KI nicht als Suchmaschine zu nutzen, sondern als Compiler. Statt ihr zu sagen ‚finde die Antwort in meinen Dokumenten', sagst du ihr: ‚Verstehe und strukturiere mein Wissen.'"

Lex Fridman, der bekannte KI-Podcaster, bestätigte, dass er ein nahezu identisches System nutzt. Und besonders bemerkenswert: Ein Schweißer in einer Dragstrip-Werkstatt – also jemand ohne IT-Hintergrund – beschrieb unter dem Post, dass er dasselbe System mit Claude Code aufgebaut hat. Die Technologie ist nicht mehr auf Entwickler beschränkt.

Was das für österreichische KMU bedeutet

Für KMU eröffnet diese Methode völlig neue Möglichkeiten:

Unternehmens-Wissensdatenbank: Jedes Unternehmen hat Unmengen an Wissen, das in E-Mails, Protokollen, Dokumenten, CRM-Einträgen und den Köpfen der Mitarbeiter steckt. Eine KI-kompilierte Wissensdatenbank kann dieses Wissen strukturieren, vernetzen und durchsuchbar machen – ohne dass jemand monatelang ein Wiki pflegen muss.

Onboarding beschleunigen: Neue Mitarbeiter könnten Fragen an die Unternehmens-Wissensdatenbank stellen und sofort kontextreiche Antworten bekommen – basierend auf echtem Unternehmenswissen, nicht auf generischem KI-Output.

Branchenwissen aufbauen: Ein Handwerksbetrieb könnte alle relevanten Normen, Produktdatenblätter, Lieferanten-Infos und Projektdokumentationen in eine KI-Wissensdatenbank einspeisen. Statt stundenlang in Ordnern zu suchen, stellt man eine Frage.

Qualitätsmanagement: Die „Linting"-Funktion – also die automatische Überprüfung auf Inkonsistenzen und Lücken – ist für QM-Systeme extrem wertvoll. Die KI findet Widersprüche zwischen Dokumenten, die kein Mensch bei einer manuellen Prüfung entdecken würde.

Wo das Konzept ins größere Bild passt

Karpathys Ansatz ist eng verwandt mit anderen Entwicklungen, die wir aktuell beobachten:

• Mit Claude Cowork und Computer Use übernimmt die KI nicht nur das Strukturieren, sondern auch das aktive Arbeiten mit Dateien.
• Über offene Standards wie das Model Context Protocol (MCP) lassen sich solche Wissensdatenbanken direkt an bestehende Unternehmenssysteme anbinden.
• Die Idee, KI für interne Workflows zu automatisieren, bekommt durch Knowledge Bases eine völlig neue Dimension: Die KI versteht den Kontext des Unternehmens.

So starten Sie – auch ohne technisches Wissen

Das Schöne an Karpathys Ansatz: Man braucht kein kompliziertes Setup. Die Grundausstattung:

• Obsidian (kostenlos) als Wissensdatenbank-Frontend
• Claude oder ein vergleichbares KI-Tool zum „Kompilieren" der Inhalte
• Einen Ordner mit Rohdaten – das können zunächst auch nur 10–20 wichtige Dokumente sein

Der Prozess wächst organisch. Karpathy beschreibt, dass er anfangs jede Quelle manuell hinzufügt und das LLM eng begleitet. Nach einer Weile erkennt die KI die Muster und man kann einfach sagen: „Archiviere dieses neue Dokument an der richtigen Stelle."

Unser Fazit

Dieser Ansatz verändert die Frage, die Unternehmen sich stellen sollten. Statt „Wie kann KI mir eine E-Mail schreiben?" wird die Frage:

„Wie kann KI mein gesamtes Unternehmenswissen organisieren, vernetzen und nutzbar machen?"

Das ist ein fundamentaler Unterschied – und genau die Art von strategischem KI-Einsatz, bei dem wir Unternehmen begleiten. Denn das Rohmaterial ist in jedem Unternehmen vorhanden. Es hat nur noch niemand kompiliert.

Sie möchten eine KI-gestützte Wissensdatenbank für Ihr Unternehmen aufbauen? Sprechen Sie mit uns – wir zeigen Ihnen, wie Sie in wenigen Wochen vom Dateichaos zum strukturierten Unternehmenswissen kommen.