Punk-Stack

Die modulare KI-Umgebung für euer Unternehmen, angebunden an euer Firmenwissen und in Europa gehostet.

Was ihr bekommt

Der Punk-Stack ist eine KI-Anwendung, bei der Benutzer:innen über einen Chatbot in ihrem Browser auf Firmenwissen zugreifen. Das funktioniert ähnlich wie z.B. ChatGPT: Sie stellen dort Fragen zu internen Vorgängen und erhalten Antworten, die aus verschiedenen Dokumenten und anderen Datenquellen erzeugt werden.

Wichtig: Dieser Stack ist kein eigenes Produkt, sondern besteht aus mehreren Open-Source-Modulen, die wir zu einem Gesamtsystem kombinieren.

Europäische Infrastruktur

Komponenten

01 Das Sprachmodell Das ist die zentrale Intelligenz der Anwendung. Ein leistungsfähiges offenes Modell nimmt die Anfragen entgegen und liefert unternehmensrelevante Antworten. Open-Source LLMs Leistungsfähige Sprach-Modelle wie Mistral oder GLM Inferenz
02 Die Benutzeroberfläche Ein Chat im Browser, wie man ihn etwa von ChatGPT kennt. Mitarbeitende melden sich an und stellen die gewünschten Fragen. Chat-Interface Open WebUI als leicht zu bedienende Benutzeroberfläche SkillsPrompts
03 Das Firmenwissen Unternehmensdaten wie Angebote, Richtlinien und Auswertungen werden zentral gespeichert und sind über den Chat erreichbar. Wissensspeicher Durchsuchbares Firmenwissen in einem RAG-System auf Basis von PostgreSQL mit pgvector Dokumente
04 Dokumenten-Import Kreuzberg macht aus euren Dateien durchsuchbares Wissen:
  1. Abholen: neue und geänderte Dateien kommen aus SharePoint oder WebDAV.
  2. Umwandeln: PDF, Word, Excel, PowerPoint und HTML werden zu Markdown. Überschriften, Listen und Tabellen bleiben erhalten, gescannte Seiten laufen durch OCR.
  3. Zerlegen: das Markdown wird entlang der Überschriften in Abschnitte geteilt. Jeder Abschnitt trägt seinen Überschriftenpfad mit.
  4. Ingesten: ein Embedding-Modell übersetzt jeden Abschnitt in einen Vektor, der mit dem Text in pgvector landet.
MarkdownOCREmbeddings

Was ihr davon habt

  • Volle Kontrolle über eure Daten, denn alles läuft auf eurer eigenen Instanz in Europa.
  • Die Antworten kommen aus euren Dokumenten, nicht aus dem Halbwissen eines allgemeinen Modells.
  • Ihr bindet euch an keinen Modell-Hersteller. Möchtet ihr ein anderes Modell verwenden, könnt ihr es einfach umschalten, der Rest bleibt unverändert.

Testet das System jetzt

Der Punk-Stack läuft als offene Demo mit den Daten der fiktiven Nordlicht Wärmetechnik. Anmelden, Frage stellen, fertig.

Eingabefeld des Nordlicht Assistenten mit der Frage, wie kann ich Ihnen heute helfen
Benutzer
demo@nordlicht-waermetechnik.de
Passwort
demo123;

Beispielfragen

  • Was kostet uns der Fühlermontagefehler T1 insgesamt, über alle Abteilungen?
  • Kunde meldet Fehlercode E22 an einer NL-300. Was muss der Fachpartner tun?
  • Fachpartner Stufe Gold will 12 Prozent auf ein NL-300/8-Paket. Was ist möglich, und wer gibt frei?

Ich möchte mehr erfahren