Produkt
So funktioniert StarkLLM
Eine durchgängig lokale Pipeline, entwickelt mit Blick auf den Datenschutz.
Der Weg eines Dokuments
Wenn Sie eine PDF- oder Textdatei hinzufügen, bleibt die Verarbeitung auf Ihrem PC.
- EinlesenLokale Parser extrahieren den Rohtext. Gescannte PDFs und Bilder durchlaufen vor dem Chunking lokale OCR oder Bildanalyse.
- ZerlegenEin semantischer Chunking-Algorithmus teilt den Text in logische, überlappende Blöcke.
- EinbettenEin lokales Embedding-Modell wandelt jeden Block in einen Vektor um, gespeichert in Ihrem privaten ChromaDB-Container.
- AntwortenBei einer Frage werden die relevantesten Passagen in das Kontextfenster Ihres gewählten Ollama-Modells eingefügt, sodass die Antwort auf Ihren Quellen beruht.
Antworten, die Sie nachprüfen können
Sprachmodelle können unbelegte Behauptungen erzeugen, wenn sie nur aus dem Gedächtnis antworten. StarkLLM begegnet dem mit Retrieval-Augmented Generation (RAG).
Antworten mit Quellenbezug
Die KI ruft Textpassagen aus Ihren Dokumenten ab, bevor sie eine Antwort formuliert.
Direkte Quellenangaben
Antworten nennen Dateiname sowie Seite oder Abschnitt, sodass Sie die Passage im Originaldokument finden.
Weniger Halluzinationen
Die Verankerung in Ihren Dokumenten verringert unbelegte Aussagen deutlich.
Eine Wissensdatenbank, die aktuell bleibt
Workspace-Uploads eignen sich für abgeschlossene Projekte. Die globale Wissensdatenbank ist Ihre dauerhafte Referenzbibliothek, aus jedem Chat erreichbar.
- Indexierung lokaler OrdnerBinden Sie beliebige Ordner Ihres Windows-Rechners ein. StarkLLM indexiert unterstützte Dateien rekursiv in eine globale Vektorsammlung.
- Zugriff von überallFragen Sie die Wissensdatenbank aus jedem Chat ab, unabhängig vom aktuellen Workspace.
- Regelmäßiger AbgleichEtwa einmal pro Minute prüft die Wissensdatenbank den eingebundenen Ordner und indexiert neue oder geänderte Dateien neu.
Workspace-Dokumente oder Wissensdatenbank?
StarkLLM bietet zwei Wege, der KI Kontext zu geben. Wer den Unterschied kennt, hält sein Material geordnet.
Workspace-Dokumente
- An genau einen Workspace gebunden.
- Sinnvoll, wenn Arbeit getrennt bleiben muss, um Kontextvermischung zu vermeiden.
- Am besten für temporäre oder projektbezogene Dokumentsätze.
BeispielEin Ordner mit Verträgen für einen bestimmten Rechtsfall oder ein Kunden-Audit.
Wissensdatenbank
- Eine dauerhafte, globale Ebene.
- Nutzbar in allen Chats und Workspaces gleichzeitig.
- Am besten für langfristiges Referenzmaterial und persönliche Archive.
BeispielIhre laufende Recherchebibliothek, ein Handbuch oder interne Arbeitsanweisungen.
Auf Ihre Hardware abgestimmt
StarkLLM gibt Ihnen Kontrolle über Ihre lokale Inferenzumgebung.
- ModellauswahlWechseln Sie im Chat zwischen allen über Ollama geladenen Modellen (zum Beispiel Qwen 2.5, Llama 3.2, Mistral).
- Laufzeit-KonfigurationPassen Sie Kontextfenster, Temperatur und weitere Parameter an, um Tempo und Denktiefe abzuwägen.
- Strikt lokales RoutingInterner API-Verkehr läuft über Localhost-Ports von Docker und Host, Ihre Daten bleiben auf Ihrem Rechner.
Tools, die vorher fragen
Anders als Cloud-KI, die Befehle entfernt ausführt, betreibt StarkLLM einen Tool-Host im eigenen FastAPI-Backend. Modelle erhalten geprüften, lesenden Zugriff auf Ihre indexierten Inhalte.
- Drei integrierte Toolslist_workspace_files zeigt Dateien des aktiven Workspaces. search_local_kb führt eine hybride Vektor- und BM25-Suche über persönliche Archive aus. fetch_cited_chunk holt den genauen Passagentext.
- Bestätigung durch den MenschenJeder Tool-Aufruf erzeugt eine Karte im Chat. Prüfen Sie die Parameter, ändern Sie Werte oder brechen Sie ab.
- Schutz vor Prompt-InjectionAus abgerufenen Passagen werden Tool-Marker entfernt, bevor sie in den Modellkontext gelangen. Das schließt Prompt-Injection über Dokumente aus.
- Serverseitige AusführungssperreEin Einmal-Token verhindert direkte Ausführung und Wiederholungsangriffe.
Mandantengetrennter Leser für Workspace-Dateien. Das Modell sieht die Dateien des aktiven Workspaces, ohne Zugriff auf das Dateisystem des Hosts.
Beispielausgabe[
{
"name": "research_notes.pdf",
"size": 1048576,
"chunks": 42
},
{
"name": "financial_audit.docx",
"size": 524288,
"chunks": 18
}
]Geschützt durch serverseitige Ausführungssperre und Einmal-Token.Acht handgemachte Themes
Für konzentriertes Arbeiten bei unterschiedlichem Licht, mit sofortigem Wechsel.
Midnight Indigo
Klassisches tiefes Schiefer mit kräftigem Indigo und Violett.
Cyberpunk Rose
Leuchtendes Neonpink und Rosé mit warmem Schimmer.
OLED Pitch Black
Reines #000000-Schwarz für maximalen Kontrast und Akkulaufzeit.
Liquid Glass
Durchscheinendes Milchglas mit schillernden Farbverläufen.
Matrix Emerald
Obsidian-Matrix mit elektrisch smaragdgrünen Akzenten.
Sunset Amber
Vulkanisches Schiefer mit warmen Bernstein- und Flammenakzenten.
Arctic Frost
Eisiges Marineblau mit kristallinem Cyan und Frostblau.
Daylight Minimal
Klarer Tageslicht-Look mit weichen Schatten und scharfem Kontrast.
- Schnelle PalettenauswahlKlicken Sie auf das Paletten-Symbol in der Seitenleiste, um Themes ohne Unterbrechung zu wechseln.
- Gespeicherte AuswahlIhr aktives Theme bleibt über Aktualisierungen und Neustarts erhalten.
Was es von einfachen lokalen Chat-Clients unterscheidet
Viele Desktop-Clients bieten eine Chat-Hülle oder einfaches Dokument-Chunking. StarkLLM ist als Präzisions-Arbeitsplatz gebaut.
Hybrides RAG mit Cross-Encoder
Die meisten Desktop-RAG-Tools nutzen nur Vektor-Embeddings und können exakte Stichwörter verpassen. StarkLLM verbindet BM25-Stichwortgewichtung mit dichter Vektorsuche und sortiert die Chunks mit einem lokalen TinyBERT-Cross-Encoder neu.
Natives, eigenständiges Fenster
Keine Browser-Tabs, keine Adressleiste. Eine eigenständige Desktop-App mit rahmenloser Titelleiste, Startbildschirm, Tray-Integration und Windows-NSIS-Installer.
Code-Sandbox im Prozess
Führen Sie Python-Berechnungen, Datenanalysen und Formelarbeit auf Ihrem Rechner aus, geschützt durch strikte AST-Prüfung, Speichergrenzen und Zeitüberwachung.
Lokale OpenAI-kompatible API
Ein lokales Gateway mit /v1/chat/completions und /v1/models. Verbinden Sie IDEs wie Cursor, Werkzeuge wie Claude Code, Obsidian-Plugins oder eigene Python-Skripte mit Ihren lokalen Modellen.
Kerntechnologien
Die Architektur und Fähigkeiten hinter StarkLLM. (Die Detailseiten sind derzeit auf Englisch.)
Bereit, StarkLLM auszuprobieren?
Laden Sie die kostenlose, quelloffene Windows Research Beta herunter.