Lokale KI-Modelle für Unternehmen · On-Premises
VAKIS: Ihr Wissen.
Ihre lokale KI.
Mit VAKIS durchsuchen Sie Ihre Unterlagen in Alltagssprache und erhalten Antworten mit Fundstellen. Das Modell läuft in Ihrem Technikraum.
Appliance in Entwicklung. Quellenantworten im Referenzsystem geprüft; Rechteübernahme und Gesamtabnahme stehen noch aus.
Ab 36.000 € netto inklusive Implementierung. Kosten ansehen
Rhein-Main · Timo Radecke, Inhaber Ventas AI
Darstellung. Appliance in Entwicklung.
Was ist lokale KI für Unternehmen?
Lokale KI verarbeitet Anfragen auf einem Rechner im eigenen Unternehmen. Für eine Wissenssuche werden passende Stellen aus freigegebenen Unterlagen gesucht und einem Sprachmodell als Kontext vorgelegt. Ob das ohne Cloud funktioniert, hängt vom gesamten System ab: Auch Dokumentensuche, Texterkennung und angebundene Werkzeuge müssen lokal arbeiten.
VAKIS wird als eigener KI-Server für das Wissen Ihres Unternehmens entwickelt. Die Inferenzzone hat keinen Internetzugang. Agenten für zusätzliche Aufgaben sind geplant. Im Referenzsystem fragen Sie in normaler Sprache und bekommen die Antwort mit Fundstelle aus Ihren eigenen Unterlagen. Der Unterschied zu einer Cloud-KI: Ihre Daten verlassen das Haus nicht - nicht zu einem US-Anbieter, nicht auf einen fremden Server. Für Berufsgeheimnisträger nach § 203 StGB - Ärzte, Rechtsanwälte, Steuerberater und andere - ist das der entscheidende Punkt. Einen Cloud-Dienst dürfen sie zwar als mitwirkende Person einbinden, das erlaubt Absatz 3 ausdrücklich; sie müssen ihn dann aber auf das Erforderliche begrenzen, zur Geheimhaltung verpflichten und im Zweifel belegen können, dass sie das getan haben. Ein Gerät im eigenen Haus lässt die Frage gar nicht erst entstehen. Im Fachvokabular ist das eine der drei Betriebsformen eines Corporate LLM; welche davon zu einem Betrieb passt, hängt an Schweigepflicht, Nutzerzahl und Abrechnungslogik. Wer die Begriffe auseinanderhalten will - Corporate LLM, Enterprise LLM, Private LLM und souveräne KI meinen im Markt nicht dasselbe -, findet die Abgrenzung unter Corporate LLM, Enterprise LLM, Private LLM.
Im Kern arbeiten offene Modelle, keine geschlossene Software eines einzelnen Anbieters. Das hat einen praktischen Grund: Open-Source-Lösungen lassen sich lokal betreiben, prüfen und austauschen. Wird ein Modell besser, spielen wir das neue ein - Sie bleiben nicht an eine Version gebunden, die irgendwann abgekündigt wird.
Aus der Praxis
Ein Wissenssystem muss auch über Standorte hinweg funktionieren.
Eine internationale Hochschule hat lokale Laufwerke, Standortablagen und E-Mail-Verläufe in einer gemeinsamen Wissensbasis zusammengeführt. Die interne KI verbindet RAG, Vektordatenbank und VPN-Anbindung - ohne eigenen Internetzugang.
Woran es bisher scheitert
Vier Gründe, warum Cloud-KI in Ihrem Betrieb nicht durchkommt
Nicht die Technik ist das Problem. Diese vier Punkte sind es, und keiner davon löst sich mit einem Cloud-Zugang.
Die Freigabe kommt nicht
An der Technik liegt es selten. Mandatsakte, Patientendaten oder Konstruktionszeichnung dürfen das Haus nicht verlassen, und ein Auftragsverarbeitungsvertrag nimmt Ihnen die Verantwortung dafür nicht ab.
Die Rechnung wächst mit der Nutzung
Bei Cloud-Modellen zahlen Sie pro Anfrage. Je mehr Ihr Team damit arbeitet, desto höher die Monatsrechnung, und den Preis setzt ein Anbieter fest, auf den Sie keinen Einfluss haben.
Sie hängen an einem fremden Anbieter
Ändert ein US-Konzern Modell, Preis oder Bedingungen, ändert sich Ihr Arbeitsalltag mit. Wird ein Modell abgekündigt, ist der eingespielte Ablauf weg.
Die KI rät bei Ihren Fachbegriffen
Ein Standardmodell kennt Ihre Aktenzeichen, internen Kürzel und Preislisten nicht und erfindet im Zweifel eine plausibel klingende Antwort. Ohne prüfbare Fundstelle ist die in einem Beruf mit Haftung wertlos.
Der Moment, der das Projekt gestoppt hat
„Das dürfen wir nicht in ChatGPT eingeben."
Fast jedes KI-Projekt im Mittelstand stirbt an demselben Satz. Jemand aus dem Team hat die Idee, jemand rechnet den Nutzen vor - und dann fragt einer, wo die Mandatsakte, die Patientendaten oder die Konstruktionszeichnung eigentlich landen. Danach passiert nichts mehr. Nicht, weil die Technik fehlt, sondern weil die Datenfrage unbeantwortet bleibt. Genau diese Frage beantwortet ein Rechner, der im Haus steht.
Wie es arbeitet
Von der Frage zur belegten Antwort - im Haus
Das Referenzsystem beantwortet Fragen mit Fundstellen aus den angebundenen Unterlagen. Welche Ablagen im Pilot dazukommen, legen wir mit Ihnen fest.
Wissen anbinden
Laufwerk, E-Mail-Export, Verwaltungssystem. Nur lesend; die automatische Rechteübernahme ist noch in Arbeit.
Frage in Alltagssprache
Sie fragen wie einen erfahrenen Kollegen, nicht in Ordnerpfaden oder Dateinamen.
Suche nach Sinn
Das System sucht nach Bedeutung und exaktem Begriff zugleich - auch Aktenzeichen wie „2024-0817-B".
Antwort mit Quelle
Sie sehen die Fundstelle. Trägt der Beleg nicht, sagt das System das, statt zu raten.
Ihre Frage
Wer gibt bei uns Bestellungen über 5.000 Euro frei?
Antwort mit Quelle
Bestellungen über 5.000 Euro netto müssen vor der Beauftragung von der Geschäftsführung freigegeben werden.
[1] Einkaufsrichtlinie, Abschnitt 3.2[1] Zugehöriger Dokumentausschnitt
Einkaufsrichtlinie
Abschnitt 3.2 · Freigabe von Bestellungen
Bestellungen über 5.000 Euro netto bedürfen vor der Beauftragung der Freigabe durch die Geschäftsführung.
Sie können die Antwort direkt mit der angegebenen Stelle vergleichen.
Aufwand im Betrieb
Für Betriebe mit knappen internen Ressourcen
Die meisten Mittelständler haben keine eigene KI-Abteilung. Oft ist es eine Person, die IT „mitmacht", neben dem Tagesgeschäft. Genau darauf ist das Gerät ausgelegt: Die geplante Appliance soll vorkonfiguriert übergeben werden. Im Pilot stimmen wir Einrichtung und Betreuung mit Ihnen ab. Status: Appliance in Entwicklung.
Auch Ihre gewachsene IT-Landschaft bleibt, wie sie ist. Das System liest Ihre vorhandenen Ablagen, es ersetzt sie nicht. Bestehende Verträge mit Ihrem Systemhaus oder Ihrer Fachsoftware laufen unverändert weiter. Kein Datenumzug, keine Migration, keine Kündigung.
Wie es abgesichert ist
Die Inferenzzone hat keinen Weg nach draußen
„Kann nicht ins Internet" ist bei uns keine Zusage im Kleingedruckten, sondern die Netzarchitektur. Der Rechner, auf dem das Modell läuft, hat kein Standardgateway und keinen DNS nach außen. Die Dienste liegen in getrennten Netzen, erreichbar ist nur der Weg hinein. Ein Ausbruchsversuch läuft damit ins Leere.
Was Ihr Betrieb beisteuert
Das Gerät bringt die Technik. Sie bringen das Wissen.
Ihr Wissen
Handbücher, Verträge, Protokolle, E-Mails. Was digital vorliegt, wird nach Bedeutung geordnet - nicht nach Dateinamen.
Ihre Berechtigungen
Die automatische Übernahme der Zugriffsrechte ist noch in Arbeit. Vor einem Einsatz mit vertraulichen Unterlagen muss die Rechteprüfung für Ihren Anwendungsfall abgenommen sein.
Ihre Anwendungsfälle
Als Pilotpartner bestimmen Sie mit, welche Aufgaben zuerst laufen. Ihr Betrieb prägt die Reihenfolge, nicht ein Produktkatalog.
Ihr Fachvokabular
Begriffe, Ton und Vorlagen Ihres Hauses. Das wirkt sofort und ohne Trainingslauf - Anpassung, die Sie selbst korrigieren können.
Wie es lernt
Vier Schichten, die sich anfühlen wie Lernen - und einzeln löschbar sind
Das System verhält sich morgen anders als heute, weil es dazugelernt hat. Der Unterschied zu einem trainierten Modell: Sie sehen, wo das Gelernte liegt, und bekommen es wieder heraus.
Wissensbasis
Ihre Dokumente, durchsuchbar in Minuten.
Konfiguration & Vorlagen
Fachbegriffe, Ton, feste Ausgabeformate.
Werkzeuge & Anbindungen
Ihre Systeme, kontrolliert angebunden.
Beispielspeicher
Korrekturen wirken in Sekunden, jede einzeln löschbar.
Gewichtsanpassung (Schicht 5 - 6) ist ein separates Modul, buchbar je Kunde - nicht im Grundumfang. So bleibt jede personenbezogene Angabe löschbar.
Stand der Entwicklung
Wir bewerben kein fertiges Produkt. Sie sehen, was läuft und was nicht.
Jeder Meilenstein trägt seinen Nachweis, offen. Wer das liest und trotzdem anfragt, weiß, worauf er sich einlässt - und ist genau der Gesprächspartner, den wir suchen.
Bereit zum Bauen
Modell läuft eingeschlossen
Wissen mit Belegen
Produktiv und geprüft
Agenten im Einsatz
Stand: . Die Meilensteine messen das hauseigene Referenzsystem, nicht eine Kundeninstallation. Eine solche läuft: seit Mai 2026 arbeitet eine internationale Hochschule standortübergreifend damit, als gebaute Serverlösung, nicht als Appliance von der Stange - nachzulesen in der Fallstudie. M2 trägt seine offenen Punkte offen im Text. Status läuft über Farbintensität und Wort, nie über Farbe allein.
Wie die Agenten aus M4 gebaut werden, steht ausführlich im Beitrag über Graph Engineering für Agenten-Flotten.
Falls die Zahl heute zu groß ist
Der kleinere Schritt existiert schon
Nicht jeder Betrieb braucht sofort einen eigenen Server im Haus. Das Firmengedächtnis ist die kleinere Stufe derselben Idee - Ihre Unterlagen durchsuchbar, mit Fundstelle. Es ist gebaut und wird verkauft, und es ist der ehrlichere Einstieg, wenn die Zahlen oben heute nicht passen.
Firmengedächtnis
Die kleinere Stufe: Wissen durchsuchbar, mit Fundstelle, ohne eigenen Serverraum. Der Weg dorthin ist später offen.
Für Ihr Fach bereits ausgearbeitet: Kanzleien, Steuerberater, Arztpraxen, Handwerksbetriebe.
Gemessen, nicht behauptet
Die Suchtechnik hinter beidem ist gegen ein etabliertes Wissenswerkzeug angetreten: fünf von fünf schwierigen Prüffragen gelöst, das Vergleichswerkzeug vier von fünf.
Fünf Fragen sind eine kleine Stichprobe, und der Vorsprung hängt an einer davon. Das sagen wir dazu, statt die Zahl allein stehen zu lassen.
Cloud oder lokal
Lokale KI-Modelle oder Cloud-KI: der offene Vergleich
Beide Wege haben ihre Berechtigung. Hier steht, wo die Cloud heute vorn liegt und wo das Gerät im Haus, auch die Punkte, an denen wir noch nicht gleichauf sind.
| Frage | Cloud-KI (z. B. ChatGPT) | Lokales Modell bei Ihnen |
|---|---|---|
| Wo liegen die Daten | Auf Servern des Anbieters, oft in den USA | In Ihrem Technikraum, ohne Weg nach draußen |
| Kostenmodell | Pro Anfrage, steigt mit der Nutzung | Anschaffung plus Wartung, jährlich kalkulierbar |
| Wer bestimmt Preis und Modell | Der Anbieter, jederzeit änderbar | Sie. Das Gerät gehört Ihnen, das Modell ist tauschbar |
| Antwort mit Fundstelle | Selten, Quelle meist nicht prüfbar | Jede Antwort mit Beleg aus Ihren Unterlagen |
| Modellqualität bei freier Sprache | Sehr große Modelle, hier heute vorn | Gutes offenes Modell, für Ihren Fall meist ausreichend, nicht überall gleichauf |
| Reifegrad bei uns | Fertiges Produkt | Appliance in Entwicklung, Stand offen einsehbar. Eine gebaute Installation läuft seit Mai 2026 produktiv. 4 von 5 Pilotplätzen frei |
Die letzten beiden Zeilen sind die, die andere weglassen. Wir lassen sie stehen.
Was es kostet
Was kostet ein eigener KI-Server für Unternehmen?
Was ein eigener KI-Server kostet, hängt an der Ausbaustufe. Damit die Zahl nicht im Ungefähren bleibt, steht hier eine vollständige Beispielrechnung für einen Betrieb mit bis zu 200 Nutzern. Kleinere Betriebe kommen mit kleinerer Hardware aus und liegen darunter - das Einstiegspaket beginnt bei rund 36.000 Euro netto, Implementierung eingeschlossen.
| Position | Netto |
|---|---|
| Hardware-ApplianceBeschaffung, Aufbau, Burn-in | 20.000 € |
| Implementierung & InbetriebnahmeFestpreis | 26.000 € |
| Einmalig gesamt | 46.000 € |
| Wartung, Updates, Supportjährlich, 15 % der Einmalsumme | 6.900 €/Jahr |
Gegenzurechnen ist die Cloud-Alternative: Ein Wissens- und Auswertungspaket der bekannten Anbieter kostet einen Betrieb über drei Jahre schnell einen fünfstelligen Betrag an laufender Miete - pro Kopf und Monat, mit den Daten außer Haus. Wir legen beide Rechnungen offen nebeneinander, statt eine Zahl zu verschweigen.
Als Pilotpartner liegt diese Summe niedriger - gestaffelt bis −24 %, je nachdem, was Sie freigeben. Was das Pilotprogramm umfasst →
Förderung
Förderfähig: Sie zahlen selten den vollen Preis
Für KI-Projekte im Mittelstand gibt es Fördermöglichkeiten, die viele Betriebe nicht auf dem Schirm haben. Je nach Vorhaben kommen Beratungs- und Investitionsprogramme in Frage, teils mit erheblichen Zuschüssen. Dazu kommt das Netzwerk Mittelstand-Digital mit seinen Kompetenzzentren, das Wissenstransfer und Transferprojekte kostenfrei begleitet. Ob und welche Förderung für Sie greift, hängt von Branche, Größe und Vorhaben ab. Wir sagen Ihnen im Erstgespräch offen, was realistisch ist, und nennen Ihnen den passenden Ansprechpartner. Beantragen müssen Sie selbst, das gehört in Ihre Hand.
Was es ausdrücklich nicht ist
Damit klar ist, was Sie nicht bekommen
Kein Cloud-Abo
Ihre Daten landen nicht auf fremden Servern und nicht bei einem US-Anbieter. Das Gerät steht bei Ihnen.
Kein ChatGPT-Konto für Geheimnisse
Für unkritische Aufgaben nutzen wir bewusst weiter ein EU-gehostetes Modell. Für Akten, Patienten- und Konstruktionsdaten scheidet das aus - dafür ist die lokale Variante.
Kein Ersatz für Spitzenmodelle bei allem
Für die härtesten Aufgaben bleibt der bewusste, dokumentierte Einzelweg offen. Ein Plan, der so tut, als bräuchte man das nie, wäre unehrlich.
Kein Vendor-Lock-in
Das Gerät gehört Ihnen. Gewichte und Index bleiben im Haus. Ohne uns läuft es weiter.
Das Pilotprogramm
5 Betriebe bauen die erste Fassung mit - 4 Plätze sind noch offen
Sie kaufen keinen Katalog, Sie bekommen Einfluss. Als Pilotpartner bestimmen Sie mit, welche Anwendungsfälle zuerst laufen - zu Vorzugskonditionen, weil Sie das Risiko der frühen Phase mittragen.
- Platz 01 Vergeben
- Platz 02 Frei
- Platz 03 Frei
- Platz 04 Frei
- Platz 05 Frei
Der erste Pilot läuft seit Mai 2026 produktiv - eine internationale Hochschule, anonymisiert in der Fallstudie. Namen nennen wir nur mit ausdrücklicher Freigabe des Betriebs.
Pilotplatz
Begrenzt auf 5 Betriebe. 4 von 5 Pilotplätzen frei. Was Sie mitbringen: echte Anwendungsfälle und ehrliches Feedback.
- Mitsprache bei den ersten Anwendungsfällen
- Nachlass gestaffelt - in der Beispielrechnung oben: 40.000 € mit anonymisiertem Erfahrungsbericht, 35.000 € mit Fallstudie unter Ihrem Namen
- Direkter Draht zu Timo Radecke, kein Ticketsystem
- Referenz oder Fallstudie nur, wenn Sie es ausdrücklich freigeben
Noch frei
4 von 5 Plätzen
Ihre Gegenleistung
Feedback und Mitgestaltung. Keine erzwungene Referenz - ein anonymisierter Erfahrungsbericht genügt. Den vollen Nachlass gibt es mit einer Fallstudie unter Ihrem Namen, und die geben Sie frei oder eben nicht.
Konditionen
bis −24 % gestaffelt nach dem, was Sie freigeben
Wer dahintersteht
Ein Ansprechpartner mit Namen, in Offenbach
„Sie rufen keinen Chatbot an und keine Hotline in einer anderen Zeitzone. Sie rufen mich an."
★★★★★ 5,0 aus 5 Google-Rezensionen
Häufige Fragen
Fragen zu Hardware, Betrieb und Einführung
Warum nicht einfach ChatGPT Enterprise?
Was passiert, wenn Sie ausfallen?
Was, wenn das Gerät kaputtgeht?
Ist das nicht viel Geld für einen Chatbot?
Sind lokale Modelle nicht schlechter?
Können wir wieder aussteigen?
Funktioniert lokale KI ohne Internet?
Welche Hardware braucht ein eigener KI-Server?
Was müssen wir für einen Pilotversuch vorbereiten?
Wie prüfen wir, ob die Antworten für unseren Betrieb taugen?
Wie die Dokumentensuche arbeitet, erklärt der Beitrag zu RAG, Embedding und Vektorsuche. Für die Wahl zwischen eigenem Server und Cloud finden Sie die Entscheidungshilfe zu Corporate LLM.
Nächster Schritt
Machen wir das Erstgespräch
30 Minuten, kostenlos, kein Verkaufsgespräch. Wir schauen gemeinsam, welche Daten bei Ihnen heute nicht in die Cloud dürfen - und ob ein Pilotplatz für Sie passt.
Kein Commitment, kein Verkaufsdruck.