Corporate LLM: welche Betriebsform zu Ihrem Betrieb passt

Ein Corporate LLM ist ein Sprachmodell, das ein Unternehmen mit festgelegten Zugriffsregeln und gegebenenfalls eigenen Daten einsetzt. Es kann in einer Cloud, auf eigener Hardware oder in einer gemischten Umgebung laufen. Der Begriff bezeichnet keine eigene Modellarchitektur. Zu klären ist der Rahmen um das Modell herum: Wer darf fragen, welche Unterlagen darf es lesen, wird mitgeschrieben, wer haftet, und was passiert mit den Eingaben nach dem Gespräch.

Damit grenzt sich die Sache von dem ab, was Ihre Leute vermutlich längst benutzen. Ein privat angelegter Chatbot-Zugang kennt Ihre Preisliste nicht, führt kein Protokoll, und die Eingaben verlassen unkontrolliert das Haus. Ein Corporate LLM kennt Ihre Unterlagen und hält sich an Regeln, die Sie festgelegt haben; dafür müssen diese Regeln erst einmal existieren.

Der zweite Teil ist der unbequeme. Ein Corporate LLM ist kein Produkt, das man einkauft und einschaltet. Ohne saubere Unterlagen und ohne eine Liste der Fragen, die es beantworten soll, liefert auch das beste Modell Antworten, die niemand nachprüfen kann.

Suchen Sie „Corporate LLM", landen Sie überwiegend bei Plattformen, die mehrere fremde Modelle unter einer Oberfläche bündeln und auf deutschen Servern betreiben. Manche stellen den Begriff sogar ausdrücklich gegen den Eigenbetrieb. Das ist eine legitime Auslegung, und sie hat handfeste Vorteile.

Diese Plattformen starten schnell, weil keine Hardware beschafft werden muss. Sie geben Ihnen Zugang zu den jeweils stärksten kommerziellen Modellen, und die halten in der Breite mehr aus als das, was auf einem Gerät im Serverraum läuft. Updates, Betrieb und Skalierung liegen beim Anbieter. Wer 200 Leute anschließen will, kommt an dieser Form kaum vorbei.

Der Preis dieser Bequemlichkeit ist die Abhängigkeit vom Fahrplan des Anbieters. 2026 sind reihenweise KI-Produkte eingestellt worden, manche mit wenigen Wochen Vorlauf. Was Betriebe aus eingestellten KI-Produkten lernen, haben wir an vier Fragen aufgeschrieben, die vor der Entscheidung zu klären sind.

Nur ist das eine der drei Betriebsformen und nicht die Definition. Wir benutzen den Begriff weiter, so wie er wörtlich gemeint ist: ein Sprachmodell für den Unternehmenseinsatz, unter Kontrolle des Unternehmens. Wo es läuft, entscheidet der Fall, nicht das Vokabular.

Wenn freigegebene Unterlagen den eigenen Betrieb nicht verlassen sollen, prüfen Sie den lokalen Betrieb. Wenn Sie Modelle als Dienst nutzen wollen, vergleichen Sie Cloud-Angebote nach Datenverarbeitung, laufenden Kosten und verfügbaren Funktionen. Eine gemischte Lösung setzt eine klare Trennung voraus: welche Aufgaben lokal bleiben und welche Daten an einen externen Dienst gehen dürfen.

KI-generiert

Wie streng ist Ihre Schweigepflicht? Wer Mandats-, Patienten- oder Personalakten verarbeitet, steht neben der DSGVO auch unter Berufsrecht. Das ist die härtere Hürde, und sie schließt Cloud-Modelle für die betroffenen Unterlagen oft aus. Was dabei zu klären ist, steht im Beitrag zu Mitbestimmung und Berufsgeheimnis.

Wie viele Leute arbeiten damit? Der Eigenbetrieb deckt eine große Spanne ab, von einer Handvoll Leute bis in den dreistelligen Bereich. Die Zahl entscheidet aber, welche Stufe Sie brauchen, und damit über eine Summe, die um mehr als das Zehnfache auseinanderliegt. Details im nächsten Abschnitt.

Wie wollen Sie zahlen? Es gibt drei Abrechnungslogiken, und sie kippen an unterschiedlichen Stellen. Eine Lizenz pro Nutzer und Monat ist planbar und wächst linear mit dem Team; sie wird unangenehm, wenn viele Leute den Zugang nur selten brauchen. Abrechnung pro Anfrage ist bei geringer Nutzung günstig und bei intensiver Nutzung schwer vorhersehbar. Ein Einmalkauf plus Betrieb bindet vorne Kapital und wird ab einer gewissen Laufzeit billiger als jede Miete. Wie sich das in einem Automatisierungsprojekt insgesamt rechnet, haben wir in KI-Automatisierung und Kosten durchgerechnet.

Was passiert, wenn Ihr Anbieter etwas ändert? Preise, Modellauswahl, Vertragsbedingungen. Bei einer Cloud-Plattform tragen Sie dieses Risiko mit. Auf eigener Hardware mit offenen Modellen tragen Sie stattdessen das Risiko, technologisch hinterherzulaufen. Beides ist ein Risiko, nur eben ein anderes.

Am häufigsten daran, dass niemand aufgeschrieben hat, welche Fragen das Modell beantworten soll. Ohne diese Liste gibt es kein Kriterium, an dem sich ein Pilot messen lässt, und dann endet er in Meinungen darüber, ob die Antworten „gut" wirken.

Der zweite Grund liegt in den Unterlagen. Wenn drei Versionen derselben Preisliste im Umlauf sind, antwortet das Modell mit einer davon, und es sagt Ihnen nicht, dass die anderen zwei existieren. Diese Aufräumarbeit fällt an, egal welche Betriebsform Sie wählen, und sie lässt sich nicht delegieren: welche Version gilt, weiß nur Ihr Haus.

Und dann gibt es die Fälle, in denen längst ohne Freigabe gearbeitet wird. Mitarbeitende fügen Kundendaten in einen öffentlichen Chatbot ein, weil es hilft und weil niemand etwas anderes angeboten hat. Wer das nicht kennt, plant an der Realität vorbei; was dabei zu tun ist, steht unter Shadow AI im Unternehmen.