ChatGPT, Claude, Mistral mit dokumentiertem DSGVO-Pfad
Wenn ChatGPT der einzige Anbieter wäre, hätten Sie ein Pferd. Sie brauchen einen Stall. Multi-Vendor-Strategie heißt: Anbieter nach Datenkategorie, Aufgabentyp und betrieblichen Anforderungen einsetzen – nicht nach einem fixen Ranking. Welches Modell für Ihren Use-Case passt, klären wir im Discovery-Sprint. Wir bauen Ihre Integration so, dass Sie morgen den Anbieter wechseln können, ohne den ganzen Code wegzuwerfen. Der Markt bewegt sich zu schnell, um sich an einen Stall zu binden.
Decision-Matrix: Welches Modell für welchen Use-Case?
| Use-Case | Empfehlung | DSGVO-Pfad | Preis-Range |
|---|---|---|---|
| Doc-Q&A intern, sensitive Daten | Anthropic Claude EU | EU-Region + AVV | 25–150 €/User/Monat |
| Customer-Support-Bot extern | OpenAI GPT-4 EU | EU-Region + AVV | 0,01–0,06 €/Anfrage |
| Lead-Qualifizierung | Claude/GPT-4-mini | EU-Region + AVV | 0,001–0,01 €/Anfrage |
| Hochsensibler Use-Case | Mistral Self-Hosted | On-Premise | Hardware + 5–15k € Setup |
Preisangaben sind grobe Orientierungswerte; die tatsächlichen Kosten hängen von Modellvariante, Kontextlänge und Volumen ab.
Welcher Pfad für Sie passt, ist keine Marketing-Frage. Es ist eine Frage von Datenkategorie, Audit-Anforderungen und Branchenrahmen. Für Steuerkanzleien sieht das anders aus als für eCommerce-Händler. Wir klären das im Discovery-Sprint, nicht im Pitch.
Drei Integration-Pattern für Mittelständler
1. API-Pattern
LLM hängt im Backend, ein einzelner Endpoint, Sie steuern Prompt und Daten. Ideal für reine Funktions-Aufrufe wie Klassifikation, Zusammenfassung, Strukturierung von Eingangsdaten.
Typisch: Discovery-Sprint 4.900 €, Custom-Build Small ab 25.000 €.
2. Embedded-UI-Pattern
LLM-Chat-Widget direkt in Ihrer App (CRM, Ticketing-System, internes Wissens-Portal). Mit Kontext aus den darunterliegenden Daten (RAG) und Audit-Trail für jede Antwort.
Typisch: Discovery-Sprint 4.900 €, Custom-Build Medium-Large 35-80k €.
3. Workflow-Trigger-Pattern
n8n oder Make-Workflows mit LLM-Schritt für Routing, Klassifikation oder Anreicherung. Für Aufgaben, die kein Custom-Backend brauchen, aber komplexer als ein einzelner API-Call sind.
Typisch: Discovery-Sprint 4.900 €, Custom-Build Small ab 25.000 €.
Multi-Vendor-Strategie: Pferd vs. Stall
Der häufigste Architektur-Fehler 2026 ist der Single-Anbieter-Lock-in. Ein Mittelständler integriert ChatGPT direkt über das OpenKI-SDK in seinen Code, sechs Monate später ist Claude 4.7 deutlich besser für seinen Use-Case, aber der Wechsel kostet 8 Wochen Refactoring.
Unsere Default-Architektur hat ein abstrahiertes API-Layer (eigenes Backend-Modul, das die Provider-spezifischen SDKs kapselt) und klare Provider-Konfiguration pro Use-Case. Das Ziel: wenn Sie später den Anbieter wechseln müssen, bleibt der Aufwand beherrschbar – abhängig von Scope und Datenarchitektur, aber deutlich kleiner als ein komplettes Refactoring. Wert über 24 Monate Lebensdauer: hoch.
Was wir für Sie liefern
- Use-Case-Discovery mit Datenkategorie-Audit (welche Daten dürfen extern verarbeitet werden, welche nicht)
- Provider-Auswahl plus AVV-Vertragsprüfung (EU-Region-Konfiguration, Löschfristen, Trainings-Opt-out)
- POC mit Ihren echten Daten in 5–10 Arbeitstagen
- Live-Demo, dann Implementations-Entscheidung
- Abstrahiertes API-Layer als Standard, damit Vendor-Wechsel möglich bleibt
- Audit-Trail und Logging-Architektur für DSGVO-Pflichten
Häufige Fragen
Welcher LLM-Anbieter ist DSGVO-konform für Unternehmen?
Kein LLM-Anbieter ist pauschal DSGVO-konform. Tragfähig können drei Pfade sein: ein vertraglich und technisch geprüfter EU-Region-Betrieb, ein europäischer Anbieter mit passender Auftragsverarbeitung oder ein lokales beziehungsweise hybrides Setup. Entscheidend sind Datenkategorie, Rechtsgrundlage, AVV, Unterauftragsverarbeiter, Löschkonzept und die tatsächliche Konfiguration. Die rechtliche Freigabe bleibt fallabhängig.
ChatGPT vs. Claude vs. Mistral, was ist für Mittelstand das Richtige?
Es gibt nicht „das Richtige", sondern Use-Case-Fit: Anthropic Claude für komplexes Reasoning und sensible Daten (lange Kontexte, gute Strukturierung). OpenAI GPT-4 für breite Funktions-Aufrufe und etablierte Tool-Ökosysteme. Mistral für reine EU-Region-Anforderungen oder On-Premise-Setups. Für Mittelständler mit gemischten Use-Cases empfehlen wir eine Multi-Vendor-Architektur: ein abstrahiertes API-Layer, hinter dem das Modell austauschbar ist. So wechseln Sie morgen den Anbieter, ohne Ihren Code wegzuwerfen.
Was kostet ChatGPT für Unternehmen monatlich realistisch?
Die ChatGPT-Lizenz selbst (Team/Enterprise) liegt bei 25-60 € pro Nutzer und Monat. Der eigentliche Kostenfaktor ist die Integration: bei NLD klären wir das im Discovery-Sprint (5 Tage / 4.900 €) und definieren dann den Custom-Build-Scope. API-Pattern (Backend-Endpoint mit Prompt-Template) sind klassische Small-Builds ab 25.000 € einmalig plus 200-800 € monatliche API-Kosten. Embedded-UI-Integration in Ihr CRM oder Ticketing-System ist Medium oder Large (35-80k €) je nach Tiefe. Faustregel: API-Kosten skalieren mit Anfrage-Volumen, nicht mit Mitarbeiterzahl.
Kann ich ChatGPT in meine bestehende Software einbauen?
Ja, für nahezu alle gängigen Bestandssysteme. Wir haben drei typische Integration-Pattern: API-Pattern (LLM hängt im Backend, ein Endpoint, Sie steuern Prompt und Daten), Embedded-UI-Pattern (LLM-Chat-Widget in Ihrer App, etwa CRM oder Ticketing), Workflow-Trigger-Pattern (n8n/Make-Workflows mit LLM-Schritt für Klassifikation oder Routing). Welches Pattern passt, hängt davon ab, wo der Use-Case sitzt: stand-alone-Tool oder integriert in den bestehenden Workflow. Im Discovery-Sprint entscheiden wir das gemeinsam.
Was passiert mit unseren Daten bei einer LLM-Integration?
Bei korrekter EU-Region-Konfiguration und AVV-Vertrag: Ihre Daten werden zur Beantwortung der Anfrage verarbeitet, dann gemäß Vertrags-Löschfrist (typisch 30 Tage) gelöscht. Keine Verwendung für Modell-Training. Kein Zugriff durch Anbieter-Mitarbeitende außer in dokumentierten Audit-Fällen. Für hochsensible Daten (z.B. Mandanten-Geheimnisse, medizinische Daten) empfehlen wir ein Hybrid-Setup: sensitive Felder werden vor der API-Anfrage anonymisiert oder lokal mit einem On-Premise-Modell verarbeitet, nur unkritische Aggregate gehen an die externe API.
Weiterlesen
- Pillar: KI im Mittelstand: Use-Case-Framework, Modell-Vergleich, ROI-Realität
- DSGVO und EU AI Act im Mittelstand
- KI-Integration Mannheim: lokale Vor-Ort-Discovery
- KI-Agenten für den Mittelstand: n8n vs. Custom-Builds
- Über Simon Maiwald
Multi-Vendor-Strategie statt Lock-in.
5 Minuten KI-Readiness-Check, oder direkt 30-Min-Strategiegespräch. Wir starten mit Datenkategorie-Audit, nicht mit Marken-Pitch.