Datensouveränität · Lokale LLMs · On-Premise

Souveräne KI: Modelle dort betreiben, wo Ihre Daten liegen

Die meisten KI-Architekturen schicken Daten an mehrere externe Dienste: eine Embeddings-API, eine gehostete Vektordatenbank und eine LLM-API. Jeder dieser Schritte bedeutet einen weiteren Auftragsverarbeiter, einen weiteren Vertrag und oft eine Übermittlung in ein Drittland.

SynapCores vereint SQL, Vektorsuche, Graph, Machine Learning in der Datenbank und lokale LLM-Inferenz in einer einzigen Engine, die Sie selbst betreiben: im eigenen Rechenzentrum, in einer souveränen Cloud oder vollständig air-gapped.

Keine Rechtsberatung. Diese Seite beschreibt technische Maßnahmen; die rechtliche Bewertung treffen Ihr Datenschutzbeauftragter und Ihre Rechtsabteilung.

Kurz gesagt

Datensouveränität bei KI heißt: Daten, Modelle und die Protokolle dessen, was die KI tut, unterliegen Ihrer Rechtsordnung und Ihrer operativen Kontrolle, nicht nur einem Speicherort in Frankfurt. Praktisch bedeutet das lokale Inferenz, Vektorsuche in der eigenen Datenbank und kein außereuropäischer KI-Anbieter im Datenfluss. SynapCores leistet alle drei Punkte in einem Binary.

Selbst gehostet

Ein Binary oder Container auf Infrastruktur, die Sie kontrollieren, statt eines Managed Service, von dem Sie abhängen.

Lokale LLM-Inferenz

Ein GGUF-Modell direkt im Prozess (llama.cpp) oder Ihr eigenes Ollama. Keine externe KI-API erforderlich.

SQL + Vektoren + Graph + ML

Eine Engine statt vier zusammengesteckter Systeme: weniger Anbieter, kleinere Angriffsfläche.

Überall gleich

On-Premise, Private Cloud, souveräne europäische Cloud oder air-gapped, mit identischem Verhalten.

Was bedeutet Datensouveränität bei KI?

Drei Begriffe werden oft vermischt:

  • Datenresidenz: wo die Daten physisch liegen, etwa in einer Cloud-Region in Frankfurt.
  • Datensouveränität: welche Gesetze und Behörden auf diese Daten zugreifen können. Ein US-Anbieter mit Rechenzentrum in Deutschland unterliegt weiterhin dem US CLOUD Act.
  • Betriebssouveränität: wer das System betreibt, patcht und abschalten kann. Hängt Ihre KI an einer externen API, entscheidet diese API.

Eine Architektur ohne Datenabfluss

In SynapCores laufen Embeddings, semantische Suche und das Reasoning der Agenten auf einem lokalen Modell. Das ist die vollständige KI-Konfiguration einer Installation, bei der nichts den Server verlässt. Die Engine spricht außerdem die Ollama-API, sodass ollama-python, LangChain Ollama und LlamaIndex direkt verbinden können.

gateway.toml: lokale Inferenz, Telemetrie aus

# /etc/synapcores/gateway.toml
# Option 1: in-process GGUF model via llama.cpp (default, fully offline)
[query.ai_service]
provider        = "native"
model           = "llama-3.2-1b-instruct-q4_k_m"
embedding_model = "minilm"

# Option 2: a local Ollama on the same host or network
# [query.ai_service]
# provider = "ollama"
# base_url = "http://localhost:11434"
# model    = "llama3.2"

# Anonymous install telemetry is opt-out; switch it off for air-gapped sites
[telemetry]
enabled = false

Embeddings und semantische Suche ohne externe API

Mit lokalem Modell wird KI zur SQL-Funktion. Dokumente, Embeddings und die Suche darüber liegen in derselben Datenbank, mit denselben Backups, Berechtigungen und Löschprozessen wie Ihre übrigen personenbezogenen Daten.

-- Embeddings are computed by the local model, inside the database
CREATE TABLE policies (
  id        INT PRIMARY KEY,
  clause    TEXT,
  embedding VECTOR(384)
);

INSERT INTO policies (id, clause, embedding)
VALUES (1, 'Personal data is processed only within the EU.',
        EMBED('Personal data is processed only within the EU.'));

-- Semantic search: no external embeddings API, no export to a vector SaaS
SELECT id, clause,
       COSINE_SIMILARITY(embedding, EMBED('cross-border transfer')) AS score
FROM policies
ORDER BY score DESC
LIMIT 5;

Regulierung in Deutschland, Österreich und der Schweiz

Die rechtlichen Fragen unterscheiden sich, die technische Frage bleibt gleich: Wohin fließen die Daten, wenn Sie KI einsetzen? Laufen Inferenz und Retrieval auf Ihrer Infrastruktur, entstehen durch die KI keine neuen Übermittlungen.

RegelwerkWorum es gehtWas selbst gehostete KI ändert
DSGVO und BDSGAuftragsverarbeitung (Art. 28), Drittlandübermittlung (Kap. V), TOMs (Art. 32), DSFA (Art. 35)Keine Übermittlung an KI-Anbieter in Drittländern; ein System statt einer Kette von Unterauftragsverarbeitern. GDPR-Leitfaden (EN)
Schrems II und US CLOUD ActZugriff von US-Behörden auf Daten bei US-Anbietern, auch in EU-RegionenKein US-KI-Anbieter hält Ihre Daten
KI-Verordnung (EU AI Act)Protokollierung, Daten-Governance, menschliche AufsichtJeder Agentenlauf landet in einem hash-verketteten, manipulationssicheren Protokoll
BSI C5Kriterienkatalog für Cloud-DiensteDie KI läuft auf Ihrer bereits C5-testierten Infrastruktur statt bei einem weiteren Dienst
NIS2UmsuCG und KRITISRisikomanagement in der Lieferkette, seit Dezember 2025 in KraftEin Drittanbieter weniger pro KI-Funktion
DORA (Finanzsektor)Register der IKT-Drittanbieter, Exit-StrategienExit ist trivial: Engine und Daten liegen bereits bei Ihnen
Österreich: DSGNationale Ergänzung zur DSGVOWie DSGVO: keine neuen Übermittlungen durch KI
Schweiz: revDSG (seit 2023)Bekanntgabe ins Ausland nur bei angemessenem SchutzInferenz bleibt in der Schweiz

Transparente Telemetrie, mit einer Zeile abschaltbar

Standardmäßig sendet SynapCores einen anonymen Installations-Heartbeat: eine zufällige ID, Version, Edition und Betriebssystem. Niemals gesendet werden SQL, Tabellennamen, Schemas, Prompts, Embeddings, Zugangsdaten oder Zeilen. Sie können das exakte JSON vorab ansehen und die Telemetrie mit einer Zeile abschalten.

synapcores telemetry preview   # print the exact heartbeat JSON, nothing is sent
synapcores telemetry disable   # or DO_NOT_TRACK=1, or SYNAPCORES_TELEMETRY=off
synapcores telemetry status    # effective state and the reason for it

Community Edition und Enterprise

Community Edition (kostenlos)

SQL, Vektoren, Graph (Cypher), AutoML in SQL, Agenten, Gedächtnis, lokale Inferenz, multimodale Spalten und das hash-verkettete Audit-Protokoll jedes Agentenlaufs.

Enterprise

SSO (SAML/OIDC), LDAP/AD, Zeilen- und Spaltenrichtlinien, Verschlüsselung im Ruhezustand mit KMS, längere Audit-Aufbewahrung mit SIEM-Export, Cluster mit Failover, Point-in-Time-Recovery und unveränderliche Tabellen mit VERIFY TABLE.

Souveräne KI: häufige Fragen

Ist ein lokales LLM automatisch DSGVO-konform?

+

Keine Architektur ist für sich genommen DSGVO-konform; es kommt auf Rechtsgrundlage, Zweck, Speicherdauer und TOMs an. Ein lokal betriebenes LLM beseitigt aber die schwierigsten Punkte: keine Übermittlung an KI-Anbieter in Drittländern und keine Kette von Unterauftragsverarbeitern.

Was ist der Unterschied zwischen Datenresidenz und Datensouveränität?

+

Residenz beschreibt, wo Daten gespeichert sind; Souveränität beschreibt, welches Recht gilt und wer sie kontrolliert. Ein Rechenzentrum in Frankfurt, das ein US-Konzern betreibt, liefert Residenz, aber keine Souveränität gegenüber dem CLOUD Act.

Kann ich KI mit SynapCores komplett selbst hosten?

+

Ja. Der Standard-Provider lädt ein quantisiertes GGUF-Modell direkt im Prozess über llama.cpp, alternativ nutzen Sie Ihr eigenes Ollama. Gehostete Anbieter wie OpenAI oder Anthropic sind optional und werden nur verwendet, wenn Sie sie konfigurieren.

Läuft SynapCores ohne Internetverbindung (air-gapped)?

+

Ja. Mit heruntergeladenem Modell und abgeschalteter Telemetrie benötigt SynapCores keine ausgehende Verbindung.

Welche Modelle kann ich einsetzen?

+

Jedes GGUF-Modell für den internen Provider und jedes Modell in Ihrem Ollama, also auch offene Modelle europäischer Anbieter, dazu ein lokales Embedding-Modell für EMBED().

Auf welchen Systemen läuft SynapCores?

+

Native Binaries für Linux (x86_64 und aarch64) und macOS (Intel und Apple Silicon) sowie ein Docker-Image für jede Plattform mit Docker, unter Windows über Docker oder WSL 2.

Ihre KI sollte nicht voraussetzen, dass Sie Ihre Daten exportieren

SynapCores bringt die Intelligenz zu den Daten. Installieren Sie die kostenlose Community Edition oder sprechen Sie mit uns über einen Enterprise-Betrieb im eigenen Rechenzentrum.