Das Problem
Ein Entwicklungsteam hat eine KI-Funktion fertig gebaut — und kommt trotzdem nicht live, weil der Auftragsverarbeitungsvertrag eines Kunden oder der eigene Datenschutzbeauftragte einen außereuropäischen Anbieter ausschließt. Eine Antwort wie „wir wählen die EU-Region" reicht dabei oft nicht: Wo eine Anfrage verarbeitet wird und wer die Infrastruktur dahinter kontrolliert, sind zwei verschiedene Fragen, und Vergabestellen unterscheiden sie genau.
konduit versucht, dieses Problem auf API-Ebene zu lösen statt auf Vertragsebene: ein Gateway, das Anfragen zu Anbietern in Europa routet und zu jedem Modell offenlegt, wie belastbar die Souveränitätsangabe tatsächlich ist.
Ein Endpunkt, ein Base-URL-Tausch
konduit spricht die OpenAI-API. Bestehende SDKs, Frameworks und eigene Integrationen laufen unverändert weiter — es ändern sich nur Base-URL und Key. Anfragen und Antworten werden byteweise durchgereicht, bis auf die Routing-Entscheidung im Request und die Usage-Felder, die für die Abrechnung angefordert werden.
Der Katalog entscheidet, welcher Anbieter eine Anfrage bedient — angebunden sind etwa Scaleway, OVHcloud und Hetzner. Ein Request kann optional eine Souveränitätsrichtlinie mitgeben: geforderte Prüfungen, erlaubte Hosting-Länder, Zero-Retention. Diese Angaben filtern die passenden Anbieter, bevor eine Anfrage verschickt wird, und werden selbst nie an einen Anbieter weitergereicht. Schlägt ein Anbieter fehl, versucht das Gateway den nächsten passenden — und jede Antwort trägt einen Hinweis darauf, wer sie tatsächlich beantwortet hat.
Souveränität als Metadatum
Der Kernsatz dahinter: Nicht die Modelle sind europäisch, das Hosting ist es. konduit macht diesen Unterschied maschinenlesbar: Über GET /v1/models steht zu jedem Modell im Katalog Betreiber, Hosting-Land, Eigentumsverhältnisse und Prüfstufe — inklusive eines verpflichtenden Feldes evidence_url, das die Angabe belegt. Eine Prüfstufe wird nie höher geführt, als dieser Nachweis trägt.
Vier Stufen:
- sovereign — höchste Prüfstufe, Drittprüfungen wie C5 Typ 2 oder SecNumCloud.
- certified — drittgeprüft, aber mit engerem Geltungsbereich, etwa ISO 27001.
- declared — Selbstauskunft des Anbieters ohne Prüfung Dritter, als solche gekennzeichnet.
- flagged — europäischer Betrieb mit außereuropäischen Eigentümern oder hybridem Routing.
Diese Angaben stehen über die API zur Verfügung, nicht nur als Prosa auf einer Seite: Ein Compliance-Team kann den Katalog programmatisch abfragen, statt sich auf eine Zusage zu verlassen.
Abrechnung und Keys
Abgerechnet wird nutzungsbasiert aus einem Guthaben, ohne Vertragsbindung; das Guthaben verfällt nicht. Grundlage jeder Buchung ist ausschließlich die vom Anbieter gemeldete Usage — eine lokale Schätzung darf einen Hold bemessen, nie eine Abrechnung begründen.
Jeder API-Key gehört zu genau einem Workload und trägt ein Budget sowie ein Ratenlimit, das durchgesetzt wird, bevor eine Anfrage überhaupt einen Anbieter erreicht. Prompts und Antworten werden nie in Logs oder Traces geschrieben. Und weil Inferenz und Verwaltungsebene getrennte Sorgen sind: Ein Ausfall der Verwaltungsebene stoppt keine laufende Inferenz.
Stack
- Go für die vier Kern-Services: das Gateway als Datenebene, ein Ledger mit doppelter Buchführung und Holds für das Guthaben, eine Control-API für Katalog, Organisationen und Keys, sowie ein Worker für die asynchrone Usage-Verarbeitung.
- Next.js für Console, Marketing-Site und die geplante Dokumentation.
- PostgreSQL als Datenhaltung, gRPC zwischen den internen Diensten, OpenTelemetry für Observability.
Status
Die Marketing-Site ist live unter konduit.eu. Der Rest — Gateway, Ledger, Control-API, Worker und Console — befindet sich im Aufbau und ist noch nicht öffentlich nutzbar. Der Name ist bewusst ein Arbeitstitel, das gilt ebenso für Marke und Domain.
Warum wir das bauen
Wir sehen das Problem aus zwei Richtungen. Als Consulting-Firma erleben wir regelmäßig, wie ein sonst fertiges Projekt genau an dieser Stelle hängen bleibt: Ein Datenschutzbeauftragter oder eine Vergabestelle akzeptiert den vorgesehenen Anbieter nicht. Und wir bauen selbst Software, die vor demselben Problem steht.
konduit richtet sich an Entwicklungsteams unter europäischen Compliance-Auflagen ebenso wie an regulierte Mittelstands- und Public-Sector-Organisationen, für die eine Anbieterwahl ohne belastbaren Nachweis keine Option ist. Der Anspruch ist nicht, das schnellste oder günstigste Gateway zu sein, sondern das ehrlichste: eine Prüfstufe, die nie höher behauptet wird, als sie belegt ist.