Unified LLM API: GPT, Claude, Gemini & mehr

Das LLM-Feld hat sich in ein halbes Dutzend ernstzunehmende Modellfamilien aufgespalten — GPT, Claude, Gemini, DeepSeek, Qwen, Doubao, Kimi, MiniMax, GLM — jede mit eigenen Stärken, Preiskurven und betrieblichen Besonderheiten. Teams, die sich an einen einzigen Anbieter binden, verbringen das nächste Quartal damit, Integrationen neu zu schreiben, wenn dieser Anbieter die Preise erhöht, Rate-Limits ändert oder bei einer benötigten Funktion schlicht zurückfällt. Dieser Beitrag erläutert, warum ein einheitliches LLM-Gateway zum Standard in der Produktion geworden ist, wie man das richtige Modell für eine gegebene Aufgabe auswählt und wie der Integrationscode konkret aussieht.

Warum eine einheitliche API heute der Standard ist

Die Kosten der LLM-Integration stecken nicht mehr im Modellaufruf selbst — sie stecken im Verbindungscode drumherum. Jeder Anbieter hat sein eigenes SDK, seine eigene Authentifizierungsstruktur, sein eigenes Fehlermodell, eigene Rate-Limit-Header und ein eigenes Abrechnungsportal. Multipliziert man das mit fünf Anbietern, wird die Integration zu einem zweiten Produkt.

Die Integrationssteuer bei mehreren SDKs

Eine direkte Integration mit drei Anbietern ergibt drei Authentifizierungsabläufe, drei Retry-Richtlinien, drei Nutzungs-Dashboards und drei Sätze von Produktionsvorfällen. Jede neue Modellveröffentlichung löst irgendwo ein SDK-Update aus. Teams verlieren routinemäßig 1–2 Ingenieur-Wochen pro Quartal für Anbieter-Infrastrukturarbeit, die keine einzige Geschäftskennzahl verbessert.

Preisgestaltung und Anbieterrisiko

LLM-Preise ändern sich ständig — manche Anbieter senken die Tarife in einer einzigen Version um 80 %; andere fügen neue Stufen hinzu, die das eigene Kostenmodell über Nacht entwerten. Die Bindung an einen einzigen Anbieter bedeutet, jeden dieser Schwankungen zu absorbieren, ohne die Verhandlungsmacht zum Wechseln zu haben. Ein einheitliches Gateway hält den Wechselaufwand bei einer Konfigurationsänderung.

Was ein einheitliches Gateway löst

Eine einheitliche LLM-API bündelt alle Anbieter hinter einem einzigen OpenAI-kompatiblen Endpunkt. Ein Schlüssel, ein SDK, eine Abrechnungsansicht, ein Ort für Rate-Limits und Fallbacks. Die Modellauswahl wird zu einem String-Parameter — heute "gpt-5", morgen "claude-4-6-sonnet", "deepseek-v3" für den Batch-Job, der nächtens läuft. Der Integrationscode ändert sich nicht.

Die richtige LLM-Familie für die Aufgabe wählen

Kein einzelnes Modell gewinnt jeden Benchmark. Gute Modellwahl bedeutet, die Stärken eines Modells auf die Form der Aufgabe abzustimmen. Die nachfolgende Tabelle zeigt eine grobe Stärken-Heuristik über die wichtigsten Modellfamilien, auf die man in der Produktion tatsächlich zurückgreift — als Ausgangspunkt verwenden und dann mit eigenem Traffic benchmarken.

Reasoning und komplexe Analysen

Wenn Korrektheit bei langen Gedankenketten entscheidend ist — mehrstufige Mathematik, Rechtsanalyse, Code-Review — braucht man ein Modell mit bewusstem Reasoning-Verhalten. Claude, GPTs Reasoning-Stufen und DeepSeek sind hier alle gut aufgestellt. DeepSeek verschiebt insbesondere die Kostenkurve und macht umfangreiche Reasoning-Workloads wirtschaftlich, die vor einem Jahr noch unrentabel gewesen wären.

Programmierung und Entwickler-Workflows

Beim Codieren sind Claude und GPT bei den meisten alltäglichen Aufgaben ein Münzwurf, wobei DeepSeek und Qwen den Abstand bei deutlich geringeren Kosten für Batch-Jobs wie großflächige Refaktorierungen oder Testgenerierung verringern. Die richtige Wahl hängt meist davon ab, ob der Workload Spitzenqualität oder Durchsatz pro Dollar höher bewertet.

Kostenempfindliche Workloads mit hohem Volumen

Klassifizierung, Tagging, Zusammenfassung und Hintergrundanreicherung brauchen fast nie ein Frontier-Modell. Diese Aufgaben an eine günstigere Stufe routen — DeepSeek, Qwen oder die kleineren Varianten der Frontier-Familien — und die teuren Modelle für interaktive Nutzeraufrufe aufsparen. Ein gemischter Tier ist oft der größte einzelne Kostenhebel, den eine LLM-Produktionsanwendung hat.

Mehrsprachige und regionsspezifische Inhalte

Für CJK-lastige Workloads übertreffen Qwen, Doubao, GLM und Kimi westliche Frontier-Modelle regelmäßig bei kulturellen Nuancen und Redewendungen. Ein kleines Evaluierungsset in der Zielsprache gegen drei Kandidaten zu testen ist mehr wert als jede Benchmark-Rangliste.

Integration über eine einheitliche API

Ein einheitliches LLM-Gateway spricht das OpenAI-Protokoll, was bedeutet, dass jedes gängige SDK unverändert funktioniert — man zeigt die Basis-URL einfach auf das Gateway. Die folgenden Beispiele verwenden den APIMart-Endpunkt, aber die Struktur ist für jedes OpenAI-kompatible Setup identisch.

Einfache Chat-Completion

Hier ist der minimal funktionsfähige Aufruf — eine Single-Turn-Completion mit einem System-Prompt:

curl https://api.apimart.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5",
    "messages": [
      {"role": "system", "content": "You are a concise assistant."},
      {"role": "user", "content": "Explain vector embeddings in two sentences."}
    ]
  }'

"gpt-5" gegen "claude-4-6-sonnet", "gemini-2-5-pro" oder "deepseek-v3" austauschen, und die Anfrage bleibt identisch. Das ist der ganze Witz.

Streaming-Antworten

Für interaktive Benutzeroberflächen möchte man Token-für-Token-Streaming. Das OpenAI-SDK erledigt das sofort gegen ein kompatibles Gateway:

import OpenAI from "openai";

const client = new OpenAI({
  apiKey: process.env.APIMART_API_KEY,
  baseURL: "https://api.apimart.ai/v1",
});

const stream = await client.chat.completions.create({
  model: "claude-4-6-sonnet",
  stream: true,
  messages: [{ role: "user", content: "Write a haiku about TCP." }],
});

for await (const chunk of stream) {
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}

Die einzigen zwei Zeilen, die sich von einer direkten OpenAI-Integration unterscheiden, sind die baseURL und der model-String.

Strukturierte JSON-Ausgabe

Agent-Pipelines brauchen fast immer strukturierte Daten als Rückgabe. Jede wichtige Modellfamilie unterstützt jetzt einen JSON-Modus, und das einheitliche Gateway normalisiert den Parameter:

const response = await client.chat.completions.create({
  model: "gpt-5",
  response_format: { type: "json_object" },
  messages: [
    { role: "system", content: "Return JSON with fields: sentiment, topic, score." },
    { role: "user", content: "The product arrived late but the support team was amazing." },
  ],
});

const parsed = JSON.parse(response.choices[0].message.content ?? "{}");
// { sentiment: "mixed", topic: "customer-service", score: 0.7 }

Für strengere Garantien das json_schema-Antwortformat verwenden — die meisten Frontier-Familien unterstützen es inzwischen, und das Gateway verbirgt, welche Anbieter noch den Fallback benötigen.

Modelle im laufenden Betrieb wechseln

Der eigentliche Wert einer einheitlichen API zeigt sich, wenn man verschiedene Anfragen basierend auf Kosten oder Fähigkeiten an verschiedene Modelle routet. Ein minimaler Router sieht so aus:

function pickModel(task: "chat" | "reasoning" | "bulk"): string {
  switch (task) {
    case "chat": return "claude-4-6-sonnet";       // quality-sensitive user chat
    case "reasoning": return "deepseek-v3";         // cheap, strong reasoning
    case "bulk": return "qwen-plus";                // cheapest for classification at scale
  }
}

const completion = await client.chat.completions.create({
  model: pickModel(task),
  messages,
});

Alles außerhalb des Routers bleibt konstant. Ein neues Modell hinzufügen bedeutet, einen String hinzuzufügen. Eines entfernen bedeutet, einen String zu löschen. Kein SDK-Wechsel, keine Auth-Migration, kein neues Abrechnungssetup.

---

Die Wahl eines LLM war früher eine einmalige Entscheidung, mit der man ein Jahr lang leben musste. Im Jahr 2026 ist es ein Konfigurationsparameter, den man jeden Monat neu bewertet, wenn sich Preise ändern und neue Modelle erscheinen. Eine einheitliche API macht das zu einer leichtgewichtigen Operation — die Integration wird einmal geschrieben, der Modell-Mix entwickelt sich kontinuierlich, und die Aufmerksamkeit des Teams bleibt auf dem Produkt statt auf der Anbieter-Infrastruktur.