Google DeepMinds drei neue Modelle für KI-Agenten

Wenn ich das auf einen Satz eindampfen müsste, wäre es dieser: Nutzen Sie Gemini 3.5 Flash-Lite für günstiges First-Pass-Routing, Gemini 3.6 Flash für die eigentliche Agentenarbeit und Gemma 4, wenn Sie alles auf eigenen Systemen betreiben müssen.

Hier die Kurzfassung. Der Artikel vergleicht drei Modelle entlang der Punkte, die für KI-Agenten am wichtigsten sind: Latenz, Kosten, Tool-Nutzung, multimodale Eingaben, Planung und Deployment-Kontrolle. Ein Modell ist für Triage mit hohem Volumen gebaut, eines passt zur täglichen Ausführung, und eines ist für selbst gehostete und private Workloads gemacht.

Was mir am meisten auffiel:

• Gemini 3.5 Flash-Lite ist der günstige Traffic-Verteiler für Klassifizierung, Extraktion und Routing, mit Latenz unter 200 ms
• Gemini 3.6 Flash sitzt in der Mitte als Haupt-Arbeitspferd für Tool-Aufrufe, Dokumentarbeit und Workflow-Schritte, bei rund ~500 ms Latenz
• Gemma 4 verschiebt den Trade-off Richtung offene Gewichte, Apache-2.0-Lizenz, lokales Deployment und private Datenverarbeitung
• Gemma 4 reicht von 2.3B bis 31B Parametern, mit bis zu 256K Kontext
• Die 26B A4B MoE-Version aktiviert bei der Inferenz 3.8B von 25.2B Parametern
• Ein gestuftes Setup kann die Ausgaben senken, indem einfache Aufgaben bei kleineren Modellen bleiben und harte Fälle an größere gehen

Wenn Sie schnell entscheiden müssen:
Flash-Lite fürs Routing, Flash für die Ausführung und Gemma 4 für selbst gehostete Kontrolle.

Googles 3.6 Flash zeigt: KI-Agenten werden bald richtig günstig

Schnellvergleich

Mit anderen Worten: Es geht nicht darum, das eine „beste“ Modell zu wählen. Es geht darum, jedes Modell über eine einheitliche LLM-API der passenden Aufgabe zuzuordnen, damit Ihr Agenten-Stack schnell, kostenbewusst und dort unter Ihrer Kontrolle bleibt, wo es nötig ist.

1. Gemini 3.6 Flash

Eignung für Agenten-Workloads

Von den drei Modellen ist Gemini 3.6 Flash die auf Durchsatz ausgelegte Option. Nutzen Sie es für Agenten mit hohem Volumen, die niedrige Latenz, stabile Kosten und schnelle Durchlaufzeiten brauchen.

Latenz und Durchsatz

Das macht es zu einer guten Wahl für anfrageintensive Abläufe wie Ticket-Triage, Dokumentabruf oder Task-Routing im großen Maßstab. In diesen Fällen zählt Geschwindigkeit am meisten, wenn das Modell zugleich stetig und zuverlässig handeln muss.

Tool-Nutzung und Anpassung

Sie können es mit Function Calling, Retrieval, Policy-Prüfungen und menschlichen Freigabeschritten kombinieren, um die Automatisierung kontrolliert zu halten. Es eignet sich zum Beispiel gut für einen Agenten, der eine Anfrage liest, Quelldokumente zieht, Tools aufruft und Randfälle an einen Menschen weiterleitet.

Als Nächstes verschiebt Gemini 3.5 Flash-Lite den Trade-off Richtung leichterer, günstigerer Agentenaufgaben.

2. Gemini 3.5 Flash-Lite

Eignung für Agenten-Workloads

Gemini 3.5 Flash-Lite ist das Standard-Günstigmodell für Klassifizierung, Extraktion und Routing mit hohem Volumen. Stellen Sie es sich als die leichtgewichtige Steuerschicht im Agenten-Stack vor: Es verarbeitet den Großteil des Traffics, während größere Modelle bei härteren Entscheidungen einspringen.

Latenz und Durchsatz

Seine Latenz unter 200 ms macht es zu einer starken Wahl für Fan-out-Workflows, Batching und schnelles Routing. Wenn ein Agentensystem einen großen Job in viele kleine Aufgaben zerlegt, kann Flash-Lite diese Teilaufgaben schnell abarbeiten und die Ergebnisse zur Konsolidierung zurückgeben.

Kosten und Deployment-Modell

Sein niedriger Preis macht es zum Standard-First-Pass-Modell für große Warteschlangen einfacher Aufgaben. Wenn Deployment-Kontrolle und offene Gewichte wichtiger sind als dieses Setup, verschiebt Gemma 4 diesen Trade-off.

Tool-Nutzung und Anpassung

Flash-Lite unterstützt strukturierte Ausgaben und leichtes Task-Tuning für Routing und Extraktion. Ein gängiges Muster ist simpel: Flash-Lite als First-Pass-Klassifizierer oder -Extraktor nutzen und nur Randfälle an ein stärkeres Modell schicken. So können größere Agenten schwerere Modelle für Planung, multimodales Reasoning und harte Ausnahmen aufsparen.

3. Gemma 4

Eignung für Agenten-Workloads

Gemma 4 ist die kontrollorientierte Wahl für Agenten-Stacks, die lokal laufen, mit sensiblen Daten arbeiten und leicht zu tunen bleiben müssen. Seine Apache-2.0-Lizenz erlaubt Teams das Fine-Tuning und Deployment auf lokalen Systemen, was zu regulierten oder Offline-Setups mit strengen Data-Governance-Regeln passt. Es kann außerdem PII am Eingang schwärzen, bevor Daten die lokalen Systeme verlassen – praktisch für Teams in Gesundheitswesen und Finanzbranche ^[1].

Das ist wichtig, denn lokale Kontrolle bedeutet nicht nur Privatsphäre. Es geht auch darum, wie stark Sie das Modell tunen können, wo es läuft und welche Workloads es tragen kann. Bei Gemma 4 läuft das auf Modellgröße, Kontextfenster und Laufzeitkosten hinaus.

Latenz und Durchsatz

Gemma 4 reicht von einem 2.3B-Mobilmodell bis zu einem 31B-Servermodell. Das gibt Teams Spielraum, das Modell zur Aufgabe passend zu wählen, statt ein Modell für alles einzuspannen. Kleine Modelle können Edge-Aufgaben übernehmen, größere Planung oder Reasoning mit langem Kontext.

Die 26B A4B MoE-Variante sticht hier heraus. Bei der Inferenz aktiviert sie 3.8B von 25.2B Parametern, was die Laufzeit effizienter hält. Bei der Kontextlänge unterstützen die kleineren Modelle 128K Tokens, während die 12B-, 26B A4B- und 31B-Modelle 256K Tokens unterstützen. Das passt gut zu langen Dokumenten und langen Agenten-Traces ^[1].

Kosten und Deployment-Modell

Wer Gemma 4 auf eigener Hardware betreibt, spart sich API-Gebühren pro Token, aber die Rechnung verschwindet nicht. Sie wandert zu Servern, Skalierung und Betrieb. Statt einen Anbieter zu bezahlen, zahlen Sie also für den Stack hinter dem Modell.

Gemma 4 bietet Teams außerdem mehrere Wege, den Speicherbedarf zu senken. Quantization-Aware-Training-Checkpoints (QAT) sind in den Formaten GGUF, Mobile-optimiertes wNa8o8 und Compressed Tensors w4a16 verfügbar. Diese können den Speicherbedarf senken und die Ausgabequalität nahe bfloat16 halten ^[1].

Dieses Setup macht das Modell zu einer starken Wahl, wenn Agenten lokale Kontrolle und strukturierte Ausführung brauchen – und wenn das Team bereit ist, die dazugehörige Infrastruktur zu betreiben.

Tool-Nutzung und Anpassung

Gemma 4 unterstützt natives Function Calling und eine native Systemrolle, was Agent-Entwicklern direktere Kontrolle über Gesprächsfluss und Aufgabenausführung gibt ^[1]. Es funktioniert außerdem mit transformers, vLLM und llama.cpp ^[1] und fügt sich so in Stacks ein, die viele Teams bereits nutzen.

Die Unified-12B-Variante kann Bild- und Audioeingaben direkt entgegennehmen. Das ist nützlich für multimodale Agenten, die einen einzigen Fine-Tuning-Pfad über Text-, Bild- und Audioeingaben hinweg brauchen ^[1].

Gemma 4 enthält außerdem einen eingebauten „Thinking“-Modus. Er hilft bei härteren Aufgaben, fügt aber Latenz hinzu. Vereinfacht gesagt: Nutzen Sie ihn für Planung und komplexes Reasoning, nicht für schnelles Routing ^[1]. Gemma 4 setzt also stark auf Kontrolle, aber diese Kontrolle bringt Infrastrukturbedarf und einige Geschwindigkeits-Trade-offs mit sich.

Trade-offs, Integrationsoptionen sowie Vor- und Nachteile

Betrachtet man diese Modelle als Stack, teilen sie sich ziemlich sauber in drei Jobs auf: Triage, Ausführung und lokale Kontrolle.

Die Hauptentscheidung ist also nicht nur, welches Modell das beste ist. Sondern ob ein Modell alles übernehmen soll oder ein gestuftes Setup, in dem jedes Modell den Teil übernimmt, den es am besten kann.

Eine gestufte Architektur passt tendenziell am besten zu komplexen Agenten im Enterprise-Maßstab. Flash-Lite kann Triage und Routing mit hohem Volumen bei niedrigster Latenz und niedrigsten Kosten übernehmen. Gemini 3.6 Flash kann die zentrale Workflow-Ausführung, Tool-Nutzung und Arbeit mit langem Kontext stemmen. Gemma 4 passt zu regulierten oder privaten Workloads, die Self-Hosting oder Private-Cloud-Deployment brauchen.

So eingesetzt können Teams die Kosten spürbar senken, verglichen damit, jede Anfrage an ein einziges leistungsstärkeres Modell zu schicken. An diesem Punkt verschiebt sich der Trade-off: Deployment-Kontrolle vs. operative Einfachheit.

Für Bild- oder Videogenerierung jenseits des Text-Reasonings kann APIMart Aufgaben über eine einzige multimodale API routen.

Die Tabelle unten fasst die wichtigsten Integrationspfade zusammen.

In der Praxis formen diese Trade-offs eine ziemlich einfache Wahl: ein Modell durchgängig nutzen oder Routing, Ausführung und private Workloads auf verschiedene Schichten aufteilen.

Fazit

Das richtige Modell hängt von drei Dingen ab: Aufgabenkomplexität, Budget und Deployment-Kontrolle.

Mit dieser Brille ist Gemini 3.5 Flash-Lite die erste Wahl für leichtgewichtiges Routing. Es passt gut zu Routing- und Extraktionsarbeit mit hohem Volumen. Nutzen Sie es für Klassifizierung, Extraktion und First-Pass-Routing. Braucht die Aufgabe mehr Koordination, steigen Sie auf Gemini 3.6 Flash um.

Gemini 3.6 Flash funktioniert als Standard-Ausführungsschicht für Produktionsagenten. Es sitzt zwischen den niedrigeren Kosten von Flash-Lite und dem kontrollorientierten Deployment von Gemma 4 – ein solider Standard für Teams, die starke Ergebnisse im großen Maßstab wollen. Ist Deployment-Kontrolle am wichtigsten, wird Gemma 4 die bessere Wahl.

Gemma 4 ist für Teams gebaut, die Kontrolle, Privatsphäre oder Offline-Zugriff brauchen. Es passt zu regulierten Umgebungen, weil es On-Device- oder selbst gehostete Verarbeitung und lokale PII-Schwärzung unterstützt. Seine offenen Gewichte machen auch das domänenspezifische Fine-Tuning einfacher.

Nutzen Sie Flash-Lite fürs Routing, Gemini 3.6 Flash für die Ausführung und Gemma 4 für selbst gehostete Kontrolle.

FAQs

Wann sollte ich ein gestuftes Modell-Setup nutzen?

Nutzen Sie ein gestuftes Modell-Setup, wenn Sie Performance, Kosten und Zuverlässigkeit ausbalancieren müssen, während Ihre App wächst.

Die Grundidee: Schicken Sie einfache Aufgaben mit hohem Volumen an günstigere Modelle und sparen Sie Frontier-Modelle für komplexe, kritische Arbeit auf.

Diese Aufteilung kann die API-Kosten um 60% bis 80% senken, besonders wenn Sie eine Anfrage erst eskalieren, nachdem ein leichteres Modell Ihre Konfidenzschwelle verfehlt hat.

Es ist ein ziemlich einfacher Trade-off. Ihr fortschrittlichstes Modell muss nicht jede Routineaufgabe übernehmen. Lassen Sie das leichtere Modell den ersten Durchgang machen und holen Sie das schwerere Modell nur dann, wenn die Aufgabe es verlangt.

Wie entscheide ich zwischen Gemini 3.6 Flash und Gemma 4?

Entscheiden Sie nach dem, was Ihnen am wichtigsten ist: Geschwindigkeit, Skalierung oder Kontrolle.

Gemini 3.6 Flash ist ein leistungsstarkes multimodales Modell für Aufgaben mit niedriger Latenz und hohem Volumen. Das macht es zu einer starken Wahl für Echtzeit-Apps und kostensensible Workflows.

Gemma 4 ergibt mehr Sinn, wenn Sie mehr Kontrolle und Flexibilität wollen, etwa lokales Deployment oder den Betrieb auf eigener Infrastruktur. Wählen Sie Gemini 3.6 Flash für schnelle, skalierbare Produktion. Wählen Sie Gemma 4 für private On-Device-Nutzung oder eigenes Fine-Tuning.

Welche Agentenaufgaben passen am besten zu Flash-Lite?

Flash-Lite passt gut zu volumenstarker, kostensensibler Arbeit, bei der Effizienz wichtiger ist als tiefes Reasoning. Besonders stark ist es bei einfacher Datenextraktion und Klassifizierung.

Es funktioniert auch gut als erste Schicht in einer Modellkaskade. In vielen Setups kann es 70% bis 85% der Anfragen erledigen, bevor härtere Fragen an Premium-Modelle gehen. Das kann die Kosten um 60% bis 75% senken und dabei Standard-Agenten-Workflows stabil halten.