APIMart
APIMart

OpenWorker: Andrew Ngs quelloffene KI-Agenten

OpenWorker ist Andrew Ngs quelloffenes, local-first Agenten-Framework, das Workflows plant, Cloud- und lokale Modelle routet und für riskante Schritte eine Freigabe verlangt.

Modell-Einblicke

Wenn du willst, dass ein KI-System Arbeit erledigt, statt nur auf Prompts zu antworten, ist OpenWorker in einem Satz die Kernidee: es plant Aufgaben, nutzt Werkzeuge und hält vor risikoreichen Aktionen für eine Freigabe an.

Ich würde es so zusammenfassen: OpenWorker ist ein quelloffenes, local-first Agenten-Framework, das über eine Desktop-App und einen lokalen Python-Server läuft, Jobs über Cloud- und lokale Modelle routet und 4 Berechtigungsstufen nutzt, um Dateizugriff, Befehlsausführung und Nachrichten nach außen zu steuern. Es passt zu Teams, die eine engere Kontrolle über Daten, weniger Einrichtungsaufwand über Modelle hinweg und eine klare menschliche Prüfung wollen, bevor etwas Riskantes passiert.

Hier die Kurzfassung:

  • Was es tut: verwandelt ein Ziel in einen mehrstufigen Workflow
  • Wie es läuft: Tauri 2 Desktop-App + React 18 UI + lokaler FastAPI/Uvicorn Server
  • Modellzugriff: Cloud-Anbieter und lokale Modelle über aisuite, plus Ollama für die lokale Nutzung
  • Sicherheitsmodell: read, write_local, exec und external
  • Menschliche Prüfung: jeder exec- und external-Schritt wartet auf eine Freigabe
  • Angebundene Werkzeuge: Dateien, Kalender, Slack und andere Team-Systeme
  • Modell-Endpunkt-Option: APIMart über eine einzige OpenAI-kompatible API
  • Am besten geeignete Arbeit: Berichte, Recherche, Content-Pakete, Support-Aufgaben und Medien-Pipelines
  • Produktionsanforderungen: Tracing, Evals, Prompt-Versionierung, Kostenverfolgung und ein Outbox-Prüfablauf

Ein paar Fakten stechen heraus. OpenWorker nutzt 4 Aktionstypen, blockiert 100 % aller exec- und external-Aktionen, bis eine Person sie freigibt, und kann zwischen Modellen wie GPT-5, Claude Sonnet 4.6 und Gemini 3 Pro Preview wechseln, ohne die Workflow-Logik zu ändern.

BereichWas ich schnell wissen sollte
KernnutzungAgenten-System vom Ziel zur Arbeit
Lokale EinrichtungDesktop-App + localhost-Server
RisikokontrolleFreigabe-Gates für risikoreiche Aktionen
Modell-RoutingCloud- + lokale LLMs
Team-AnwendungsfälleBetrieb, Content, Recherche, Support, Medien
ProduktionsfokusLogs, Tests, Kostenlimits, Audits

Wenn ich entscheiden müsste, ob es zu meinem Team passt, würde ich zuerst auf eine Sache schauen: Habe ich wiederholbare Arbeit mit klaren Schritten und dem Bedarf an menschlicher Freigabe bei riskanten Aktionen? Wenn ja, ergibt OpenWorker Sinn.

Andrew Ng: State of AI Agents | LangChain Interrupt

APIMart

So funktioniert OpenWorker: Architektur, Modelle und Berechtigungen

APIMart
OpenWorker-Berechtigungsstufen: Risikokontrolle auf einen Blick

Die Zuverlässigkeit von OpenWorker beruht auf drei Schichten: lokale Ausführung, Modell-Routing und Freigabe-Gates.

Desktop-App und lokaler Agenten-Server

OpenWorker läuft als Tauri 2 Desktop-Anwendung mit einer React 18 UI, gepaart mit einem lokalen Python 3.10+ Server, der FastAPI und Uvicorn nutzt. Einfach gesagt: Die App, die du auf deinem Desktop siehst, arbeitet Seite an Seite mit einem lokalen Server, der auf deinem Rechner läuft.

Diese Einrichtung hält den Agenten nah an den Daten und am Nutzer. Sie hilft außerdem, aus Kontrollsicht die Dinge enger zu halten, da der Server standardmäßig auf localhost lauscht.

Modell-Routing über Cloud- und lokale LLMs

OpenWorker nutzt aisuite, um Anfragen zwischen Cloud-Modellanbietern und lokalen Laufzeitumgebungen wie Ollama zu routen. Das gibt Teams den Spielraum zu entscheiden, wohin jede Aufgabe gehen soll, statt alles über einen einzigen Pfad zu schicken.

Zum Beispiel können Teams private Aufgaben lokal halten und risikoärmere Arbeit anderswohin routen. Sind die Daten sensibel, können Aufgaben über Ollama an ein lokales Modell geschickt werden.

Aufgabenplanung, typisierte Aktionen und Freigabe-Gates

Wenn du OpenWorker ein Ziel gibst, zerlegt es dieses Ziel in einzelne Schritte und weist jeder Aktion einen Berechtigungstyp zu, bevor irgendetwas ausgeführt wird. Statt einer großen Blackbox erhältst du also eine Reihe von Schritten, die geprüft und überprüft werden können.

Die vier Berechtigungstypen entsprechen direkt der Risikostufe:

BerechtigungWas sie erlaubtRisikostufe
readLokale Dateien oder Daten ansehenNiedrig
write_localDateien auf dem Rechner ändern oder erstellenMittel
execTerminal-Befehle oder Skripte ausführenHoch
externalDaten an Slack, E-Mail oder andere Systeme sendenHoch

Freigabe-Gates blockieren jede exec- und external-Aktion, bis ein Mensch sie freigibt. Dieses Kontrollmodell ist es, das die nächste Schicht von Integrationen praktikabel macht.

Werkzeuge, Integrationen und APIMart-gestützter Modellzugriff

APIMart

Arbeiten über Dateien, Kalender, Slack und Team-Systeme hinweg

APIMart

OpenWorker verbindet sich über eingebaute Werkzeuge, gehostete Integrationen und Konnektoren mit lokalen Dateien, Kalendern, Slack und anderen Team-Systemen.[4] Das macht es nützlich zur Automatisierung vernetzter Arbeit, nicht nur einmaliger Aufgaben.

So sieht das in der Praxis aus. Ein Betriebsteam bittet OpenWorker, den wöchentlichen Leistungsbericht zu erstellen und mit dem Team zu teilen. Der Agent liest lokale Analytics-Exporte, stellt ein poliertes Dokument in einem geteilten Ordner zusammen, entwirft eine Slack-Zusammenfassung mit den Schlüsselkennzahlen und hält dann an, um eine Freigabe zu erbitten, bevor er irgendetwas außerhalb des Teams versendet.[4] OpenWorker übernimmt die Koordination. Die Menschen entscheiden weiterhin, was nach außen geht.

Content- und Marketing-Teams können dieselbe Einrichtung für Content-Pakete nutzen. OpenWorker kann Quellrecherche aus lokalen Dateien ziehen, ein Briefing oder Blog-Dokument entwerfen und Prüf-Deadlines im Team-Kalender markieren - alles, ohne externe Systeme zu berühren, bis jemand freigibt.[4]

APIMart als vereinheitlichter Modell-Endpunkt nutzen

Sobald die Werkzeuge angebunden sind, ist der nächste Schritt der Modellzugriff. OpenWorker kann APIMart als vereinheitlichten Modell-Endpunkt über eine einzige OpenAI-kompatible Basis-URL nutzen.[2][3]

Die Einrichtung ist ziemlich einfach:

  • Einen APIMart-API-Schlüssel erstellen
  • Standardmäßige OpenAI-kompatible JSON-Payloads für Chat-, Completion- und Medienanfragen senden

Aus Sicht von OpenWorker sieht APIMart wie ein einziger stabiler Anbieter aus. Doch hinter diesem einen Endpunkt können Teams zwischen Modellen wie GPT-5, Claude Sonnet 4.6 oder Gemini 3 Pro Preview wechseln, ohne den Agenten-Workflow überhaupt zu ändern. Das bedeutet eine Routing-Schicht und weniger Wartung über die Modelle hinweg, die ein Team nutzt.

Multimodale Workflows für Content- und Medien-Teams

Dieselbe Routing-Einrichtung unterstützt auch multimodale Arbeit über Text hinaus. Mit APIMart kann OpenWorker über einen einzigen Endpunkt von der Recherche zum Skript bis zur Videogenerierung gehen.[1]

Für ein Team, das wöchentliche Video-Inhalte produziert, kann OpenWorker die gesamte Pipeline koordinieren - Recherche, Skripterstellung, Asset-Generierung und Prüfvorbereitung - während APIMart die Modellauswahl im Hintergrund übernimmt. Der Workflow bleibt gleich. Nur das Modell ändert sich.

OpenWorker zuverlässig in der Produktion betreiben

Der Produktionseinsatz erfordert Tracing, Kontrollen und Kostentransparenz über Modelle, Aufgaben und Teams hinweg. Aufbauend auf den bereits vorhandenen Berechtigungen und dem Modell-Routing behandelt dieser Abschnitt die operative Schicht, die diese Grundlagen in der Praxis funktionieren lässt. Der nächste Schritt ist, diese Einrichtung in etwas zu verwandeln, das du in der Produktion beobachten, prüfen und steuern kannst.

Tracing, Evals und Prompt-Versionierung

Produktionszuverlässigkeit beginnt mit Transparenz über jeden Schritt jedes Durchlaufs.

Jeder Agentendurchlauf sollte den vollständigen Durchlaufzustand protokollieren: Konversationszustand, Werkzeug-Ein- und -Ausgaben, welches Modell genutzt wurde, Token-Zahlen und Latenz pro Schritt. Ohne das wird Debugging zum Ratespiel. Damit kannst du genau sehen, wo ein Workflow gescheitert ist, und diesen Teil beheben, ohne den Rest zu stören.

Die Prompt-Versionierung ist genauso wichtig. Wenn ein Team einen System-Prompt aktualisiert, um die Ausgabequalität zu verbessern, besteht immer die Chance, dass es etwas kaputt macht, das bereits funktioniert hat. Golden Tests bei jeder Prompt-Änderung auszuführen - ein kleiner Satz bekannter guter Eingaben mit erwarteten Ausgaben - hilft, Regressionen zu erkennen, bevor sie die Produktion erreichen. Golden Tests erkennen Prompt-Regressionen vor dem Deployment.

FunktionOhne TracingMit Tracing
TransparenzBlind für konkrete Fehlerstellen und KostenspitzenGranulare Sicht auf Latenz, Token und Fehlerraten
Debugging-GeschwindigkeitLangsam; erfordert manuelle Reproduktion des AgentenzustandsSchnell; Logs liefern vollständigen Konversations- und Werkzeugzustand
ZuverlässigkeitHohes Regressionsrisiko bei Prompt-UpdatesHoch; Golden Tests erkennen Qualitätseinbrüche in CI/CD
KostenkontrolleReaktiv; erst am Ende des Abrechnungszyklus entdecktProaktiv; Warnungen lösen bei Abweichung pro Aufgabe aus

Risikokontrollen und menschliche Aufsicht für sensible Aktionen

Wenn ein Agent geteilte Systeme beeinflussen kann, braucht die Ausführung eine überprüfbare Übergabe.

Nutze für sensible Aktionen ein Outbox-Muster: Der Agent zeichnet beabsichtigte Aktionen zur Prüfung auf, bevor sie ausgeführt werden.[5] Das ist die richtige Passung für geteilte Systeme, wo die menschliche Prüfung vor der Ausführung stattfinden sollte, nicht nachdem der Schaden angerichtet ist.

Das knüpft direkt an die zuvor eingerichteten Berechtigungstypen exec und external an - das Outbox-Muster steuert die finale Übergabe für diese risikoreicheren Aktionen. In komplexeren Multi-Agenten-Setups hält eine Ordnerstruktur rund um die Verzeichnisse inbox/, outbox/ und workspace/ die Datengrenzen sauber und die Übergaben vorhersehbar.[5] Jeder Agent weiß, woher er lesen und wohin er schreiben soll, was die Pipeline leichter prüfbar macht.

Kosten- und Modellverwaltung mit APIMart-Routing

Sobald Workflows laufen, wird Kostenkontrolle zu einer operativen Anforderung.

Mit APIMart als zentralem Endpunkt können Teams Ausgaben verfolgen, Preisobergrenzen setzen und Latenz an einem Ort überwachen. Wenn du bereits Multi-Modell-Workflows betreibst, senkt zentralisiertes Routing den Aufwand, separate Schlüssel, SDKs und Dashboards für jeden Anbieter zu verwalten.

KennzahlDirekte SchlüsselAPIMart vereinheitlichter Endpunkt
EinrichtungsaufwandHoch; mehrere SDKs und Auth-FlowsNiedrig; ein OpenAI-kompatibler Client
BeobachtbarkeitÜber mehrere Dashboards fragmentiertZentralisiert; eine Sicht für alle Modalitäten
KostenkontrolleManuelle Obergrenzen pro AnbieterZentralisierte Preisobergrenzen und Routing-Regeln
WartungHoch; erfordert SDK-Updates für jedes ModellNiedrig; Modellwechsel sind einfache String-Updates

Bei direkten Schlüsseln werden Kostenspitzen oft erst am Ende eines Abrechnungszyklus entdeckt. Mit APIMart-Routing können Teams Preisobergrenzen und Routing-Regeln setzen, bevor ein Workflow zu einem teuren Problem wird.

Praktische Anwendungsfälle und Fazit

Recherche, Content-Betrieb und Medien-Workflows

Sobald die Workflow-Kontrollen eingerichtet sind, glänzt OpenWorker meist bei repetitiver, umfangreicher Arbeit. Es funktioniert am besten, wenn eine Aufgabe immer wieder demselben Satz von Schritten folgt.

Deshalb passt es so gut zu Marketing-, Recherche- und Medien-Workflows. Teams können die Content-Erstellung automatisieren, indem sie verschiedene Teile des Prozesses koordinieren und das Endergebnis gegen Markenstandards prüfen. In einer Pipeline kann ein Team über einen einzigen Endpunkt Texte entwerfen, Bilder generieren und kurze Videos erstellen.

Diese Einrichtung macht den Sprung von der Recherche zur Text-, Bild- und Videogenerierung deutlich reibungsloser. Statt Werkzeuge von Hand zusammenzuflicken, können Teams den gesamten Ablauf an einem Ort ausführen.

Support, Betrieb und Automatisierung interner Abläufe

Dieselbe Idee überträgt sich auf internen Support und Betrieb. OpenWorker kann mehr, als nur einfache Antworten zu senden. Es kann bei Routineaufgaben wie Bestellstatusprüfungen, Passwort-Zurücksetzungen und Abrechnungsanfragen antworten, verifizieren und handeln.

Für Teams ist das wichtig, weil viel interne Arbeit nicht schwierig ist. Sie ist nur repetitiv. OpenWorker hilft, diese Arbeit voranzubringen, während sensible Aktionen hinter Freigabe-Gates bleiben.

Fazit: Was Teams heute bauen können

Zusammengenommen zeigen diese Workflows, wo OpenWorker derzeit am stärksten ist. Sein quelloffenes Design gibt Teams direkte Kontrolle über Anpassung, Daten und Kosten. Diese Einrichtung ist auf local-first Ausführung und praktische Automatisierung ausgelegt, die Arbeit fertigstellt, statt sie nur anzustoßen.

Ein kluger Einstieg ist simpel: Beginne mit einem umfangreichen, repetitiven Workflow, weise den Nutzen nach und weite dann aus.

FAQs

Für wen ist OpenWorker am besten geeignet?

OpenWorker eignet sich am besten für funktionsübergreifende Teams, Entwickler und Geschäftsbereiche, die KI von Demos in zuverlässige, produktionsreife Automatisierung überführen wollen.

Es passt gut zu Teams, die mehrstufige Workflows über Recherche, Content-Betrieb, Kundensupport und Geschäftsprozess-Automatisierung skalieren - besonders, wenn sie die Kontrolle über Anpassung, Integrationen und Kosten behalten wollen.

Kann OpenWorker sensible Daten lokal halten?

Ja. Quelloffene Agenten-Frameworks unterstützen oft lokales Deployment, sodass Entwickler Agenten bauen und testen können, während sensible Daten in ihren eigenen Systemen bleiben.

Mit lokalen Deployment-Modellen und dateibasierten Kommunikationsprotokollen können Teams strikte Datengrenzen aufrechterhalten und den Betrieb intern halten.

Welche Aufgaben sollten Teams zuerst automatisieren?

Beginne mit umfangreichen, regelbasierten Workflows. Die besten frühen Ziele sind repetitive Aufgaben, leicht messbar und bereits an Systeme wie CRMs, ERPs oder Helpdesks angebunden.

Gute erste Anwendungsfälle sind Triage im Kundensupport und Rechnungsverarbeitung. Warum diese zuerst? Sie können manuelle Arbeit schnell reduzieren und Servicekosten senken, ohne eine große Prozessumstellung.

Von dort aus können Teams zu Dokumentenverarbeitung, Datenextraktion und Content-Generierung verzweigen.

Bereit zum Ausprobieren?

Wählen Sie Ihr gewünschtes Modell im Marktplatz

Testen Sie Chat-, Bild- und Videomodelle im APIMart-Marktplatz und erleben Sie Modellfunktionen schnell über eine einheitliche API.

Chat-ModelleBildmodelleVideomodelle
Modellmarktplatz öffnen