Autonomie ist kein Selbstzweck
Ein KI-Agent soll Arbeit abnehmen. Daraus folgt nicht, dass er jede Entscheidung selbst treffen sollte. In realen Unternehmensprozessen gibt es Handlungen mit unterschiedlichem Risiko: Informationen zusammenstellen ist etwas anderes als eine Rechnung versenden, einen Datensatz löschen oder eine Kampagne veröffentlichen.
Ein gutes Agent Harness behandelt diese Unterschiede ausdrücklich. Niedrigriskante, reversible Schritte können automatisch laufen. Irreversible, teure oder rechtlich relevante Aktionen halten an einer definierten Freigabestelle. Der Mensch wird damit nicht zum dauerhaften Aufpasser, sondern zum Entscheider an den wenigen Stellen, an denen seine Verantwortung wirklich zählt.
Vier Kriterien für eine sinnvolle Freigabe
Freigaben sollten nicht nach Bauchgefühl überall eingebaut werden. Sonst entsteht eine Klickstrecke, die zwar modern aussieht, aber kaum Arbeit spart. Hilfreicher ist eine klare Risikologik.
- Reversibilität: Kann die Aktion vollständig und schnell rückgängig gemacht werden?
- Schadenshöhe: Welche finanziellen, rechtlichen oder reputativen Folgen hätte ein Fehler?
- Unsicherheit: Liegen dem Agenten ausreichend verlässliche Daten und Regeln vor?
- Außenwirkung: Verlässt das Ergebnis das Unternehmen oder verändert es ein System of Record?
Der Agent muss eine Entscheidung vorbereiten
Eine Freigabe ist nur dann nützlich, wenn der Mensch nicht die komplette Arbeit noch einmal machen muss. Der Agent sollte deshalb einen prüfbaren Vorschlag liefern: Was soll passieren? Auf welcher Grundlage? Welche Daten wurden verwendet? Welche Unsicherheit bleibt? Und was ändert sich nach der Freigabe?
Statt „Darf ich fortfahren?“ braucht es beispielsweise: „Ich habe Angebot A auf Basis dieser fünf Eingaben erstellt. Preis und Empfänger sind geprüft. Der Versand an den Kunden ist der einzige irreversible Schritt. Jetzt freigeben?“ So wird aus einer Unterbrechung eine schnelle, informierte Entscheidung.
Freigabe heißt auch: sauber weiterarbeiten
Nach einer Zustimmung muss das Harness den Prozess exakt dort fortsetzen, nicht von vorn beginnen oder die Aktion doppelt ausführen. Dafür braucht es Zustände, idempotente Operationen und einen nachvollziehbaren Übergang zwischen „vorbereitet“, „freigegeben“, „ausgeführt“ und „verifiziert“.
Dasselbe gilt für Ablehnungen. Ein produktiver Agent speichert nicht nur „Nein“, sondern den Grund und den nächsten erlaubten Schritt. Dadurch lernt nicht automatisch das Modell; vielmehr wird der Prozess für den nächsten Lauf präziser und für das Team verständlicher.
Die beste Automatisierung macht Verantwortung klarer
Human-in-the-loop ist kein Zeichen dafür, dass der Agent zu schwach ist. Es ist ein Architekturmerkmal. Ein gutes System automatisiert den reproduzierbaren Teil vollständig und legt Verantwortung dort offen, wo eine Entscheidung tatsächlich Wirkung hat. So entsteht mehr Geschwindigkeit, ohne Kontrolle in eine unsichtbare Blackbox zu verschieben.