_KI-AGENTEN_

# Für KI-Agenten gestalten: Kontrolle, Einwilligung und Vertrauen

Ein Agent antwortet nicht nur: Er handelt. Er kauft, kündigt, sendet, ändert. Das verändert, was wir gestalten: nicht mehr nur den Bildschirm, auf dem jemand entscheidet, sondern die Grenzen, innerhalb derer der Agent für diese Person entscheidet. Das sind die Muster, die ich empfehle, damit das Vertrauen in einen Agenten eine informierte Entscheidung ist und kein Glaubensakt.

Javier González · 11. Nov. 2026 · 7 Min. Lesezeit

## Was sich ändert, wenn Nutzer delegieren

Jahrelang haben wir Oberflächen gestaltet, damit eine Person etwas tut: ein Formular ausfüllen, eine Schaltfläche drücken, eine Option wählen. Mit einem Agenten delegiert die Person ein Ziel, und der Agent plant und handelt. Der Bildschirm ist nicht mehr der Ort, an dem die Arbeit getan wird, sondern der Ort, an dem Grenzen vereinbart werden.

Deshalb gleicht das Gestalten für Agenten weniger dem Gestalten eines Ablaufs und mehr dem Gestalten einer Beziehung. Drei Fragen müssen immer eine Antwort haben, und zwar sichtbar:

- **Was wird er tun?** Vor dem Handeln, nicht danach.
- **Wie weit darf er gehen?** Was er anfassen darf und was nicht, und wer das entschieden hat.
- **Wie mache ich es rückgängig?** Ein Weg zurück oder ein klarer Hinweis, dass es keinen gibt.

Der Kontext lädt nicht zum Gegenteil ein. [NN/g beschreibt 2026](https://www.nngroup.com/articles/state-of-ux-2026/) als das Jahr der KI-Müdigkeit. Vertrauen gewinnt man nicht mit Magie, sondern mit Kontrolle.

## Sechs Muster, nach Moment

Ein sehr nützlicher Rahmen ist der von [Victor Yocco in Smashing Magazine](https://smashingmagazine.com/2026/02/designing-agentic-ai-practical-ux-patterns/), der die Muster entlang des Ablaufs einer Interaktion mit einem Agenten ordnet. Meiner ist eine kürzere Fassung, geordnet nach dem Moment, in dem die Person etwas braucht.

**Vor dem Handeln**
- **Vorschau der Absicht.** Der Agent sagt, was er tun wird, woran und mit welcher Wirkung, bevor er es tut.
- **Begrenzte Berechtigungen.** Was er lesen, was er schreiben darf und was tabu ist, sichtbar und änderbar.

**Während des Handelns**
- **Sichtbarer Fortschritt.** Konkrete Schritte und ihr Status statt einer endlosen Ladeanzeige.
- **Begründung und Sicherheit.** Warum er es tut und wie sicher er sich ist, in klarer Sprache.

**Nach dem Handeln**
- **Aktionsprotokoll.** Was er getan hat, wann und mit welchen Daten, einsehbar für die Person, die ihn beauftragt hat.
- **Rückgängig und Wiederherstellung.** Mit einer Geste zurückgehen oder klar wissen, was sich nicht rückgängig machen lässt.

Einen siebten Fall sollte man von Anfang an lösen: was der Agent tut, wenn er unsicher ist. Die richtige Antwort ist fast nie, zu raten. Sie lautet: anhalten, sagen, was fehlt, und die Entscheidung an eine Person übergeben, mit dem Kontext, den sie braucht.

## Ein Beispiel: die Vorschau der Absicht

Wenn Sie nur ein Muster umsetzen könnten, dann dieses. Es schafft das meiste Vertrauen, weil es aus „Mach es“ ein „Genehmige das“ macht. Ein Beispiel mit einem Agenten, der Ihr Konto prüft und Änderungen vorschlägt:

**Rechnungs-Agent · Vorschlag**

Ich nehme 3 Änderungen an Ihrem Konto vor

- Tarif Internet L auf Internet M ab dem 1. Dezember wechseln (Umkehrbar)
- Roaming auf Ihrer Hauptleitung ausschalten (Umkehrbar)
- Die TV-Option kündigen (Nicht umkehrbar)

Geschätzte Ersparnis: 14 CHF pro Monat

Hohe Sicherheit · Basierend auf Ihren letzten 6 Rechnungen

Alle 3 genehmigen · Bearbeiten · Abbrechen

_Fiktives Beispiel einer Vorschau der Absicht: was sich ändert, was umkehrbar ist, wie sicher der Agent ist und welche Wirkung es hat, vor der Genehmigung._

Was es wirksam macht:

- **Es nennt die Aktion, keine vage Absicht.** „Tarif Internet L auf Internet M ab dem 1. Dezember wechseln“, nicht „Ihr Konto optimieren“.
- **Es trennt Umkehrbares von Nicht-Umkehrbarem.** Ein klarer Hinweis bei der Aktion, die sich nicht rückgängig machen lässt.
- **Es lässt vor der Genehmigung bearbeiten.** Alle drei oder nur zwei zu genehmigen ist ehrlicher als ein Ja oder Nein zu allem.
- **Es zeigt Wirkung und Sicherheit.** Was Sie gewinnen und wie sicher der Agent seines Vorschlags ist.

## Der Autonomie-Regler

Autonomie ist kein Schalter, sondern ein Regler. Der übliche Fehler ist, eine Stufe für das ganze Produkt zu wählen, obwohl jede Aktion eine andere brauchen kann, und jede Person oder Organisation ebenso.

| Stufe | Der Agent … | Einsetzen, wenn … | Das Design braucht … |
|---|---|---|---|
| **1 · Schlägt vor** | macht einen Vorschlag, die Person führt aus. | ein Fehler teuer ist oder noch kein Vertrauen besteht. | Den Vorschlag und seine Begründung zeigen. |
| **2 · Fragt um Erlaubnis** | bereitet die Aktion vor und wartet auf die Genehmigung. | die Aktion wichtig, aber prüfbar ist. | Eine klare Vorschau, Bearbeitung und Genehmigung. |
| **3 · Handelt und informiert** | führt aus und meldet mit Rückgängig-Option. | die Aktion umkehrbar und häufig ist. | Eine sofortige Meldung und ein verlässliches Rückgängig. |
| **4 · Handelt allein** | führt innerhalb vereinbarter Grenzen aus und hinterlässt ein Protokoll. | die Wirkung gering und das Vertrauen belegt ist. | Ausdrückliche Grenzen, Protokoll und regelmäßige Überprüfung. |

Zwei Regeln, die mir sinnvoll erscheinen. Fangen Sie niedrig an: Es ist leichter, die Stufe mit Belegen zu erhöhen, als sie nach einem Vorfall zu senken. Und machen Sie die Stufe zu einer sichtbaren Einstellung für die Person, die delegiert, nicht zu einer im Produkt versteckten Entscheidung.

## Wie man entscheidet, wie viel Autonomie man gibt

Zwei Fragen genügen für eine erste Aufteilung: wie leicht sich die Aktion rückgängig machen lässt und was sie kosten kann, wenn etwas schiefgeht.

| | Umkehrbar | Schwer umkehrbar |
|---|---|---|
| **Geringe Wirkung** | **Handelt allein**: Sortieren, Etikettieren, Entwürfe vorbereiten. | **Fragt um Erlaubnis**: Eine Nachricht senden, einen Kommentar veröffentlichen. |
| **Hohe Wirkung** | **Handelt und informiert**: Einen Tarif mit Rückgängig ändern, einen Termin buchen. | **Schlägt nur vor**: Bezahlen, einen Vertrag kündigen, Daten löschen. |

Es ersetzt kein Urteil, zwingt aber dazu, über jede Aktion vor dem Start mit Produkt, Recht und Entwicklung zu sprechen und nicht nach dem ersten Fehler.

Hier passt, was ich im Artikel über [Komponentenverträge](https://baguelus.com/de/articulos/contratos-diseno/) beschrieben habe: Ein guter Vertrag kann auch festlegen, welche Aktionen ein Agent ausführen darf und mit welcher Autonomiestufe.

## Vertrauen gestalten heißt auch, es zu messen

Welche Transparenzsignale dazu führen, dass jemand seine Kontrolle gern zurückfährt, ist weiterhin eine offene Frage. Die Antwort ändert sich mit jedem Produkt, also muss man sie messen:

- **Genehmigungen ohne Bearbeitung.** Wenn fast niemand den Vorschlag bearbeitet, vertrauen sie ihm entweder oder lesen ihn nicht.
- **Nutzung von Rückgängig.** Ein oft genutztes Rückgängig zeigt, dass der Agent sich irrt oder der Vorschlag nicht verstanden wird.
- **Zeit bis zur ersten Genehmigung.** Sie misst, was es kostet, Vertrauen aufzubauen.
- **Übergaben an eine Person.** Zu viele, und der Agent taugt nichts; keine, und er rät vermutlich.

> Ein gut gestalteter Agent bittet nicht um Vertrauen: Er verdient es, Aktion für Aktion.

## Was mir Sorgen macht

- **Hohe Autonomie als Standard.** Ein Agent, der vom ersten Tag an allein handelt, gibt keine Gelegenheit, Vertrauen aufzubauen.
- **Transparenz als Dekoration.** Ein Protokoll, das niemand lesen kann, ist keine Transparenz.
- **Aus Gewohnheit genehmigen.** Muss alles bestätigt werden, bestätigt man am Ende ohne zu lesen; das Design sollte nur dann um Erlaubnis bitten, wenn es darauf ankommt.
- **Verwischte Verantwortung.** Wenn etwas schiefgeht, muss die Person wissen, wer dafür einsteht: „der Agent“ ist keine Antwort.

## Was ich diese Woche tun würde

1. **Wählen Sie eine Aktion,** die ein Agent in Ihrem Produkt ausführen könnte.
2. **Ordnen Sie sie ein,** danach, wie leicht sie sich rückgängig machen lässt und was sie kostet, wenn etwas schiefgeht.
3. **Schreiben Sie die Vorschau vor dem Prompt:** wie Sie es einer Person vor der Genehmigung erklären würden.
4. **Legen Sie die Startstufe fest und wie sie steigt,** mit den Kennzahlen, die das belegen.
5. **Starten Sie nicht ohne Protokoll und Rückgängig.**

**Checkliste.** Eine Markdown-Checkliste, um eine Agenten-Aktion vor dem Start zu prüfen: Absicht, Berechtigungen, Autonomie, Protokoll, Rückgängig und Übergabe. [Checkliste herunterladen](https://baguelus.com/recursos/lista-comprobacion-agentes-de.md)