Für KI-Agenten gestalten: Kontrolle, Einwilligung und Vertrauen

Was sich ändert, wenn Nutzer delegieren

Jahrelang haben wir Oberflächen gestaltet, damit eine Person etwas tut: ein Formular ausfüllen, eine Schaltfläche drücken, eine Option wählen. Mit einem Agenten delegiert die Person ein Ziel, und der Agent plant und handelt. Der Bildschirm ist nicht mehr der Ort, an dem die Arbeit getan wird, sondern der Ort, an dem Grenzen vereinbart werden.

Deshalb gleicht das Gestalten für Agenten weniger dem Gestalten eines Ablaufs und mehr dem Gestalten einer Beziehung. Drei Fragen müssen immer eine Antwort haben, und zwar sichtbar:

• Was wird er tun? Vor dem Handeln, nicht danach.
• Wie weit darf er gehen? Was er anfassen darf und was nicht, und wer das entschieden hat.
• Wie mache ich es rückgängig? Ein Weg zurück oder ein klarer Hinweis, dass es keinen gibt.

Der Kontext lädt nicht zum Gegenteil ein. NN/g beschreibt 2026 als das Jahr der KI-Müdigkeit. Vertrauen gewinnt man nicht mit Magie, sondern mit Kontrolle.

Sechs Muster, nach Moment

Ein sehr nützlicher Rahmen ist der von Victor Yocco in Smashing Magazine, der die Muster entlang des Ablaufs einer Interaktion mit einem Agenten ordnet. Meiner ist eine kürzere Fassung, geordnet nach dem Moment, in dem die Person etwas braucht.

Einen siebten Fall sollte man von Anfang an lösen: was der Agent tut, wenn er unsicher ist. Die richtige Antwort ist fast nie, zu raten. Sie lautet: anhalten, sagen, was fehlt, und die Entscheidung an eine Person übergeben, mit dem Kontext, den sie braucht.

Ein Beispiel: die Vorschau der Absicht

Wenn Sie nur ein Muster umsetzen könnten, dann dieses. Es schafft das meiste Vertrauen, weil es aus „Mach es“ ein „Genehmige das“ macht. Ein Beispiel mit einem Agenten, der Ihr Konto prüft und Änderungen vorschlägt:

Was es wirksam macht:

• Es nennt die Aktion, keine vage Absicht. „Tarif Internet L auf Internet M ab dem 1. Dezember wechseln“, nicht „Ihr Konto optimieren“.
• Es trennt Umkehrbares von Nicht-Umkehrbarem. Ein klarer Hinweis bei der Aktion, die sich nicht rückgängig machen lässt.
• Es lässt vor der Genehmigung bearbeiten. Alle drei oder nur zwei zu genehmigen ist ehrlicher als ein Ja oder Nein zu allem.
• Es zeigt Wirkung und Sicherheit. Was Sie gewinnen und wie sicher der Agent seines Vorschlags ist.

Der Autonomie-Regler

Autonomie ist kein Schalter, sondern ein Regler. Der übliche Fehler ist, eine Stufe für das ganze Produkt zu wählen, obwohl jede Aktion eine andere brauchen kann, und jede Person oder Organisation ebenso.

Zwei Regeln, die mir sinnvoll erscheinen. Fangen Sie niedrig an: Es ist leichter, die Stufe mit Belegen zu erhöhen, als sie nach einem Vorfall zu senken. Und machen Sie die Stufe zu einer sichtbaren Einstellung für die Person, die delegiert, nicht zu einer im Produkt versteckten Entscheidung.

Wie man entscheidet, wie viel Autonomie man gibt

Zwei Fragen genügen für eine erste Aufteilung: wie leicht sich die Aktion rückgängig machen lässt und was sie kosten kann, wenn etwas schiefgeht.

Es ersetzt kein Urteil, zwingt aber dazu, über jede Aktion vor dem Start mit Produkt, Recht und Entwicklung zu sprechen und nicht nach dem ersten Fehler.

Hier passt, was ich im Artikel über Komponentenverträge beschrieben habe: Ein guter Vertrag kann auch festlegen, welche Aktionen ein Agent ausführen darf und mit welcher Autonomiestufe.

Vertrauen gestalten heißt auch, es zu messen

Welche Transparenzsignale dazu führen, dass jemand seine Kontrolle gern zurückfährt, ist weiterhin eine offene Frage. Die Antwort ändert sich mit jedem Produkt, also muss man sie messen:

• Genehmigungen ohne Bearbeitung. Wenn fast niemand den Vorschlag bearbeitet, vertrauen sie ihm entweder oder lesen ihn nicht.
• Nutzung von Rückgängig. Ein oft genutztes Rückgängig zeigt, dass der Agent sich irrt oder der Vorschlag nicht verstanden wird.
• Zeit bis zur ersten Genehmigung. Sie misst, was es kostet, Vertrauen aufzubauen.
• Übergaben an eine Person. Zu viele, und der Agent taugt nichts; keine, und er rät vermutlich.

Ein gut gestalteter Agent bittet nicht um Vertrauen: Er verdient es, Aktion für Aktion.

Was mir Sorgen macht

• Hohe Autonomie als Standard. Ein Agent, der vom ersten Tag an allein handelt, gibt keine Gelegenheit, Vertrauen aufzubauen.
• Transparenz als Dekoration. Ein Protokoll, das niemand lesen kann, ist keine Transparenz.
• Aus Gewohnheit genehmigen. Muss alles bestätigt werden, bestätigt man am Ende ohne zu lesen; das Design sollte nur dann um Erlaubnis bitten, wenn es darauf ankommt.
• Verwischte Verantwortung. Wenn etwas schiefgeht, muss die Person wissen, wer dafür einsteht: „der Agent“ ist keine Antwort.

Was ich diese Woche tun würde

1. Wählen Sie eine Aktion, die ein Agent in Ihrem Produkt ausführen könnte.
2. Ordnen Sie sie ein, danach, wie leicht sie sich rückgängig machen lässt und was sie kostet, wenn etwas schiefgeht.
3. Schreiben Sie die Vorschau vor dem Prompt: wie Sie es einer Person vor der Genehmigung erklären würden.
4. Legen Sie die Startstufe fest und wie sie steigt, mit den Kennzahlen, die das belegen.
5. Starten Sie nicht ohne Protokoll und Rückgängig.