KI-Agenten beeindrucken, weil sich Software damit weniger wie ein Werkzeug und mehr wie ein fähiger Kollege anfühlt. Gib einem Agenten ein Ziel, verbinde ein paar Tools und lass ihn eine Abfolge von Schritten durchdenken – und innerhalb weniger Minuten kann es wirken, als sei eine völlig neue Arbeitsweise angekommen.
Genau deshalb sind Agenten-Demos so überzeugend. Sie optimieren auf Möglichkeiten. Sie zeigen, was passieren könnte, wenn ein Modell beobachten, entscheiden und handeln kann.
Reale Arbeit optimiert auf etwas anderes: Zuverlässigkeit, Verantwortlichkeit und nützliche Ergebnisse. Und genau dort beginnt der schwierige Teil.
Die Demo beweist Intelligenz. Im Betrieb muss sich Nützlichkeit beweisen.
Eine Demo beginnt meist mit einem klaren Ziel, wenigen Tools und sorgfältig vorbereitetem Kontext. Der Agent ist erfolgreich, weil die Welt um ihn herum so weit vereinfacht wurde, dass Erfolg sichtbar werden kann.
Eine Organisation ist keine saubere Demo-Umgebung. Informationen sind unvollständig. Berechtigungen überlappen sich. Systeme haben Edge Cases. Datenqualität schwankt. Menschen ändern mitten im Prozess ihre Meinung. Und die Kosten einer falschen Aktion können deutlich höher sein als die Kosten einer falschen Antwort.
Die interessante Frage ist nicht, ob ein Agent handeln kann. Sie lautet, ob wir die Bedingungen gestaltet haben, unter denen er handeln sollte.
Kontext ist wichtiger als der nächste clevere Prompt
Viele Agenten-Probleme werden als Modellprobleme beschrieben, obwohl sie in Wahrheit Kontextprobleme sind. Der Agent weiß nicht genug über den Kunden, den Prozess, den aktuellen Zustand, die relevante Policy oder darüber, was vor fünf Minuten passiert ist.
Ein nützlicher Agent braucht deshalb mehr als Anweisungen. Er braucht eine bewusst gestaltete Kontextschicht: Welche Informationen sind relevant? Woher stammen sie? Wie aktuell sind sie? Wer darf sie sehen? Und was passiert, wenn Quellen widersprüchlich sind?
Einem Agenten Zugriff auf alles zu geben, ist kein Kontext. Es ist Rauschen – und oft ein Risiko. Guter Kontext ist selektiv.
Wert entsteht, wenn der Agent handeln kann – und Risiko ebenfalls
Ein Chatbot kann etwas vorschlagen. Ein Agent kann etwas verändern. Er kann einen Datensatz anlegen, eine Nachricht senden, eine Opportunity aktualisieren, einen Workflow auslösen, Daten anfordern, ein Ticket eröffnen oder eine andere Systemaktion initiieren.
Genau diese Fähigkeit macht Agenten wertvoll. Und sie macht Berechtigungen zugleich zu einer der zentralen Designfragen.
Beobachten
Der Agent kann relevanten Kontext lesen, den Zustand zusammenfassen und die nächste Entscheidung identifizieren – aber noch nichts verändern.
Empfehlen
Der Agent schlägt eine Aktion vor und bereitet die Arbeit vor. Ein Mensch entscheidet weiterhin, ob die Aktion ausgeführt wird.
Handeln
Der Agent führt vordefinierte Aktionen innerhalb klarer Grenzen aus und eskaliert alles, was außerhalb dieser Grenzen liegt.
Die Abstufung ist wichtig. Nicht jeder Use Case braucht maximale Autonomie. In vielen Workflows kann ein Agent, der eine hochwertige Entscheidung für einen Menschen vorbereitet, mehr Wert schaffen als ein vollständig selbstständig arbeitender Agent.
Grenzen sind keine Einschränkung. Sie sind Teil des Produkts.
Agenten-Design konzentriert sich oft auf Fähigkeiten: Welche Tools sollten wir als Nächstes hinzufügen? Die nützlichere Frage ist die umgekehrte: Was sollte dieser Agent niemals tun können?
Grenzen schaffen Vertrauen. Sie können technisch sein – eingeschränkte APIs, begrenzte Felder, scoped Credentials, Rate Limits – oder operativ, etwa durch verpflichtende menschliche Freigabe vor externer Kommunikation oder einer finanziellen Verpflichtung.
Gute Grenzen machen auch Fehler leichter verständlich. Hat ein Agent einen definierten Handlungsrahmen, lässt sich ein unerwartetes Ergebnis diagnostizieren. Ohne diesen Rahmen wird jeder Fehler zu der vagen Frage, warum „die KI“ etwas getan hat.
Ein nützlicher Agent hat einen Vertrag
Zweck. Kontext. Berechtigungen. Stop-Bedingungen. Übergabe. Ergebnis.
Bevor über Modelle oder Frameworks gesprochen wird, sollte festgehalten werden, wofür der Agent verantwortlich ist, worauf er zugreifen darf, was er verändern darf, wann er stoppen muss und wie Erfolg gemessen wird. Sind diese Punkte unklar, wird auch die Implementierung unklar bleiben.
Menschliche Kontrollpunkte sind kein Scheitern von Automatisierung
Es ist verlockend, einen Agenten danach zu beurteilen, wie wenig menschliche Beteiligung er benötigt. Das ist das falsche Optimierungsziel.
Ein menschlicher Kontrollpunkt kann bewusst gesetzt werden: eine externe Nachricht freigeben, eine ungewöhnliche Entscheidung bestätigen, widersprüchliche Informationen auflösen oder eine Empfehlung mit Geschäftsrisiko akzeptieren.
Die bessere Frage lautet, ob der Kontrollpunkt dort sitzt, wo menschliches Urteilsvermögen echten Wert schafft. Müssen Menschen jeden trivialen Schritt bestätigen, erzeugt der Agent Reibung. Werden sie aus jeder relevanten Entscheidung entfernt, erzeugt der Agent Risiko.
Memory sollte die Aufgabe unterstützen – nicht zum Archiv für alles werden
Agenten profitieren häufig von Memory: früheren Entscheidungen, Kundenpräferenzen, vergangenen Ergebnissen oder dem Zustand eines laufenden Workflows. Nützliches Memory ist aber nicht dasselbe wie unbegrenzte Speicherung.
Was sollte der Agent erinnern? Wie lange? Wem gehören diese Informationen? Kann der Nutzer sie korrigieren? Folgt das Memory der Person, dem Account, dem Fall oder nur der aktuellen Aufgabe?
Das sind Produkt- und Governance-Entscheidungen – keine bloßen technischen Implementierungsdetails.
Ohne messbares Ergebnis gibt es noch keinen nützlichen Agenten
Die einfachste Agenten-Metrik ist Aktivität: erledigte Aufgaben, generierte Nachrichten, veränderte Datensätze. Aktivität ist aber nicht automatisch Wert.
Nützliche Agenten sollten an ein Ergebnis gekoppelt sein. Wurde der Prozess schneller? Benötigen weniger Fälle manuelle Nacharbeit? Hat sich die Antwortqualität verbessert? Bereitet das Sales-Team Termine effektiver vor? Reduziert der Agent repetitive Arbeit, ohne zusätzlichen Review-Aufwand zu erzeugen?
Das verändert auch die Gestaltung von Piloten. Statt zehn beeindruckende Fähigkeiten zu demonstrieren, sollte ein enger Workflow mit klarer Baseline und messbarem Ziel getestet werden.
- Zweck: Für welches Ergebnis ist der Agent verantwortlich – nicht nur: Welche Aufgaben kann er ausführen?
- Kontext: Welche Informationen benötigt er wirklich – und wie werden Aktualität und Zugriff kontrolliert?
- Berechtigungen: Was darf er lesen, vorschlagen und verändern?
- Grenzen: Welche Aktionen oder Situationen müssen immer einen Stopp oder eine Eskalation auslösen?
- Rolle des Menschen: Wo ist Urteilsvermögen wichtig genug, um einen Menschen einzubeziehen?
- Messung: Woran lässt sich belegen, dass der Agent besser ist als der Workflow, den er ersetzt?
Der Agent ist nicht das Produkt. Das Betriebsmodell um ihn herum ist es.
Die Modellqualität wird weiter steigen. Tool-Anbindungen werden einfacher. Frameworks machen mehrstufiges Verhalten zunehmend zugänglich.
Damit verlagert sich die differenzierende Arbeit: den Workflow verstehen, Kontext auswählen, Berechtigungen kontrollieren, Eskalation gestalten, Observability schaffen und festlegen, was Erfolg tatsächlich bedeutet.
Die nützlichsten Agenten werden deshalb wahrscheinlich weniger magisch wirken als die besten Demos. Sie werden enger zugeschnitten, stärker begrenzt und vorhersehbarer sein – und wesentlich tiefer mit der Arbeit verbunden, die sie verbessern sollen.
Das ist kein Kompromiss. Es ist der Punkt, an dem aus einer beeindruckenden KI-Demonstration ein nützliches System wird.