KI-Agenten im Unternehmen
Ein KI-Agent ist ein System, das ein Ziel in mehreren Schritten verfolgt. Er nutzt dabei selbst Werkzeuge wie Suche, Datenbanken oder E-Mail und bewertet seine Zwischenergebnisse. Im Mittelstand sind heute meist fest definierte Workflows mit KI-Schritten verlässlicher als frei agierende Agenten. Je mehr ein Agent selbst entscheidet, desto wichtiger werden Rechte, Protokolle und menschliche Freigabe.
Alle reden von KI-Agenten. Die Frage für Deinen Betrieb ist eine andere: Welcher Ablauf braucht wirklich einen Agenten, und wo reicht ein einfacher Workflow, der zuverlässiger und billiger ist?
Wir bauen selbst Automatisierungen für kleine Firmen. Hier steht deshalb ohne Werbesprech, was Agenten heute können, wo sie scheitern, wie Du sie absicherst und was der AI Act dazu sagt.
Was ist ein KI-Agent?
Der Begriff wird unterschiedlich verwendet. Eine hilfreiche Unterscheidung stammt vom KI-Anbieter Anthropic in seinem Beitrag „Building effective agents“. Dort heißen Systeme, in denen Sprachmodelle und Werkzeuge über vordefinierte Codepfade gesteuert werden, Workflows. Systeme, in denen Sprachmodelle ihre Abläufe und ihre Werkzeugnutzung selbst steuern, heißen Agenten. Beides fällt unter den Oberbegriff „agentische Systeme“.
Für die Praxis lässt sich das so abgrenzen:
| Chatbot | Workflow mit KI-Schritten | KI-Agent | |
|---|---|---|---|
| Wer bestimmt die Schritte? | die Person im Dialog | der vorher festgelegte Ablauf | das Modell, je nach Lage |
| Typische Aufgabe | Fragen beantworten | E-Mail einlesen, Daten auslesen, Entwurf anlegen | Recherche, mehrstufige Aufgaben mit offenem Weg |
| Werkzeuge | meist nur die Wissensbasis | fest verdrahtet | wählt selbst aus einem Satz an Werkzeugen |
| Vorhersagbarkeit | hoch bis mittel | hoch | geringer |
| Prüfbarkeit | Antwort prüfen | jeden Schritt prüfen | Ergebnis und Weg prüfen, Protokoll nötig |
Die Grenzen sind fließend. Ein Chatbot, der auf Wunsch einen Termin bucht, nutzt bereits ein Werkzeug. Ein Workflow kann eine einzelne Stelle enthalten, an der das Modell zwischen zwei Wegen entscheidet.
Was können KI-Agenten heute zuverlässig?
Unsere Einschätzung, keine Studie: Agenten spielen ihre Stärke aus, wenn der Weg zum Ziel nicht vorher feststeht, das Ergebnis sich aber gut prüfen lässt. Beispiele:
- Recherche und Zusammenstellung: mehrere interne Quellen durchsuchen und eine Übersicht mit Fundstellen erstellen. Eine Person prüft das Ergebnis.
- Vorbereitende Sachbearbeitung: zu einer Kundenanfrage die passenden Vorgänge, Verträge und Notizen heraussuchen und eine Antwort entwerfen.
- Programmier- und Datenaufgaben in einer abgeschotteten Umgebung: Hier lässt sich das Ergebnis maschinell testen. Anthropic nennt Coding als Gebiet, in dem Agenten besonders gut nutzbar sind, weil Tests das Ergebnis überprüfen.
- Mehrstufige Formularvorbereitung: Daten aus mehreren Quellen zusammentragen und einen Entwurf zur Freigabe vorlegen.
Gemeinsam ist allen: Der Agent bereitet vor, ein Mensch entscheidet.
Diesen Grundsatz empfehlen wir für jede Automatisierung: Systeme schlagen vor und bereiten vor. Wo es um Geld, Recht oder Kunden geht, entscheidet ein Mensch.
Wo liegen die Grenzen von KI-Agenten?
Fehlerketten. Ein Agent trifft viele Entscheidungen hintereinander. Ein früher Fehler setzt sich fort und kann sich verstärken. Anthropic weist ausdrücklich auf das Risiko sich aufsummierender Fehler hin und empfiehlt umfangreiche Tests in abgeschotteten Umgebungen sowie passende Leitplanken.
Kosten und Dauer. Agenten brauchen oft viele Modellaufrufe pro Aufgabe. Laut Anthropic tauschen agentische Systeme häufig Latenz und Kosten gegen bessere Ergebnisse ein. Ob sich das lohnt, ist je Aufgabe zu prüfen.
Sicherheit: Prompt-Injection. Das OWASP-Projekt führt Prompt-Injection an erster Stelle seiner Risiken für Anwendungen mit Sprachmodellen (LLM01). Gemeint sind Eingaben, die das Verhalten des Modells unbeabsichtigt verändern. OWASP unterscheidet:
- direkte Injection: Jemand gibt dem System selbst manipulierende Anweisungen.
- indirekte Injection: Die Anweisung steckt in Inhalten, die das System verarbeitet, etwa in einer Website, einer E-Mail oder einem Dokument.
Gerade Agenten lesen viele fremde Inhalte und können handeln. Eine versteckte Zeile in einer eingehenden E-Mail könnte einen Agenten mit Zugriff auf Dein Postfach zu einer ungewollten Aktion verleiten. Rechte und Freigaben sind deshalb der wichtigste Schutz.
Datenqualität. Ein Agent ist nur so gut wie die Quellen, auf die er zugreift. Veraltete Preislisten, doppelte Dokumente oder widersprüchliche Anleitungen führen zu falschen Zwischenergebnissen, auf denen alle weiteren Schritte aufbauen.
Nachvollziehbarkeit. Wenn das Modell den Weg selbst wählt, ist im Nachhinein schwerer zu erklären, warum etwas passiert ist, sofern nicht jeder Schritt protokolliert wird.
Agent oder Workflow: Was passt zu meinem Ablauf?
Anthropic rät, die einfachste Lösung zu suchen und Komplexität nur dann zu erhöhen, wenn nötig. Das kann bedeuten, gar kein agentisches System zu bauen. Diese Fragen helfen bei der Entscheidung:
| Frage | Eher Workflow | Eher Agent |
|---|---|---|
| Sind die Schritte vorher bekannt? | ja | nein, der Weg hängt vom Fall ab |
| Muss jeder Durchlauf gleich ablaufen (Prüfung, Revision)? | ja | nein |
| Lässt sich das Ergebnis leicht prüfen? | egal | ja, sonst zu riskant |
| Wie teuer ist ein Fehler? | auch bei hohem Risiko möglich | nur bei geringem Risiko oder mit Freigabe |
| Gibt es viele Ausnahmen, die sich nicht als Regel fassen lassen? | wenige | viele |
Ein typisches, fiktives Beispiel
Ein Großhändler möchte eingehende Bestellungen per E-Mail erfassen. Die Schritte sind immer gleich: E-Mail lesen, Artikel und Mengen auslesen, mit dem Warenwirtschaftssystem abgleichen, Auftrag als Entwurf anlegen, bei Unklarheit an den Innendienst. Hier passt ein Workflow mit einem KI-Schritt zum Auslesen.
Anders bei der Frage „Stelle mir alles zusammen, was wir mit Kunde X in den letzten zwei Jahren besprochen haben“: Welche Quellen relevant sind, hängt vom Fall ab. Hier kann ein Agent mit reinen Leserechten sinnvoll sein.
Wie ein solcher Workflow im Kleinen aussieht, zeigt unser Beitrag Kassenbelege mit KI erfassen: feste Schritte, ein KI-Schritt zum Auslesen, am Ende prüft ein Mensch.
Wie sorge ich für Sicherheit und Verantwortung?
- Minimale Rechte: OWASP empfiehlt, die Rechte des Modells auf das Nötige zu beschränken. Ein Recherche-Agent braucht Leserechte, keine Schreib- oder Senderechte.
- Menschliche Freigabe: Für Aktionen mit hohem Risiko empfiehlt OWASP menschliche Freigaben. Im Unternehmen heißt das: kein Versand, keine Zahlung, keine Vertragsänderung ohne Freigabe.
- Fremde Inhalte als Daten behandeln: Eingehende Texte dürfen keine Anweisungen an das System sein. Inhalte klar trennen und kennzeichnen.
- Protokolle: Jeder Schritt, jedes Werkzeug und jede Quelle wird festgehalten, damit sich Ergebnisse nachvollziehen lassen.
- Abgeschottet testen: zuerst in einer Testumgebung mit Testdaten, dann im Echtbetrieb mit Kontrolle und Stichproben.
- Datenschutz: Lege vorab fest, welche personenbezogenen Daten der Agent sieht und wohin sie gehen, und regle die Auftragsverarbeitung.
Was sagt der AI Act zu KI-Agenten?
Unsere Einordnung, Stand 26.10.2026, keine Rechtsberatung.
- Den Begriff „KI-Agent“ verwendet die KI-Verordnung nicht. Maßgeblich ist, ob ein KI-System im Sinne von Art. 3 Nr. 1 vorliegt: sinngemäß ein maschinengestütztes System, das mit unterschiedlichem Grad an Autonomie betrieben werden kann und aus Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Ein Agent auf Basis eines Sprachmodells dürfte das in aller Regel erfüllen.
- Das Sprachmodell darunter ist häufig ein KI-Modell mit allgemeinem Verwendungszweck (Art. 3 Nr. 63). Die Pflichten der Art. 53 ff. treffen dessen Anbieter, also etwa den Modellhersteller, nicht das Unternehmen, das den Agenten nur einsetzt.
- Art. 50 Abs. 1: Ist ein Agent für die direkte Interaktion mit Menschen bestimmt, müssen Anbieter seit dem 02.08.2026 sicherstellen, dass die Personen erfahren, dass sie mit einem KI-System interagieren, es sei denn, das ist offensichtlich. Wer einen Agenten selbst entwickeln lässt und unter eigenem Namen in Betrieb nimmt, kann Anbieter sein. Mehr dazu: Muss ein Chatbot sagen, dass er eine KI ist?
- Art. 4: Anbieter und Betreiber ergreifen Maßnahmen, um die Entwicklung der KI-Kompetenz ihres Personals zu unterstützen (Fassung durch VO (EU) 2026/1744, seit 27.07.2026).
- Hochrisiko: Wird ein Agent etwa bei Personalentscheidungen oder in anderen in Anhang III genannten Bereichen eingesetzt, können weitergehende Pflichten greifen. Diese gelten nach der Änderung durch VO (EU) 2026/1744 ab dem 02.12.2027. Das ist gesondert zu prüfen.
Welche Pflichten Dich treffen, hängt von Deiner Rolle (Anbieter oder Betreiber) und vom Einsatz ab. Pauschal lässt sich das nicht abschließend beantworten.
KI-Agenten im Mittelstand: Was sparen sie wirklich?
Gemessene Einsparungen gibt es in den folgenden Studien nicht. Die Zahlen stammen aus Umfragen und geben Einschätzungen wieder.
YouGov für Alibaba.com und bevh
52 %
der KMU ab zehn Beschäftigten
sehen die Möglichkeit, mit KI-Agenten zwischen 10 % und über 30 % ihrer operativen Routineaufgaben einzusparen. Befragt wurden 438 Entscheider aus KMU vom 08.09. bis 15.09.2026. Rund 40 % nennen Auftragsabwicklung und Kundenservice als zentrale Belastung, 32 % verweisen auf administrative Überlastung.
Civey für eco
74 %
von 500 Unternehmen
erlauben KI-Agenten höchstens Zuarbeit oder eigenständiges Arbeiten unter menschlicher Kontrolle (Befragung vom 18.09. bis 03.10.2026). 47 % würden eine automatische Notabschaltung vorsehen. Der statistische Fehler liegt laut eco je nach Frage bei 9,1 bis 9,4 Prozentpunkten.
Dass Alibaba.com selbst KI-Agenten anbietet, solltest Du beim Lesen im Kopf behalten.
Was ein Agent in Deinem Betrieb spart, zeigt nur eine eigene Messung. Halte vor dem Start fest, wie lange ein Ablauf heute dauert, etwa die Beantwortung von Standardanfragen. Vergleiche das nach dem Testbetrieb mit dem neuen Wert und rechne die Prüfzeit Deiner Mitarbeitenden mit ein.
Wie fange ich mit KI-Agenten an?
- Einen Ablauf wählen, der häufig vorkommt und dessen Ergebnis sich gut prüfen lässt.
- Ablauf aufschreiben: Schritte, Regeln, Ausnahmen, beteiligte Systeme.
- Entscheiden: Reicht ein Workflow? Meistens ja. Nur wo der Weg wirklich offen ist, einen Agenten erwägen.
- Rechte festlegen: lesen, entwerfen, ausführen. Und festlegen, was davon eine Freigabe braucht.
- Testen: mit echten, aber unkritischen Fällen. Ergebnisse vergleichen.
- Betreiben und nachjustieren: Stichproben ziehen, Protokolle auswerten, Regeln anpassen.
Wer Agenten auf Firmenwissen ansetzen will, braucht in der Regel eine gepflegte Wissensbasis. Ein Agent findet nur, was auffindbar und aktuell ist.
Häufige Fragen
Was ist ein KI-Agent einfach erklärt?
Ein KI-Agent ist ein Programm, das ein Ziel vorgegeben bekommt und den Weg dorthin selbst plant. Es nutzt dafür Werkzeuge wie Suche, Datenbanken oder E-Mail, prüft Zwischenergebnisse und entscheidet über den nächsten Schritt.
Was ist der Unterschied zwischen Chatbot und KI-Agent?
Ein Chatbot beantwortet Fragen im Dialog, die Person steuert das Gespräch. Ein Agent verfolgt eine Aufgabe über mehrere Schritte und nutzt dabei selbst Werkzeuge. Je mehr er handeln darf, desto mehr Absicherung braucht er.
Sind KI-Agenten sicher?
Nicht von sich aus. Risiken sind sich fortsetzende Fehler und Prompt-Injection, also manipulierende Anweisungen in verarbeiteten Inhalten. Minimale Rechte, menschliche Freigabe für riskante Aktionen, Protokolle und Tests in einer abgeschotteten Umgebung senken das Risiko, beseitigen es aber nicht.
Welche Aufgaben können KI-Agenten im Unternehmen übernehmen?
Vor allem vorbereitende Aufgaben mit offenem Lösungsweg und gut prüfbarem Ergebnis: Recherche in internen Quellen, Zusammenstellen von Vorgängen, Entwürfe. Feste, wiederkehrende Abläufe sind mit einem Workflow meist verlässlicher umgesetzt.
Brauche ich für Agenten eine Wissensbasis?
Wenn der Agent mit Firmenwissen arbeiten soll, ja. Er findet nur, was auffindbar und aktuell ist. Veraltete oder widersprüchliche Dokumente führen zu falschen Ergebnissen, deshalb lohnt sich das Aufräumen vorab.
Agent oder Workflow? Wir klären es an Deinem Ablauf
Im kostenlosen AI-Readiness-Check gehen wir in 45 Minuten Deine Abläufe durch und zeigen, wo ein Workflow reicht und wo ein Agent wirklich Zeit spart. Umsetzen können wir beides in unserer KI-Automatisierung.
Quellen
Abgerufen am 26.10.2026.
- YouGov im Auftrag von Alibaba.com und bevh, Pressemeldung vom 24.09.2026: bevh.org
- eco/Civey, Pressemitteilung vom 14.10.2026: eco.de
- Anthropic, „Building effective agents“: anthropic.com
- OWASP GenAI Security Project, LLM01:2025 Prompt Injection: genai.owasp.org
- Verordnung (EU) 2024/1689 (KI-Verordnung): EUR-Lex
- Verordnung (EU) 2026/1744 (KI-Omnibus, u. a. Art. 4): EUR-Lex
Dieser Beitrag dient der allgemeinen Information und ist keine Rechtsberatung.
