Die einfache Definition
Ein KI-Agent ist ein System, das selbstständig Ziele verfolgt, Werkzeuge benutzt und Entscheidungen trifft, statt nur auf eine Eingabe zu reagieren.
ChatGPT ist längst nicht mehr nur ein Chat, der auf Fragen antwortet. Laut OpenAIs eigener Dokumentation (Stand 16.09.2026) kann ChatGPT im Chat im Web suchen und sich bei eingeschaltetem Gedächtnis Kontext aus früheren Chats, Dateien und verbundenen Apps merken (OpenAI: Memory FAQ, 2026). Mit „Work“ arbeitet ChatGPT selbst als Agent: Es erledigt längere, mehrstufige Aufgaben, nutzt verbundene Apps und Dateien und kann über geplante Aufgaben einmalig, wiederkehrend oder auf einen Auslöser hin laufen. Work gibt es in bezahlten Tarifen außer Free und Go (OpenAI: ChatGPT Work and Codex, 2026). Den ersten ChatGPT Agent hatte OpenAI im Juli 2025 eingeführt; er ist laut OpenAI nicht mehr verfügbar, für mehrstufige Aufgaben verweist OpenAI auf Work (OpenAI: ChatGPT agent, 2026).
Für Business- und Enterprise-Kunden kommen Workspace Agents hinzu: Agenten mit angebundenen Apps und eigenen MCP-Servern, mit Zeitplan, Auslösung per API und Freigaben für schreibende Aktionen (OpenAI: Workspace Agents, 2026). Die Grenze zwischen Chat und Agent verläuft also nicht mehr zwischen ChatGPT und dem Rest. Was kein Produkt fertig mitbringt, ist die auf deinen Betrieb zugeschnittene Anbindung: Eine Integration mit definierten Zugriffsrechten, Auslösern, Freigaben und Betriebsüberwachung muss eingerichtet und geprüft werden, in ChatGPT genauso wie in einer eigenen Applikation.
Ein KI-Agent im hier gemeinten Sinne bekommt ein Ziel: „Analysiere alle Lieferantenrechnungen vom letzten Quartal, identifiziere Abweichungen über 5 Prozent, und erstelle einen Bericht.“ Dann führt er es aus: recherchiert, liest Dateien, ruft APIs auf, trifft Zwischenentscheidungen, und liefert ein Ergebnis. Ohne dass ein Mensch jeden Schritt anstoßen muss.
Ein konkretes Beispiel aus dem Mittelstand
Stell dir einen Einkaufsleiter vor, der jeden Montag zwei Stunden damit verbringt, Lieferantenpreise manuell mit dem letzten Quartal zu vergleichen, Abweichungen zu markieren und eine E-Mail an die Buchhaltung zu schicken.
Chat-Variante: Er kopiert die Daten in das Chat-Interface, schreibt einen Prompt, lässt die Tabelle analysieren, kopiert das Ergebnis heraus, formatiert die E-Mail selbst. Der Mensch ist für jeden Schritt im Loop, die Ersparnis liegt im Bereich einer halben Stunde.
Agenten-Variante: Ein Agent hat dauerhaften Zugriff auf das ERP, das E-Mail-System und die Lieferantendatenbank. Montags um 7 Uhr läuft er automatisch, erstellt den Vergleich, markiert Abweichungen nach vordefinierten Regeln und sendet die E-Mail mit Bericht an die Buchhaltung. Der Einkaufsleiter erhält eine Benachrichtigung und greift nur ein, wenn etwas Unerwartetes aufgetaucht ist.
Der Unterschied: keine manuellen Schritte, kein Copy-Paste, kein vergessener Montag.
Einen Teil davon kannst du inzwischen auch mit ChatGPT Work bauen, weil es geplante Aufgaben ausführt und verbundene Apps nutzt. Ob das reicht, hängt daran, ob sich dein ERP und deine Lieferantendatenbank anbinden lassen und wer Rechte und Freigaben verwaltet. Und solange der Ablauf festen Regeln folgt, ist er nach dem Stufenmodell weiter unten eher ein KI-Workflow (Stufe 3) als eine agentische Applikation.
Die technische Differenz
Unter der Haube ist die entscheidende Unterscheidung nicht „Chat gegen Agent“, sondern Modell gegen Produkt gegen Applikation:
Das Sprachmodell selbst ist zustandslos. Es berechnet aus der Eingabe die wahrscheinlichste Fortsetzung, mehr nicht.
Das Produkt ChatGPT ist es nicht. Gesprächsverlauf, Gedächtnis, Websuche, verbundene Apps und mit Work auch agentische Abläufe werden vom Produkt um das Modell herum bereitgestellt. Was davon aktiv ist, hängt an Tarif, Workspace-Einstellungen und deinen eigenen Einstellungen (Stand 16.09.2026).
Eine agentische Applikation ergänzt darauf abgestimmte Zielstrukturen, Datenzugriffe und Eskalationspunkte. Sie hat typischerweise vier Komponenten:
- Planungsmodul: zerlegt ein Ziel in Teilaufgaben
- Werkzeuge: APIs, Datenbankzugriffe, Code-Ausführung, Browser-Steuerung
- Gedächtnis: Kurzzeit (aktueller Lauf), optional Langzeit (über Läufe hinweg)
- Entscheidungslogik: Wann ist ein Teilziel abgeschlossen, was ist der nächste Schritt?
Das Modell, oft dasselbe wie in ChatGPT, ist dabei nur das Planungs- und Sprachmodul, nicht das gesamte System.
Was KI-Agenten nicht sind
Drei verbreitete Missverständnisse:
„KI-Agenten sind autonome Robots, die alles selbst entscheiden.“ Falsch. Gut gebaute KI-Agenten haben klare Grenzen: definierte Werkzeuge, definierte Datenzugänge, definierte Eskalationspunkte. Sie treffen keine Entscheidungen außerhalb ihres definierten Rahmens, wenn sie richtig gebaut sind.
„KI-Agenten sind teurer und komplizierter als nötig.“ Manchmal stimmt das. Für ein einfaches Text-Zusammenfassungs-Problem braucht man keinen Agenten. Für wiederkehrende, mehrstufige Prozesse mit mehreren Datenquellen kann ein Agent die günstigere Antwort sein als manueller Aufwand oder maßgeschneiderte klassische Software. Das entscheidet die Rechnung im Einzelfall, nicht die Technologie.
„KI-Agenten erfordern KI-Expertise intern.“ Nicht im Betrieb. Was Expertise erfordert, ist die Entwicklung und das Setup. Der Betrieb eines gut gebauten Agenten-Systems ist nicht anspruchsvoller als das Betreiben anderer Software.
Die vier Stufen von KI-Integration
Nicht jede KI-Integration ist ein vollständiger Agent. Die folgende Einteilung ist unser eigenes Erklärmodell, kein Branchenstandard. Sie hilft beim Einordnen und ist identisch mit der in Agentische Applikationen im Mittelstand:
Stufe 1: KI-Assistent. Ein eigenständiges Werkzeug: manuelle Eingabe, manuelle Auslösung, das Ergebnis geht zurück an den Menschen. Typisch: ein Chat im Browser, Copilot in Word. Kein Agent, aber für viele Betriebe der Einstieg.
Stufe 2: KI-Funktion in Software. KI ist als Baustein in eine Applikation eingebettet. Ein Textvorschlag im CRM, eine automatische Kategorisierung von E-Mails, ein Anomalie-Alert im ERP. Hierher gehört auch die Verarbeitung größerer Datenmengen im Hintergrund: der Nacht-Batch, der Lieferantenrechnungen analysiert und Abweichungen markiert. Ausgelöst wird durch eine Nutzeraktion oder einen Zeitplan; entschieden wird vom Menschen.
Stufe 3: KI-Workflow. Mehrere Schritte in Sequenz: Daten einlesen, analysieren, priorisieren, Bericht erstellen. Der Mensch gibt das Ziel vor und prüft das Ergebnis, Zwischenschritte laufen automatisch. Für viele gut gebaute KI-Applikationen ist das heute die passende Stufe.
Stufe 4: Agentische Applikation. Das System verfolgt ein Ziel eigenständig über mehrere Werkzeuge und Datenquellen hinweg, trifft Zwischenentscheidungen nach definierten Regeln und eskaliert nur bei Ausnahmen an den Menschen. Das Ziel wird einmal gesetzt, der Weg dorthin ist autonom.
Welche Stufe ein Werkzeug erreicht, hängt davon ab, wie es eingesetzt wird, nicht nur vom Produktnamen: ChatGPT im Chat ist Stufe 1, dieselbe Plattform kann mit Work oder Workspace Agents weiter oben landen. Nach unserer Beobachtung bewegt sich der Mittelstand heute überwiegend zwischen Stufe 1 und 2. Stufe 3 und 4 werden gerade produktionsreif.
Woran erkennst du, ob du einen Agenten brauchst?
Drei Indikatoren, dass ein KI-Agent die richtige Antwort ist:
- Der Prozess ist wiederkehrend und mehrstufig, und nicht durch feste Regeln vollständig beschreibbar. Ein wiederkehrender Ablauf mit festen Regeln ist oft mit klassischer Automatisierung oder einem Workflow besser gelöst. Wiederholung allein belegt keinen Agentenbedarf (Anthropic: Building effective agents, 2024).
- Mehrere Datenquellen sind beteiligt. Der Prozess greift auf ERP, E-Mail, externe Datenbank, PDF-Archiv zu, mit Berechtigungen, die je Quelle unterschiedlich sind. Fertige Anbindungen etwa an Google Drive, SharePoint oder Slack bringt ChatGPT inzwischen mit. Für ERP und Fachdatenbanken musst du die Anbindung mit den passenden Rechten je Quelle trotzdem einrichten und prüfen, ob über einen eigenen MCP-Server in ChatGPT oder in einer eigenen Applikation.
- Die Entscheidungslogik ist beschreibbar. „Wenn Abweichung über 5 %, dann markieren“ ist beschreibbar. „Entscheide, ob der Kunde zufrieden ist“ ist es nicht. Agenten funktionieren gut bei klar definierbarer Logik, weniger gut bei komplexem Urteilswissen.
Wenn alle drei zutreffen: Agent-Kandidat. Wenn keiner zutrifft: Ein Chat-Werkzeug reicht.
Wie AthenaRun das angeht
Wir bauen keine KI-Agenten als Technologie-Demo. Wir bauen sie, wenn ein konkreter Prozess im Mittelstand damit schneller, günstiger oder zuverlässiger läuft als mit der Alternative.
Im Setup klären wir vier Punkte: klarer Scope (welche Prozessschritte übernimmt der Agent, welche nicht), definierte Werkzeuge (welche APIs, Datenbanken, Systeme), Nachvollziehbarkeit der Läufe (wie wird sichtbar, was der Agent wann mit welchem Ergebnis getan hat), Eskalationspunkte (wann kommt ein Mensch rein).
Das Ziel ist keine Black Box, sondern ein dokumentiertes System mit nachvollziehbaren Entscheidungsschritten. Das unterstützt die Nachvollziehbarkeit und die Erfüllung einschlägiger Nachweispflichten. Die weiteren Anforderungen aus dem AI Act, von der Rollenklärung bis zur Risikoeinstufung, werden davon getrennt umgesetzt.
Wenn du wissen willst, welche Prozesse in deinem Unternehmen Agent-Kandidaten sind: Erstgespräch buchen, 30 Minuten.
Stand: 16.09.2026 · AthenaRun GmbH, Frankfurt am Main