Ein KI-Agent beantwortet nicht nur eine einzelne Eingabe. Er kann ein Ziel in Schritte zerlegen, Werkzeuge aufrufen, Zwischenergebnisse auswerten und seinen Plan anpassen. Autonomie bedeutet dabei nicht Zuverlässigkeit: Berechtigungen, Grenzen und menschliche Kontrolle bleiben entscheidend.
Einfach erklärt
Ein Chatbot liefert gewöhnlich eine Antwort. Ein Agent versucht dagegen, eine Aufgabe über mehrere Schritte zu erledigen. Er kann beispielsweise Informationen suchen, eine Datei bearbeiten und danach prüfen, ob das Ergebnis zum Ziel passt.
Typischer Ablauf
- Ziel und verfügbare Werkzeuge erfassen
- Nächsten sinnvollen Schritt auswählen
- Werkzeug ausführen und Ergebnis zurücklesen
- Plan anhand des Ergebnisses anpassen
- Bei Unsicherheit nachfragen oder an einen Menschen übergeben
Fortgeschritten
Agentische Systeme bestehen häufig aus einem Sprachmodell, einem Orchestrierungsprogramm, Werkzeugdefinitionen, einem Arbeitsgedächtnis und Regeln für Abbruch oder Freigabe. In der Forschung verbindet ReAct sprachliches Schlussfolgern mit Aktionen in einer Umgebung.
Was Agenten gut können
- Mehrstufige Recherche mit klaren Quellenregeln
- Wiederholbare Bearbeitung vieler ähnlicher Dateien
- Softwareentwicklung mit Tests und Versionskontrolle
- Koordination klar definierter Geschäftsprozesse
Grenzen und Risiken
- Fehler können sich über mehrere Schritte fortpflanzen
- Werkzeuge können reale Daten verändern oder Kosten verursachen
- Unklare Ziele führen zu unnötigen oder falschen Aktionen
- Lange Aufgaben benötigen Zustandskontrolle, Protokolle und Abbruchkriterien
Sichere Gestaltung
- Nur notwendige Berechtigungen vergeben
- Kritische Aktionen bestätigen lassen
- Eingaben und Werkzeugergebnisse validieren
- Jeden Schritt protokollieren
- Klare Übergabe an Menschen vorsehen