Die wichtigste Sicherheitsregel lautet: Ein Agent erhält nur die Rechte, Daten und Werkzeuge, die für die konkrete Aufgabe notwendig sind. Kritische oder irreversible Aktionen werden nicht allein aufgrund einer Modellausgabe ausgeführt.
Mindestmaßnahmen
- Getrenntes Benutzerkonto mit minimalen Rechten
- Lesen und Schreiben getrennt freigeben
- Bestätigung vor Versand, Löschung, Kauf oder Veröffentlichung
- Grenzen für Kosten, Laufzeit und Anzahl von Aktionen
- Vollständige Protokolle und nachvollziehbare Werkzeugaufrufe
- Sicherer Abbruch und Übergabe an einen Menschen
Externe Inhalte
Webseiten, E-Mails und Dokumente können versteckte Anweisungen enthalten. Der Agent darf sie nicht als gleichrangig mit den vom Betreiber festgelegten Regeln behandeln.
Testen
Vor produktivem Einsatz mit Testkonten, künstlichen Daten, Angriffsszenarien und absichtlich widersprüchlichen Eingaben prüfen.
Private Nutzung
Auch ein privater Assistent sollte nicht uneingeschränkt auf Passwortspeicher, Bankkonten, private Nachrichten und alle Dateien zugleich zugreifen.
Quellen und Rechtsstand
Prüfstand: 28.07.2026. Rechtliche Beiträge dienen der allgemeinen Information und ersetzen keine Rechtsberatung.