Stand: 15. November 2026 · Autor: Tarkan Yavas, Cybermind Academy
KI-Agents lesen Inhalte, entscheiden und handeln mit echten Berechtigungen. Damit verschiebt sich das Risiko: Ein Chatbot, der falsch antwortet, kostet Zeit. Ein Agent, der falsch handelt, kann Daten abfließen lassen oder Prozesse auslösen.
Dieser Leitfaden folgt der Liste OWASP Top 10 for Agentic Applications 2026 (veröffentlicht am 9. Dezember 2025). Die Kennungen ASI01 bis ASI10 stammen von OWASP, die Erläuterungen und Gegenmaßnahmen sind eine eigene Zusammenfassung. Ergänzend lohnt der Blick auf die OWASP-Liste für LLM-Anwendungen 2025, etwa zu Prompt-Injection, Offenlegung sensibler Informationen und übermäßiger Handlungsfreiheit (Excessive Agency).
Die zehn Risiken
ASI01 1. Zielübernahme (Agent Goal Hijack)
Worum es geht: Ein Angreifer lenkt Ziel oder Plan des Agents über Inhalte um, die dieser liest, etwa eine E-Mail, ein Dokument oder eine Webseite. Der Agent kann Text von Anweisungen nicht zuverlässig unterscheiden.
Dagegen hilft: Externe Inhalte als nicht vertrauenswürdig behandeln, Anweisungen und Daten trennen, Aktionen mit Außenwirkung freigeben lassen, Abweichungen vom Auftrag überwachen.
ASI02 2. Missbrauch von Werkzeugen (Tool Misuse)
Worum es geht: Der Agent setzt legitime Werkzeuge anders ein als gedacht: Er löscht, versendet oder exportiert mehr als vorgesehen.
Dagegen hilft: Erlaubte Werkzeuge per Allowlist festlegen, Parameter eng begrenzen, Limits setzen, bei zerstörerischen Aktionen Bestätigung verlangen.
ASI03 3. Identitäts- und Rechtemissbrauch
Worum es geht: Agents erben zu weite Rechte, teilen Konten oder Tokens oder handeln unter der Identität eines Menschen.
Dagegen hilft: Eigene Identität je Agent, minimale Rechte, kurzlebige Zugangsdaten, keine Nutzung privater oder geteilter Konten.
ASI04 4. Lieferkette der Agents (Agentic Supply Chain)
Worum es geht: Fremde Werkzeuge, Plugins, Schnittstellen-Server, Prompts oder Modelle werden zur Laufzeit geladen und können manipuliert sein.
Dagegen hilft: Inventar aller Komponenten führen, nur geprüfte Quellen zulassen, Versionen festschreiben, Änderungen prüfen.
ASI05 5. Unerwartete Code-Ausführung
Worum es geht: Agents erzeugen oder führen Code aus, etwa Skripte oder Shell-Befehle. Ein Angriff kann so zu Remote Code Execution führen.
Dagegen hilft: Ausführung in einer Sandbox ohne Zugriff auf Produktivsysteme, Code prüfen, Ausführung freigeben, Netzwerkzugriffe begrenzen.
ASI06 6. Manipulation von Gedächtnis und Kontext
Worum es geht: Vergiftete Erinnerungen, Wissensdatenbanken oder abgerufene Dokumente beeinflussen Entscheidungen dauerhaft.
Dagegen hilft: Quellen validieren, Speicher je Nutzer und Mandant trennen, Verfallsfristen setzen, Inhalte einsehen und zurücksetzen können.
ASI07 7. Unsichere Kommunikation zwischen Agents
Worum es geht: Nachrichten zwischen Agents sind nicht abgesichert und können gefälscht oder verändert werden.
Dagegen hilft: Agents gegenseitig authentifizieren, Nachrichten signieren und gegen ein Schema prüfen, keine impliziten Vertrauensbeziehungen.
ASI08 8. Kaskadierende Fehler
Worum es geht: Ein Fehler oder Angriff setzt sich über mehrere Agents und Systeme fort und verstärkt sich.
Dagegen hilft: Komponenten isolieren, Limits und Unterbrecher (Circuit Breaker) einbauen, Not-Aus vorsehen, Ausfallszenarien testen.
ASI09 9. Ausnutzung von Vertrauen in Agents
Worum es geht: Menschen vertrauen überzeugend formulierten Agent-Aussagen und geben schädliche Aktionen frei (Automation Bias).
Dagegen hilft: Freigaben mit Kontext und Quellen gestalten, Unsicherheit sichtbar machen, Mitarbeitende schulen, bei kritischen Aktionen vier Augen.
ASI10 10. Abtrünnige Agents (Rogue Agents)
Worum es geht: Agents weichen vom Auftrag ab, etwa durch Fehlausrichtung oder Kompromittierung, und handeln eigenmächtig.
Dagegen hilft: Verhalten fortlaufend überwachen, Aktionen protokollieren, Not-Aus bereithalten, Agents regelmäßig überprüfen.
Erste Schritte
- Alle Agents und Assistenten inventarisieren, mit Zweck, Daten und Verantwortlichem.
- Rechte je Agent auf das Nötige begrenzen und eigene Konten nutzen.
- Aktionen mit Außenwirkung nur nach menschlicher Freigabe zulassen.
- Protokollierung und Not-Aus einrichten.
- Ein Risiko-Review durchführen, bevor der Agent mit sensiblen Daten arbeitet.
Als Hilfe gibt es die Checkliste mit 18 Prüfpunkten. Für eine fundierte Bewertung Ihrer Agents bieten wir die Risikoanalyse von KI-Agents an.
Quellen
Dieser Beitrag ist eine fachliche Einordnung und keine Rechtsberatung. Stand: 15. November 2026.