Risikoanalyse von KI-Agents
Ein KI-Agent liest, entscheidet und handelt mit echten Berechtigungen. Wir untersuchen, was im ungünstigen Fall passieren kann, und wie Sie das Risiko senken.
Sprechen wir über Ihr Vorhaben.
Gespräch anfragenWas wir prüfen
- Identitäten und Berechtigungen: Mit welchen Rechten arbeitet der Agent?
- Tool- und Systemzugriffe, einschließlich Schnittstellen und Plugins
- Prompt-Injection über E-Mails, Dokumente und Webseiten
- Datenabfluss und Umgang mit personenbezogenen Daten
- Gedächtnis und Wissensbasis des Agents
- Zusammenspiel mehrerer Agents
- Menschliche Freigaben, Limits, Protokollierung und Not-Aus
Vorgehen
- Architektur-Review
Aufbau, Daten und Rechte erfassen. - Bedrohungsmodell
Angriffs- und Fehlerszenarien, orientiert an der OWASP-Liste für Agentic Applications. - Praxistests
Ausgewählte Szenarien in vereinbarter Umgebung. - Bewertung
Nach Eintrittswahrscheinlichkeit und Auswirkung.
Ergebnis
- Risikoregister mit Bewertung
- Befunde mit konkreten Handlungsempfehlungen
- Optional: Nachprüfung nach Umsetzung
Rahmen
Praktische Tests führen wir nur nach schriftlicher Beauftragung und mit abgestimmtem Umfang durch. Mehr zu den typischen Risiken finden Sie im Leitfaden „KI-Agents absichern: 10 Risiken“.