AgentMill

Risikoanalyse von KI-Agents

Ein KI-Agent liest, entscheidet und handelt mit echten Berechtigungen. Wir untersuchen, was im ungünstigen Fall passieren kann, und wie Sie das Risiko senken.

Sprechen wir über Ihr Vorhaben.

Gespräch anfragen

Was wir prüfen

  • Identitäten und Berechtigungen: Mit welchen Rechten arbeitet der Agent?
  • Tool- und Systemzugriffe, einschließlich Schnittstellen und Plugins
  • Prompt-Injection über E-Mails, Dokumente und Webseiten
  • Datenabfluss und Umgang mit personenbezogenen Daten
  • Gedächtnis und Wissensbasis des Agents
  • Zusammenspiel mehrerer Agents
  • Menschliche Freigaben, Limits, Protokollierung und Not-Aus

Vorgehen

  1. Architektur-Review
    Aufbau, Daten und Rechte erfassen.
  2. Bedrohungsmodell
    Angriffs- und Fehlerszenarien, orientiert an der OWASP-Liste für Agentic Applications.
  3. Praxistests
    Ausgewählte Szenarien in vereinbarter Umgebung.
  4. Bewertung
    Nach Eintrittswahrscheinlichkeit und Auswirkung.

Ergebnis

  • Risikoregister mit Bewertung
  • Befunde mit konkreten Handlungsempfehlungen
  • Optional: Nachprüfung nach Umsetzung

Rahmen

Praktische Tests führen wir nur nach schriftlicher Beauftragung und mit abgestimmtem Umfang durch. Mehr zu den typischen Risiken finden Sie im Leitfaden „KI-Agents absichern: 10 Risiken“.