Ein KI-System, das Kunden antwortet oder Tools aufruft, ist eine Angriffsfläche. Die meisten sind noch nie einem Angreifer begegnet.
Warum klassische Pentests es übersehen
Ein Penetrationstest prüft die Anwendung rund um das Modell: Authentifizierung, Netzwerk, Infrastruktur. Er versucht nicht, den Assistenten dazu zu bringen, seinen System-Prompt preiszugeben, über das Retrieval die Dokumente eines anderen Kunden herauszugeben oder eine E-Mail zu senden, die er nie senden sollte. Diese Angriffe spielen sich auf der Prompt- und Retrieval-Ebene ab, und genau dort testen wir.
Was wir versuchen
Direkte und indirekte Prompt Injection, Jailbreaks, Datenabfluss zwischen Nutzern und Tenants, Tool-Missbrauch, Umgehung der Autorisierung über das Modell und Angriffe auf eure API-Rechnung. Wir arbeiten in Staging mit realistischem Datenverhalten, dokumentieren jeden Versuch und halten die erfolgreichen reproduzierbar.
Besser ihr als jemand anderes.
Was ihr bekommt
Einen Findings-Report, gerankt nach Ausnutzbarkeit, mit Reproduktionsschritten für jedes Finding. Einen Walkthrough mit euren Engineers. Ein Remediation-Backlog und einen Retest, sobald die Fixes drin sind. Der Report ist so geschrieben, dass ihr ihn einem Kunden, Versicherer oder Prüfer geben könnt, der danach fragt.