Bringt euren Entwicklerinnen bei, wie ein Angreifer über den eigenen Agenten zu denken
Ein praxisorientierter Tag für Leute, die mit KI bauen — nicht für Leute, die Richtlinien darüber schreiben. Euer Team geht mit einem funktionierenden Verständnis davon, wie KI-Systeme in der Praxis versagen und brechen.
Kommt euch bekannt vor?
- Entwicklerinnen bringen KI-Features live, ohne je eine erfolgreiche Prompt Injection gesehen zu haben.
- Security-Teams prüfen KI-Code mit einer Checkliste, die für klassische Webanwendungen gebaut wurde.
- Niemand im Raum kann den Unterschied zwischen einem Jailbreak und einem Datenexfiltrations-Angriff erklären.
- Anbieter verkaufen Tools, bevor euer Team überhaupt beurteilen kann, ob die Tools funktionieren.
Was wir tun
Das Modell live angreifen
Teilnehmende führen echte Prompt-Injection-, Jailbreak- und Datenexfiltrations-Versuche gegen ein Sandbox-System durch — keine Folien darüber.
Risiken durch Agenten und Tool-Aufrufe
Wie ein Agent mit Tool-Zugriff aus einem Textgenerierungsfehler eine Systemkompromittierung macht, und wo diese Grenze tatsächlich verläuft.
Verteidigungsmuster, die standhalten
Input- und Output-Filterung, Sandboxing, Berechtigungsbegrenzung und Monitoring — was Risiko wirklich reduziert und was nur Papierkram reduziert.
Der Transfer auf euren Stack
Eine Abschlusssession, die die Angriffe des Tages auf eure eigene Architektur überträgt, damit der Workshop eine Liste offener Punkte liefert, nicht nur ein Erlebnis.
Rahmendaten
- Dauer
- 1 Tag (ca. 7 Stunden inkl. Pausen)
- Gruppengröße
- 8-12 Teilnehmende
- Format
- Vor Ort bei euch oder remote
- Voraussetzungen
- Grundlegendes Verständnis dafür, wie euer Team Software ausliefert; keine Security-Vorkenntnisse nötig.
- Für wen
- Entwicklerinnen, ML-Praktiker und technische Product Owner, die KI-Features bauen
- Investition
- auf Anfrage (fixer Tagessatz für Inhouse-Termine)
Ablauf
- Vormittag: Live-Versuche mit Prompt Injection und Jailbreaks gegen ein Sandbox-System
- Durchlauf zu Datenexfiltration und Model Extraction
- Risiko durch Agenten und Tool-Aufrufe: vom Textfehler zur Systemkompromittierung
- Verteidigungsmuster — Input-/Output-Filterung, Sandboxing, Berechtigungsbegrenzung
- Monitoring und Erkennung für KI-spezifische Angriffe
- Abschlusssession: Übertragung der Angriffe auf eure Architektur und nächste Schritte
Fragen, die wir bekommen
Brauchen Teilnehmende Security-Erfahrung?
Nein. Wir bitten um Leute, die KI-Features bauen oder ausliefern — Entwicklerinnen, ML-Praktiker, technische Product Owner. Security-Erfahrung hilft, ist aber keine Voraussetzung.
Ist das derselbe Inhalt wie euer Agent-Security-Service?
Nein. Der Workshop baut Fähigkeit und Gespür in eurem Team auf. Agent Security ist die Bewertung und Härtung, die wir an eurem tatsächlichen System durchführen.
Könnt ihr den Workshop auch auf Deutsch durchführen?
Ja, wir führen diesen Workshop je nach Team auf Deutsch oder Englisch durch.
Sagt uns, was bei euch produktiv läuft.
Wir sagen euch, was wir zuerst prüfen würden — und was wir uns sparen.
Termin buchen