Prompt Injection
Eingaben, die so gebaut sind, dass ein Modell seine Anweisungen ignoriert — „ignoriere alle vorherigen Anweisungen und …“. Platz eins der OWASP Top 10 für LLM-Anwendungen.
01Kurz gesagt
Eingaben, die so gebaut sind, dass ein Modell seine Anweisungen ignoriert — „ignoriere alle vorherigen Anweisungen und …“. Platz eins der OWASP Top 10 für LLM-Anwendungen.
In ProduktionGeht davon aus, dass es passiert. Begrenzt, was ein gekapertes Modell anrichten könnte.
02Video
Platzhalter · VideoPrompt Injection in 90 Sekundenergänzen: GUIDES['prompt-injection'].video
03Anleitung
Platzhalter · Anleitung
Hier kommt eine Schritt-für-Schritt-Anleitung zu „Prompt Injection“ hin. Vorgeschlagene Gliederung:
- Was es ist — in einem Absatz
- Warum es in Produktion zählt
- So geht es — 3 bis 7 Schritte
- Stolperfallen, die wir in der Praxis sehen
04Checkliste
Platzhalter · Checkliste
Vier bis acht Punkte, die ein Team vor dem Go-live abhaken kann.
05FAQ
Platzhalter · FAQ
Die drei Fragen, die Kunden zu „Prompt Injection“ wirklich stellen.
06Verwandte Begriffe
SicherheitIndirekte Prompt InjectionVersteckte Anweisungen in Inhalten, die das System liest — einer Webseite, einer E-Mail, einem PDF —, die einen Agenten kapern, während er sie verarbeitet.SicherheitLeast PrivilegeEin System bekommt nur die Berechtigungen, die seine Aufgabe braucht — nur Lesezugriff, außer Schreiben ist der Job.SicherheitGuardrailsPrüfungen rund um ein Modell, die unerwünschte Ein- und Ausgaben blockieren oder korrigieren: Themengrenzen, PII-Filter, Schema-Validierung, Policy-Regeln.
Hier helfen wir · Secure