Prüfungsglossar
GIAC GAIPS: Glossar
Die Begriffe, die dir in der GIAC GAIPS-Prüfung begegnen, mit kurzer Erklärung auf Deutsch. Die Prüfung findet auf Englisch statt: Lern den englischen Begriff mit, so wie er in der Prüfung steht.
29 Begriffe · Erklärungen mit der offiziellen Dokumentation abgeglichen am 13. November 2026 · In English
A
- AI agent#KI-Agent
- LLM-System, das Schritte plant und Werkzeuge aufruft, um ein Ziel zu erreichen. Seine Sicherheit hängt davon ab, welche Werkzeuge und Rechte es hat und welche Prüfungen außerhalb des Modells greifen.
- Prüfungsdomain: Agentic Systems and AI Integrations
- AI supply chain#KI-Lieferkette
- Fremde Modelle, Adapter wie LoRA, Datensätze, Bibliotheken und Plugins, von denen ein KI-System abhängt. Jedes Teil kann manipuliert sein, deshalb zählen Herkunfts- und Integritätsprüfung.
- Prüfungsdomain: Development Pipelines and MLOps Security
- Alignment#Alignment (Ausrichtung)
- Training eines Modells, damit es gewünschten Werten und Regeln folgt, etwa mit Reinforcement Learning from Human Feedback (RLHF).
- Prüfungsdomain: Model Customization and Alignment
C
- Context window#Kontextfenster
- Alles, was das Modell in einer Anfrage sieht: Systemprompt, Gesprächsverlauf, abgerufene Dokumente und Tool-Ergebnisse. Alles davon kann die Ausgabe beeinflussen.
- Prüfungsdomain: AI and LLM Foundations
D
- Data poisoning#Datenvergiftung (Data Poisoning)
- Manipulation von Trainings-, Fine-Tuning- oder Abrufdaten, um Hintertüren, Verzerrungen oder Fehlverhalten einzuschleusen.
- Prüfungsdomain: Development Pipelines and MLOps Security
E
- Embedding#Embedding (Vektordarstellung)
- Zahlenvektor, der die Bedeutung eines Textes darstellt; dient dazu, ähnliche Inhalte in einer Vektordatenbank zu finden.
- Prüfungsdomain: Knowledge Augmentation and Retrieval
- Evasion attack#Evasion-Angriff (Umgehungsangriff)
- Eingaben, die zur Laufzeit so gestaltet sind, dass das Modell falsch klassifiziert oder sich falsch verhält; eine der Angriffsklassen in NIST AI 100-2.
- Prüfungsdomain: AI and LLM Foundations
- Excessive agency#Übermäßige Handlungsbefugnis
- LLM-System mit mehr Funktionen, Rechten oder Autonomie als nötig, sodass eine manipulierte Ausgabe echten Schaden anrichten kann. Gegenmittel: minimale Rechte und menschliche Freigabe für folgenreiche Aktionen.
- Prüfungsdomain: Agentic Systems and AI Integrations
F
- Fine-tuning#Fine-Tuning (Nachtraining)
- Weitertrainieren eines vortrainierten Modells mit eigenen Daten, um sein Verhalten zu ändern. Es kann frühere Sicherheitsausrichtung schwächen und verhindert allein keine Prompt Injection.
- Prüfungsdomain: Model Customization and Alignment
G
- Guardrails#Guardrails (Schutzschranken)
- Prüfungen vor und nach dem Modell, etwa Eingabefilter, Inhaltsmoderation und Ausgabeprüfung. Sie senken das Risiko, ersetzen aber keine minimalen Rechte.
- Prüfungsdomain: AI Application Architecture and Development Frameworks
I
- Improper output handling#Unsichere Ausgabeverarbeitung
- Weitergabe von Modellausgaben an Browser, Shells, Datenbanken oder andere Systeme ohne Prüfung oder Kodierung; kann zu XSS, Injection oder Codeausführung führen.
- Prüfungsdomain: AI Application Architecture and Development Frameworks
J
- Jailbreak#
- Form der Prompt Injection, die das Modell dazu bringt, seine Sicherheitsregeln ganz zu ignorieren.
- Prüfungsdomain: AI and LLM Foundations
L
- Large language model(LLM)#Großes Sprachmodell (LLM)
- Neuronales Netz, das auf großen Textmengen trainiert wurde, um das nächste Token vorherzusagen. Es folgt Anweisungen im Kontextfenster, kann aber vertrauenswürdige Anweisungen nicht zuverlässig von nicht vertrauenswürdigen Daten unterscheiden.
- Prüfungsdomain: AI and LLM Foundations
- Least privilege#Prinzip der minimalen Rechte
- Modelle, Agenten und Dienstkonten erhalten nur die Rechte, die sie brauchen. Wichtigste Maßnahme gegen übermäßige Handlungsbefugnis.
- Prüfungsdomain: AI Infrastructure and Deployment Security
- Low-rank adaptation(LoRA)#Low-Rank Adaptation (LoRA)
- Parameter-effizientes Fine-Tuning, das kleine Adapter-Gewichte statt des ganzen Modells trainiert. Adapter von Dritten gehören zur Lieferkette.
- Prüfungsdomain: Model Customization and Alignment
M
- Membership inference#Membership Inference (Zugehörigkeitsangriff)
- Datenschutzangriff, der prüft, ob ein bestimmter Datensatz Teil der Trainingsdaten war.
- Prüfungsdomain: AI Risk Management and Strategic Application
- MLOps#
- Vorgehen, um Machine-Learning-Modelle zuverlässig zu entwickeln, bereitzustellen und zu betreiben: Datenpipelines, Training, Modellregister, Deployment und Überwachung. MLSecOps ergänzt jeden Schritt um Sicherheit.
- Prüfungsdomain: Development Pipelines and MLOps Security
- Model Context Protocol(MCP)#Model Context Protocol (MCP)
- Offenes Protokoll, das KI-Anwendungen über MCP-Server mit Werkzeugen und Datenquellen verbindet. Nicht vertrauenswürdige Server und Werkzeugbeschreibungen sind ein Injection- und Lieferkettenrisiko.
- Prüfungsdomain: Agentic Systems and AI Integrations
- Model extraction#Modell-Extraktion
- Nachbilden des Verhaltens oder der Parameter eines Modells durch viele Abfragen und Lernen aus den Antworten.
- Prüfungsdomain: AI Infrastructure and Deployment Security
- Model serialization#Modell-Serialisierung
- Speichern eines Modells in einer Datei. Pickle-basierte Formate können beim Laden Code ausführen; nicht vertrauenswürdige Modelle sollten sicherere Formate wie safetensors nutzen und geprüft sowie signiert sein.
- Prüfungsdomain: Development Pipelines and MLOps Security
N
- NIST AI Risk Management Framework(AI RMF)#NIST AI Risk Management Framework (AI RMF)
- Freiwilliges Rahmenwerk zum Umgang mit KI-Risiken, gegliedert in vier Funktionen: Govern, Map, Measure und Manage.
- Prüfungsdomain: AI Risk Management and Strategic Application
O
- OWASP Top 10 for LLM Applications#OWASP Top 10 für LLM-Anwendungen
- OWASP-Liste der kritischsten Risiken für LLM-Anwendungen; die Ausgabe 2025 reicht von Prompt Injection (LLM01) bis unbegrenzter Ressourcenverbrauch (LLM10).
- Prüfungsdomain: AI Risk Management and Strategic Application
P
- Prompt injection#Prompt Injection
- Eingabe, die das Verhalten des Modells gegen die Absicht der Entwickler ändert. Direkte Injection kommt vom Nutzer, indirekte versteckt sich in verarbeiteten Inhalten wie Webseiten, E-Mails oder abgerufenen Dokumenten. OWASP führt sie als LLM01:2025.
- Prüfungsdomain: Agentic Systems and AI Integrations
R
- Retrieval-augmented generation(RAG)#Retrieval-Augmented Generation (RAG)
- Die Anwendung ruft passende Dokumente ab, meist aus einer Vektordatenbank, und fügt sie dem Prompt hinzu. Abgerufene Inhalte sind nicht vertrauenswürdige Eingaben und können indirekte Prompt Injection enthalten.
- Prüfungsdomain: Knowledge Augmentation and Retrieval
S
- Sensitive information disclosure#Offenlegung sensibler Informationen
- Modell oder Anwendung legen personenbezogene Daten, Zugangsdaten oder vertrauliche Geschäftsdaten offen, etwa aus Trainingsdaten, Kontext oder angebundenen Systemen.
- Prüfungsdomain: AI Risk Management and Strategic Application
- System prompt leakage#Offenlegung des Systemprompts
- Risiko, dass die Anweisungen im Systemprompt offengelegt werden. Kernaussage von OWASP: Der Systemprompt darf keine Geheimnisse enthalten und keine Zugriffskontrolle ersetzen.
- Prüfungsdomain: AI Application Architecture and Development Frameworks
T
- Tool calling#Tool Calling (Werkzeugaufruf)
- Das Modell bittet die Anwendung, eine Funktion auszuführen, etwa einen API-Aufruf oder eine Datenbankabfrage. Die Berechtigungsprüfung gehört in die Anwendung, nicht in den Prompt.
- Prüfungsdomain: Agentic Systems and AI Integrations
U
- Unbounded consumption#Unbegrenzter Ressourcenverbrauch
- Unkontrollierte Nutzung von Modellressourcen, die zu Dienstausfall, ausufernden Kosten oder Modell-Extraktion führt. Gegenmittel: Ratenbegrenzung, Kontingente und Überwachung.
- Prüfungsdomain: AI Infrastructure and Deployment Security
V
- Vector database#Vektordatenbank
- Datenbank, die Embeddings speichert und die ähnlichsten Treffer liefert. Risiken sind fehlende Zugriffskontrolle je Dokument, vergiftete Einträge und Datenabfluss zwischen Mandanten.
- Prüfungsdomain: Knowledge Augmentation and Retrieval