Skip to main content
CertRampLearning

Prüfungsglossar

GIAC GAIPS: Glossar

Die Begriffe, die dir in der GIAC GAIPS-Prüfung begegnen, mit kurzer Erklärung auf Deutsch. Die Prüfung findet auf Englisch statt: Lern den englischen Begriff mit, so wie er in der Prüfung steht.

29 Begriffe · Erklärungen mit der offiziellen Dokumentation abgeglichen am 13. November 2026 · In English

A

AI agent#KI-Agent
LLM-System, das Schritte plant und Werkzeuge aufruft, um ein Ziel zu erreichen. Seine Sicherheit hängt davon ab, welche Werkzeuge und Rechte es hat und welche Prüfungen außerhalb des Modells greifen.
Prüfungsdomain: Agentic Systems and AI Integrations
AI supply chain#KI-Lieferkette
Fremde Modelle, Adapter wie LoRA, Datensätze, Bibliotheken und Plugins, von denen ein KI-System abhängt. Jedes Teil kann manipuliert sein, deshalb zählen Herkunfts- und Integritätsprüfung.
Prüfungsdomain: Development Pipelines and MLOps Security
Alignment#Alignment (Ausrichtung)
Training eines Modells, damit es gewünschten Werten und Regeln folgt, etwa mit Reinforcement Learning from Human Feedback (RLHF).
Prüfungsdomain: Model Customization and Alignment

C

Context window#Kontextfenster
Alles, was das Modell in einer Anfrage sieht: Systemprompt, Gesprächsverlauf, abgerufene Dokumente und Tool-Ergebnisse. Alles davon kann die Ausgabe beeinflussen.
Prüfungsdomain: AI and LLM Foundations

D

Data poisoning#Datenvergiftung (Data Poisoning)
Manipulation von Trainings-, Fine-Tuning- oder Abrufdaten, um Hintertüren, Verzerrungen oder Fehlverhalten einzuschleusen.
Prüfungsdomain: Development Pipelines and MLOps Security

E

Embedding#Embedding (Vektordarstellung)
Zahlenvektor, der die Bedeutung eines Textes darstellt; dient dazu, ähnliche Inhalte in einer Vektordatenbank zu finden.
Prüfungsdomain: Knowledge Augmentation and Retrieval
Evasion attack#Evasion-Angriff (Umgehungsangriff)
Eingaben, die zur Laufzeit so gestaltet sind, dass das Modell falsch klassifiziert oder sich falsch verhält; eine der Angriffsklassen in NIST AI 100-2.
Prüfungsdomain: AI and LLM Foundations
Excessive agency#Übermäßige Handlungsbefugnis
LLM-System mit mehr Funktionen, Rechten oder Autonomie als nötig, sodass eine manipulierte Ausgabe echten Schaden anrichten kann. Gegenmittel: minimale Rechte und menschliche Freigabe für folgenreiche Aktionen.
Prüfungsdomain: Agentic Systems and AI Integrations

F

Fine-tuning#Fine-Tuning (Nachtraining)
Weitertrainieren eines vortrainierten Modells mit eigenen Daten, um sein Verhalten zu ändern. Es kann frühere Sicherheitsausrichtung schwächen und verhindert allein keine Prompt Injection.
Prüfungsdomain: Model Customization and Alignment

G

Guardrails#Guardrails (Schutzschranken)
Prüfungen vor und nach dem Modell, etwa Eingabefilter, Inhaltsmoderation und Ausgabeprüfung. Sie senken das Risiko, ersetzen aber keine minimalen Rechte.
Prüfungsdomain: AI Application Architecture and Development Frameworks

I

Improper output handling#Unsichere Ausgabeverarbeitung
Weitergabe von Modellausgaben an Browser, Shells, Datenbanken oder andere Systeme ohne Prüfung oder Kodierung; kann zu XSS, Injection oder Codeausführung führen.
Prüfungsdomain: AI Application Architecture and Development Frameworks

J

Jailbreak#
Form der Prompt Injection, die das Modell dazu bringt, seine Sicherheitsregeln ganz zu ignorieren.
Prüfungsdomain: AI and LLM Foundations

L

Large language model(LLM)#Großes Sprachmodell (LLM)
Neuronales Netz, das auf großen Textmengen trainiert wurde, um das nächste Token vorherzusagen. Es folgt Anweisungen im Kontextfenster, kann aber vertrauenswürdige Anweisungen nicht zuverlässig von nicht vertrauenswürdigen Daten unterscheiden.
Prüfungsdomain: AI and LLM Foundations
Least privilege#Prinzip der minimalen Rechte
Modelle, Agenten und Dienstkonten erhalten nur die Rechte, die sie brauchen. Wichtigste Maßnahme gegen übermäßige Handlungsbefugnis.
Prüfungsdomain: AI Infrastructure and Deployment Security
Low-rank adaptation(LoRA)#Low-Rank Adaptation (LoRA)
Parameter-effizientes Fine-Tuning, das kleine Adapter-Gewichte statt des ganzen Modells trainiert. Adapter von Dritten gehören zur Lieferkette.
Prüfungsdomain: Model Customization and Alignment

M

Membership inference#Membership Inference (Zugehörigkeitsangriff)
Datenschutzangriff, der prüft, ob ein bestimmter Datensatz Teil der Trainingsdaten war.
Prüfungsdomain: AI Risk Management and Strategic Application
MLOps#
Vorgehen, um Machine-Learning-Modelle zuverlässig zu entwickeln, bereitzustellen und zu betreiben: Datenpipelines, Training, Modellregister, Deployment und Überwachung. MLSecOps ergänzt jeden Schritt um Sicherheit.
Prüfungsdomain: Development Pipelines and MLOps Security
Model Context Protocol(MCP)#Model Context Protocol (MCP)
Offenes Protokoll, das KI-Anwendungen über MCP-Server mit Werkzeugen und Datenquellen verbindet. Nicht vertrauenswürdige Server und Werkzeugbeschreibungen sind ein Injection- und Lieferkettenrisiko.
Prüfungsdomain: Agentic Systems and AI Integrations
Model extraction#Modell-Extraktion
Nachbilden des Verhaltens oder der Parameter eines Modells durch viele Abfragen und Lernen aus den Antworten.
Prüfungsdomain: AI Infrastructure and Deployment Security
Model serialization#Modell-Serialisierung
Speichern eines Modells in einer Datei. Pickle-basierte Formate können beim Laden Code ausführen; nicht vertrauenswürdige Modelle sollten sicherere Formate wie safetensors nutzen und geprüft sowie signiert sein.
Prüfungsdomain: Development Pipelines and MLOps Security

N

NIST AI Risk Management Framework(AI RMF)#NIST AI Risk Management Framework (AI RMF)
Freiwilliges Rahmenwerk zum Umgang mit KI-Risiken, gegliedert in vier Funktionen: Govern, Map, Measure und Manage.
Prüfungsdomain: AI Risk Management and Strategic Application

O

OWASP Top 10 for LLM Applications#OWASP Top 10 für LLM-Anwendungen
OWASP-Liste der kritischsten Risiken für LLM-Anwendungen; die Ausgabe 2025 reicht von Prompt Injection (LLM01) bis unbegrenzter Ressourcenverbrauch (LLM10).
Prüfungsdomain: AI Risk Management and Strategic Application

P

Prompt injection#Prompt Injection
Eingabe, die das Verhalten des Modells gegen die Absicht der Entwickler ändert. Direkte Injection kommt vom Nutzer, indirekte versteckt sich in verarbeiteten Inhalten wie Webseiten, E-Mails oder abgerufenen Dokumenten. OWASP führt sie als LLM01:2025.
Prüfungsdomain: Agentic Systems and AI Integrations

R

Retrieval-augmented generation(RAG)#Retrieval-Augmented Generation (RAG)
Die Anwendung ruft passende Dokumente ab, meist aus einer Vektordatenbank, und fügt sie dem Prompt hinzu. Abgerufene Inhalte sind nicht vertrauenswürdige Eingaben und können indirekte Prompt Injection enthalten.
Prüfungsdomain: Knowledge Augmentation and Retrieval

S

Sensitive information disclosure#Offenlegung sensibler Informationen
Modell oder Anwendung legen personenbezogene Daten, Zugangsdaten oder vertrauliche Geschäftsdaten offen, etwa aus Trainingsdaten, Kontext oder angebundenen Systemen.
Prüfungsdomain: AI Risk Management and Strategic Application
System prompt leakage#Offenlegung des Systemprompts
Risiko, dass die Anweisungen im Systemprompt offengelegt werden. Kernaussage von OWASP: Der Systemprompt darf keine Geheimnisse enthalten und keine Zugriffskontrolle ersetzen.
Prüfungsdomain: AI Application Architecture and Development Frameworks

T

Tool calling#Tool Calling (Werkzeugaufruf)
Das Modell bittet die Anwendung, eine Funktion auszuführen, etwa einen API-Aufruf oder eine Datenbankabfrage. Die Berechtigungsprüfung gehört in die Anwendung, nicht in den Prompt.
Prüfungsdomain: Agentic Systems and AI Integrations

U

Unbounded consumption#Unbegrenzter Ressourcenverbrauch
Unkontrollierte Nutzung von Modellressourcen, die zu Dienstausfall, ausufernden Kosten oder Modell-Extraktion führt. Gegenmittel: Ratenbegrenzung, Kontingente und Überwachung.
Prüfungsdomain: AI Infrastructure and Deployment Security

V

Vector database#Vektordatenbank
Datenbank, die Embeddings speichert und die ähnlichsten Treffer liefert. Risiken sind fehlende Zugriffskontrolle je Dokument, vergiftete Einträge und Datenabfluss zwischen Mandanten.
Prüfungsdomain: Knowledge Augmentation and Retrieval