KI Security

Dauer: 1 Tag (virtuelle Schulung) Preis: EUR 1.000,-- (exkl. 20% USt.)

BESCHREIBUNG

Die rasante Verbreitung von Künstlicher Intelligenz und Large Language Models (LLMs) stellt Unternehmen vor völlig neue sicherheitstechnische und regulatorische Herausforderungen. Herkömmliche Cybersicherheitskonzepte greifen bei probabilistischen und datengetriebenen Systemen zu kurz.

Diese praxisnahe Intensivschulung vermittelt das notwendige Know-how, um die Risiken von KI-Anwendungen zu verstehen, abzusichern und im Unternehmen zu steuern. Im Zentrum stehen dabei die OWASP Top 10 for Large Language Models als etablierter Industriestandard, ergänzt durch relevante Open-Source-Sicherheits-Frameworks und die zentralen Anforderungen der europäischen Regulatorik (EU AI Act).

Kursdurchführung

Der Kurs findet ab einer Teilnehmeranzahl von vier Personen statt. Die Schulung wird als virtuelle Schulung (MS Teams) abgehalten, Teilnehmer erhalten eine Teilnahmebestätigung.

INHALTE

Grundlagen & Strategischer Paradigmenwechsel

Warum klassische IT-Sicherheitskonzepte bei KI und LLMs an ihre Grenzen stoßen (Non-Determinismus, fließende Grenzen zwischen Daten und Instruktionen).
Bedeutung der OWASP Top 10 for Large Language Models als gemeinsamer Brücken-Standard zwischen technischer Umsetzung und organisatorischem Risikomanagement.

Deep Dive: Die OWASP LLM Top 10 (Technische Vektoren & Business-Risiken)

Manipulations- und Integritätsrisiken: Prompt Injection (Direct & Indirect), Data Poisoning sowie Supply-Chain-Schwachstellen (Modell- und Bibliotheksintegrität).
Datenschutz & Vertraulichkeit: Risiken durch Sensitive Information Disclosure, System Prompt Leakage und Datenabfluss an KI-Provider.
Autonomie & Architektur: Gefahren durch zu weitreichende Berechtigungen (Excessive Agency), ungesicherte Plugin-Integrationen und Improper Output Handling (Code- und SQL-Injections).

Ökosystem, Open-Source-Projekte & Architektur-Ansätze

Security Testing & Scanners: Automatisierte Überprüfung von LLM-Anwendungen mit Open-Source-Frameworks wie Garak und Promptfoo.
Runtime Defenses & Guardrails: Absicherung im laufenden Betrieb durch KI-Firewalls und Filter (z. B. Llama Guard, NeMo Guardrails).
Sichere RAG-Pipelines: Technische und organisatorische Absicherung von Wissensdatenbanken, Vektorspeichern und Zugriffskontrollen.

Regulatorik, Compliance & Governance (EU AI Act & Co.)

Der EU AI Act im Fokus: Risikoklassen, verbotene Praktiken und konkrete rechtliche Pflichten für Entwickler, Integratoren und Betreiber.
Standardisierung & Managementsysteme: Verknüpfung der OWASP-Risiken mit ISO/IEC 42001 (KI-Managementsysteme) sowie bestehenden Rahmenwerken (wie ISO 27001 und NIS2).
Unternehmens-Governance: Richtlinien für den sicheren Umgang mit GenAI im Unternehmen, Eindämmung von Shadow-AI und Anforderungen an die Lieferkette.

Zusammenfassung, Q&A & Praxis-Transfer

Übertrag des erlernten Wissens in konkrete nächste Schritte für IT-Architekten, Entwickler und Management.
Offene Diskussionsrunde und Beantwortung spezifischer Fragen der Teilnehmenden.

ZIELGRUPPE

Der Kurs richtet sich an Techniker und Manager, für die KI-Sicherheit und Governance im Berufsalltag an Bedeutung gewinnen:

CISOs und CIOs
IT- und Sicherheitsverantwortliche
Software-Architekten und Entwickler
Projektleiter und Führungskräfte

ANMELDUNG & KURSTERMINE

ZUR ANMELDUNG