Generative KI sicher entwickeln und betreiben

Lernen Sie, KI-Systeme sicher, regelkonform und verantwortungsvoll einzusetzen. Sie erwerben in diesem Lehrgang praxisnahes Wissen und Handlungskompetenzen zu AI Security, Governance, Regulatorien, Compliance und Datensouveränität für den Einsatz in Ihrem Unternehmen.

Beginnen Sie Ihre Weiterbildung am 12. Januar 2027.

Steckbrief

  • Titel/Abschluss Short Advanced Studies (SAS) Generative KI sicher entwickeln und betreiben
  • Dauer 2 Tage
  • Unterrichtstage 12./19./01.2027
  • Anmeldefrist bis 1 Monat vor Kursbeginn
  • Anzahl ECTS 1 ECTS-Credits
  • Kosten CHF 1’200
  • Unterrichtssprache Deutsch, Literatur und Unterlagen teilweise in Englisch
  • Studienort Biel, Aarbergstrasse 46 / hybrid
  • Departement Technik und Informatik

Inhalt + Aufbau

Dieses SAS vermittelt Ihnen die wesentlichen Konzepte, Methoden und regulatorischen Rahmenbedingungen für einen sicheren und nachhaltigen KI-Einsatz.

Short Advanced Studies (SAS)

Short Advanced Studies (SAS) sind Kurse im Umfang von 30–160 Stunden (1–9 ECTS, anrechenbar an DAS oder MAS). Sie erhalten in kurzer Zeit fundierte, praxisorientierte Impulse und Kompetenzen zu aktuellen Themen. Studierende, die die Kompetenznachweise des SAS nicht erbringen wollen, erhalten ein Kursattest (keine ECTS).

Haben Sie noch Fragen?
Antworten finden Sie in unseren ausführlichen FAQ zu den Short Advanced Studies (SAS).

Portrait

Generative KI-Anwendungen sind in vielen Unternehmen bereits unverzichtbar im Einsatz und nehmen rasant zu. Damit steigen auch die Risiken und Anforderungen an Sicherheit, Governance, Compliance, und Daten Souveränität.

Das SAS Generative KI sicher entwickeln und betreiben vermittelt die wesentlichen Konzepte, Methoden und regulatorischen Rahmenbedingungen für einen sicheren und nachhaltigen KI-Einsatz. Die Teilnehmenden lernen, Risiken zu erkennen, geeignete Schutzmassnahmen zu definieren und Governance-Strukturen für den produktiven Einsatz von KI aufzubauen.

Der Lehrgang verbindet technische, organisatorische und regulatorische Perspektiven und richtet sich an Fach- und Führungskräfte, die Verantwortung für KI-Initiativen übernehmen.

Berufsperspektiven

Die erworbenen Kompetenzen sind insbesondere für Organisationen relevant, die KI-Anwendungen entwickeln, beschaffen oder produktiv einsetzen. Der Lehrgang unterstützt Fach- und Führungskräfte bei der Übernahme von Verantwortung in den Bereichen

  • AI Governance und AI Compliance
  • Data & AI Management
  • Datenschutz und Regulatorischer Rahmen
  • Digitale Transformation und Innovations-Management
  • Projekt- und Programmleitung von KI-Initiativen

Ausbildungsziele

Die Teilnehmenden

  • verstehen die wichtigsten Sicherheitsrisiken moderner KI-Systeme und können geeignete Schutzmassnahmen ableiten.
  • kennen relevante Governance-, Compliance- und Risikomanagement-Frameworks für KI-Anwendungen.
  • können Anforderungen des EU AI Act sowie wichtiger Standards wie NIST AI RMF und ISO/IEC 42001 auf konkrete Anwendungsszenarien übertragen.
  • beurteilen Herausforderungen bezüglich Datensouveränität, Cloud-Abhängigkeiten und verantwortungsvollem KI-Einsatz.
  • sind in der Lage, Sicherheits- und Governance-Aspekte bei der Planung, Einführung und dem Betrieb von KI-Systemen systematisch zu berücksichtigen.
  • AI Security
  • Ethics, Regulations & Sovereignity
  • Markt, Anwendung und Nachhaltigkeit

AI Security

Bedrohungsszenarien

  • Generative KI-Systeme bringen neuartige Angriffsflächen mit sich. Zentrale Vektoren sind Prompt Injection (direkt via Nutzereingabe oder indirekt über verarbeitete Daten) sowie das Confused-Deputy-Problem, bei dem ein KI-Agent mit weitreichenden Berechtigungen durch manipulierte Eingaben unerwünschte Aktionen ausführt.

Sichere KI-Architektur

  • Aufbau einer gesicherten, unternehmensinternen KI-Architekturschicht mit KI Gateways, Identity- und Secret-Management (Least Privilege), Guardrails sowie Defense-in-Depth als Grundprinzip.

MCP-Security und Vector-DB-Hardening

  • MCP-Server sind privilegierte Komponenten und benötigen Authentifizierung, Autorisierung und Sandboxing. Vector Databases sind anfällig für Data Poisoning. Zugriffskontrollen und Dokumenten-Integritätsprüfungen sind zentrale Gegenmassnahmen.

Monitoring, Logging und Incident Response

  • Protokollierung von Prompts und Modellantworten, Anomalieerkennung sowie definierte Incident-Response-Prozesse (Isolation, Forensik, Eskalation) für KI-spezifische Vorfälle.

KI als Security-Werkzeug

  • Einsatz generativer Modelle für automatisierte Code-Reviews, Penetrationstest-Szenarien und Log-Analyse inklusive Auseinandersetzung mit den Grenzen und Risiken dieses Ansatzes.

Ethics, Regulations & Sovereignity

EU AI Act

  • Weltweit erstes verbindliches Regulierungswerk für KI, relevant auch für Schweizer Unternehmen mit EU-Marktbezug
  • Klassifizierung von KI-Systemen nach Risikoklassen (minimal, begrenzt, hoch, inakzeptabel) mit entsprechenden Pflichten für Entwicklung, Dokumentation und Betrieb

Managementrahmen und Normen

  • NIST AI RMF: praxisorientierter Rahmen für das Risikomanagement von KI-Systemen (Govern, Map, Measure, Manage)
  • ISO/IEC 42001: internationale Norm für KI-Managementsysteme, vergleichbar mit ISO 27001 für Informationssicherheit

Ethik und Mensch-KI-Interaktion

  • Automation Bias: Tendenz, KI-Empfehlungen unkritisch zu übernehmen – mit potenziell schwerwiegenden Folgen in risikoreichen Anwendungsfeldern
  • Trust Calibration: Vertrauen von Nutzenden an die tatsächliche Zuverlässigkeit des Systems anpassen

Deepfakes und synthetische Medien

  • Generative KI ermöglicht täuschend echte Bild-, Audio- und Videofälschungen mit wachsendem Missbrauchspotenzial
  • Erkennungsmethoden (Detection) und organisatorische Massnahmen als Teil des verantwortungsvollen KI-Einsatzes

Datensouveränität und Auftragsverarbeitung

  • Provider-Rechte: Nutzungsbedingungen regeln, ob Prompts für Modelltraining verwendet werden dürfen
  • Auftragsverarbeitungsverträge (AVV) als datenschutzrechtliche Anforderung, inkl. Modellherkunft und Datenstandorte

Technologische Souveränität

  • Strategische Abhängigkeit von US-amerikanischen Grossanbietern: Risiken bei Verfügbarkeit, Preisgestaltung und Datenschutz
  • Alternativen: Open-Weight-Modelle (z. B. Llama, Mistral), europäische Cloud-Anbieter, Eigenbetrieb auf unternehmenseigener Infrastruktur

Bewertete Übungsaufgaben während des Kurses.
Studierende, die den Kompetenznachweis nicht erbringen wollen, erhalten ein Kursattest.

Marius Bleif
Consultant, Eraneos
Lehrbeauftragter BFH

Titel + Abschluss

Short Advanced Studies (SAS) «Generative KI sicher entwickeln und betreiben»

Voraussetzungen + Zulassung

Erfahren Sie, für welche Fachpersonen dieser Kurs konzipiert ist und welche Voraussetzungen Sie mitbringen sollten.

Ihre Voraussetzungen

Für die Teilnahme werden keine vertieften technischen Spezialkenntnisse vorausgesetzt.
Von Vorteil sind:

  • Grundverständnis moderner Informations- und Kommunikationstechnologien
  • Erfahrung im Umgang mit digitalen Systemen oder Datenprojekten
  • Interesse an künstlicher Intelligenz, Cyber Security, Compliance oder Governance-Fragestellungen
  • Erste Erfahrungen mit KI-Anwendungen wie ChatGPT, Copilot oder vergleichbaren Systemen

Zielpublikum

Der Lehrgang richtet sich an

  • Fach- und Führungskräfte, die KI-Initiativen verantworten
  • Data Scientists, AI Engineers, AI Developers
  • Projekt- und Programmleitende
  • Compliance-, Risiko- und Datenschutzverantwortliche
  • Cyber-Security-Verantwortliche

Beratung

Sie haben Fragen zur Weiterbildung? Wir beantworten Ihre Fragen gerne.

Die Wahl einer Aus- oder Weiterbildung ist eine wichtige Entscheidung bei der Planung der Berufskarriere. Im Rahmen eines individuellen Beratungsgesprächs beantworten wir gerne Ihre Fragen und klären mit Ihnen die persönlichen Voraussetzungen für das gewünschte Bildungsangebot.

Studienort + Infrastruktur

Der Studienort für den Unterricht ist an der Aarbergstrasse 46 im Switzerland Innovation Park Biel/Bienne (SIPBB).

Switzerland Innovation Park Biel/Bienne (SIPBB)

Vielseitige Standortvorteile
 

  • Unterrichtsräume in zwei Minuten Gehdistanz vom Bahnhof Biel/Bienne
  • Ideale Zugsverbindungen im 15-Minuten-Takt ab Hauptbahnhof Bern und im 30-Minuten-Takt ab Bern Wankdorf (neue Linie Thun-Biel)
  • Modernste Infrastruktur im SIPBB-Neubau
  • Vielseitige Verpflegungsmöglichkeiten in unmittelbarer Nähe
  • Innovative Events und Networkinganlässe

Und noch dies…
 

  • Innovations-Hotspot Biel/Bienne
  • Hochschulstadt Biel/Bienne
  • Industrie- und Dienstleistungsstadt mit zahlreichen Leadern in den Bereichen der Uhren-, Maschinen-, Präzisions- und Medizinaltechnikindustrie sowie Vertretern der Kommunikations- und Telekommunikationsbranche
  • Unmittelbare Nähe zum Bielersee mit vielseitigem Sport- und Freizeitangebot
  • Gelebte Zweisprachigkeit
  • Kulturleben in allen Facetten

Biel Aarbergstrasse 46 (Switzerland Innovation Park Biel/Bienne)

Biel, Aarbergstrasse 46

Berner Fachhochschule

Technik und Informatik
Switzerland Innovation Park Biel/Bienne
Aarbergstrasse 46
CH 2503 Biel

Berner Fachhochschule

Technik und Informatik
Switzerland Innovation Park Biel/Bienne
Aarbergstrasse 46
CH 2503 Biel