Large Language Models – Architektur, Methoden und Praxis

• Infrastruktur BFH nutzen
• Technology Stack, Tools,
• Google Colab, OLLAMA
• Einblick in andere Entwicklungs-Frameworks
• PyTorch, TensorFlow,
• Transformers
• Python Environment aufbauen/aufsetzen
• High-Performance-Computing:
  On-Premise
  Cloud
  Experimentell (bspw. Colab)
• Huggingface als ModelHub
• Evaluierung, Deployment (TensorBoard, TFX, Weights & Biases, MLFlow)

Methoden

• Foundation LLMs: Vortrainierte Sprachmodelle, die ein breites Spektrum an textbasierten Aufgaben lösen können. Sie können sowohl manuell durch menschliche Interaktion als auch programmatisch angesprochen werden (Beispiele: GPT, LLaMA).
• Prompt Engineering: Die Kunst, gezielte Eingaben für Sprachmodelle zu entwickeln, um möglichst präzise und relevante Ausgaben zu erzielen (Techniken: Zero-shot, One-shot, Few-shot Learning, In-Context Learning).
• Transformer-Architektur als Basis moderner LLMs.Das Verständnis ihrer Funktionsweise ermöglicht es, gezielt aufgabenspezifische Modelle zu bewerten und anzupassen (Encoder-Decoder, Encoder-only, Decoder-only; Konzepte: Embeddings).
• Topic Modelling: Verfahren zur Gruppierung ähnlicher Dokumente oder Klassifikation und Clustering von Texten.
• Semantische Suche und RAG (Retrieval-Augmented Generation): Ergänzt ein LLM um externes Wissen, beispielsweise um unternehmensspezifische zu Fragen zu beantworten, ohne dass das Modell explizit dafür trainiert wurde (Werkzeuge: LangChain).
• Feinabstimmung (Finetuning): Weiterführendes Training eines Foundation-Modells auf spezifische Daten oder Aufgaben, um dessen Leistung zu optimieren (Methoden: Effizientes Lernen, Supervised Learning, Instruction Tuning, Reinforcement Learning mit menschlichem Feedback).
• Herausforderungen und Grenzen von LLM: Qualität der Trainingsdaten, Bias, Halluzinationen, Schutz der Privatsphäre.

Anwendungen

• Programmatische Anbindung von Sprachmodellen und deren taskbezogene Konfiguration
• Optimierung von Aufgabenstellungen für LLMs
• Textklassifikation
• Anwendungen von RAG für spezifische Wissensabfragen
• Feinabstimmung von Sprachmodellen für spezifische Aufgaben