BeeChat
Im Projekt wurde eine datenschutzkonforme und lokal betriebene KI-Infrastruktur für die Berner Fachhochschule konzipiert, entwickelt und evaluiert.
Steckbrief
- Beteiligte Departemente Technik und Informatik
- Institut(e) Institute for Patient-centered Digital Health (PCDH)
- Forschungseinheit(en) PCDH / AI for Health
- Förderorganisation BFH
- Laufzeit 01.01.2024 - 31.12.2025
- Projektleitung Prof. Dr. Kerstin Denecke
Ausgangslage
Ausgangspunkt war die Untersuchung der Anforderungen von Studierenden, Dozierenden und Mitarbeitenden an den Einsatz generativer KI im Hochschulkontext.
Vorgehen
Auf dieser Basis wurde eine modulare Plattform auf Basis von Open-Source-Technologien aufgebaut, die verschiedene Sprachmodelle, Zusatzfunktionen und Integrationen unterstützt. Parallel dazu wurden Verfahren zur Evaluation von Antwortqualität, Ressourcennutzung und Skalierbarkeit entwickelt, um die Voraussetzungen für einen breiteren institutionellen Einsatz zu schaffen. Die gewonnenen Erkenntnisse wurden schrittweise in die Weiterentwicklung der technischen Plattform überführt.
Ergebnisse
Im Rahmen des Projekts entstand zunächst mit BeeChat ein funktionsfähiger Prototyp für den datenschutzkonformen Einsatz generativer KI an der Hochschule. Die Entwicklung zeigte die technische Machbarkeit einer lokal betriebenen KI-Plattform und lieferte wertvolle Erkenntnisse zu Betrieb, Governance, Skalierbarkeit und Nutzeranforderungen. Aufbauend auf diesen Ergebnissen wurde die technische Grundlage für den heutigen TI MLMP Inferenzservice geschaffen, der die zentrale Bereitstellung und Verwaltung von Open-Source-Sprachmodellen innerhalb der BFH ermöglicht. Damit wurde eine nachhaltige Infrastruktur geschaffen, die als Basis für zahlreiche Forschungs-, Lehr- und Innovationsprojekte dient und eine unabhängige Alternative zu kommerziellen KI-Diensten bereitstellt.
Ausblick
Die im Projekt aufgebauten Grundlagen bilden die Basis für den weiteren Ausbau des TI MLMP Inferenzservice als zentrale KI-Infrastruktur der BFH. Zukünftige Entwicklungen umfassen die Integration zusätzlicher Modelle und KI-Funktionen, die Unterstützung weiterer Forschungs- und Lehranwendungen sowie die kontinuierliche Verbesserung von Skalierbarkeit, Sicherheit und Nutzbarkeit. Langfristig soll die Plattform den verantwortungsvollen Einsatz generativer KI fördern, innovative Anwendungen in Lehre und Forschung ermöglichen und die technologische Unabhängigkeit der BFH im Bereich KI stärken.
