Be(e)Chat – Sichere und verantwortungsvolle KI für die Hochschulbildung

Laufzeit: Januar 2024 – Dezember 2024
Status: Abgeschlossen
Bildungsstufe: Tertiärstufe
Thema: Artificial Intelligence AI, Data Science for Education
Keywords: Data Science for Education, Künstliche Intelligenz KI

Ausgangslage

Die zunehmende Integration generativer KI (GenAI)-Werkzeuge wie ChatGPT in die Hochschullehre bietet Chancen und zugleich Herausforderungen. Solche Werkzeuge können Lernen, Schreiben und Lehre unterstützen, doch ihr Einsatz in akademischen Kontexten wirft erhebliche Fragen zu Datenschutz, Transparenz, Verzerrungen (Bias) und institutioneller Kontrolle auf. Kommerzielle Systeme verarbeiten Nutzungsdaten extern, fehlen oft in der Transparenz der Datenverarbeitung und tragen undurchsichtige Verzerrungen in ihren Trainingsdaten. Zudem drohen Abonnementsmodelle die Ungleichheiten unter Student*innen zu verschärfen. Vor diesem Hintergrund stehen Bildungseinrichtungen vor einem Dilemma: Wie lässt sich das Potenzial der GenKI nutzen und gleichzeitig die Einhaltung von Datenschutzgesetzen, akademische Integrität und institutionelle Autonomie sicherstellen? Das Be(e)Chat-Projekt greift diese Herausforderung auf, indem es ein lokal betriebenes, Open Source Chatbot-System entwickelt und evaluiert, das auf die Bedürfnisse von Hochschulen im Kanton Bern zugeschnitten ist. Ziel ist es, Student*innen und Lehrpersonen sicheren, transparenten und ethisch verantworteten Zugang zu GenKI zu ermöglichen. Über die technische Umsetzung hinaus untersucht das Projekt die pädagogischen, ethischen und nachhaltigen Implikationen lokal betriebener KI Systeme.

Ziele

Be(e)Chat strebt an, einen sicheren, datenschutzwahrenden und lokal betriebenen GenAI Chatbot für die Hochschullehre zu entwerfen, zu implementieren und zu evaluieren. Die Ziele sind:

1. eine Open Source-Alternative zu kommerziellen KI-Tools bereitzustellen,
2. institutionelle Kontrolle und Datenschutz sicherzustellen,
3. die Systemleistung und ethische Schutzmechanismen zu bewerten sowie
4. wiederverwendbare Ressourcen – etwa Hosting und Wartungsleitfäden – für die breite Bildungscommunity zu schaffen.

Methode

Das Projekt folgte einem partizipativen, iterativen Design‑ und Evaluationsprozess. In einem interdisziplinären Workshop mit Student*innen, Lehrpersonen, IT-Expert*innen und institutionellen Stakeholder*innen wurden Anforderungen und Risiken identifiziert. Diese flossen in die Entwicklung einer modell‑agnostischen Systemarchitektur ein, wobei «Open WebUI» und «Ollama» als Open-Source-Kernkomponenten verwendet wurden. Ein Prototyp wurde mittels eines strukturierten, qualitativen Evaluationsrahmens über sieben zentrale Funktionsbereiche getestet – etwa Zusammenfassungsgenauigkeit, ethische Schutzmechanismen und Zuverlässigkeit von Websuchen – basierend auf 15 standardisierten Testfällen. Zusätzlich wurde ein Lasttest durchgeführt, um System-Skalierbarkeit und Antwortzeiten bei parallelem Einsatz zu prüfen.

Ergebnisse

Der Be(e)Chat-Prototyp besteht aus einem lokal betriebenen Open-Source-Chatbot-System, das Open WebUI als Benutzeroberfläche und Ollama als Modell-Inferenz-Engine nutzt. Es sind Funktionen integriert wie Dokumenten-Upload und Analyse, Websuche, energiebasierte Verbrauchsstatistiken, ß-Entfernung und institutionelle Authentifizierung via LDAP. Die Systemarchitektur erlaubt die flexible Integration neuer und unterschiedlicher grosser Sprachmodelle, um Nachhaltigkeit und Anpassungsfähigkeit sicherzustellen. Quantitative Evaluation mittels 15 standardisierter Testfälle über sieben zentrale Funktionalitätsbereiche ergab eine Compliance Rate von 73,3 %. Qualitative Analysen zeigten starke Leistungen bei Zusammenfassungen, ethischen Schutzmechanismen und Datensicherheit, wiesen jedoch Einschränkungen bei der Zuverlässigkeit von Websuchen und der genderinklusiven Textgenerierung auf. Insgesamt bestätigen die Ergebnisse die technische Machbarkeit und das pädagogische Potenzial sicherer, lokal gehosteter GenAI Systeme als transparente und datenschutzfreundliche Alternative zu kommerziellen KI-Diensten.

Umgesetzte Translation

Das Be(e)Chat-System wurde institutionell an der Berner Fachhochschule (BFH) implementiert und Lehrpersonen sowie Student*innen für Bildungszwecke am Departement Technik und Informatik (BFH TI) zur Verfügung gestellt. Im Rahmen mehrerer Folgeprojekte begannen Lehrpersonen, den Chatbot in Lehr- und Bewertungszusammenhänge zu integrieren, etwa durch die Erstellung eines «Modul Bots», der den Student*innen kuratierte Lernressourcen bereitstellt. Alle Projektergebnisse, einschliesslich Systemdokumentation, Evaluationsrahmen und Deployment-Guides, wurden auf der Projektwebseite und/oder als Publikation an der EC TEL 2025 Konferenz veröffentlicht. Zukünftige Forschungsperspektiven umfassen eine breitere institutionelle Einführung und Partnerschaften mit weiteren Hochschulen im Kanton Bern.

Als direktes Ergebnis des Projekts entschied sich BFH-TI, einen dedizierten lokalen LLM-Inferenzdienst basierend auf der Be(e)Chat-Architektur einzurichten. Dafür investierte die BFH in energieeffiziente Hochleistungshardware, was zu einer nachhaltigeren Anwendung von KI beiträgt. Der veröffentlichte Evaluationsrahmen könnte von anderen Forscher*innen übernommen werden, um den Einsatz von GenKI-Tools im Hochschulkontext zu benchmarken. Zudem führten wir an der EC TEL 2025 einen Workshop durch, in dem Teilnehmer*innen den Digital Ethics Canvas (Hardebolle et al., 2023) auf Be(e)Chat-basierte Bildungsszenarien anwendeten und gemeinsam potenzielle Schwachstellen und Gegenmassnahmen identifizierten (siehe Medien).

Beteiligte Institutionen