Innovation Lab des krz und Microsoft Deutschland:
Große Sprachmodelle für die öffentliche Verwaltung nutzbar machen
Das Kommunale Rechenzentrum Minden-Ravensberg/Lippe (krz) hat einen bedeutenden Schritt in der Softwareentwicklung für die öffentliche Verwaltung unternommen. In Zusammenarbeit mit Microsoft Deutschland wurde Anfang Juli unter der Leitung von Christian Beermann, stellv. Bereichsleiter Digitalisierung und Innovation und Leiter der Softwareentwicklung,ein "Innovation Lab" ins Leben gerufen, das darauf abzielt, große Sprachmodelle (LLM) auf Basis eigener Unternehmensdaten nutzbar zu machen, ohne diese an Drittanbieter zu übertragen. Das krz erhielt als erster öffentlicher IT-Dienstleister Zugriff auf die Azure Cloud Open AI Services von Microsoft, die beispielsweise ChatGPT, Dall-E und Codex als KI-Modelle beinhalten. Das Datenschutzteam des krz leistete bei der Umsetzung erster Prototypen tatkräftige Unterstützung und erarbeitet derzeit Standards, um zukünftige Anwendungsfälle von Verbandsmitgliedern, Städten und Kommunen schnellstmöglich in eigenen Anwendungen nutzbar zu machen.
Wie die krz-Bereichsleiterin für Digitalisierung und Innovation, Michaela Lehnert, feststellt, eröffnet die Nutzung großer Sprachmodelle in der öffentlichen Verwaltung immense Möglichkeiten zur Effizienzsteigerung und zur Verbesserung der Kommunikation mit Bürgerinnen und Bürgern. Allerdings bestehen häufig Bedenken hinsichtlich des Datenschutzes und der Datenübertragung an Dritte. „Das Innovation Lab des krz hat sich genau dieser Herausforderung angenommen und eine wegweisende Lösung entwickelt, um dieser Situation zu begegnen,“ sagte Michaela Lehnert.
Der Projektleiter für Smarte Technologien, Marco Schwabe, ergänzte dazu: „Im Innovation Lab wurde mit dem Konzept der sogenannten "Augmented Recommender Systems" erstmalig ein hoch moderner Ansatzin der öffentlichen Verwaltung angewendet, der zur Erprobung von großen Sprachmodellen (LLM) im krz verwendet wurde. Dieser Ansatz ermögliche es, erste Ergebnisse zu erzielen, indem datenschutzkonform auf Unternehmensdaten zugegriffen und auf Basis dieser Daten Empfehlungen und Antworten generiert werden.“ Das Konzept der "Augmented Recommender Systems" bietet sich insbesondere für eine austauschbare und digital souveräne Verwendung von Open Source Suchmaschinen und weiteren KI-Systemen an, um konkrete Herausforderungen in der öffentlichen Verwaltung zu lösen.
„Die Prototypen-Apps, die im Rahmen des Innovation Labs entwickelt wurden, ermöglichen es den Verwaltungsmitarbeiter:innen eigene Daten wie Word-, Excel-, Powerpoint- und PDF-Dateien, sowie Unternehmens-Wikis und Datenbanken an die großen Sprachmodelle anzuschließen. Dadurch wird es möglich, maßgeschneiderte und präzise Informationen in Echtzeit zu erhalten und effizientere Arbeitsprozesse zu gestalten“, erklärte Jan-Hendrik Reese, der Projektleiter für künstliche Intelligenz.
Das Innovation Lab hat auch erfolgreich verschiedene Technologien im Bereich der Softwareentwicklung erprobt, darunter "Infrastructure-as-Code (IaC)", "Git Hub Codespaces" und weitere Cloud-Technologien. Durch den Einsatz dieser fortschrittlichen Werkzeuge und Methoden konnte in kürzester Zeit eine kostengünstige, agile und effektive Entwicklungsumgebung geschaffen werden, die es ermöglicht, schnell auf sich ändernde Anforderungen zu reagieren und hochwertige Softwarelösungen zu liefern. Inez Canazio, die Teamleiterin für das Team Softwareentwicklung Produkte, erklärte dazu: „Auf diese Art können erste Ergebnisse für unsere Kunden zukünftig schneller bereitgestellt werden, was die Entwicklungskosten weiter senkt und die Infrastruktur transparenter für Softwareentwickler und Administratoren gestaltet. Dies ist eine deutliche Optimierung im gesamten DevOps-Prozess.“
Die enge Zusammenarbeit zwischen dem krz Lemgo, Microsoft Deutschland, OpenAI und dem Datenschutzteam hat es ermöglicht, eine wegweisende Initiative zur Nutzung großer Sprachmodelle in der öffentlichen Verwaltung zu erproben. Durch den Einsatz von Augmented Recommender Systems und die Einbindung eigener Unternehmensdaten wird der Datenschutz gewährleistet und die Kontrolle über sensible Informationen bleibt nachweislich in den Händen der Verwaltung.
Das Innovation Lab des krz stellt somit einen wichtigen Meilenstein in der Digitalisierung der öffentlichen Verwaltung dar. Es legt den Grundstein für zukunftsweisende Anwendungen, die den Bürgerinnen und Bürgern sowie den Verwaltungsmitarbeitenden innovative und effiziente Lösungen bieten werden. Die gewonnenen Erkenntnisse und Erfahrungen aus dem Innovation Lab werden dazu beitragen, den digitalen Wandel weiter voranzutreiben und die öffentliche Verwaltung fit für die Herausforderungen der Zukunft zu machen.
