In Hamburg sagt man LLMoin

Welches Problem löst LLMoin?

Wenn man einen digitalen Bildgenerator bittet, das Foto eines typischen Arbeitsplatzes eines deutschen Verwaltungsmitarbeiters zu erstellen, bleibt ein Ergebnis immer gleich: Die Berge an Papier im Büro.

In der Verwaltung wird alles akribisch dokumentiert und dann die jeweils relevanten Informationen zu finden, ist nicht immer einfach. 

Wie genau funktioniert LLMoin?

Als digitaler Verwaltungsassistent unterstützt LLMoin Mitarbeitende in der Hamburger Verwaltung bei der Generierung, Zusammenfassung und Auswertung von Texten und Dokumenten. Hamburg zählt damit zu den ersten Städten in Deutschland, die ein solches KI-Tool für den öffentlichen  Sektor entwickelt haben.

LLMoin bietet aktuell vier zentrale Funktionen: Dokumente werden nach Wunsch zusammengefasst, wobei Länge und Sprachstil flexibel wählbar sind. LLMoin extrahiert zudem Informationen aus verschiedenen Quellen und gibt sie in natürlicher Sprache mit Quellenverweis wieder. Aus Stichworten oder Vorgaben, wie der persönlichen Anrede und der gewünschten Textart, erstellt die Anwendung darüber hinaus vollständige Texte, etwa E-Mails oder Beschlussvorlagen. Dabei kann beispielsweise ausgewählt werden, ob der Textentwurf aus Fachsprache bestehen oder eher bürgernah formuliert sein soll. Über eine offene Chat-Oberfläche können Mitarbeitende schließlich auch frei mit dem Sprachmodell interagieren. Dieser digitale Verwaltungsassistent führt somit zu vielen Mikroentlastungen im behördlichen Alltag und beschleunigt damit Verwaltungsvorgänge.

LLMoin basiert auf den aktuellen GPT-Modellen von OpenAI, die über den Microsoft-Cloud-Service Azure bereitgestellt werden.  Es ist aber technisch auch möglich, in Zukunft andere Sprachmodelle von weiteren Anbietern einzubinden. 

In den Bereichen Datenschutz, Sicherheit und Benutzerfreundlichkeit wurde LLMoin darüber hinaus gezielt für den behördlichen Einsatz konzipiert. So ist es beispielsweise nicht zwingend erforderlich, immer direkte Befehle (sog. «Prompts“) einzugeben – stattdessen führt auch ein intuitiver Nutzerdialog durch den jeweils gewünschten Prozess.

Der Einsatz von LLMoin ist den Verwaltungsmitarbeitenden allerdings unter anderem bei Entscheidungen über Sozialleistungen oder für die Evaluation von juristischen Argumenten untersagt.

Wo wird LLMoin bereits eingesetzt?

Nach einer gut einjährigen Testphase im letzten Jahr mit einem ausgewählten Kreis an Testenden hat Anfang Dezember 2024 die schrittweise Einführung in den ersten Behörden begonnen. Aktuell wird LLMoin bereits beispielsweise von der Hamburger Senatskanzlei und der Behörde für Wirtschaft und Innovation (BWI) verwendet. Es ist geplant, den Rollout in der Hamburger Verwaltung bis zur Mitte des Jahres 2025 vollständig abzuschließen.

Zudem ist LLMoin zur Nachnutzung auch außerhalb Hamburgs vorgesehen. Weitere Bundesländer oder Kommunen können diesen Verwaltungsassistenten also ebenfalls bei Bedarf einsetzen. Erste Interessensbekundungen sollen bereits eingegangen sein.

Wer steht hinter LLMoin?

Das Projekt wurde aus dem Amt für IT und Digitalisierung der Senatskanzlei der Freien und Hansestadt Hamburg heraus initiiert und als innovativer KI-Pilot im Rahmen des InnoTecHH Fonds entwickelt. Fachliche Ansprechperson ist Sören Alvermann, Referent für neue Technologien in der Hamburger Senatskanzlei. Umsetzungspartner und Betreiber ist Dataport mit Sitz in Altenholz. Dataport ist als Anstalt des öffentlichen Rechts ein Informations- und Kommunikationsdienstleister der öffentlichen Verwaltung.