Folge 59 – KI in der öffentlichen Verwaltung

Ein-Satz-Zusammenfassung

Wo kann Künstliche Intelligenz (KI) bereits heute unterstützen, welche Anforderungen bestehen beim Einsatz in der öffentlichen Verwaltung und warum spielen Fachwissen, Datenschutz und klare Regeln dabei eine wichtige Rolle?

Kurzbeschreibung

Welche Möglichkeiten bietet KI und wo liegen ihre Grenzen? In dieser Folge spricht Nico über seine Erfahrungen mit Künstlicher Intelligenz in der Softwareentwicklung und in Projekten der öffentlichen Verwaltung. Dabei geht es unter anderem um Code Reviews, lokale KI-Modelle, Datenschutz, RAG und KI-Agenten sowie um die Frage, welche Aufgaben weiterhin Menschen übernehmen sollten.

Auf einen Blick

Episode	Folge 59
Titel	KI in der öffentlichen Verwaltung
Host	Arne
Gäste	Nico (Softwarearchitekt und Solution Architect mit Projekterfahrung im öffentlichen Sektor)
Dauer	ca. 70 Minuten
Themen	Künstliche Intelligenz (KI), Softwareentwicklung, lokale KI-Modelle, Datenschutz, Datenhoheit, RAG, KI-Agenten, Arbeitswelt
Zielgruppe	Mitarbeiter:innen der öffentlichen Verwaltung, IT-Verantwortliche, Projektleiter:innen, Softwareentwickler:innen, Softwarearchitekt:innen, KI-Interessierte
Branchen	Öffentliche Verwaltung, IT-Dienstleistungen
Technologien, Methoden und Anwendungen	ChatGPT, Gemini, Claude Code, GitHub Copilot, Midjourney, Mistral, Ollama, Whisper, RAG, lokale KI-Modelle, KI-Agenten
Bereiche und Einsatzfelder	Softwareentwicklung, Behördenprojekte, Zollumfeld

Worum geht es in dieser Folge?

Nico beschäftigt sich seit mehreren Jahren intensiv mit Künstlicher Intelligenz und betrachtet ihre Möglichkeiten vor allem aus Sicht der Softwareentwicklung und Softwarearchitektur. An verschiedenen Beispielen zeigt er, wo KI bereits unterstützen kann und wo sie an Grenzen stößt.

Ein Schwerpunkt liegt auf dem Einsatz von KI in der öffentlichen Verwaltung. Dabei geht es insbesondere um Datenschutz, sensible Projektdaten und lokal betriebene KI-Modelle. Nico erklärt außerdem, wie mit RAG auf definierten Datenbeständen gearbeitet werden kann und welche Einsatzmöglichkeiten es für interne Chatbots gibt.

Zum Abschluss richtet sich der Blick auf KI-Agenten, Veränderungen in der Arbeitswelt und eine mögliche Zukunft der öffentlichen Verwaltung. Dabei wird diskutiert, welche Aufgaben KI übernehmen könnte und wo Menschen weiterhin Wissen, Kontrolle und Entscheidungsverantwortung einbringen müssen.

Das lernst du in dieser Folge

• Wo KI bereits heute bei konkreten Aufgaben unterstützen kann.
• Welche Möglichkeiten KI bei Code Reviews und Prototyping bietet.
• Welche Bedeutung Fachwissen bei der Arbeit mit KI hat.
• Wie Prompt, Kontext und Modell das Ergebnis beeinflussen.
• Welche Möglichkeiten lokal betriebene KI-Modelle bieten.
• Wie RAG für die Arbeit mit eigenen Daten eingesetzt werden kann.
• Was beim Einsatz von KI in Projekten beachtet werden muss.
• Wie KI-Agenten die Arbeitswelt verändern könnten.

Die wichtigsten Erkenntnisse

• KI eignet sich besonders für klar abgegrenzte Aufgaben und muss bei komplexeren Anforderungen gezielt eingesetzt werden.
• Praktische Erfahrung hilft dabei, Anforderungen besser zu formulieren und Ergebnisse der KI zu beurteilen.
• Vollständig KI-generierter Code stößt bei komplexen Business-Anwendungen an Grenzen.
• Lokal betriebene Modelle ermöglichen es, Daten innerhalb der eigenen Strukturen zu verarbeiten.
• Mit RAG kann eine KI auf einen definierten Datenbestand zugreifen und diesen zur Beantwortung von Fragen nutzen.
• Nicht jeder Prozess wird durch den Einsatz von KI automatisch besser.
• Für den Einsatz in Projekten braucht es klare Vorgaben dazu, welche KI für welche Daten verwendet werden darf.
• KI kann Routineaufgaben übernehmen, während Menschen sich stärker mit komplexen Aufgaben und Entscheidungen beschäftigen.

Themen der Episode

KI in der Softwareentwicklung

KI kann beim Erstellen kleinerer Anwendungen, bei Code Reviews und beim Prototyping unterstützen. Bei komplexen Business-Anwendungen reicht es dagegen nicht aus, eine vollständige Anforderung an eine KI zu übergeben. Aufgaben müssen zerlegt und die Ergebnisse fachlich kontrolliert werden.

Fachwissen und der Umgang mit KI

Je besser Anwender:innen ihr eigenes Fachgebiet kennen, desto eher können sie erkennen, wenn eine KI in eine falsche Richtung arbeitet. Neben dem Prompt spielen dabei der bereitgestellte Kontext und die Auswahl des Modells eine Rolle.

KI und Kreativität

Die Gäste diskutieren, ob KI menschliche Kreativität ersetzt oder Menschen neue Möglichkeiten gibt, eigene Ideen umzusetzen. Als Beispiele werden unter anderem Schreiben, Bildgenerierung und Musik genannt.

KI in der öffentlichen Verwaltung

Im Gespräch geht es um bereits eingesetzte Möglichkeiten wie Code-Überprüfung, Textbearbeitung und die Arbeit mit eigenen Datenbeständen. Gleichzeitig wird diskutiert, welche KI-Systeme in Behördenprojekten eingesetzt werden können und welche Vorgaben dabei gelten.

Lokale KI-Modelle

KI-Modelle können auf eigener Hardware oder innerhalb eigener Strukturen betrieben werden. Dadurch können Daten verarbeitet werden, ohne dass sie dafür die eigene Infrastruktur verlassen müssen. Gleichzeitig hängt die Leistungsfähigkeit von der verfügbaren Hardware ab.

Arbeiten mit eigenen Datenbeständen

Im Gespräch wird beschrieben, wie eine KI auf einen festgelegten Datenbestand zugreifen kann. Als Beispiel nennt Nico die Regelwerke des Zolls. Auf dieser Grundlage können auch interne Chatbots aufgebaut werden.

Regeln für den KI-Einsatz

Für Projekte braucht es klare Vorgaben, welche KI-Systeme verwendet werden dürfen und welche Daten darin verarbeitet werden können. Nico beschreibt für sein eigenes Projekt beispielsweise, dass öffentliche KI-Dienste für die Projektarbeit nicht eingesetzt werden dürfen.

KI-Agenten und Arbeitswelt

KI-Agenten könnten künftig Aufgaben übernehmen, die heute von Menschen erledigt werden. Im Gespräch wird diskutiert, dass dadurch insbesondere repetitive Tätigkeiten wegfallen könnten, während Menschen stärker komplexe Zusammenhänge beurteilen und Entscheidungen treffen müssen.

Wer sollte diese Folge hören?

Diese Episode richtet sich besonders an:

• Mitarbeiter:innen der öffentlichen Verwaltung
• Projektverantwortliche
• Softwareentwickler:innen
• Softwarearchitekt:innen
• Personen, die sich mit dem Einsatz von KI in Projekten beschäftigen
• KI-Interessierte

Wichtige Begriffe erklärt

Prompt

Die Anweisung an eine KI, was sie tun soll. Im Gespräch wird deutlich, dass neben der Formulierung des Prompts auch Kontext, fachliches Wissen und das verwendete Modell Einfluss auf das Ergebnis haben.

Lokales KI-Modell

Ein KI-Modell, das auf dem eigenen Rechner, einem eigenen Server oder innerhalb eines selbst verwalteten Rechenzentrums betrieben werden kann. Dadurch können Daten verarbeitet werden, ohne die eigenen Strukturen zu verlassen.

RAG (Retrieval-Augmented Generation)

Ein Ansatz, bei dem eine KI auf einen festgelegten eigenen Datenbestand zugreifen kann. Nico vergleicht dies mit einer Person, die in eine Bibliothek geschickt wird und ausschließlich die dort vorhandenen Informationen für ihre Antwort verwenden darf.

Halluzinationen

Der Begriff beschreibt im Gespräch den Fall, dass eine KI eine Antwort erfindet, anstatt zu sagen, dass sie die gesuchte Information nicht kennt.

KI-Agent

Ein KI-System, dem Aufgaben übertragen werden können. Im Gespräch wird der Umgang mit KI-Agenten mit der Führung von Mitarbeiter:innen verglichen, weil Aufgaben vorgegeben und Ergebnisse anschließend kontrolliert werden müssen.

Aussagen des Gastes

• KI ist nicht für jede Aufgabe automatisch die richtige Lösung.
• Komplexe Anforderungen sollten für die Arbeit mit KI in kleinere Aufgaben zerlegt werden.
• Ein schlechter Prozess wird nicht allein dadurch gut, dass KI eingesetzt wird.
• Fachliches Wissen bleibt wichtig, um Ergebnisse der KI beurteilen zu können.
• Menschen sollten auch künftig die Verantwortung für wichtige Entscheidungen übernehmen.
• KI und Robotik können Aufgaben übernehmen und Menschen dadurch mehr Raum für menschliche Tätigkeiten geben.

Shownotes

00:00 Begrüßung und Einstieg in das Thema Künstliche Intelligenz

01:01 Nicos Erfahrungen mit KI und Entwicklung der vergangenen Jahre

03:37 Einsatzmöglichkeiten und Grenzen von KI im Arbeitsalltag und in der Softwareentwicklung

07:00 Code Reviews, Prototyping und die Bedeutung von Fachwissen

17:17 Prompt, Kontext und Auswahl des passenden KI-Modells

20:49 KI und Kreativität

27:23 KI in der öffentlichen Verwaltung, Datenschutz und lokale Modelle

35:39 Einsatzmöglichkeiten in Behörden, RAG und interne Wissenssysteme

43:29 Aktualität lokaler Modelle, Datenschutz und Regeln für den KI-Einsatz

56:20 KI-Agenten, Veränderungen der Arbeitswelt und menschliche Verantwortung

01:04:31 Zukunft der öffentlichen Verwaltung und mögliche Entlastung durch KI und Robotik

01:09:21 Abschluss und Verabschiedung

FAQ

Wie kann KI in der öffentlichen Verwaltung eingesetzt werden?

Im Gespräch werden unter anderem Textzusammenfassungen, Textbearbeitung, Code-Überprüfung, die Arbeit mit eigenen Datenbeständen und interne Chatbots als Einsatzmöglichkeiten genannt.

Warum können lokale KI-Modelle für Behörden interessant sein?

Im Gespräch werden lokale Modelle insbesondere im Zusammenhang mit sensiblen Daten genannt. Diese können innerhalb der eigenen Infrastruktur verarbeitet werden, ohne dafür das eigene Netzwerk beziehungsweise die Behörde zu verlassen.

Können öffentliche KI-Dienste für sensible Projektdaten genutzt werden?

Das hängt von den Vorgaben des jeweiligen Projekts ab. Nico beschreibt für sein Projekt mit sicherheitsrelevanten Daten, dass öffentliche KI-Dienste wie ChatGPT oder Gemini für die Projektarbeit nicht verwendet werden dürfen.

Wie kann RAG in der öffentlichen Verwaltung eingesetzt werden?

Als Beispiel nennt Nico die Regelwerke des Zolls. Eine KI könnte auf diesen definierten Datenbestand zugreifen und Fragen auf Grundlage der darin enthaltenen Informationen beantworten.

Kann KI Softwareentwickler:innen ersetzen?

Nico sieht insbesondere die reine Softwareentwicklung als stark von Veränderungen betroffen. Gleichzeitig betont er, dass weiterhin Menschen benötigt werden, die Systeme verstehen, KI-Ergebnisse kontrollieren und übergeordnete Zusammenhänge beurteilen können.

Kann KI Softwareentwickler:innen ersetzen?

Nico beschreibt die Vorstellung, dass einfache Verwaltungsvorgänge stärker automatisiert werden und persönliche KI-Agenten mit Systemen beziehungsweise Agenten der Verwaltung kommunizieren könnten. Menschen könnten sich dadurch stärker auf komplexe und menschliche Aufgaben konzentrieren.

Weiterführende Inhalte

• Weitere Podcastfolgen von „Digital ist besser“: https://virtual7.de/podcasts/folge-51-rente-und-finanzverwaltung/
• Beitrag zu Digitalisierung: https://virtual7.de/blog/tag-der-digitalisierung/
• Nicos Geschichte bei virtual7: https://virtual7.de/story/nico-rimmele/