In unserem letzten Blogbeitrag haben wir erfahren, was Decision Models sind und welche Vorteile sie gegenüber LLMs bieten. Aber die beeindruckendste technische Demo bringt nichts, wenn unklar ist, wo und wie man sie anwenden könnte. Deshalb wollen wir heute darauf schauen, wieso gerade die öffentliche Verwaltung eine passende Domäne für Decision Models ist.
Zur Erinnerung: Decision Models sind fähige und extrem flexible Klassifikationsmodelle, die tendenziell ohne Trainingsdaten auskommen und sich an sich verändernde Klassen leicht anpassen lassen und dabei im besten Fall auch noch kalibrierte Wahrscheinlichkeiten für ihre Sicherheit der Antwort liefern. Was die Vorstellung von ChatGPT 2022 und die daraus folgende Welle von Chat-LLMs für die Aufgabe der Textgenerierung war, ist nun Vorstellung von Jev bzw. Decision Models im Generellen für die Aufgabe der Klassifizierung. Viele Anwendungsfälle in der echten Welt basieren auf Entscheidungen anhand der verfügbaren Informationen (E-Mail ist wichtig/unwichtig, Fall gehört zu Abteilung A/B/C, …). Genau diese Entscheidungen können wir mit Decision Models schnell, günstig und maschinenlesbar treffen und in unsere Automatisierungsstrukturen und Prozesse integrieren.
Schauen wir uns solch einen Prozess bei einem Ordnungsamt einmal beispielhaft genau an: Stellen wir uns vor, man kann als Bürgerin oder Bürger per App Mängel im öffentlichen Raum melden. Bisher wird jede Meldung ohne Feedback aufgenommen und von einer Fachkraft gelesen und bearbeitet. Eine Beispielmeldung könnte lauten: „Neben der Bushaltestelle vor der Schule liegt seit gestern ein kaputter Schrank. Die Bretter ragen auf den Gehweg, mit dem Kinderwagen kommt man kaum vorbei.“ Passend dazu wird ein Bild von der Situation gesendet.

Abbildung 2: Der Prozess der Mängelmeldung im öffentlichen Raum
Der Prozess, den die Fachkraft bei der Nachricht durchläuft, teilt sich in verschiedene Schritte:
- Anliegen erkennen: „Handelt es sich um einen Mangel im öffentlichen Raum?“
- Mangel einordnen: „Welche Kategorie passt am besten: Müllablagerung, Straßenschaden, Beleuchtung, Grünpflege?“
- Gefahrenhinweise erkennen:
- „Beschreibt der Text eine Behinderung des Gehwegs?“
- „Enthält er Hinweise auf eine mögliche Verletzungsgefahr?“
All diese Informationen werden pro Fall in einer Fachanwendung händisch eingetragen und lösen entspreche Aktionen aus, z.B. Zuweisung an das richtige Team und Priorisierung von Fällen. Bei vielen Meldungen kann die Bearbeitung von Hand entsprechend lange dauern und zu einem Stau an Meldungen führen. Ein Decision Model kann all diese Fragen ohne vorheriges Training bearbeiten und gibt zu jeder Antwort eine kalibrierte Sicherheit aus. Ist sich das Modell nicht sicher, kann ein Mensch hinzugezogen werden oder direkt in der App automatisch nachgefragt werden, z.B. weil der Meldungstext nicht eindeutig ist oder mehrere Kategorien möglich sein könnten. Wenn eine neue Mangelkategorie dazukommt oder sich diese verändern, muss das System nicht neutrainiert werden, sondern kann flexibel und dynamisch angepasst werden.
Warum nicht KI-Agenten?
Momentan werden KI-Agenten, also selbsthandelnde und autonome KI-Systeme, von vielen als die Zukunftstechnologie, auch in der öffentlichen Verwaltung, gehandelt. Der Knackpunkt ist jedoch, dass Prozesse in der öffentlichen Verwaltung oftmals klare Abläufe verlangen bzw. definieren. KI-Agenten sind gut geeignet in Situationen, in denen das Ziel klar ist, die konkreten Schritte dahin aber erst bei der Bearbeitung klar werden, z.B. bei Kundenanfragen mit beliebigen Themen und einem gewissen Datenpool, der genutzt werden kann. In der öffentlichen Verwaltung sind viele Prozesse jedoch standardisiert, sodass der nächste konkrete Arbeitsschritt oftmals bereits klar ist. Nicht umsonst wird in der öffentlichen Verwaltung stereotypisch vom „Schema F“ gesprochen. Ein KI-Agent ist in solchen Situationen also gar nicht unbedingt von Vorteil, da er nicht darauf ausgelegt ist, klare Ablaufketten einzuhalten, sondern dynamisch nächste Schritte zu wählen. Der Einsatz von KI-Modellen (z.B. Dokumente auslesen oder eben Entscheidungen treffen) an entsprechenden Entscheidungs- und Knotenpunkten der Verarbeitung kann hier handhabbarer, übersichtlicher, nachvollziehbarer und günstiger sein. Die rechtlich vorgeschriebene Dokumentation von Zwischenschritten ist bei einer vorgegebenen Struktur mit Decision Models durchaus einfacher umzusetzen als bei einem „freilaufenden“ KI-Agenten.
In diesem Blogpost haben wir die Vorzüge von Decision Models für typische Anwendungsfälle der öffentlichen Verwaltung dargestellt. Während KI-Agenten für viele Prozesse zu dynamisch arbeiten und eigens trainierte Klassifikations-Modelle mehr Aufwand bedeuten, sind Decision Models in klaren Entscheidungsprozessen flexibel einsetzbar. Nichtsdestotrotz sei gesagt, dass speziell auf eine Aufgabe trainierte Klassifikationsmodelle mit gut kuratierten Daten oftmals qualitativ besser, schneller und günstiger sind also generelle Decision Models, da sie kleiner sind. Decision Models sind aber ein guter und schneller Startpunkt für Entscheidungsfindung. Decision Models haben sich ihren eigenen Platz in der Werkzeugkiste der KI-Modelle verdient, die für entsprechende Anwendungen genutzt werden können und an denen mit der Zeit weiter geforscht wird. Wie sich das digitale Ökosystem der Decision Models in den Wochen seit Vorstellung weiterentwickelt hat, beleuchten wird im nächsten und letzten Blogpost unserer Blogpostreihe

