Viele Bundesländer treiben aktuell eigene KI-Entwicklungen voran, jedoch mangelt es häufig an einer gemeinsamen, standardisierten technischen Basis. Ohne eine solche Grundlage müssen Basiskomponenten immer wieder neu implementiert werden, was Ressourcen bindet und eine länderübergreifende Nachnutzung von Software nach dem EfA-Prinzip (Einer-für-Alle) erheblich erschwert. Um dieser Fragmentierung entgegenzuwirken, wurde im Rahmen des Vorhabens KI4BW die KI-Verwaltungsassistenz-Referenzarchitektur (KIVA.arc) entwickelt.

KIVA.arc ist als streng modulare, serviceorientierte Microservices-Architektur konzipiert, die die digitale Souveränität der Verwaltung konsequent in den Mittelpunkt stellt. Im Gegensatz zu Cloud-abhängigen Ansätzen ist die Plattform primär für den On-Premises-Betrieb ausgelegt, um sensible Verwaltungsdaten sicher in eigenen Rechenzentren verarbeiten zu können. Dabei setzt die Architektur priorisiert auf leistungsstarke Open-Source-KI-Modelle sowie quelloffene Softwarekomponenten. Durch zusätzliche Abstraktionsebenen und standardisierte Schnittstellen wird eine effektive Kapselung erreicht: Einzelne Komponenten und Modelle können autark entwickelt, zeitnah ausgetauscht und flexibel erweitert werden, ohne die Gesamtarchitektur zu beeinträchtigen (Vermeidung von Vendor-Lock-ins). Ganz im Sinne des „Einer-für-Alle“-Prinzips (EfA) wird die Architektur selbst als Open-Source-Referenzimplementierung auf openCoDE.de bereitgestellt, um redundante Entwicklungen zu vermeiden und Standardisierungen zu fördern.
Funktional ist die Plattform exakt auf die Anforderungen des öffentlichen Sektors zugeschnitten: Da die Verwaltungsarbeit stark dokumentengetrieben ist, bildet ein zentrales, vertrauenswürdiges RAG-System (Retrieval-Augmented Generation) ein wesentliches Kernelement. Flankiert wird dies durch gezielte technische Mechanismen zur Erkennung und Reduzierung von KI-Halluzinationen, um verlässliche Ergebnisse zu garantieren. Für den sicheren, behördenübergreifenden Betrieb integriert KIVA.arc zudem eine strikte Mandantenfähigkeit sowie eine feingranulare Nutzer- und Rechteverwaltung, die bestehende Zugriffsgrenzen auf Datenbestände strikt wahrt. Ein integriertes Usage-Tracking überwacht darüber hinaus den Token-Verbrauch, was sowohl der Kostenkontrolle als auch als Basis für zukünftige Verrechnungsmodelle dient.