Warnung vor Behörden KI

(03.09.2026) Die österreichische Digitalrechtsorganisation epicenter.works warnt eindringlich vor der geplanten Novelle des Allgemeinen Verwaltungsverfahrensgesetzes (AVG). In einem offenen Brief an den Verfassungsausschuss des Nationalrats fordert die Organisation, die Regierungsvorlage nicht unverändert zu beschließen. Kern der Kritik: Behörden sollen künftig unter bestimmten Voraussetzungen vollständig automatisierte Bescheide erlassen können – also Entscheidungen mit unmittelbarer Rechtswirkung, ohne dass zwingend ein Mensch den konkreten Einzelfall prüft.

epicenter.works warnt vor „No Human in the Loop“

Schon im Frühjahr kritisierte epicenter.works, dass die geplante AVG-Novelle eine Infrastruktur für weitreichende Automatisierung in der Verwaltung schaffe. Besonders problematisch sei, dass vollständig automatisierte schriftliche Erledigungen vorgesehen sind. Nach Ansicht der Organisation sollte KI in Behörden vor allem als unterstützendes Werkzeug dienen, während die endgültige Entscheidung bei einem Menschen bleiben müsse.

Der zugrunde liegende Ministerialentwurf sieht tatsächlich vor, dass die jeweils zuständige oberste Behörde per Verordnung festlegen kann, welche Verfahren vollständig automatisiert erledigt werden dürfen. Voraussetzung ist unter anderem, dass die Verfahren fachlich und technisch dafür geeignet sind.

Sorge vor Fehlern, Halluzinationen und Diskriminierung

Ein zentraler Kritikpunkt von epicenter.works betrifft den Einsatz von Large Language Models und anderen KI-Systemen. Solche Systeme können plausibel klingende, aber falsche Inhalte erzeugen. Besonders heikel werde das, wenn nicht nur Texte vorgeschlagen, sondern rechtswirksame Entscheidungen getroffen werden. epicenter.works verweist zudem auf die Gefahr, dass bestehende Verzerrungen in Trainingsdaten automatisiert übernommen werden und dadurch bestimmte Personengruppen benachteiligt werden könnten.

Auch die mangelnde Nachvollziehbarkeit automatisierter Entscheidungen sieht die Organisation kritisch. Wenn für Betroffene nicht klar erkennbar ist, warum ein System zu einem bestimmten Ergebnis gelangt ist, werde wirksamer Rechtsschutz erschwert. epicenter.works spricht in diesem Zusammenhang von einem Black-Box-Problem.

Risiko könnte auf Bürger verlagert werden

Besonders scharf kritisiert epicenter.works die geplanten Möglichkeiten, fehlerhafte automatisierte Bescheide später wieder aufzuheben. Aus Sicht der Organisation entsteht dadurch eine Verschiebung des Risikos vom Staat auf die Bürger: Die Verwaltung könnte automatisierte Entscheidungen schneller erlassen, während Betroffene im Nachhinein mit Unsicherheit, Verzögerungen oder zusätzlichen Kosten konfrontiert wären.

Das Problem zeigt sich etwa bei Genehmigungen oder Leistungen, auf deren Bestand sich Betroffene verlassen. Wird eine automatisierte Entscheidung später wegen eines Systemfehlers aufgehoben, können bereits getroffene finanzielle oder persönliche Entscheidungen betroffen sein.

Ursprüngliches Widerspruchsrecht im Entwurf vorgesehen

Im ursprünglichen Ministerialentwurf war ausdrücklich vorgesehen, dass Betroffene einer vollständig automatisierten Erledigung widersprechen können. Der entsprechende § 18a AVG sah unter anderem vor, dass eine automatisierte Entscheidung unzulässig ist, wenn ein Beteiligter rechtzeitig widersprochen hat.

Laut den aktuell diskutierten Änderungen wurde dieses Widerspruchsrecht im weiteren Gesetzgebungsprozess jedoch wesentlich verändert beziehungsweise gestrichen. Genau diese Entwicklung zählt zu den Punkten, die epicenter.works nun im offenen Brief an den Verfassungsausschuss kritisiert.

Regierung will Verwaltung schneller und digitaler machen

Ziel der Gesetzesnovelle ist grundsätzlich eine stärker digitalisierte und effizientere Verwaltung. Neben automatisierten Bescheiden sollen auch Chatbots bei Behördenanträgen, sogenannte No-Stop-Verfahren ohne vorherige Antragstellung sowie weitere digitale Abläufe ermöglicht werden. Die Regierungsvorlage wurde am 17. Juni 2026 in den Nationalrat eingebracht und dem Verfassungsausschuss zugewiesen.

Bei No-Stop-Verfahren könnte eine Behörde Leistungen automatisch gewähren, wenn alle erforderlichen Informationen bereits vorliegen. Als Beispiele werden bestehende Modelle wie die antragslose Familienbeihilfe und die antragslose Arbeitnehmerveranlagung genannt.

epicenter.works fordert klare Grenzen für KI in Behörden

epicenter.works spricht sich nicht grundsätzlich gegen KI in der öffentlichen Verwaltung aus. Die Organisation fordert aber klare gesetzliche Grenzen, unabhängige Kontrollen und mehr Transparenz. Dazu zählen nach ihrer Vorstellung unter anderem verpflichtende Prüfungen der eingesetzten Systeme, laufende Kontrollen sowie ein öffentlich nachvollziehbarer Überblick darüber, wo algorithmische Systeme in Behörden eingesetzt werden.

Besonders sensible Verfahren sollten nach Ansicht der Digitalrechtsorganisation zudem nicht einfach per Verordnung für vollständig automatisierte Entscheidungen freigegeben werden können. Der menschliche Entscheidungsträger müsse bei weitreichenden Behördenentscheidungen weiterhin eine zentrale Rolle spielen.

Entscheidung liegt nun beim Verfassungsausschuss

Die Novelle befindet sich mittlerweile im parlamentarischen Verfahren. Der Verfassungsausschuss kann noch Änderungen an der Regierungsvorlage vornehmen. Genau dort setzt der aktuelle Appell von epicenter.works an: Die Organisation fordert, die Regeln für automatisierte Behördenentscheidungen vor einer Beschlussfassung deutlich nachzubessern.

Im Zentrum steht damit eine grundsätzliche Frage der Digitalisierung des Staates: Wie weit darf Österreich Verwaltungsentscheidungen automatisieren, wenn diese unmittelbar über Rechte, Leistungen oder Genehmigungen von Menschen entscheiden?

(fd/epicenter.works)