Zu riskant: Grünen-Innenpolitikerin Kahn warnte vor einem voreiligen Einsatz von KI bei Verwaltungsentscheidungen.

Bundesrat kippt Vorstoß für KI-Einsatz in Verwaltung. Nun ist der Vorschlag auch im Bundesrat vom Tisch.

Der Bundesrat hat einen Vorschlag für den Einsatz von Künstlicher Intelligenz (KI) bei Entscheidungen in der öffentlichen Verwaltung abgelehnt. Andere Empfehlungen der Ausschüsse der Länderkammer zur Reform des Onlinezugangsgesetzes der Bundesregierung - etwa die Forderung nach einem einheitlicheren Datenmanagement - fanden dagegen bei der Abstimmung am Freitag eine Mehrheit.

Die Grünen-Innenpolitikerin Misbah Khan hatte vor der Sitzung vor einem voreiligen Einsatz von KI gewarnt. Sie sagte der Deutschen Presse-Agentur, Künstliche Intelligenz könne, richtig eingesetzt, ein nützliches Werkzeug sein, um Prozesse zu vereinfachen und zu beschleunigen. Entscheidungen, die das Schicksal von Menschen beträfen, dürften aber nicht Algorithmen überlassen werden.

Die nun verworfene Empfehlung der Ausschüsse des Bundesrats hatte gefordert, im neuen Onlinezugangsgesetz «die Zulässigkeit des Einsatzes algorithmenbasierter Entscheidungsfindung und -vorbereitung in der öffentlichen Verwaltung zu normieren». Ein Warten auf den europäischen Prozess dazu würde den Einsatz Künstlicher Intelligenz im öffentlichen Sektor in Deutschland ausbremsen. Bis das geplante Regelwerk der Europäischen Union, der sogenannte Artificial Intelligence Act, in Kraft tritt, dürften wohl noch mindestens zwei Jahre vergehen.

Fehlende Transparenz

Khan warnte, Entscheidungen der öffentlichen Verwaltung müssten transparent und nachvollziehbar sein, auch seien selbstlernende Systeme nicht diskriminierungsfrei. Wer beispielsweise einen Antrag auf Wohngeld stelle und dann eine Absage erhalte, müsse nachvollziehen können, warum der Antrag abgelehnt wurde. Verfahren könnten auch ohne den Einsatz von KI deutlich beschleunigt und vereinfacht werden.

Die Parlamentarische Staatssekretärin im Bundesverkehrsministerium, Daniela Kluckert (FDP), betonte dagegen, das auch für Digitales zuständige Ministerium unterstütze den Einsatz von KI in der Verwaltung. Diese könne helfen, standardisierte Prozesse zu automatisieren und den Mitarbeitern so mehr Zeit für die Entscheidung komplexer Fälle zu verschaffen, beispielsweise bei der Einbürgerung. «Hinzu kommt, dass KI sachlichere und schnellere Entscheidungen treffen kann, als es dem Menschen möglich ist – gerade im Bürger-Staat-Verhältnis», fügte sie hinzu.

Khan zeigte sich erleichtert über die Entscheidung des Bundesrates. Sie sagte: «Es ist beruhigend, dass die Länder nicht blind auf den KI-Zug aufspringen und das Vorhaben abgelehnt haben.» Man müsse sich die Zeit nehmen, über einen sinnvollen und transparenten Einsatz von KI in deutschen Behörden und Ämtern zu sprechen.