Die Anwendung von künstlich intelligenten Systemen hat in letzter Zeit an Popularität gewonnen, insbesondere durch die Einführung des Chatbots „ChatGPT“ durch das KI-Forschungsunternehmen OpenAI. Diese Entwicklung verdeutlicht das Potenzial von KI-Anwendungen im Allgemeinen. Es ist wahrscheinlich, dass ähnliche KI-Systeme, wie Chatbots, auch in der öffentlichen Verwaltung eingesetzt werden könnten.
Diese Entwicklung wirft jedoch einige Fragen im öffentlichen Bereich auf: Vorhersageentscheidungen, die eine sorgfältige Risikobewertung erfordern, sind im deutschen Verwaltungsrecht nicht neu. Es ist jedoch fraglich, inwieweit die Verwaltung solche Verfahren der probabilistischen Risikoanalyse KI-Anwendungen anvertrauen sollte und inwieweit dies rechtlich akzeptabel wäre.
Im Beitrag „Künstliche Intelligenz in der Verwaltung - Der Entwurf einer europäischen KI-Verordnung und der Umgang mit informationstechnischen Risiken“, erschienen in der aktuellen Ausgabe des Periodikums „Die Verwaltung“ (VERW 2023, S. 1-29), befasst sich Prof. Dr. Margrit Seckelmann vom Institut für Rechtsinformatik mit den Schlüsselkonzepten der Verwaltungsdigitalisierung, bei dessen Transformationsprozess die KI eine entscheidende Rolle spielen kann. Normativer Untersuchungsgegenstand ist dabei der im Trilogverfahren befindliche Kommissionsentwurf zur KI-Verordnung, der erstmals einen harmonisierten Rechtsrahmen für einen regulierten KI-Markt schaffen soll. Die Genese, der Anwendungsbereich und die Inhalte des Entwurfs werden beleuchtet, mögliche Defizite diskutiert, und die Wechselwirkungen des Entwurfs zur Datenschutz-Grundverordnung (DSGVO), insbesondere zu Artikel 22 DSGVO, kritisch bewertet. Abschließend werden die Erörterungen auf mögliche Auswirkungen der KI-Verordnung auf den KI-Einsatz in der Verwaltung bezogen und bewertet.
Der Aufsatz beruht auf einem Vortrag, den die Verfasserin im letzten Jahr im Gesprächskreis „Verwaltung“ der Staatsrechtslehrertagung gehalten hat.
