Ist eine Bürgerinformationsleitung nach der KI-Verordnung hochriskant?

Für sich genommen nicht. Anhang III führt die Hochrisikofälle auf, darunter KI zur Bewertung der Anspruchsberechtigung auf grundlegende öffentliche Unterstützungsleistungen. Fragen beantworten, Termine vergeben und an einen Menschen weiterleiten ist das nicht; Artikel 50 verlangt aber weiterhin, dass dem Bürger gesagt wird, dass er mit einem KI-System spricht. Diese Seite enthält allgemeine Informationen, keine Rechtsberatung.

Wer muss die Grundrechte-Folgenabschätzung durchführen?

Der Betreiber, sofern er eine Einrichtung des öffentlichen Rechts ist und das System nach Anhang III hochriskant ist: vor der Inbetriebnahme, nach Artikel 27(1). Sie ist von der Konformitätsbewertung des Anbieters und von einer Datenschutz-Folgenabschätzung zu unterscheiden. Diese Seite enthält allgemeine Informationen, keine Rechtsberatung.

Wo werden die Daten verarbeitet?

Das primäre Anwendungs-Hosting ist Frankfurt. Die vollständige Liste der Unterauftragsverarbeiter, die Verarbeitungsorte und die Übermittlungsgrundlage stehen im Trust Center: das Dokument für die Vergabeakte, nicht ein Satz auf einer Marketingseite.

Branche · Öffentlicher Sektor

Öffentlicher Sektor: welche Bürgerinteraktionen hochriskant sind, und welche nicht.

Anfragen · Beschaffungszyklus 12–24 Monate

Nicht jeder KI-Einsatz im öffentlichen Sektor ist hochriskant, und alle so zu behandeln hilft ebenso wenig wie keinen. Anhang III der KI-Verordnung nennt die Fälle, darunter KI, die die Anspruchsberechtigung einer Person auf grundlegende öffentliche Unterstützungsleistungen bewertet. Eine Informationsleitung zu Öffnungszeiten ist das nicht. Fällt ein Einsatz dagegen unter Anhang III, trägt eine Behörde als Betreiber eine Pflicht, die private Betreiber nicht haben: die Grundrechte-Folgenabschätzung nach Artikel 27.

Was das Gesetz verlangt

Wer mit einem KI-System interagiert, muss darüber informiert werden, es sei denn, es ist aus den Umständen offensichtlich.: Verordnung (EU) 2024/1689, Art. 50(1)
KI-Systeme, die von Behörden oder in deren Auftrag zur Bewertung der Anspruchsberechtigung auf grundlegende öffentliche Unterstützungsleistungen eingesetzt werden, sind hochriskant.: Verordnung (EU) 2024/1689, Anhang III, Nummer 5(a)
Betreiber von Hochrisikosystemen müssen sie gemäß der Betriebsanleitung einsetzen, die menschliche Aufsicht kompetenten Personen übertragen und die erzeugten Protokolle aufbewahren.: Verordnung (EU) 2024/1689, Art. 26
Ein Betreiber, der eine Einrichtung des öffentlichen Rechts ist, muss vor der Inbetriebnahme eines Hochrisikosystems aus Anhang III eine Grundrechte-Folgenabschätzung durchführen.: Verordnung (EU) 2024/1689, Art. 27(1)
Jeder Mitgliedstaat musste bis zum 2. August 2026 mindestens ein nationales KI-Reallabor betriebsbereit haben.: Verordnung (EU) 2024/1689, Art. 57(1)

Was Audact dazu tut

Die Artikel-50-Offenlegung in der Sprache des Anrufers. Deutschland: nationale Richtlinienebene aktiv. Niederlande: in Entwicklung. Belgien und Österreich: geplant.: In kontrollierten Tests
Für gesteuerte Gespräche ist im Produkt eine Quittung sichtbar: Eingabe-Hash, Ausgabe-Hash, die Verkettung zur vorherigen Quittung und die Merkle-Zugehörigkeit. Drei davon kann jeder ohne Schlüssel nachrechnen; die vierte, der Einschluss in der Merkle-Wurzel, wird mit dem Einschlussnachweis aus dem Artikel-50-Bericht des Anrufs gegen die veröffentlichte Wurzel geprüft.: Im Produkt sichtbar · Läuft heute
Primäres Anwendungs-Hosting: Frankfurt. Die Liste der Unterauftragsverarbeiter und die Übermittlungsgrundlage stehen im Trust Center.: Läuft heute
Die nationale Richtlinienebene über Artikel 50.: Deutschland: aktiv · Niederlande in Arbeit
Early Customer Program-Aufnahme.: Niederlande und Flandern (BE): Aufnahme offen. Deutschland und Österreich: Aufnahme ist ein Gespräch und kein Starttermin.
Strukturierte Eingaben für eine Grundrechte-Folgenabschätzung und für eine Reallabor-Bewerbung.: In Entwicklung
Ausrichtung an der EUDI-Wallet für die Attestierung von Bürgeridentitäten.: In Untersuchung

Zuerst die Einstufung

Die erste Frage ist nicht, welche Steuerungen Sie brauchen. Sie lautet, auf welcher Liste Sie stehen.

Eine Telefonleitung, die einem Bürger die Öffnungszeiten nennt, einen Termin vergibt und den Rest an einen Menschen weiterleitet, ist ein gewöhnliches KI-System mit einer Transparenzpflicht nach Artikel 50. Ein System, das mitentscheidet, ob jemand eine Leistung erhält, steht in Anhang III Nummer 5(a) und bringt das gesamte Hochrisikoregime mit. Der Abstand zwischen beiden ist gewaltig, und er entscheidet sich am Verwendungszweck, nicht an der Bauweise.

Das sollte geklärt sein, bevor eine Vergabeunterlage geschrieben wird, denn die Antwort ändert deren Inhalt. Ein Irrtum in die vorsichtige Richtung ist teuer; ein Irrtum in die andere ist schlimmer.

Zwei Pflichten nur für öffentliche Stellen

Die Folgenabschätzung, und das Reallabor, das Ihnen offensteht.

Artikel 27(1) legt die Grundrechte-Folgenabschätzung auf Betreiber, die Einrichtungen des öffentlichen Rechts sind, vor Inbetriebnahme eines Hochrisikosystems aus Anhang III. Sie ist ein anderes Instrument als die Konformitätsbewertung des Anbieters und als eine Datenschutz-Folgenabschätzung, und sie fragt nach den betroffenen Menschen: wer sie sind, was für sie schiefgehen kann und welche Aufsicht dann greift.

Der andere Weg ist Artikel 57. Jeder Mitgliedstaat musste bis zum 2. August 2026 mindestens ein nationales KI-Reallabor betriebsbereit haben, eine beaufsichtigte Umgebung zum Erproben unter Beteiligung der zuständigen Behörde. Für eine Behörde ist das oft der günstigste Weg, herauszufinden, was die eigene Aufsicht erwartet, und der Abschlussbericht begleitet den Einsatz danach.

Fragen

Ist eine Bürgerinformationsleitung nach der KI-Verordnung hochriskant?: Für sich genommen nicht. Anhang III führt die Hochrisikofälle auf, darunter KI zur Bewertung der Anspruchsberechtigung auf grundlegende öffentliche Unterstützungsleistungen. Fragen beantworten, Termine vergeben und an einen Menschen weiterleiten ist das nicht; Artikel 50 verlangt aber weiterhin, dass dem Bürger gesagt wird, dass er mit einem KI-System spricht. Diese Seite enthält allgemeine Informationen, keine Rechtsberatung.
Wer muss die Grundrechte-Folgenabschätzung durchführen?: Der Betreiber, sofern er eine Einrichtung des öffentlichen Rechts ist und das System nach Anhang III hochriskant ist: vor der Inbetriebnahme, nach Artikel 27(1). Sie ist von der Konformitätsbewertung des Anbieters und von einer Datenschutz-Folgenabschätzung zu unterscheiden. Diese Seite enthält allgemeine Informationen, keine Rechtsberatung.
Wo werden die Daten verarbeitet?: Das primäre Anwendungs-Hosting ist Frankfurt. Die vollständige Liste der Unterauftragsverarbeiter, die Verarbeitungsorte und die Übermittlungsgrundlage stehen im Trust Center: das Dokument für die Vergabeakte, nicht ein Satz auf einer Marketingseite.

Ein Nachweis, der die Vergabeakte überdauert

Wofür eine Behörde später einstehen können muss, ist, was in einer bestimmten Interaktion geschehen ist. Audact hält das pro Anruf fest und zeigt die Quittung im Produkt; der Produktivexport funktionierte bei der Nachprüfung am 26. August 2026 nach dem Deploy (gemessen an Browser-Anrufen statt über eine Telefonleitung).

Eine Quittung ansehen