Nach derzeitiger Planung wird in Deutschland die Bundesnetzagentur (BNetzA) künftig die Rolle der zentralen Marktüberwachungsbehörde KI-VO übernehmen, soweit keine anderen bereits bestehenden Behörden eingesetzt werden.
Laut Entwurf des „Gesetzes zur Durchführung der KI-Verordnung“ (insb. dem KI-MIG) wird bei der Bundesnetzagentur ein Koordinierungs- und Kompetenzzentrum für die KI-Verordnung (KoKIVO) eingerichtet, das die anderen zuständigen Behörden bei der Umsetzung und Auslegung der Verordnung unterstützt. Zudem wird ein hybrider Ansatz verfolgt: So sollen vorhandene Marktüberwachungsstrukturen oder Aufsichtsbehörden in Spezialbereichen (z. B. Finanzaufsicht) eingebunden werden, und nur in Gebieten ohne bestehende Zuständigkeit greift die BNetzA.
Aufgaben der Marktüberwachungsbehörde KI-VO
Zukünftig wird die Marktüberwachungsbehörde u. a.:
-
die Einhaltung verbotener KI-Praktiken (gemäß Kapitel II der KI-Verordnung) überwachen;
-
Hochrisiko-KI-Systeme und Transparenzpflichten prüfen und durchsetzen, etwa ob ein System korrekt als Hochrisiko eingestuft ist;
-
Beschwerden und Meldungen entgegennehmen und Sanktionen verhängen (z. B. Bußgelder);
-
als zentrale Anlaufstelle (Single Point of Contact) für Fragen und Beschwerden fungieren;
-
die Ergebnisse von Grundrechte-Folgenabschätzungen gemäß Art. 27 KI-VO entgegennehmen und prüfen (siehe unten).
Relevanz nach Art. 27 KI-VO
Gemäß Art. 27 KI-VO müssen Betreiber von bestimmten Hochrisiko-KI-Systemen vor Inbetriebnahme eine Grundrechte-Folgenabschätzung (GRFA) durchführen und die Ergebnisse der zuständigen Marktüberwachungsbehörde übermitteln (mit einem vom KI-Büro bereitgestellten Muster). Damit wird die Marktüberwachungsbehörde genau dann relevant, wenn ein Hochrisiko-KI-System erstmalig eingesetzt werden soll: Sie bekommt Einsicht in die Folgenabschätzung und prüft, ob der Betreiber seine Pflichten eingehalten hat.
