KI-Audit: Welche Nachweise Unternehmen für die KI-VO wirklich brauchen

Lesezeit: 8 Minuten.

Zusammenfassung:

Ein KI-Audit bewertet nicht nur einzelne KI-Systeme, sondern die gesamte KI-Governance eines Unternehmens. Auditoren prüfen insbesondere, ob KI-Anwendungen ordnungsgemäß dokumentiert sind, Risiken bewertet wurden und Verantwortlichkeiten klar geregelt sind. Um zu bewerten, ob ein wirksames KI-Managementsystem implementiert ist, sind für die meisten Unternehmen sechs Nachweise entscheidend:

1. KI-Verzeichnis
2. Risikoklassifizierung
3. Grundrechte-Folgenabschätzung
4. KI-Richtlinie
5. Schulungsnachweise
6. Lieferanten- und Tool-Freigaben

Fehlen diese Nachweise, entstehen häufig Abweichungen im Audit und Compliance-Risiken.

Was ist ein KI-Audit?

Ein KI-Audit ist die systematische Prüfung von KI-Systemen, Governance-Strukturen, Risikobewertungen und Compliance-Nachweisen eines Unternehmens.

Ziel ist es, nachzuweisen, dass KI-Anwendungen kontrolliert, dokumentiert und regulatorisch konform eingesetzt werden. Gleichzeitig hilft das Audit dabei, mögliche Schwachstellen oder Compliance-Risiken frühzeitig zu erkennen und zu bewerten.

Anders als klassische IT- oder Datenschutzaudits betrachtet ein KI-Audit nicht nur technische Maßnahmen, sondern die gesamte organisatorische Steuerung des KI-Einsatzes.

Wichtig zur Einordnung: Ein gesetzlich vorgeschriebenes „KI-Audit“ für jedes Unternehmen gibt es nicht. Eine formale Konformitätsbewertung nach Art. 43 KI-VO trifft nur Anbieter von Hochrisiko-Systemen. Für alle anderen ist das KI-Audit die interne Standortbestimmung, die zwei Dinge sicherstellt: die Erfüllung der eigenen Betreiberpflichten und die Auskunftsfähigkeit gegenüber einer Marktüberwachungsbehörde, die nach Art. 74 KI-VO Unterlagen anfordern und prüfen kann.

KI-Audit als Zusammenfassung

Welche Unternehmen von KI-Audits betroffen sind

Die KI-Verordnung betrifft nicht nur diejenigen, die KI entwickeln. Sie unterscheidet mehrere Rollen, und die entscheidende für den Mittelstand ist der Betreiber.

Ein Anbieter (Art. 3 Nr. 3 KI-VO) entwickelt ein KI-System oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr. Ein Betreiber (Art. 3 Nr. 4 KI-VO) nutzt ein KI-System in eigener Verantwortung, etwa im Personalbereich, im Kundenservice oder in der Analyse. Wer ChatGPT, Microsoft Copilot oder ein KI-gestütztes Bewerbungstool einsetzt, ist regelmäßig Betreiber – und damit im Anwendungsbereich der Verordnung.

Dazu gehören alle Unternehmen, die beispielsweise:

• ChatGPT nutzen
• Microsoft Copilot einsetzen
• KI-basierte Recruiting-Lösungen verwenden
• Kundenservice-Chatbots betreiben
• automatisierte Entscheidungen treffen
• externe KI-Dienstleister integrieren

Zwei Pflichten treffen dabei sogar jeden Betreiber, unabhängig von der Risikoklasse: die Sicherstellung ausreichender KI-Kompetenz der Beschäftigten nach Art. 4 KI-VO, die bereits seit dem 2. Februar 2025 gilt, und das Verbot bestimmter KI-Praktiken nach Art. 5 KI-VO. Wer KI nutzt, sollte deshalb davon ausgehen, dass er auskunftsfähig sein muss.

Die 6 wichtigsten Nachweise für ein erfolgreiches KI-Audit

Ein Unternehmen bereitet ein KI-Audit vor, indem es alle eingesetzten KI-Systeme erfasst, ihre Risikoklasse bestimmt, Verantwortlichkeiten festlegt und die Nachweise zentral verfügbar hält. Je früher diese Grundlagen stehen, desto kleiner ist der Aufwand bei einer späteren Prüfung.

Für die meisten Unternehmen lassen sich die Anforderungen auf sechs Nachweisbereiche verdichten. Fehlt einer davon, entsteht in der Regel schon die erste Feststellung.

Das KI-Verzeichnis als Fundament

Der wichtigste Nachweis ist ein vollständiges KI-Verzeichnis. Ohne dieses Dokument kann ein Auditor nicht nachvollziehen, welche Systeme im Unternehmen überhaupt im Einsatz sind – und ein Unternehmen selbst oft ebenso wenig.

Die KI-VO schreibt kein „KI-Verzeichnis“ mit diesem Namen vor, so wie es die DSGVO in Art. 30 für das Verarbeitungsverzeichnis tut. In der Praxis ist es aber die Grundlage, um die verstreuten Betreiberpflichten aus Art. 26 zu erfüllen, die eigene Risikoklassifizierung sauber abzuleiten und die Transparenzpflichten nach Art. 50 nachzuhalten. Wer kein Verzeichnis führt, kann keine der übrigen fünf Nachweise belastbar erbringen. Ein KI-Verzeichnis sollte mindestens diese Angaben je System enthalten:

Die Risikoklassifizierung nach der KI-Verordnung

Ein Auditor will nicht nur wissen, welche Systeme laufen, sondern wie riskant sie sind. Dabei sind zwei Ebenen zu trennen, die in der Praxis oft vermischt werden.

Die erste Ebene ist die regulatorische Risikoklasse nach der KI-VO. Die Verordnung kennt vier Stufen: verbotene KI-Praktiken (Art. 5), Hochrisiko-Systeme (Art. 6 in Verbindung mit Anhang I und III), Systeme mit besonderen Transparenzpflichten wie Chatbots oder Deepfakes (Art. 50) und Systeme mit minimalem Risiko ohne besondere Pflichten. Hinzu kommen KI-Modelle mit allgemeinem Verwendungszweck (Art. 51 ff.). Diese Einordnung entscheidet, welche Pflichten ein System überhaupt auslöst – sie ist der juristische Kern jeder Klassifizierung.

Die zweite Ebene ist das operative Risiko-Assessment, mit dem ein Unternehmen die konkreten Gefährdungen bewertet:

• Datenschutzrisiken
• Informationssicherheitsrisiken
• Compliance-Risiken
• Diskriminierungsrisiken
• Reputationsrisiken
• operative Risiken
• Haftungsrisiken

Aus der Praxis: Eine der häufigsten Schwächen im Audit ist, dass Unternehmen nur die Datenschutzrisiken bewerten und die regulatorische Einordnung nach Art. 6 KI-VO überspringen. Das rächt sich, weil erst die Risikoklasse festlegt, ob überhaupt Hochrisiko-Pflichten greifen. Ebenso verbreitet: Anbieter verkaufen ein Recruiting-Tool als „unkritisch“, obwohl der Einsatzzweck es nach Anhang III Nr. 4 in die Hochrisiko-Klasse rückt. Die Klassifizierung gehört deshalb ins Haus, nicht ins Datenblatt des Herstellers.

Die Grundrechte-Folgenabschätzung (Art. 27 KI-VO)

Die Grundrechte-Folgenabschätzung (GRFA) prüft, welche Auswirkungen ein KI-System auf die Grundrechte betroffener Personen haben kann, etwa auf Gleichbehandlung, Privatsphäre oder informationelle Selbstbestimmung. Sie geht über die datenschutzrechtliche Betrachtung hinaus, weil sie auch gesellschaftliche und ethische Wirkungen einbezieht, etwa das Risiko von Diskriminierung oder von intransparenten Entscheidungen.

Wichtig, und häufig missverstanden: Die GRFA nach Art. 27 KI-VO ist keine allgemeine Pflicht für jedes Unternehmen mit einem Hochrisiko-System. Sie trifft gezielt bestimmte Betreiber. Verpflichtet sind erstens öffentliche Stellen und private Einrichtungen, die öffentliche Dienste erbringen, wenn sie ein Hochrisiko-System nach Anhang III einsetzen, und zweitens Betreiber von Systemen zur Bonitäts- und Kreditwürdigkeitsprüfung sowie zur Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen nach Anhang III Nr. 5 lit. b und c.

Für ein privatwirtschaftliches Unternehmen, das ein KI-gestütztes Bewerbungstool nutzt, greift Art. 27 also nicht automatisch. Häufig besteht hier aber ohnehin eine Pflicht zur Datenschutz-Folgenabschätzung nach Art. 35 DSGVO, und beide Prüfungen überschneiden sich stark. Art. 27 Abs. 4 KI-VO stellt ausdrücklich klar, dass eine bereits durchgeführte DSFA die GRFA ergänzen kann. In der Praxis lohnt es sich deshalb, beide Bewertungen zusammen zu denken.

Typische Prüffragen einer GRFA sind:

• Können bestimmte Personen oder Gruppen benachteiligt werden?
• Bestehen Diskriminierungsrisiken?
• Sind die Entscheidungen des Systems ausreichend transparent und nachvollziehbar?
• Werden Grundrechte betroffener Personen eingeschränkt?

Besonders relevant wird die Betrachtung – ob als GRFA nach Art. 27 oder als DSFA nach Art. 35 DSGVO – bei Recruiting und Bewerbermanagement, Leistungsbewertungen, automatisierten Einzelentscheidungen, Bonitäts- und Scoring-Verfahren, Identitätsprüfung und Betrugserkennung, KI im Gesundheitswesen sowie Überwachungs- und Monitoring-Systemen.

KI-Richtlinie und interne Regeln

In vielen Unternehmen nutzen Beschäftigte längst KI, ohne dass verbindliche Regeln existieren. Für einen Auditor ist das ein klares Warnsignal, weil es zeigt, dass die Steuerung fehlt.

Eine belastbare KI-Richtlinie sollte mindestens diese Bereiche abdecken: erlaubte, eingeschränkte und verbotene Nutzung, den Umgang mit vertraulichen Daten und deren Klassifizierung, die Verantwortlichkeiten, die Freigabe- und Eskalationswege sowie die laufenden Kontrollpflichten.

Entscheidend ist, dass die Richtlinie im Alltag funktioniert. Ein Regelwerk, das nur aus Verboten besteht, wird umgangen und verliert seine Steuerungswirkung. Wir raten Mandanten deshalb, klar zu benennen, was erlaubt ist und über welchen Weg neue Werkzeuge freigegeben werden. Eine Richtlinie, die einen gangbaren Weg zeigt, wird befolgt. Eine, die nur den Riegel vorschiebt, produziert Schatten-KI.

KI-Kompetenz und Schulungsnachweise

Mit Art. 4 KI-VO stellt die Verordnung erstmals ausdrückliche Anforderungen an die KI-Kompetenz der Personen, die mit KI-Systemen arbeiten. Anbieter und Betreiber müssen ein ausreichendes Niveau an KI-Kompetenz ihres Personals sicherstellen. Diese Pflicht gilt seit dem 2. Februar 2025 und trifft, anders als die Hochrisiko-Pflichten, jedes Unternehmen, das KI einsetzt.

Auditoren prüfen deshalb, welche Schulungen durchgeführt wurden, wer daran teilgenommen hat, welche Inhalte vermittelt wurden und wie neue Mitarbeitende eingearbeitet werden. Nachweisfähig sind unter anderem Schulungsunterlagen, Teilnahmeprotokolle, Awareness-Kampagnen, E-Learning-Zertifikate und strukturierte Kompetenzprogramme.

Lieferantenprüfung und Tool-Freigabe

Nahezu jedes Unternehmen bindet externe KI-Anbieter ein. Damit trägt der Betreiber die Sorgfaltspflicht, diese Anbieter zu bewerten und ihre Freigabe zu dokumentieren.

Ein Audit fragt hier regelmäßig, wer den Anbieter bewertet hat, welche Risiken und Datenschutzmaßnahmen geprüft wurden, welche Sicherheitsanforderungen erfüllt sind, wer die Freigabe erteilt hat und wann zuletzt überprüft wurde.

Besondere Aufmerksamkeit gilt der Schatten-KI (Shadow AI): KI-Anwendungen, die einzelne Beschäftigte oder Fachbereiche nutzen, ohne dass sie je offiziell geprüft oder freigegeben wurden. In der Praxis ist der Klassiker der private ChatGPT-Zugang, über den Unternehmensdaten in ein Sprachmodell wandern, ohne dass IT oder Datenschutz davon wissen. Ein KI-Verzeichnis, das nur die offiziellen Systeme kennt, übersieht genau diese Fälle – und sie sind es, die im Audit auffallen.

Reifegradmodell für KI-Audit

Die folgende Einordnung hilft bei der Standortbestimmung:

Die meisten Unternehmen stehen derzeit zwischen Stufe 2 und Stufe 3. Der Sprung auf Stufe 4 gelingt fast immer über denselben Hebel: das KI-Verzeichnis konsequent führen und die Risikoklassifizierung daran koppeln.

KI-Audit-Checkliste für Unternehmen

Wenn Sie mehr als drei Fragen mit „Nein“ beantworten, besteht in der Regel akuter Handlungsbedarf.

✅ Existiert ein vollständiges KI-Verzeichnis?

✅ Sind alle KI-Systeme risikoklassifiziert?

✅ Wurden Grundrechtsrisiken bewertet?

✅ Existiert eine aktuelle KI-Richtlinie?

✅ Sind Rollen und Verantwortlichkeiten dokumentiert?

✅ Liegen Schulungsnachweise vor?

✅ Existiert ein Tool-Freigabeprozess?

✅ Werden KI-Anbieter geprüft?

✅ Werden neue Systeme zentral erfasst?

✅ Erfolgt eine regelmäßige Aktualisierung der Dokumentation?

Die häufigsten Feststellungen in KI-Audits

In der Praxis treten immer wieder dieselben Punkte auf: fehlende oder unvollständige KI-Verzeichnisse, lückenhafte Risikobewertungen ohne regulatorische Einordnung, fehlende Schulungsnachweise, das Fehlen einer KI-Richtlinie, unklare Verantwortlichkeiten, nicht freigegebene Schatten-KI und undokumentierte Anbieterfreigaben.

Der beruhigende Teil daran: Die meisten dieser Schwachstellen lassen sich mit überschaubarem Aufwand beheben, wenn man sie früh erkennt. Teuer wird es erst, wenn eine Behörde oder ein Vertragspartner die Nachweise verlangt und nichts vorliegt.

KI-Audit ist kein Projekt, sondern ein Prozess

Viele Unternehmen behandeln die Auditvorbereitung als einmalige Aufgabe. Darin liegt der eigentliche Fehler, denn die KI-Landschaft verändert sich fortlaufend. Neue Werkzeuge kommen hinzu, bestehende Systeme werden erweitert, regulatorische Anforderungen entwickeln sich weiter und neue Risiken werden sichtbar.

So gelingt die Vorbereitung

Die Vorbereitung auf ein KI-Audit beginnt nicht bei einzelnen Werkzeugen, sondern bei der Transparenz über deren Nutzung. Wer zuerst ein vollständiges KI-Verzeichnis aufbaut, daran die Risikoklassifizierung nach der KI-VO koppelt, Verantwortlichkeiten festlegt und Mitarbeitende nach Art. 4 KI-VO qualifiziert, erfüllt nicht nur die regulatorischen Anforderungen. Er senkt operative Risiken und legt das Fundament für eine belastbare KI-Governance.

Genau an dieser Stelle unterstützt Keyed als externer KI-Beauftragter: vom KI-Verzeichnis über die Risikoklassifizierung bis zur auditfesten Dokumentation. Jetzt unverbindlich zur KI-Auditvorbereitung beraten lassen.

Auditfähigkeit ist deshalb kein Zustand, den man einmal erreicht, sondern das Ergebnis einer funktionierenden Steuerung. Unternehmen, die Dokumentation, Verantwortlichkeiten, Schulungen und Kontrollen früh verankern, sind nicht nur besser auf Prüfungen vorbereitet. Sie schaffen zugleich die Grundlage, KI sicher und langfristig skalierbar einzusetzen.

FAQ