Verordnung über künstliche Intelligenz

Kapitel I — ALLGEMEINE BESTIMMUNGEN

• 1Gegenstand
• 2Anwendungsbereich
• 3Begriffsbestimmungen
• 4KI-Kompetenz

Kapitel II — VERBOTENE PRAKTIKEN IM KI-BEREICH

• 5Verbotene Praktiken im KI-Bereich

Kapitel III — HOCHRISIKO-KI-SYSTEME

• 6Einstufungsvorschriften für Hochrisiko-KI-Systeme
• 7Änderungen des Anhangs III
• 8Einhaltung der Anforderungen
• 9Risikomanagementsystem
• 10Daten und Daten-Governance
• 11Technische Dokumentation
• 12Aufzeichnungspflichten
• 13Transparenz und Bereitstellung von Informationen für die Betreiber
• 14Menschliche Aufsicht
• 15Genauigkeit, Robustheit und Cybersicherheit
• 16Pflichten der Anbieter von Hochrisiko-KI-Systemen
• 17Qualitätsmanagementsystem
• 18Aufbewahrung der Dokumentation
• 19Automatisch erzeugte Protokolle
• 20Korrekturmaßnahmen und Informationspflicht
• 21Zusammenarbeit mit den zuständigen Behörden
• 22Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen
• 23Pflichten der Einführer
• 24Pflichten der Händler
• 25Verantwortlichkeiten entlang der KI-Wertschöpfungskette
• 26Pflichten der Betreiber von Hochrisiko-KI-Systemen
• 27Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme
• 28Notifizierende Behörden
• 29Antrag einer Konformitätsbewertungsstelle auf Notifizierung
• 30Notifizierungsverfahren
• 31Anforderungen an notifizierte Stellen
• 32Vermutung der Konformität mit den Anforderungen an notifizierte Stellen
• 33Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen
• 34Operative Pflichten der notifizierten Stellen
• 35Identifizierungsnummern und Verzeichnisse notifizierter Stellen
• 36Änderungen der Notifizierungen
• 37Anfechtungen der Kompetenz notifizierter Stellen
• 38Koordinierung der notifizierten Stellen
• 39Konformitätsbewertungsstellen in Drittländern
• 40Harmonisierte Normen und Normungsdokumente
• 41Gemeinsame Spezifikationen
• 42Vermutung der Konformität mit bestimmten Anforderungen
• 43Konformitätsbewertung
• 44Bescheinigungen
• 45Informationspflichten der notifizierten Stellen
• 46Ausnahme vom Konformitätsbewertungsverfahren
• 47EU-Konformitätserklärung
• 48CE-Kennzeichnung
• 49Registrierung

Kapitel IV — TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME

• 50Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme

Kapitel V — KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK

• 51Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko
• 52Verfahren
• 53Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
• 54Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
• 55Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko
• 56Praxisleitfäden

Kapitel VI — MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG

• 57KI-Reallabore
• 58Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise
• 59Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor
• 60Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren
• 61Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren
• 62Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen
• 63Ausnahmen für bestimmte Akteure

Kapitel VII — GOVERNANCE

• 64Büro für Künstliche Intelligenz
• 65Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz
• 66Aufgaben des KI-Gremiums
• 67Beratungsforum
• 68Wissenschaftliches Gremium unabhängiger Sachverständiger
• 69Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten
• 70Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle

Kapitel VIII — EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME

• 71EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme

Kapitel IX — BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG

• 72Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme
• 73Meldung schwerwiegender Vorfälle
• 74Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt
• 75Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck
• 76Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden
• 77Befugnisse der für den Schutz der Grundrechte zuständigen Behörden
• 78Vertraulichkeit
• 79Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen
• 80Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden
• 81Schutzklauselverfahren der Union
• 82Konforme KI-Systeme, die ein Risiko bergen
• 83Formale Nichtkonformität
• 84Unionsstrukturen zur Unterstützung der Prüfung von KI
• 85Recht auf Beschwerde bei einer Marktüberwachungsbehörde
• 86Recht auf Erläuterung der Entscheidungsfindung im Einzelfall
• 87Meldung von Verstößen und Schutz von Hinweisgebern
• 88Durchsetzung der Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
• 89Überwachungsmaßnahmen
• 90Warnungen des wissenschaftlichen Gremiums vor systemischen Risiken
• 91Befugnis zur Anforderung von Dokumentation und Informationen
• 92Befugnis zur Durchführung von Bewertungen
• 93Befugnis zur Aufforderung zu Maßnahmen
• 94Verfahrensrechte der Wirtschaftsakteure des KI-Modells mit allgemeinem Verwendungszweck

Kapitel X — VERHALTENSKODIZES UND LEITLINIEN

• 95Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen
• 96Leitlinien der Kommission zur Durchführung dieser Verordnung

Kapitel XI — BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN

• 97Ausübung der Befugnisübertragung
• 98Ausschussverfahren

Kapitel XII — SANKTIONEN

• 99Sanktionen
• 100Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union
• 101Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

Kapitel XIII — SCHLUSSBESTIMMUNGEN

• 102Änderung der Verordnung (EG) Nr. 300/2008
• 103Änderung der Verordnung (EU) Nr. 167/2013
• 104Änderung der Verordnung (EU) Nr. 168/2013
• 105Änderung der Richtlinie 2014/90/EU
• 106Änderung der Richtlinie (EU) 2016/797
• 107Änderung der Verordnung (EU) 2018/858
• 108Änderungen der Verordnung (EU) 2018/1139
• 109Änderung der Verordnung (EU) 2019/2144
• 110Änderung der Richtlinie (EU) 2020/1828
• 111Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck
• 112Bewertung und Überprüfung
• 113Inkrafttreten und Geltungsbeginn

Anhänge

• IListe der Harmonisierungsrechtsvorschriften der Union
• IIListe der Straftaten gemäß Artikel 5 Absatz 1 Unterabsatz 1 Buchstabe h Ziffer iii
• IIIHochrisiko-KI-Systeme gemäß Artikel 6 Absatz 2
• IVTechnische Dokumentation gemäß Artikel 11 Absatz 1
• VEU-Konformitätserklärung
• VIKonformitätsbewertungsverfahren auf der Grundlage einer internen Kontrolle
• VIIKonformität auf der Grundlage einer Bewertung des Qualitätsmanagementsystems und einer Bewertung der technischen Dokumentation
• VIIIBei der Registrierung des Hochrisiko-KI-Systems gemäß Artikel 49 bereitzustellende Informationen
• IXBezüglich Tests unter Realbedingungen gemäß Artikel 60 bei der Registrierung von in Anhang III aufgeführten Hochrisiko-KI-Systemen bereitzustellende Informationen
• XRechtsvorschriften der Union über IT-Großsysteme im Raum der Freiheit, der Sicherheit und des Rechts
• XITechnische Dokumentation gemäß Artikel 53 Absatz 1 Buchstabe a — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck
• XIITransparenzinformationen gemäß Artikel 53 Absatz 1 Buchstabe b — technische Dokumentation für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck für nachgelagerte Anbieter, die das Modell in ihr KI-System integrieren
• XIIIKriterien für die Benennung von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko gemäß Artikel 51