RI Wiki - Benutzerbeiträge [de]

Artificial Intelligence Act (AIA)

2025-12-09T15:00:46Z

Walter: /* Zentrale Inhalte */ Governance und Aufsicht hinzugefügt

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche Haftung ([[KI-Haftungsregelungen|AILD, von der Kommission zurückgezogen]])
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse.

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das KI-Büro wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Diese sind seit 2. August 2025 in Geltung. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können (anknüpfend an die allgemeinen Rollendefinitionen des AI Act) folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref name=":3">Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 72 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Verwenden ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt.<ref>Zur Berechnung dieser Maßzahl siehe Annex der Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 117 ff.</ref> Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 Abs 1 AI Act):

# eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden
# Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
# eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
# eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen
Die Pflichten 1 und 2 "gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen [sic!] mit allgemeinem Verwendungszweck mit systemischen Risiken." (Art 53 Abs 2 AI Act) In den Leitlinien der Kommission ist die (strenge) Auslegung der einzelnen Kriterien dieser Definition ausführlich dargelegt.<ref name=":3" />

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 Abs 1 AI Act):

# eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
# mögliche systemische Risiken auf Unionsebene bewerten und mindern
# einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
# ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten
Details zur Umsetzung insbesondere dieser risiko- und sicherheitsbezogenen Pflichten sind im Kapitel Sicherheit des [https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice] festgelegt. Siehe dazu sogleich.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie ihre Pflichten nach Art 53 Abs 1 und Art 55 Abs 1 AI Act erfüllen.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act, Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 94 sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit sollen Rechtssicherheit geschaffen sowie Compliance und Vollzug vereinfacht werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

Das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (cenelec) wurden mittels Durchführungsbeschluss aufgefordert, bis zum 30. April 2025 bestimmte angeführte Normen auszuarbeiten.<ref>Vgl https://ec.europa.eu/growth/tools-databases/enorm/mandate/593_en</ref> Der ursprüngliche Zeitplan konnte nicht eingehalten werden und es erfolgte eine neuerliche Fristverlängerung mittels eines neuerlichen Durchführungsrechtsaktes.<ref>Vgl Commisson Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 <nowiki>https://ec.europa.eu/transparency/documents-register/detail?ref=C(2025)3871&lang=en</nowiki></ref> Seit November 2025 liegt der erste Entwurf einer harmonisierten Norm zum Qualitätsmanagement "EprEN 18286, Artificial intelligence – Quality management system for EU AI Act regulatory purposes nach Art 17 AI Act zur öffentlichen Kommentierung vor.<ref>Vgl https://adamleonsmith.substack.com/p/pren-18286</ref> Die Konsultation zu diesem Normentwurf läuft bis zum 22. Jänner 2026. In den kommenden Monaten sollen weitere Normentwürfe folgen – unter anderem zu Risikomanagement, Cybersicherheit, Vertrauenswürdigkeit und Konformitätsbewertung.

Zudem verabschiedeten CEN/cenelec im Oktober 2025 ein Maßnahmenpaket, um die Fertigstellung wichtiger Normen, die im Rahmen von CEN-CLC/JTC 21 „Künstliche Intelligenz” entwickelt wurden, sowie der im Rahmen des Normungsantrags M/593 (und seiner Änderung M/613) geforderten Ergebnisse zu beschleunigen. Diese Maßnahmen betreffen eine Reihe von Arbeitspunkten, die die technische Grundlage für die künftigen europäischen Normen zur Unterstützung des AI Act bilden. Die Vorstände kamen überein, im Falle einer positiven Abstimmung über die Anfrage die direkte Veröffentlichung der Entwürfe ohne separate formelle Abstimmung zuzulassen und CEN-CLC/JTC 21 zu beauftragen, eine kleine Redaktionsgruppe aus bereits aktiven Experten einzurichten, um sechs der am stärksten verzögerten Entwürfe fertigzustellen, bevor sie den jeweiligen Arbeitsgruppen zur Information und für abschließende Kommentare vorgelegt werden.<ref>Vgl https://www.cencenelec.eu/news-events/news/2025/brief-news/2025-10-23-ai-standardization/</ref>

Als Reaktion auf die verzögerten Standards wurden im Entwurf Digital Omnibus on AI Regulation Proposal<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744</ref> bestimmte Maßnahmen vorgeschlagen, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des AI-Acts sicherzustellen. Als eine Maßnahme wurde dabei die Kopplung des Zeitplans für die Umsetzung der Vorschriften für hohe Risiken an die Verfügbarkeit von Normen vorgeschlagen.

== Governance und Aufsicht ==

=== Büro für Künstliche Intelligenz ===
Innerhalb der Europäischen Kommission wurde das „Büro für Künstliche Intelligenz“ (KI-Büro, AI Office) eingerichtet.<ref>Beschluss der Kommission vom 24. Januar 2024 zur Einrichtung des Europäischen Amts für künstliche Intelligenz, C(2024) 390.</ref> Es soll insbesondere KI-Expertise in der EU aufbauen (Art 64 Abs 1 AI Act), hat aber auch einige konkrete Aufgaben in der Umsetzung des AI Act. Zu diesen gehören insbesondere die Überwachung von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modellen), die Ausarbeitung und Aktualisierung von Leitlinien, Durchführungsrechtsakten und delegierten Rechtsakten, sowie die Stärkung der Entwicklung und Nutzung vertrauenswürdiger KI. Darüber hinaus fungiert das KI-Büro als Sekretariat des Europäischen Gremiums für Künstliche Intelligenz (Art 65 Abs 8 AI Act).

=== Europäisches Gremium für Künstliche Intelligenz ===
Das Europäische Gremium für Künstliche Intelligenz (KI-Gremium, AI Board) setzt sich aus einer/einem kompetenten Vertreter*in je Mitgliedstaat zusammen (Art 65 AI Act). Es dient als Kooperations- und Koordinationsplattform zwischen den Mitgliedstaaten, gibt Empfehlungen und Stellungnahmen ab und unterstützt eine möglichst einheitliche Anwendung des AI Act (siehe zu den Aufgaben und Instrumenten des KI-Gremiums Art 66 AI Act).

=== Nationale Behörden ===
Die Umsetzung und Durchsetzung des AI Act obliegt auf mitgliedstaatlicher Ebene primär den nationalen zuständigen Behörden. Jeder Mitgliedstaat muss eine notifizierende Behörde (zuständig für die Einrichtung und Überwachung von Konformitätsbewertungsstellen) und mindestens eine Marktüberwachungsbehörde (zuständig für die Ex-post-Kontrolle von KI-Systemen und die Ahndung von Verstößen) als zuständige nationale Behörden einrichten oder benennen (Art 70 Abs 1 AI Act) sowie eine Marktüberwachungsbehörde benennen, die als zentrale Anlaufstelle (single point of contact) fungiert (Art 70 Abs 2 AI Act). Die Marktüberwachungsbehörden fungieren auch als Beschwerdestellen (Art 85 AI Act) und verfügen über weitreichende Befugnisse, darunter das Recht, Zugang zu Daten und Dokumentationen von Hochrisiko-KI-Systemen zu verlangen (Art 74 Abs 12 AI Act) und unter Umständen auch zu deren Quellcode (Art 74 Abs 13 AI Act) sowie Maßnahmen bis hin zum Verbot der Inbetriebnahme zu ergreifen (Art 79 Abs 5 AI Act).

=== AI Act Service Desk ===
Zur Unterstützung von Unternehmen, Behörden und anderen Stakeholdern stellt die Europäische Kommission die „[https://ai-act-service-desk.ec.europa.eu AI Act Single Information Platform]“ bereit. Herzstück ist der AI Act Service Desk, eine Anlaufstelle, über die Fragen in der jeweiligen EU-Amtssprache eingereicht und von einem Expert*innenteam beantwortet werden, das eng mit dem KI-Büro zusammenarbeitet. Ergänzend dazu gibt es ein umfangreiches, laufend aktualisiertes FAQ sowie Tools wie einen Compliance Checker.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

KI-Haftungsregelungen

2025-12-09T12:51:38Z

Walter: /* Überblick */ "(Vorschlag zurückgezogen") im Kasten ergänzt

{{Infobox Rechtsakt (EU)|Typ=Richtlinie|Jahr=2025|Nummer=|Vertrag=EU|EWR=ja|Titel=Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz|Kurztitel=AI Liability Directive/Richtlinie über KI-Haftung|Bezeichnung=AILD|Rechtsmaterie=Binnenmarkt, Cybersicherheit|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=Noch nicht im ABl veröffentlicht|Anzuwenden=Vorschlagsstadium (Vorschlag zurückgezogen)|GrundfassungManuell=https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52022PC0496}}

{{Infobox Rechtsakt (EU)|Typ=Richtlinie|Jahr=2024|Nummer=2853|Vertrag=EU|EWR=ja|Titel=Richtlinie (EU) 2024/2853 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 über die Haftung für fehlerhafte Produkte und zur Aufhebung der Richtlinie 85/374/EWG des Rates|Kurztitel=Product Liability Directive/Produkthaftungsrichtlinie (neu)|Bezeichnung=PLD/PHRL|Rechtsmaterie=Binnenmarkt, Cybersicherheit|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/2853, 1|Anzuwenden=9. Dezember 2026 (Umsetzung)|Gültig=umsetzung}}

== Überblick ==
Im Bereich der Regulierung künstlicher Intelligenz durch die EU wurden neben dem AI Act von der Kommission auch Vorschläge für spezifische Haftungsregelungen in diesem Zusammenhang vorgelegt.<ref name=":1">Zur vorangegangen Entstehungsgeschichte siehe im Detail ''B.A. Koch'', Zukunftsfähiges österreichisches Haftungsrecht, 22. ÖJT Band II/1, 16 ff.</ref> Dies beinhaltete zum einen den Vorschlag für eine neue '''Produkthaftungsrichtlinie''', welcher zwar auch andere Hintergründe hatte, aber durch einige Aspekte insbesondere auch auf '''künstliche Intelligenz (KI)''' abzielte, und zum anderen einen Vorschlag für eine eigene '''''AI Liability Directive'' (AILD)'''.<ref name=":2">Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 2, 3 und 13; Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seiten 1 und folgende, Erwägungsgrund 3.</ref>

Während die neue Produkthaftungsrichtlinie wiederum im Wesentlichen auf harmonisierte Regelungen für eine verschuldensunabhängige<ref>Vgl kritisch etwa: ''European Parliamentary Research Service'', Proposal for a directive on adapting non-contractual civil liability rules to artificial intelligence – Complementary impact assessment, PE 762.861, September 2024, Seite 27 mit weiteren Nachweisen.</ref> (zivilrechtliche) Haftung abzielen sollte, adressierte der Vorschlag für die AILD insbesondere Beweiserleichterungen im Rahmen der (prinzipiell dennoch weiterhin) aus nationalen bzw sonstigen unionsrechtlichen Regelungen ableitbaren außervertraglichen, verschuldensabhängigen, zivilrechtlichen Haftung.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seiten 1 und 14, Erwägungsgrund 2; Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 3, 12 und 13, Erwägungsgründe 9, 10, 23 und 24, Artikel 1.</ref>

Durch diese Regelungen der AILD sollte vorrangig (Beweis-)Problematiken entgegengetreten werden, die mit gewissen Eigenschaften von KI in Verbindung gebracht wurden, wie deren Komplexität und Undurchsichtigkeit (die wiederum insgesamt als '''''Blackbox-Effekt''''' bezeichnet werden). Angesprochen wurden dabei insbesondere Nachweise für die Aspekte ''Kausalität'' und in gewisser Hinsicht auch ''Verschulden.''<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 1, 2, 13, 15, 16, Erwägungsgründe 22 und 28, Artikel 3(5).</ref> Den Erläuterungen in der Begründung des Vorschlags zufolge wurden in dem Zusammenhang verschiedene Optionen abgewogen und insbesondere die Statuierung einer eigenen (verschuldensunabhängigen) Haftung für KI vorerst verworfen, was allerdings demnach nach einer gewissen Zeit noch einmal evaluiert werden sollte (siehe im Detail Artikel 5 Vorschlag AILD).<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 5 und folgende, 17.</ref>

Im Rahmen der neuen Produkthaftungsrichtlinie sollte nach umfassenden Unklarheiten und potenziellen Regelungslücken<ref name=":0">Vgl etwa Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, Seite 1; ''European Parliamentary Research Service'', Artificial intelligence liability directive, PE 739.342, February 2023, Seite 3; für Österreich etwa: ''Larcher'', Medizinprodukte-Software: Abgrenzung und Produkthaftung, rdm 2018/100, 130 (Seiten 133, 134); für Deutschland etwa: ''Dötsch'', Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen (2023), insbesondere Seiten 276 und folgende; ''Joggerst/Wendt'', Die Weiterentwicklung der Produkthaftungsrichtlinie, InTeR 2021, 13.</ref> in diesem Zusammenhang nunmehr Software (und damit auch KI) explizit in den Produktbegriff aufgenommen werden.<ref>Vgl zum Hintergrund der Neufassung weiterführend erneut auch ''B.A. Koch'', 22. ÖJT Band II/1, 16 ff.</ref> Darüber hinaus zielen auch gewisse Aspekte der neuen Produkthaftungsregelungen mehr oder weniger spezifisch auf KI bzw deren Besonderheiten ab.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seiten 1, 6, Erwägungsgrund 12.</ref>

Beide Vorschläge zielten auf Richtlinien ab, was insbesondere bedeutet, dass diese prinzipiell zunächst durch die Mitgliedstaaten in nationales Recht umgesetzt werden müssten, um Geltung zu erlangen. Allerdings sind die jeweiligen Gesetzgebungsverfahren sehr unterschiedlich verlaufen. Die neue Produkthaftungsrichtlinie ist mittlerweile im Amtsblatt der EU veröffentlicht worden<ref>Siehe: Richtlinie (EU) 2024/2853 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 über die Haftung für fehlerhafte Produkte und zur Aufhebung der Richtlinie 85/374/EWG des Rates, ABl L 18. 11. 2024.</ref> und prinzipiell in Kraft getreten, während das Gesetzgebungsverfahren für die AILD offenbar aufgeschoben wurde und zwischenzeitlich diverse Änderungen des Vorschlags diskutiert wurden. Stand Mitte Februar 2025 hat die Kommission den Vorschlag für die AILD offenbar verworfen. Siehe im Detail jeweils unter '''[[KI-Haftungsregelungen#Vorschlag für AI Liability Directive|Vorschlag für AI Liability Directive]]''' bzw '''[[KI-Haftungsregelungen#Produkhaftungsrichtlinie neu|Produkthaftungsrichtlinie neu]].'''
----

== Vorschlag für AI Liability Directive ==

=== Allgemeines und Anwendungsbereich ===
Der Vorschlag für eine '''AI Liability Directive''' (im Folgenden insbesondere: Vorschlag AILD) wurde 2022 von der Kommission vorgelegt.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final; siehe zum Verfahren auch etwa https://eur-lex.europa.eu/legal-content/EN/HIS/?uri=CELEX%3A52022PC0496 (abgerufen am 18. 2. 2025).</ref> In der Folge wurde berichtet, dass der Gesetzgebungsprozess zwischenzeitlich aufgeschoben wurde, insbesondere um zunächst die gesetzgeberische Fertigstellung des AI Acts abzuwarten und dass von der Kommission nicht öffentlich ein überarbeiteter Vorschlag ausgesendet wurde, der insbesondere an den inzwischen veröffentlichten AI Act, aber zumindest mitunter auch in Bezug auf seine konkreten Regelungen, angepasst worden sein soll.<ref>Vgl Legislative Train 10. 2024 - 2 A Europe Fit For The Digital Age - AI Liability Directive - Q4 2020, https://www.europarl.europa.eu/legislative-train/theme-legal-affairs-juri/file-ai-liability-directive (abgerufen am 26. 11. 2024); ''Tom Whittaker'', EU AI Liability Directive: An Update, in: Burges Salmon blog, https://blog.burges-salmon.com/post/102jfdv/eu-ai-liability-directive-an-update<nowiki/>(abgerufen am 26. 11. 2024).</ref> Im September 2024 wurde zudem eine Studie des European Parliamentary Research Service (EPRS) publiziert, im Rahmen welcher insbesondere eine gemischte (verschuldensab- und unabhängige) Haftung diskutiert wird sowie die Ausweitung des Anwendungsbereichs der Richtlinie (etwa auf Software generell) vorgeschlagen wird.<ref>''European Parliamentary Research Service'', Proposal for a directive on adapting non-contractual civil liability rules to artificial intelligence – Complementary impact assessment, PE 762.861, September 2024; siehe auch Legislative Train 10. 2024 - 2 A Europe Fit For The Digital Age - AI Liability Directive - Q4 2020, https://www.europarl.europa.eu/legislative-train/theme-legal-affairs-juri/file-ai-liability-directive<nowiki/>(abgerufen am 26. 11. 2024).</ref>

Im Februar 2025 wurde schließlich bekannt, dass die Kommission den Vorschlag für die AILD im Rahmen des Arbeitsprogramms '''zurückgezogen''' hat, da keine Einigung zu erwarten wäre.<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions, Commission work programme 2025 – Moving forward together. A Bolder, Simpler, Faster Union, COM(2025) 45 final, 26, https://commission.europa.eu/strategy-and-policy/strategy-documents/commission-work-programme/commission-work-programme-2025_en; vgl dazu auch etwa BeckOK KI-Recht/Bosman, 3. Ed. 1.8.2025, KI-VO Art. 24 Rn. 16; vgl dies grundsätzlich begrüßend weiters ''Ebers'', Haftung für Künstliche Intelligenz nach der neuen Produkthaftungsrichtlinie, KIR 2025, 252 (258).</ref>

Demnach wird im Folgenden nur auf den ursprünglichen Vorschlag der Kommission detaillierter eingegangen, der demnach jedoch erst wieder aufgegriffen werden müsste, um entsprechende Relevanz zu erfahren.<ref>Zu möglichen Szenarien der weiteren Vorgehensweise siehe etwa ''Wendt'', KI-Strategie der EU ohne KI-Haftungs-RL?, ZfPC 2025, 45.</ref>

Dieser enthielt im Wesentlichen zwei Elemente, die als Beweiserleichterungen bei der Geltendmachung von Schadenersatz im Zusammenhang mit KI dienen sollen: zum einen eine Offenlegungspflicht für bestimmte KI-Systeme und zum anderen eine Kausalitätsvermutung im Zusammenhang mit KI-Systemen im Allgemeinen.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 13-16; Grundsätzlich konnte auch die Vermutung von Sorgfaltspflichtsverstößen gemäß Artikel 3 Absatz 5 Vorschlag AILD als ein eigenes Element zur Beweiserleichterung gesehen werden, ist aber systematisch in der Bestimmung zur Offenlegungspflicht enthalten (vgl insbesondere Seiten 10 und 15 in der Begründung des Vorschlags; siehe im Detail dazu noch im Folgenden).</ref> Bereits der ursprüngliche Richtlinienvorschlag hat gewisse Begrifflichkeiten bzw Systematik (etwa hinsichtlich ''KI-Systemen'' und gewissen, mit diesen in Verbindung stehenden Akteuren) aus dem damals vorliegenden AI Act-Vorschlag<ref>Vgl insbesondere Vorschlag für eine Verordnung des Europäischen Parlaments und des Rates zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) und zur Änderung bestimmter Rechtsakte, COM(2021) 206 final.</ref> übernommen, die jedoch teilweise nicht mehr jenen der veröffentlichten Version des AI Act entsprechen.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seite 14 sowie Erwägungsgrund 15.</ref> Dies betrifft etwa ''Nutzer'' von KI-Systemen, die in der 2024 im Amtsblatt veröffentlichten Fassung des AI Act nunmehr grundsätzlich dem ''Betreiber'' gemäß Artikel 3 Ziffer 4 AI Act entsprechen würden.

Dabei ist anzumerken, dass der AI Act (in der im Amtsblatt veröffentlichten Fassung) zwar eine allgemeine Definition von ''KI-Systemen'' enthält, in der Folge jedoch insbesondere Regelungen für bestimmte Risikoklassen solcher Systeme (ansonsten auch etwa für bestimmte KI-Modelle, siehe im Detail [[Artificial Intelligence Act (AIA)]]). Im Rahmen des AI Act beziehen sich insbesondere die KI-Kompetenz gemäß Artikel 4 AI Act und die Regelungen über KI-Reallabore auf KI-Systeme im Allgemeinen und nicht auf eine bestimmte Risikoklasse. KI-Systeme, die nicht den ansonsten im AI Act adressierten Risikoklassen zuzuordnen bzw von entsprechenden (AI Act-)Regelungen erfasst sind, wären demnach jedoch zum Teil auch im Rahmen des Vorschlags zur AILD relevant gewesen. In dem Zusammenhang verweisen die Erwägungsgründe des Vorschlags zur AILD quasi darauf, dass auch bei nicht-Hochrisiko-Systemen bestimmte KI-Merkmale, wie Autonomie und Undurchsichtigkeit, zu Beweisschwierigkeiten führen könnten.<ref>Vgl insbesondere Erwägungsgründe 26 bis 28.</ref>

Mit dem Richtlinienvorschlag sollte ein '''Mindestharmonisierungsansatz''' verfolgt werden, wodurch „''es Klägern im Fall eines durch KI-Systeme verursachten Schadens''“ ermöglicht werden sollte „''sich auf günstigere Vorschriften des nationalen Rechts zu berufen“'' (Erwägungsgrund 14).<ref>Im Allgemeinen ist anzumerken, dass bei den Begrifflichkeiten des Vorschlags AILD wie auch der neuen Produkthaftungsrichtlinie im Normtext keine gendergerechte Sprache verwendet wird. Daher kann, soweit auf diese Begrifflichkeiten Bezug genommen wird, auch hier keine gendergerechte Sprache verwendet werden. Abgesehen davon wird dies jedenfalls entsprechend berücksichtigt.</ref> Weiters sollte die vorgeschlagene Richtlinie quasi nur bestimmte ergänzende Regelungen für die zivilrechtliche (nicht strafrechtliche), verschuldensabhängige, außervertragliche Haftung für durch KI-Systeme verursachten Schäden in Bezug auf die bestehenden Haftungssysteme einführen.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seite 13, Erwägungsgründe 10, 20-24, Artikel 1.</ref> Nach Erwägungsgrund 24 Vorschlag AILD sind dabei "[i]''n Bereichen, die nicht durch das Unionsrecht harmonisiert sind,'' [...] ''weiterhin nationale Rechtsvorschriften'' [...]" einschlägig.

In Bezug auf entsprechende Verschuldenshaftungen hält Erwägungsgrund 3 im Allgemeinen auch Folgendes fest, was gewissermaßen als Ausgangsbasis für die Regelungen des Vorschlags zur AILD zu sehen ist: <blockquote>„''Wenn ein Geschädigter für einen entstandenen Schaden Schadensersatz verlangt, so muss er '''nach den allgemeinen Vorschriften der Mitgliedstaaten für die verschuldensabhängige Haftung''' in der Regel eine '''fahrlässige oder vorsätzliche schädigende Handlung oder Unterlassung („Verschulden“)''' der Person, die potenziell für diesen Schaden haftbar ist, sowie einen '''ursächlichen Zusammenhang zwischen diesem Verschulden und dem betreffenden Schaden''' nachweisen.''“ (Hervorhebungen hinzugefügt)</blockquote>Der eingeschränkte Anwendungsbereich wurde konkret insbesondere durch Artikel 1 sowie die Definition von Schadenersatzansprüchen, auf die sich die Richtlinie beziehen sollte (Artikel 2 Ziffer 5 Vorschlag AILD), umgesetzt. Diese Definition umfasste demnach: „''einen außervertraglichen verschuldensabhängigen zivilrechtlichen Anspruch auf Ersatz des Schadens, der durch ein Ergebnis eines KI-Systems oder aber dadurch, dass dieses System das von ihm erwartete Ergebnis nicht hervorgebracht hat, verursacht wurde''“.

Auch ''Beklagte'' und ''Kläger'' bzw ''potenzielle Kläger'' wurden im Richtlinienvorschlag entsprechend definiert (Artikel 2 Ziffern 6 bis 8 Vorschlag AILD). ''Beklagte'' sollten demnach Personen sein, „''gegen die ein Schadensersatzanspruch geltend gemacht wird''“ (Artikel 2 Ziffer 8 Vorschlag AILD). Die Definition von Kernbegriffen, wie ''Verschulden,'' bzw die Regelung von allgemeinen Aspekten der Haftung sollte dabei aber prinzipiell (anderen) Vorschriften des Unions- bzw nationalen Rechts überlassen werden.<ref>Siehe insbesondere Artikel 1(3)(d), Erwägungsgründe 10 und 22; Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seite 13.</ref>

=== Kausalitätsvermutung (Artikel 4) ===
Artikel 4 sollte als einen zentralen Aspekt der Richtlinie eine widerlegbare Kausalitätsvermutung regeln. Unter gewissen Voraussetzungen sollte dadurch zwecks der Anwendung von Haftungsvorschriften in Bezug auf erfasste Schadenersatzansprüche ein Kausalzusammenhang „''zwischen dem Verschulden des Beklagten und dem vom KI-System hervorgebrachten Ergebnis oder aber der Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat''“ vermutet werden (Artikel 4 Absatz 1 Vorschlag AILD).

Die wesentlichen Voraussetzungen sollten dabei prinzipiell sein, dass der ''Kläger'' nachweist, "''dass ein Verschulden seitens des Beklagten oder einer Person, für deren Verhalten der Beklagte verantwortlich ist, vorliegt, da gegen'' [...]" gewisse einschlägige Sorgfaltspflichten verstoßen wurde (Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD), sowie dass das Ergebnis oder Nicht-Ergebnis des KI-Systems zu dem entsprechenden Schaden geführt hat (Artikel 4 Absatz 1 Buchstabe c Vorschlag AILD). Unter "''Sorgfaltspflicht"'' verstand Artikel 2 Ziffer 9 Vorschlag AILD zunächst prinzipiell "''einen im nationalen Recht oder im Unionsrecht festgelegten Verhaltensmaßstab, der einzuhalten ist, um eine Beeinträchtigung von im nationalen Recht oder im Unionsrecht anerkannten Rechtsgütern, einschließlich Leben, körperlicher Unversehrtheit, Eigentum und Wahrung der Grundrechte, zu vermeiden''". Siehe zu entsprechenden Einschränkungen sogleich.

Im Kontext von Hochrisiko-KI sollte bei einem Verstoß gegen eine Anordnung zur Offenlegung oder Sicherung von entsprechenden Beweismitteln gemäß Artikel 3 Absatz 5 Vorschlag AILD ein Sorgfaltspflichtverstoß auch vermutet werden können (siehe [[KI-Haftungsregelungen#Offenlegungspflicht (Artikel 3)|Offenlegungspflicht (Artikel 3)]]), was wiederum auch für die Kausalitätsvermutung einschlägig gewesen wäre (siehe Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD). Dabei ist allerdings nicht ganz klar, ob nur der (objektive) Pflichtenverstoß oder auch ein (subjektives) Verschulden vermutet werden sollte, weil sich Artikel 3 Absatz 5 (nur) auf einen '''Verstoß gegen einschlägige Sorgfaltspflichten''' bezieht, während Artikel 4 Absatz 1 Buchstabe a davon gesprochen hat, dass "''gemäß Artikel 3 Absatz 5''" vermutet werden soll, "''dass ein '''Verschulden''''' [...] ''vorliegt''".<ref>Hervorhebungen hinzugefügt. Zur Unterscheidung von (objektivem) Sorgfaltsmaßstab(/Sorgfaltsverstoß) und (subjektivem) Verschulden vgl national etwa zur Haftung der GmbH-Geschäftsführung: OGH 3. 8. 2021, 8 ObA 109/20t, insbesondere Randziffer 80 mit weiteren Nachweisen; ''Feltl/Told'' in ''Gruber/Harrer'' (Hrsg), GmbHG² (2018) § 25 Rz 120.</ref>

Für die Anwendbarkeit der Kausalitätsvermutung musste zudem auf „''der'' ''Grundlage der Umstände des Falls nach vernünftigem Ermessen davon ausgegangen werden"'' können, ''"dass das Verschulden das vom KI-System hervorgebrachte Ergebnis oder die Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat, beeinflusst hat''“ (Artikel 4 Absatz 1 Buchstabe b Vorschlag AILD). Nach Erwägungsgrund 25 Vorschlag AILD sollte dies etwa im Fall gegeben sein, dass das "''Verschulden in einer Verletzung einer Sorgfaltspflicht in Bezug auf die Begrenzung des Betriebsbereichs des KI-Systems besteht und der Schaden außerhalb des Betriebsbereichs eingetreten ist''". Demgegenüber wäre die Voraussetzung demnach "''bei einem Verstoß gegen eine Verpflichtung, bestimmte Dokumente bei einer bestimmten Behörde einzureichen oder sich bei einer bestimmten Behörde zu registrieren, obwohl dies für die betreffende bestimmte Tätigkeit vorgesehen oder sogar ausdrücklich für den Betrieb eines KI-Systems gelten könnte,'' [...]" nicht erfüllt.

Die wesentliche Konsequenz der Kausalitätsvermutung wäre demnach eine gewisse '''gedankliche Verlagerung des (Nicht-)Resultats einer KI hin zu einer entsprechenden Handlung oder Unterlassung einer Person (für die Zwecke der einschlägigen Haftung dieser Person)''' gewesen.

Für die Anwendung der Vermutung waren allerdings noch weitere Einschränkungen vorgesehen:

* Hinsichtlich der dabei relevanten Sorgfaltspflichten sollten im Allgemeinen nur solche erfasst sein, '''deren unmittelbarer Zweck die Verhinderung des eingetretenen Schadens''' '''ist'''.
* Hinsichtlich Hochrisiko-KI-Systemen, für die gewisse Anforderungen nach dem AI Act(-Vorschlag) gelten, sollten jedenfalls bezüglich '''deren Anbietern und Personen, die Anbieter-Pflichten gemäß AI Act(-Vorschlag) unterliegen,''' dabei nur '''bestimmte Anforderungen nach dem AI Act'''(-Vorschlag) in Frage kommen, wie etwa die Konzeption und Entwicklung gemäß den Transparenzanforderungen des AI Act(-Vorschlags)<ref>Artikel 4 Absatz 2 Buchstabe b Vorschlag AILD.</ref>. Zudem sollten dabei "''die im Rahmen des Risikomanagementsystems unternommenen Schritte und dessen Ergebnisse"'' Berücksichtigung finden (jeweils Artikel 4 Absatz 2 Vorschlag AILD; siehe auch Erwägungsgrund 26 Vorschlag AILD).
* In Hinblick auf Nutzer von Hochrisiko-KI, für die gewisse Anforderungen nach dem AI Act(-Vorschlag) gelten, war prinzipiell eine ähnliche Regelung vorgesehen (Artikel 4 Absatz 3 Vorschlag AILD). Allerdings ging aus dieser nicht so eindeutig hervor, inwieweit die entsprechende Aufzählung von Anforderungen nach dem AI Act-Vorschlag, deren Verletzung für die Kausalitätsvermutung einschlägig wäre, abschließend sein sollte, insbesondere weil dabei kein „''nur''“ (oder eine ähnliche Klarstellung) verwendet wurde. zieht man die Erwägungsgründe (insbesondere 24 und 26) des Vorschlags AILD zur Auslegung heran, sollte dieser Regelungsvorschlag aber wohl so zu verstehen sein, dass neben den aufgezählten Pflichten gemäß dem AI Act(-Vorschlag) prinzipiell auch “''andere im Unionsrecht oder im nationalen Recht festgelegte Sorgfaltspflichten''” für solche Nutzer in Frage gekommen wären, im Hinblick auf den AI Act-Vorschlag aber nur die aufgezählten.<ref>Vgl Erwägungsgrund 26 Vorschlag AILD, worin unter anderem festgehalten wird, dass die Richtlinie Verschulden derartiger Nutzer erfassen sollte, ”''wenn das betreffende Verschulden in der Nichteinhaltung '''bestimmter spezifischer Anforderungen'''”'' gemäß AI Act(-Vorschlag) bestünde; Hervorhebungen hinzugefügt.</ref>
* Sofern das betreffende KI-System durch den ''Beklagten'' „''im Rahmen einer persönlichen nicht beruflichen Tätigkeit verwendet''“ wird, wäre die Vermutung im Allgemeinen nur dann anwendbar gewesen, „''wenn der Beklagte die Betriebsbedingungen des KI-Systems wesentlich verändert hat oder wenn er verpflichtet und in der Lage war, die Betriebsbedingungen des KI-Systems festzulegen, und dies unterlassen hat''“ (Artikel 4 Absatz 6 Vorschlag AILD).

Die Vermutung hätte zudem vom ''Beklagten'' widerlegt werden können (Artikel 4 Absatz 7 Vorschlag AILD).

=== Offenlegungspflicht (Artikel 3) ===
Die Offenlegungspflicht gemäß Artikel 3 Vorschlag AILD sollte sich auf '''einschlägige Beweismittel''' zu bestimmten '''Hochrisiko-KI-Systemen''', die einen Schaden verursacht haben sollen, beziehen, die wiederum Anbietern, Personen, die Anbieter-Pflichten gemäß AI Act(-Vorschlag) unterliegen, oder Nutzern vorliegen (Artikel 3 Absatz 1 Vorschlag AILD). In Hinblick auf die Beschränkung auf Hochrisiko-KI-Systeme ist insbesondere auf Erwägungsgrund 18 des Vorschlags AILD zu verweisen.

Dabei sollten nämlich '''diejenigen zur Offenlegung verpflichtet''' werden, die relevante Beweismittel – etwa aufgrund entsprechender Dokumentationspflichten gemäß AI Act(-Vorschlag) – '''innehaben''' (vgl Erwägungsgrund 16 Vorschlag AILD). Erwägungsgrund 16 Vorschlag AILD hielt zum Hintergrund zudem fest: "''Der Zugang zu Informationen über bestimmte Hochrisiko-KI-Systeme, bei denen der Verdacht besteht, dass sie einen Schaden verursacht haben, ist ein wichtiger Faktor für die Feststellung, ob Schadensersatzansprüche geltend gemacht werden können, und für die Begründung derselben''".

Zur Geltendmachung berechtigt – durch Antrag bei den entsprechenden nationalen Gerichten – wären gemäß Artikel 3 Absatz 1 Vorschlag AILD grundsätzlich entsprechende ''Kläger'' und ''potenzielle Kläger'' (vgl erneut Artikel 2 Ziffern 6 und 7 Vorschlag AILD) gewesen. Dabei hätte aber der Unterschied bestanden, dass ''potenzielle Kläger'' nur dann erfasst gewesen wären, wenn sie die betreffende Person '''''zuvor''''' vergeblich zur Offenlegung aufgefordert haben.<ref>Das Wort "''zuvor''" bezog sich dabei wohl eher auf den Antrag als auf die schlussendliche gerichtliche Anordnung (vgl Artikel 3 Absatz 1 Vorschlag AILD, etwa auch in englischer Sprachfassung).</ref> Weiters müssten diese „[z]''ur Stützung seines Antrags'' [...] ''die Plausibilität'' [...] [ihres] ''Schadensersatzanspruchs durch die Vorlage von Tatsachen und Beweismitteln ausreichend belegen''“ (jeweils Artikel 3 Absatz 1 Vorschlag AILD), während (tatsächliche) ''Kläger'' als Voraussetzung für die gerichtliche Anordnung in Verbindung mit einem einschlägigen Schadenersatzanspruch „''alle angemessenen Anstrengungen unternommen''“ haben müssten, „''die einschlägigen Beweismittel vom Beklagten zu beschaffen''“ (Artikel 3 Absatz 2 Vorschlag AILD).

Erwägungsgrund 17 Vorschlag AILD hielt in diesem Kontext (tendenziell im Zusammenhang mit ''potenziellen Klägern'') auch fest: „''Die Anordnung der Offenlegung sollte zu einer Vermeidung unnötiger Rechtsstreitigkeiten und Kosten, die durch ungerechtfertigte oder wahrscheinlich erfolglose Ansprüche verursacht werden, für die jeweiligen Prozessparteien führen''“.

Die Offenlegung sollte schließlich durch die entsprechenden nationale Gericht angeordnet werden.<ref>Vgl insbesondere Artikel 3 und Erwägungsgrund 19 Vorschlag AILD.</ref> Dabei wären gemäß die '''Erforderlichkeit und Verhältnismäßigkeit zu beachten''' gewesen, wobei die Interessen aller Parteien (inklusive betroffener Dritter), wie insbesondere in Hinblick auf '''Geschäftsgeheimnisse''' im Sinne des Artikels 2 Absatz 1 der Richtlinie (EU) 2016/943, zu berücksichtigen gewesen wären (siehe im Detail Artikel 3 Absatz 4 Vorschlag AILD).<ref>Zum Hintergrund ist auf insbesondere auf Erwägungsgrund 19 Vorschlag AILD zu verweisen.</ref>

Dabei sollten die Mitgliedstaaten den jeweiligen nationalen Gerichten Befugnisse für die Anordnung spezifischer Maßnahmen zur entsprechenden '''Beweismittelsicherung''' zugestehen (Artikel 3 Absatz 3 Vorschlag AILD) und jeweils '''angemessene Rechtsbehelfe gegen Anordnungen''' zur Offenlegung oder Beweismittelsicherung für die Personen vorsehen, gegen die diese ergehen (Artikel 3 Absatz 4 letzter Satz).

Für den Fall, dass ein entsprechender ''Beklagter'' "''im Rahmen eines Schadensersatzanspruchs''" einer entsprechenden gerichtlichen Anordnung zur Beweismitteloffenlegung oder -sicherung nicht nachkommt, ordnete Artikel 3 Absatz 5 Vorschlag AILD schließlich die '''Vermutung''' für das jeweilige Gericht an, „''dass der Beklagte '''gegen seine einschlägige Sorgfaltspflicht verstößt'''''" (Hervorhebungen hinzugefügt). Das sollte ''insbesondere'' dann schlagend werden, wenn die entsprechend geforderten Beweismittel Umstände rund um die Verletzung jener AI Act-Anforderungen durch Nutzer bzw Anbieter und Personen, die Anbieter-Pflichten gemäß AI Act(-Vorschlag) unterliegen, im Zusammenhang mit Hochrisiko-KI nachweisen sollen, die gemäß Artikel 4 Absatz 2 bzw 3 für die Kausalitätsvermutung nach dem Vorschlag AILD relevant wären. Vgl zu dieser Vermutung auch schon oben unter [[KI-Haftungsregelungen#Kausalitätsvermutung (Artikel 4)|Kausalitätsvermutung (Artikel 4)]].
----

== Produkthaftungsrichtlinie neu ==

=== Allgemeines und Übergangsbestimmungen ===
Neben dem Vorschlag zur AILD enthielt auch schon der Vorschlag für eine neue Produkthaftungsrichtlinie Aspekte, die für die Haftung im Zusammenhang mit KI relevant sind.<ref>Siehe grundlegend Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seite 6.</ref> Dieser Vorschlag, der auf eine Ersetzung der aus den 1980ern stammenden, alten Produkthaftungsrichtlinie<ref>Richtlinie 85/374/EWG des Rates vom 25. Juli 1985 zur Angleichung der Rechts- und Verwaltungsvorschriften der Mitgliedstaaten über die Haftung für fehlerhafte Produkte, ABl L 1985/210, 29.</ref> abzielte, wurde prinzipiell als Paket mit dem Vorschlag für die AILD schon 2022 von der Kommission vorgelegt.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seiten 1, 5 und 8; vgl auch Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 2 und 3.</ref>

Im Gegensatz zur AILD ist die neue Produkthaftungsrichtlinie (im Folgenden: PHRL neu) aber mittlerweile bereits im Amtsblatt veröffentlicht worden und 2024 prinzipiell in Kraft getreten.<ref>Siehe Richtlinie (EU) 2024/2853 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 über die Haftung für fehlerhafte Produkte und zur Aufhebung der Richtlinie 85/374/EWG des Rates, ABl L 18. 11. 2024 (insbesondere Artikel 23).</ref>

Die PHRL neu gilt allerdings erst für Produkte, die '''nach dem 9. 12. 2026''' in Verkehr gebracht oder in Betrieb genommen werden (Artikel 2 Absatz 1 PHRL neu). Die Mitgliedstaaten müssen diese demnach '''bis zum 9. 12. 2026''' in nationales Recht umsetzen (Artikel 22 Absatz 1 PHRL neu). '''Mit Wirkung vom 9. 12. 2026''' wird grundsätzlich auch die alte Produkthaftungsrichtlinie aufgehoben, wenngleich diese auch weiterhin für Produkte gelten soll, die "''vor diesem Zeitpunkt in Verkehr gebracht oder in Betrieb genommen wurden''" (Artikel 21 PHRL neu).

In Deutschland etwa wurde zwischenzeitlich bereits ein Entwurf für ein entsprechendes Gesetz vorgelegt.<ref>Siehe dazu etwa ''Redaktion beck-aktuell'', Verlag C.H.BECK, 11. September 2025 von js (dpa), Produkthaftung soll auch für KI und Software-Fehler gelten, https://beck-online.beck.de/Dokument?vpath=bibdata%2Freddok%2Fbecklink%2F2035621.htm&pos=16&hlwords=on (abgerufen am 29. 11. 2025); vgl dazu auch ''Hoeren/Pinelli,'' Das neue Produkthaftungsrecht: Zwischen effektivem Verbraucherschutz und unternehmerischer Freiheit, MMR 2025, 767.</ref>

Schon die alte Produkthaftungsrichtlinie regelt prinzipiell eine verschuldensunabhängige Haftung im Zusammenhang mit fehlerhaften Produkten für bestimmte davon zu unterscheidende Schäden, wobei die Haftung vorrangig den Produkthersteller trifft.<ref>Vgl ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107 (196).</ref> Dies ist im Wesentlichen auch Kern der PHRL neu, sie bringt allerdings auch eine Reihe von Neuerungen bzw Adaptionen mit sich, die insbesondere auch KI betreffen. Neben ''Produkten im digitalen Zeitalter'' sollte die PHRL neu insbesondere auch etwa die Kreislaufwirtschaft berücksichtigen.<ref>Vgl insgesamt Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seiten 1, 2, 6, 11 und 12, Erwägungsgrund 2, Artikel 1; vgl zum Entwurfsstadium auch ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107.</ref> Im Folgenden sollen ein grober Überblick gegeben werden ausgewählte Aspekte dargestellt werden.

=== Neuer Produktbegriff und grundlegender Regelungsgegenstand ===
Im Rahmen der alten Rechtslage gab es umfassende Unklarheiten (bzw potenzielle Regelungslücken) in Hinblick darauf, inwieweit Software vom Produktbegriff erfasst ist.<ref name=":0" /> Daraufhin sollte '''Software''' (bzw insbesondere auch '''KI''') in den Produktbegriff aufgenommen werden.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seiten 1, 6, 9, 11, 12 und 14, Erwägungsgrund 12, Artikel 4 Ziffer 1; vgl insgesamt auch etwa ''Thöne,'' Die „digitale“ Erweiterung der Produkthaftungsrichtlinie, MMR 2025, 408 (409 mwN).</ref> Der schlussendlich beschlossene, neue Produktbegriff umfasst im Detail jetzt '''alle beweglichen Sachen''', '''selbst wenn diese in andere bewegliche oder unbewegliche Sachen integriert''' oder '''mit diesen verbunden''' sind, und explizit auch '''Software'''<ref>Siehe auch etwa ''Ebers'', KIR 2025, 252 (253 mwN).</ref>, Elektrizität, digitale Konstruktionsunterlagen und Rohstoffe (Artikel 4 Ziffer 1 PHRL neu). Nach Erwägungsgrund 13 PHRL neu sind unter ''Software'' auch etwa '''KI-Systeme''' zu verstehen.<ref>Vgl auch Erwägungsgrund 3 PHRL neu und zum Entwurfsstadium ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107 (197); in Erwägungsgrund 13 PHRL neu wird zudem auf die ''Anbieter von KI-Systemen'' gemäß AI Act Bezug genommen, weshalb davon auszugehen sein wird, dass mit ''KI-Systemen'' wohl jene im Sinne des AI Act (Artikel 3 Ziffer 1 AI Act) gemeint sind. </ref> Mit der Adressierung von ''Software'' wurde dabei wohl Technologieneutralität bezweckt.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seite 14; vgl dazu zudem ''Weiler/Bell/Wilkens'', Die neue Produkthaftungsrichtlinie - Auswirkungen auf und Implikationen für die Praxis, RIW 2025, 1 (2).</ref> Nach Artikel 2 Absatz 2 PHRL neu soll „''freie und quelloffene Software, die außerhalb einer Geschäftstätigkeit entwickelt oder bereitgestellt wird''“, von deren Anwendungsbereich ausgenommen sein<ref>''Ebers'', KIR 2025, 252 (253).</ref>, was sich aber an sich auch bereits aus der Systematik (des Anwendungsbereichs) der Richtlinie ergibt<ref>Siehe dazu im Detail ''Thöne,'' MMR 2025, 408 (409 f mwN).</ref>.

Trotz der Neufassung des Produktbegriffs ergeben sich allerdings Auslegungsfragen hinsichtlich der Anwendbarkeit der PHRL neu. So soll im Rahmen der PHRL neu in gewisser Weise prinzipiell auch für '''''Komponenten''''' gehaftet werden (vgl im Detail insbesondere Artikel 8 Absatz 1, Artikel 11 PHRL neu), worunter körperliche oder nicht-körperliche Gegenstände, Rohstoffe oder verbundene Dienste verstanden werden, die in ein Produkt integriert oder damit verbunden sind (Artikel 4 Ziffer 4 PHRL neu). Mit '''''verbundenen Diensten''''' sind digitale Dienste gemeint, welche derart in ein Produkt integriert oder mit diesem verbunden sind, dass dieses ohne sie (eine oder mehrere seiner) Funktionen nicht erfüllen könnte (Artikel 4 Ziffer 3 PHRL neu). Dies ist vor allem deswegen relevant, weil nach Erwägungsgrund 17 PHRL neu prinzipiell '''Dienstleistungen''' per se nicht von der Richtlinie umfasst sein sollten. Daher könnten sich in der Folge voraussichtlich schwierige Abgrenzungsfragen, insbesondere in Hinblick auf den entsprechenden Einfluss auf die Funktionsweise des Produkts, stellen.<ref>Vgl zum Entwurfsstadium im Zusammenhang mit ''digitalisierten Wissensinhalten'' auch ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107 (196 f); vgl grundlegend dazu insbesondere auch Erwägungsgrund 17 PHRL neu; vgl zur Problematik im Allgemeinen weiters: ''Weiler/Bell/Wilkens'', RIW 2025, 1 (2) sowie ''Ebers'', KIR 2025, 252 (254).</ref> Dem Grunde nach ähnlich verhält sich dies bei der Abgrenzung zwischen (Software-)Produkten und verbundenen Diensten, bei der insbesondere die Frage nach der Relevanz für die Funktionsfähigkeit des gesamten Produkts bedeutsam sein könnte.<ref>Siehe dazu ''Schenk'', Produkthaftung für falsche KI-Antworten nach der neuen Produkthaftungs-RL?, LTZ 2025, 184 (II.2.) mit Darstellung eines entsprechenden Auslegungsansatzes, wonach das Herstellen oder Entfallenlassen der "Funktionsfähigkeit des ''gesamten Produktes als solches"'' schon ein eigenständiges Produkt bedeuten sollte; siehe dabei weiterführend auch ad potenzielle Informationshaftung im Zusammenhang mit verbundenen Diensten: ''derselbe'' (VI.).</ref>

Zudem wird in Erwägungsgrund 13 PHRL neu in Bezug auf Software wiederum angemerkt, dass diese „''unabhängig von der Art ihrer Bereitstellung oder Nutzung''“, demnach „''unabhängig davon, ob die Software auf einem Gerät gespeichert oder über ein Kommunikationsnetz oder Cloud-Technologien abgerufen oder durch ein Software-as-a-Service-Modell bereitgestellt wird''“ als ''Produkt'' erfasst sein sollte. Daraus könnten sich demnach wiederum Abgrenzungsfragen in Hinblick auf '''Dienstleistungen''' ergeben, die mit Software verbunden sind.<ref>Vgl auch etwa ''Ebers'', KIR 2025, 252 (254 mwN).</ref> Außerdem sollen ''digitale Dateien'' laut Erwägungsgrund 16 PHRL neu per se keine ''Produkte'' darstellen (abgesehen von gewissen ''digitale Konstruktionsunterlagen''). Weiters sollen laut Erwägungsgrund 13 PHRL neu auch ''Informationen'' nicht als ''Produkt'' zu sehen sein. Die Produkthaftungsregelungen sollten demnach „''nicht für den Inhalt digitaler Dateien wie Mediendateien oder E-Books oder den reinen Quellcode von Software gelten''“. In dem Zusammenhang scheint in der Folge einerseits überlegenswert, inwieweit das auch '''Komponenten''' betreffen soll, also inwiefern etwa Sourcecode, oder auch Trainingsdaten für eine KI, eine (fehlerhafte) Komponente eines Softwareprodukts darstellen könnten.<ref>Dabei sollte wohl insbesondere die Frage zentral sein, inwieweit ein quasi funktional essentieller ''nicht-körperlicher Gegenstand'' vorliegt, wobei Erwägungsgrund 20 PHRL neu implizit etwa Daten, wie ursprünglich auf einer Festplatte gespeicherte digitale Dateien, als ''nicht-körperliche Vermögensgegenstände'' sieht; vgl zum Entwurfsstadium im Zusammenhang mit digitalisierten Wissensinhalten erneut auch ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107 (196 f).</ref> Zudem wird in der Literatur dabei auch in Frage gestellt, wann bei fehlerhaften Informationen als Output von Software bzw KI eine Haftung eintritt<ref>Vgl ''Ebers'', KIR 2025, 252 (253 f mwN); vgl grundlegend auch ''Thöne'', MMR 2025, 408 (411 f mwN).</ref>, insbesondere wenn die Schädigung (basierend auf solch einem Output) nicht direkt durch die Software, sondern von Nutzer*innen ausgeführt wird.<ref>Vgl ''Schenk'', LTZ 2025, 184 (III. und IV.).</ref> Dabei wird insbesondere argumentiert, dass bei reiner Übermittlung fehlerhafter Informationen durch eine Software keine Haftung eintreten sollte, sehr wohl allerdings im Fall, dass die Software fehlerhafte Informationen selbst erzeugt (wie etwa eine Diagnose oder Behandlung durch eine Software als Medizinprodukt).<ref name=":3">Vgl erneut ''Schenk'', LTZ 2025, 184 (IV.); ''Ebers'', KIR 2025, 252 (253 f mwN); vgl tendenziell noch differenzierter dabei: ''Thöne'', MMR 2025, 408 (411 f mwN).</ref>

Eine wichtige Voraussetzung für die Haftung ist die '''Fehlerhaftigkeit''' (eines Produkts bzw einer Komponente<ref>Vgl im Detail Artikeln 5, 6, 7 und 8 PHRL neu, wobei insbesondere anzumerken ist, dass der Wortlaut von Artikel 5, worin der Schadenersatzanspruch grundlegend statuiert wird, nur auf ''fehlerhafte Produkte'' und nicht auch ''fehlerhafte Komponenten'' Bezug nimmt.</ref>), die in Artikel 7 PHRL neu in Hinblick auf Produkte<ref>''Komponenten'' finden dabei wiederum grundsätzlich keine Erwähnung.</ref> prinzipiell damit umschrieben wird, dass das Produkt "''nicht die Sicherheit bietet''", die Personen erwarten dürfen oder die von Unions- oder nationalem Recht gefordert wird. Artikel 7 Absatz 2 PHRL neu regelt in der Folge, dass sämtliche Umstände bei dieser Beurteilung Berücksichtigung finden müssen und zählt dazu einige Aspekte auf, wie auch etwa die "''einschlägigen Anforderungen an die Produktsicherheit, einschließlich sicherheitsrelevanter Cybersicherheitsanforderungen"'' (Buchstabe f). Dazu ist allerdings anzumerken, dass die Fehlerhaftigkeit des Produkts '''vermutet''' werden soll, wenn der Kläger nachweist, dass das Produkt '''verbindliche''' '''Produktsicherheitsanforderungen''' gemäß Unions- oder nationalem Recht nicht erfüllt, sofern diese den Schutz vor dem Risiko des Schadens, den die geschädigte Person erlitten hat, gewährleisten sollen (Artikel 10 Ansatz 2 Buchstabe b PHRL neu). Siehe weiters noch unter [[KI-Haftungsregelungen#AI Act und PHRL neu|Synergien; AI Act und PHRL neu]]. In der Aufzählung von Artikel 7 Absatz 2 PHRL neu finden sich zudem auch „''Auswirkungen der Fähigkeit des Produkts, nach seinem Inverkehrbringen oder seiner Inbetriebnahme weiter zu lernen oder neue Funktionen zu erwerben, auf das Produkt''“ (Buchstabe c), was insbesondere in Hinblick auf KI zu sehen sein dürfte.<ref>Siehe dazu ''Ebers'', KIR 2025, 252 (256) unter anderem mit Verweis auf Erwägungsgrund 32 PHRL neu; vgl auch ''Schucht'', Die neue EU-Produkthaftungsrichtlinie 2024/2853, https://www.ibf-solutions.com/fachbeitraege/news-zur-eu-produkthaftungsrichtlinie (abgerufen am 4. 12. 2025); grundlegend zu ''lernenden Systemen'' im Zusammenhang mit dem deutschen Entwurf zur neuen Produkthaftung vgl weiters ''Hoeren/Pinelli,'' MMR 2025, 767 (767).</ref> Außerdem erscheinen Überlegungen zum ''vernünftigerweise vorhersehbaren Gebrauch'' (Artikel 7 Absatz 2 Buchstabe b PHRL neu), etwa vor dem Hintergrund der weitreichenden Einsatzmöglichkeiten von KI-Chatbots bedeutsam.<ref>Siehe dazu ''Schenk'', LTZ 2025, 184 (V.1.); weiters zu im Zusammenhang mit Software relevanten Aspekten: ''Weiler/Bell/Wilkens'', RIW 2025, 1 (3 mwN).</ref>

Die Frage, wer welche Schäden geltend machen kann, wird insbesondere in den Artikeln 5 und 6 der PHRL neu adressiert. Demnach soll zunächst grundsätzlich „''jede natürliche Person, die einen durch ein fehlerhaftes Produkt verursachten Schaden erleidet''", einen Schadenersatzanspruch gemäß der PHRL neu haben, wobei dieser auch durch gewisse andere Personen geltend gemacht werden können soll (vgl im Detail Artikel 5 PHRL neu). Dabei sollen lediglich folgende Kategorien von Schäden grundsätzlich ersetzt werden (Artikel 6 Absatz 1 PHRL neu):

* Tod oder Körperverletzung, einschließlich medizinisch anerkannter Beeinträchtigungen der psychischen Gesundheit
* Beschädigung oder Zerstörung von Sachen, '''außer:'''
** das fehlerhafte Produkt selbst
** ein Produkt, das durch eine fehlerhafte Komponente dieses Produkts beschädigt wurde, die vom Hersteller des Produkts oder unter der Kontrolle dieses Herstellers in das Produkt integriert oder mit diesem verbunden wurde
** Sachen, die ausschließlich für berufliche Zwecke verwendet werden
* Vernichtung oder Beschädigung von Daten, die nicht für berufliche Zwecke verwendet werden<ref>Vgl dazu, dass somit essenzielle potenziell schädliche Fälle von KI-Anwendung, wie etwa Diskriminierungen durch KI im Bewerbungsverfahren, nicht in den Anwendungsbereich fallen würden sowie zu weiterer Kritik hinsichtlich der Schadensabdeckung: ''B.A. Koch'', 22. ÖJT Band II/1, 24 f mwN; vgl zu Datenbeschädigungen und -Vernichtungen weiters Erwägungsgsrund 20 PHRL neu und dazu auch ''Weiler/Bell/Wilkens'', RIW 2025, 1 (3).</ref>

Dabei sind insbesondere sich daraus ergebende Vermögensschäden abgedeckt (Artikel 6 Absatz 2 erster Satz PHRL neu). Zudem sollen aber auch entsprechende immaterielle Schäden abgedeckt werden, "''soweit für Schäden dieser Art nach nationalem Recht eine Entschädigung verlangt werden kann''" (Artikel 6 Absatz 2 zweiter Satz PHRL neu).<ref>Vgl bzgl Deutschland etwa ''Hoeren/Pinelli'', MMR 2025, 767 (768).</ref> Die PHRL neu enthält im Gegensatz zur alten Produkthaftungsrichtlinie auch keinen Selbstbehalt für Sachschäden mehr.<ref>Vgl zum Entwurfsstadium ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107 (197) sowie Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, Seiten 1 und 10.</ref>

Welcher Wirtschaftsakteur in weiterer Folge für entsprechende Schäden haftbar gemacht werden kann, wird im Detail vor allem in Artikel 8 PHRL neu geregelt. Dies betrifft insbesondere die Hersteller der fehlerhaften Produkte<ref>Auch hierbei soll es allerdings Neuerungen geben, siehe etwa: ''Claßen'', Erhöhte Haftungsrisiken für Quasi-Hersteller in der EU, ZfPC 2025, 153.</ref> und die Hersteller von fehlerhaften Komponenten, die "''unter der Kontrolle des Herstellers in ein Produkt integriert oder damit verbunden''"<ref>Zur Definition des Begriffs „''Kontrolle des Herstellers''“ siehe Artikel 4 Z 5 PHRL neu; diese ist etwa auch im Zusammenhang mit den für die Haftung beachtlichen Zeitpunkten relevant, vgl dazu insbesondere Artikel 7 Absatz 2 Buchstabe e PHRL neu und weiterführend auch ''Schucht'', Die neue EU-Produkthaftungsrichtlinie 2024/2853, https://www.ibf-solutions.com/fachbeitraege/news-zur-eu-produkthaftungsrichtlinie (abgerufen am 28. 11. 2025); siehe auch noch im Folgenden.</ref> wurden und dessen Fehlerhaftigkeit verursacht haben (Artikel 8 Absatz 1 Unterabsatz 1 Buchstaben a und b PHRL neu). Zudem soll die Haftung des Produktherstellers nach Artikel 8 Absatz 1 Unterabsatz 1 Buchstabe a PHRL neu auch Schäden umfassen, "''die durch eine fehlerhafte Komponente verursacht werden, wenn diese unter der Kontrolle des Herstellers in ein Produkt integriert oder damit verbunden wurde''".<ref>Siehe Artikel 8 Absatz 1 Unterabsatz 2 PHRL neu, wobei allerdings erneut auch auf die Formulierung von Artikel 5 PHRL neu hinzuweisen ist.</ref> Daneben sollen unter Umständen auch weitere Personen in Haftung genommen werden können (siehe im Detail Artikel 8 Absatz 2 und folgende PHRL neu).<ref>Zur entsprechenden Ausdehnung des subjektiven Anwendungsbereichs gegenüber der alten PHRL siehe etwa ''Weiler/Bell/Wilkens'', RIW 2025, 1 (2 mwN).</ref>

Die verschiedenen Akteure werden grundsätzlich in Artikel 4 PHRL neu definiert, so etwa der ''Hersteller'' in Ziffer 10<ref>Dabei wird jedoch wiederum nur auf ''Produkte'' und nicht auf ''Komponenten'' explizit Bezug genommen.</ref>. Im Übrigen sollen nach Erwägungsgrund 13 PHRL neu etwa die ''Anbieter von KI-Systemen'' im Sinne des AI Act als ''Hersteller'' gelten.<ref>Weiterführende Überlegungen dazu etwa in: BeckOK KI-Recht/Henke, 3. Ed. 1.8.2025, KI-VO Art. 16 Rn. 62.</ref>

=== Weitere, für KI spezifisch relevante Regelungen ===
Die PHRL neu enthält weitere im Zusammenhang mit KI spezifisch relevante Regelungen (bereits oben genannt wurden etwa Aspekte der Aufzählung in Artikel 7 Absatz 2). In Verbindung mit KI besonders relevant sind der Begründung des Richtlinienvorschlags und den Erwägungsgründen der PHRL neu folgend weiters insbesondere bestimmte Beweiserleichterungen gemäß Artikel 10 PHRL neu und gewisse Haftungsszenarien, die sich aus Artikel 11 PHRL neu ergeben.<ref>Vgl Erwägungsgründe 40, 48 und 50 PHRL neu; Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seite 6.</ref>

'''spezifisch relevante Beweiserleichterungen gemäß Artikel 10 PHRL neu:''' Prinzipiell soll der Kläger die Fehlerhaftigkeit des Produkts, den erlittenen Schaden und den Kausalzusammenhang zwischen jener Fehlerhaftigkeit und jenem Schaden zu beweisen haben (Artikel 10 Absatz 1 PHRL neu). In Artikel 10 Absatz 4 PHRL neu sind allerdings gewisse Beweiserleichterungen insbesondere in Hinblick auf '''''komplexe Fälle''''' geregelt worden, zu denen nach der Begründung des Richtlinienvorschlags auch "''bestimmte Fälle im Zusammenhang mit KI-Systemen gehören könnten''", was sich zudem in den Erwägungsgründen der PHRL neu widerspiegelt.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seite 6; Erwägungsgrund 48 PHRL neu.</ref> Dabei sollen nationale Gerichte von der "''Fehlerhaftigkeit des Produkts oder dem ursächlichen Zusammenhang zwischen dessen Fehlerhaftigkeit und dem Schaden oder beidem''" ausgehen. Voraussetzung dafür soll nunmehr einerseits sein, dass der Kläger "''insbesondere aufgrund der technischen oder wissenschaftlichen Komplexität"'' übermäßige Schwierigkeiten damit hat, „''die Fehlerhaftigkeit des Produkts oder den ursächlichen Zusammenhang zwischen dessen Fehlerhaftigkeit und dem Schaden oder beides zu beweisen'' [...]" (Artikel 10 Absatz 4 Buchstabe a PHRL neu). Andererseits müsste der Kläger nachgewiesen haben, „''dass es wahrscheinlich ist, dass das Produkt fehlerhaft ist oder dass ein ursächlicher Zusammenhang zwischen der Fehlerhaftigkeit des Produkts und dem Schaden besteht, oder beides''" (Artikel 10 Absatz 4 Buchstabe b PHRL neu).<ref>Siehe hierzu detaillierter etwa ''Weiler/Bell/Wilkens'', RIW 2025, 1 (4).</ref> Zudem müssten diese Voraussetzungen trotz der Offenlegung von Beweismitteln gemäß Artikel 9 PHRL neu bzw "''unter Berücksichtigung aller relevanten Umstände des Falles''" vorliegen (Artikel 10 Absatz 4 PHRL neu). Erwägungsgrund 48 PHRL neu nennt als Kriterien für die '''technische oder wissenschaftliche Komplexität''' beispielsweise "'''''die Komplexität der verwendeten Technologie'''''" (und dabei etwa '''maschinelles Lernen''') und die "'''''die Komplexität der vom Kläger zu analysierenden Informationen und Daten und die Komplexität des ursächlichen Zusammenhang'''''"<ref>Hervorhebungen jeweils hinzugefügt.</ref>, was auch mit der potenziell geforderten '''''Erläuterung der''''' '''''Funktionsweise von KI-Systemen''''' in Verbindung gebracht wird.

In der Literatur wird zudem die Vermutung gemäß Artikel 10 Absatz 2 Buchstabe c PHRL neu (Vermutung von Fehlerhaftigkeit im Zusammenhang mit ''offensichtlichen Funktionsstörungen'') in Verbindung mit KI als vermutlich besonders relevant erachtet.<ref>Siehe dazu (und Artikel 10 PHRL neu im Allgemeinen) ''Ebers'', KIR 2025, 252 (257 f mwN) mit Verweis auf auf "''unerwartete Verhaltensweisen''" bzw "''autonomiebedingte''[s] ''(Fehl-)Verhalten''".</ref>

Die Vermutungen und Annahmen nach Artikel 10 Absätze 2-4 PHRL neu sollen schließlich gemäß dessen Absatz 5 vom Beklagten widerlegbar sein.

'''spezifisch relevante Haftungsszenarien gemäß Artikel 11 PHRL neu:''' Artikel 11 PHRL neu enthält demgegenüber im Allgemeinen Regelungen darüber, wann sich jene Wirtschaftsakteure, die nach Artikel 8 PHRL prinzipiell haftbar sein sollen, jeweils von einer Haftung freibeweisen können sollen. Dies betrifft unter anderem den Fall, dass der betreffende Wirtschaftsakteur beweist, "''dass es wahrscheinlich ist, dass die Fehlerhaftigkeit, die den Schaden verursacht hat, zum Zeitpunkt des Inverkehrbringens, der Inbetriebnahme oder — bei einem Lieferanten — des Bereitstellens auf dem Markt noch nicht bestanden hat oder dass diese Fehlerhaftigkeit erst nach dem betreffenden Zeitpunkt entstanden ist''" (Artikel 11 Absatz 1 Buchstabe c PHRL neu). Wiederum in Bezug darauf enthält Artikel 11 Absatz 2 PHRL neu allerdings Ausnahmen, im Rahmen derer entsprechende Wirtschaftsakteure dennoch prinzipiell haftbar bleiben sollen. Diese beziehen sich darauf, dass die Fehlerhaftigkeit eines Produkts einen der Gründe hat, die in der Bestimmung genannt werden, sofern der jeweilige Grund zudem der ''Kontrolle des Herstellers'' untersteht. Die aufgezählten Ursachen umfassen unter anderem '''verbundene Dienste''' und '''Software''' (inklusive Software-Updates<ref>Im Allgemeinen zur Haftung in diesem Zusammenhang siehe weiterführend etwa ''Thöne,'' MMR 2025, 408 (410 mwN) sowie abseits der PHRL neu bzgl Österreich auch ''Veith/Walther'', Das Software-Update im Schadenersatzrecht, ÖJZ 2025/59.</ref> oder -Upgrades) sowie '''''wesentliche Änderungen''''' des Produkts, die wiederum im Detail in Artikel 4 Ziffer 18 PHRL neu definiert werden. Die Erwägungsgründe verweisen in Zusammenhang damit wiederum etwa auf maschinelles Lernen bzw fortlaufend lernende KI-Systeme.<ref>Vgl insbesondere Erwägungsgründe 40 und 50 PHRL neu.</ref> Hierbei wird demnach hinsichtlich dem relevanten Zeitpunkt an die weiter bestehende Kontrolle von Herstellern über entsprechende Produkte angeknüpft.<ref>Siehe ''Lutz'', Fahrzeugdaten: Datenzugangsansprüche, Sicherheitsrisiken und die neue Produkthaftungsrichtlinie, ZfPC 2025, 154 mwN.</ref>

Gemäß Artikel 8 Absatz 2 soll zudem im Allgemeinen "[j]''ede natürliche oder juristische Person, die ein Produkt außerhalb der Kontrolle des Herstellers '''wesentlich verändert''' und es anschließend auf dem Markt bereitstellt oder in Betrieb nimmt"'' (Hervorhebungen hinzugefügt), in Hinblick auf die Regelung haftbarer Wirtschaftsakteure nach Artikel 8 Absatz 1 PHRL neu als entsprechender Produkthersteller gelten.<ref>Vgl zu ''wesentlichen Änderungen'' im Zusammenhang mit KI erneut insbesondere Erwägungsgrund 40 PHRL neu.</ref>

=== Sonstiges (Auswahl) ===
Artikel 9 PHRL neu sieht Offenlegungspflichten für bestimmte Beweismittel vor, was in Erwägungsgrund 42 PHRL neu mitunter wiederum mit (insbesondere ''technischer und wissenschaftlicher'') '''Komplexität''' in Verbindung gebracht wird (vgl dazu schon oben) sowie in der Literatur wiederum auch mit einer besonderen Bedeutung für KI<ref>Vgl ''Ebers'', KIR 2025, 252 (257); vgl zu den Offenlegungspflichten (unter anderem) im Zusammenhang mit KI weiters: ''Weiler/Bell/Wilkens'', RIW 2025, 1 (4 mwN).</ref>.

Gemäß Artikel 12 Absatz 1 PHRL neu sollen im Falle zweier bzw mehrerer für denselben Schaden haftbarer Wirtschaftsakteure diese prinzipiell solidarisch haftbar gemacht werden können (vgl im Detail Artikel 12 PHRL neu). Die Haftung von Wirtschaftsakteuren nach der PHRL neu soll gemäß deren Artikel 15 weiters grundsätzlich nicht vertraglich oder durch nationales Recht ausgeschlossen oder beschränkt werden können. Gemäß Artikel 12 Absatz 2 PHRL neu kann unter Umständen aber ein '''Haftungsrückgriff''' von Produktherstellern auf bestimmte Softwarekomponentenhersteller vertraglich ausgeschlossen werden.<ref>Vgl im Detail insbesondere Artikel 12 Absatz 2 Buchstabe a PHRL neu.</ref>

== Synergien ==

=== Vorschläge für AI Act, AILD und PHRL neu ===

* Der Vorschlag für eine AILD und der Vorschlag für eine neue Produkthaftungsrichtlinie zielten prinzipiell auf verschiedene Anwendungsfälle bzw Haftungsarten ab, sollten sich als Paket jedoch dementsprechend ergänzen.<ref>Vgl Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seite 3; Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final, insbesondere Seite 5.</ref>
* Zudem waren die entsprechenden Bestrebungen der Kommission im Haftungsbereich als Paket mit dem Vorschlag für den AI Act zu sehen.<ref>Vgl darüber hinaus Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seiten 2 und 3.</ref>

=== AI Act und Vorschlag AILD ===

* Insbesondere durch die Heranziehung gewisser Begrifflichkeiten aus dem AI Act(-Vorschlag), aber auch durch die Heranziehung entsprechender Sorgfaltspflichten für die Voraussetzungen der Kausalitätsvermutung gemäß Vorschlag AILD (siehe im Detail: [[KI-Haftungsregelungen#Kausalitätsvermutung (Artikel 4)|Kausalitätsvermutung (Artikel 4)]]) hätten sich bei der AILD gegebenenfalls auch einschlägige Synergien mit dem AI Act ergeben.
* Umgekehrt können aus der Interpretation gewisser Anforderungen nach dem AI Act(-Vorschlag) durch den Vorschlag für die AILD auch gewisse '''Ansatzpunkte für die Auslegung des AI Acts''' gewonnen werden: Denn nach dem Vorschlag AILD sollten, um die Kausalitätsvermutung gemäß deren Artikel 4 auszulösen (wie schon oben im Detail dargestellt), prinzipiell nur Verstöße gegen solche Sorgfaltspflichten einschlägig sein, „'''''deren unmittelbarer Zweck darin besteht, den eingetretenen Schaden zu verhindern'''''“.<ref>Vgl Erwägungsgrund 22 und Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD; Hervorhebungen hinzugefügt.</ref> Weiters sollten dabei hinsichtlich Hochrisiko-KI-Systemen, für die gewisse Anforderungen nach dem AI Act(-Vorschlag) gelten, jedenfalls in Hinblick auf deren Anbieter bzw Personen, die Anbieter-Pflichten gemäß AI Act(-Vorschlag) unterliegen, wiederum nur bestimmte, abschließend (vgl: “''nur''”) aufgezählte Pflichten nach dem AI Act-Vorschlag einschlägig sein.<ref>Vgl Erwägungsgrund 26 und Artikel 4 Absatz 2 Vorschlag AILD; vgl hinsichtlich Hochrisiko-KI-Nutzern bereits oben unter [[KI-Haftungsregelungen#Kausalitätsvermutung (Artikel 4)|Kausalitätsvermutung (Artikel 4)]].</ref> Erwägungsgrund 22 Vorschlag AILD nannte zudem explizit regulatorische Erfordernisse, die nicht auf einen Schutz vor entsprechenden Schäden abzielen sollen (was sich wohl insbesondere auch auf den AI-Act-Vorschlag beziehen sollte<ref>Denn unmittelbar davor wurde etwa die Nichteinhaltung einer Gebrauchsanweisung (vgl diesbezüglich insbesondere Art 13 und 29 Abs 1 des AI-Act-Vorschlags; nunmehr prinzipiell Art 13 und 26 Abs 1 AI Act) als potenziell einschlägig angesehen: „''Somit kann diese Vermutung beispielsweise bei einem Schadensersatzanspruch aufgrund von Personenschäden gelten, wenn das Gericht feststellt, das ein Verschulden des Beklagten vorliegt, da dieser eine Gebrauchsanweisung, die eine Schädigung natürlicher Personen verhindern soll, nicht eingehalten hat.''“ Dies spiegelte sich schließlich auch in Art 4 Abs 3 lit a AILD-Vorschlag wider.</ref>), indem dieser festhielt: „''Verstöße gegen Sorgfaltspflichten, deren unmittelbarer Zweck nicht darin besteht, den eingetretenen Schaden zu verhindern, führen nicht zur Geltung der Vermutung; wenn beispielsweise ein Anbieter die erforderlichen Unterlagen nicht bei den zuständigen Behörden einreicht, würde dies bei Schadensersatzansprüchen aufgrund von Personenschäden nicht zur Geltung der Vermutung führen''“<ref>Vgl dazu etwa die Pflichten zur Übermittlung von Unterlagen bereits in Artikel 23 AI-Act-Vorschlag (nunmehr prinzipiell Art 21 AI Act); vgl in dem Zusammenhang allerdings auch Erwägungsgrund 25 Vorschlag AILD, der in Bezug auf einen Verstoß gegen Pflichten zur Dokumenteneinreichung oder Registrierung bei Behörden festhielt, dass diesfalls „''nach vernünftigem Ermessen nicht davon ausgegangen werden, dass er das vom KI-System hervorgebrachte Ergebnis oder die Tatsache, dass das KI-System kein Ergebnis hervorgebracht hat, beeinflusst hat''“, was zusätzlich auf die Voraussetzung nach Artikel 4 Absatz 1 Buchstabe b Vorschlag AILD abzgezielt haben dürfte.</ref>. Demnach scheint die EU-Kommission im Vorschlag AILD zumindest teilweise nur manche AI Act-(Vorschlag)-Pflichten als '''''Sorgfaltspflicht,''' '''deren unmittelbarer Zweck die Verhinderung des eingetretenen Schadens''' '''ist''','' interpretiert zu haben. Das könnte wiederum Auswirkungen auf die Auslegung von AI Act-Regelungen als schadenersatzbegründende '''Schutzgesetze''' im Sinne des § 1311 ABGB<ref>Vgl hierzu grundlegend ''Karner'' in ''Bydlinski/Perner/Spitzer'', KBB. ABGB. Kommentar zum ABGB7 (2023) § 1294 ABGB Rz 1, 4, § 1295 ABGB Rz 9, § 1311 ABGB Rz 3, 5.</ref> (und damit den Schadenersatz bei Verletzung des AI Acts) haben, wobei Schutzgesetzverletzungen im Zusammenhang mit KI besondere Relevanz zukommt.<ref>Vgl dazu, insbesondere zur Schutzgesetznatur von AI Act-Regelungen und zur Bedeutung der Haftung aufgrund von Schutzgesetzverletzungen im Zusammenhang mit KI, grundlegend ''Wendehorst'' in ''Martini/Wendehorst'', KI-VO. Verordnung über Künstliche Intelligenz. Kommentar (2024) Art 1 Rz 78 und folgende.</ref>

=== AI Act und PHRL neu ===

* Im Rahmen der neuen Produkthaftungsrichtlinie wurde explizit auf den AI Act Bezug genommen, indem in Erwägungsgrund 13 PHRL neu festgehalten wurde, dass "''Entwickler oder Hersteller von Software, einschließlich der Anbieter von KI-Systemen im Sinne'' [...]" des AI Acts als ''Hersteller'' (im Sinne der PHRL neu) erachtet werden sollten. Darüber hinaus ist davon auszugehen, dass auch die Bezugnahmen auf ''KI-Systeme'' in den Erwägungsgründen der PHRL neu vermutlich im Sinne des AI Acts zu verstehen sind (siehe auch unter '''[[KI-Haftungsregelungen#Neuer Produktbegriff und grundlegender Regelungsgegenstand|Neuer Produktbegriff und grundlegender Regelungsgegenstand]]''').
* Zudem handelt es sich bei den Regelungen des AI Acts wohl mitunter um Produktsicherheitsanforderungen im Sinne des Artikel 7 Absatz 2 Buchstabe f bzw Artikel 10 Absatz 2 Buchstabe b PHRL neu, die wiederum für die Beurteilung der Fehlerhaftigkeit eines KI-Systems im Rahmen der PHRL neu relevant wären. Im Zusammenhang mit Cybersicherheitsanforderungen gemäß Artikel 7 Absatz 2 Buchstabe f PHRL neu wird zudem unter anderem auf Artikel 15 AI Act (für Hochrisiko-KI) verwiesen.<ref>Vgl insgesamt ''Ebers'', KIR 2025, 252 (255 f mwN).</ref>

== Fallbeispiele ==
Im Folgenden sollen anhand einiger vereinfachter Beispiele die Anwendbarkeit und Implikationen der hier relevanten Rechtsakte besprochen werden. Hierbei werden allerdings lediglich die als am naheliegendsten erscheinende Einordnung und Subsumption möglichst vereinfacht und verkürzt in den jeweils als am wesentlichsten erscheinenden Thesen dargestellt. Demnach könnten im Detail unter Umständen auch andere bzw weitere Ergebnisse erzielt und dargestellt werden. Die folgenden Einordnungen und Subsumption sollen demnach lediglich eine Orientierungshilfe bieten. Insbesondere könnte grundsätzlich bei allen Beispielen im Zusammenhang mit KI überlegt werden, inwiefern eine Haftung für Informationen eintreten kann (siehe im Detail '''[[KI-Haftungsregelungen#Neuer Produktbegriff und grundlegender Regelungsgegenstand|Neuer Produktbegriff und grundlegender Regelungsgegenstand]]''' mwN), der Übersichtlichkeit halber wird dies allerdings nur im augenscheinlichsten Fall, Beispiel 4 behandelt, da hier vorerst eben nur Informationen bereitgestellt werden. Zudem ist erneut hervorzuheben, dass Stand Februar 2025 der Vorschlag AILD noch nicht beschlossen (bzw scheinbar verworfen) wurde und die PHRL neu noch in nationales Recht umzusetzen ist, wobei eine endgültige Beurteilung erst dann (bzw letztgültig erst ab gesicherter Judikatur) erfolgen könnte. In Hinblick auf das Zusammenspiel des Vorschlags AILD und dem AI Act(-Vorschlag) ist erneut hervorzuheben, dass sich der Vorschlag AILD auf den damals vorliegenden AI Act-Vorschlag bezogen hat, wobei allerdings einige Aspekte im Laufe des Gesetzgebungsverfahrens des AI Acts verändert wurden (siehe schon [[KI-Haftungsregelungen#Allgemeines und Anwendungsbereich|Allgemeines und Anwendungsbereich]]).

==== Beispiel 1: KI-gestütztes Kreditscoring ====
{| class="wikitable"
|+
!Sachverhalt
|Das Ergebnis eines KI-Systems, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten, die dem System zugrunde lagen, wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein '''Hochrisiko-KI-System''' gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Ziffer 5 Buchstabe b AI Act vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung Vorschlag AI Liability Directive
|In Hinblick auf die diskriminierende Trainingsdatenbasis würde gegebenenfalls insbesondere in Hinblick auf den Anbieter des Systems die '''Kausalitätsvermutung''' gemäß Artikel 4 Vorschlag AILD relevant erscheinen. Durch eine entsprechende Verletzung von (nunmehr) Artikel 10 AI Act (siehe im Detail [[Artificial Intelligence Act (AIA)#Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act)|Anforderungen an Hochrisiko-KI-Systeme]]) könnte Artikel 4 Absatz 2 Buchstabe a Vorschlag AILD erfüllt werden, wodurch eine der für Hochrisiko-KI-Anbieter taxativ aufgezählten, für die Vermutung einschlägigen Anforderungen betroffen wäre. Demnach erscheint in dem Zusammenhang insbesondere ein entsprechender Schadenersatzanspruch gegen den KI-Anbieter relevant, bei dem die Kausalitätsvermutung prinzipiell unter der Voraussetzung anwendbar wäre, dass der Kläger ein entsprechendes Verschulden des Anbieters<ref>"''oder einer Person, für deren Verhalten der Beklagte verantwortlich ist''" (Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD).</ref> sowie, dass das Ergebnis des KI-Kredit-Scorings zu seinem Schaden geführt hat, nachweist, sofern weiters auf der Grundlage der Umstände des Falls nach vernünftigem Ermessen davon ausgegangen werden kann, dass das Verschulden das Ergebnis des KI-Kredit-Scorings beeinflusst hat. Nach dem Sachverhalt erscheint zumindest eine Beeinflussung des Scoring-Ergebnisses durch die diskriminierenden Trainingsdaten naheliegend.
Die Vermutung sollte schließlich gemäß Artikel 4 Absatz 7 Vorschlag AILD widerlegt werden können. Aufgrund der Einordnung als Hochrisiko-KI-System gemäß AI Act wäre prinzipiell auch die '''Offenlegungspflicht''' gemäß Artikel 3 Vorschlag AILD einschlägig. Bei entsprechender gerichtlicher Anordnung (siehe zu den Voraussetzungen im Detail unter [[KI-Haftungsregelungen#Offenlegungspflicht (Artikel 3)|Offenlegungspflicht (Artikel 3)]]) müssten demnach einschlägige Beweismittel zu dem Kredit-Scoring-System, die dem Anbieter oder dem Nutzer (/Betreiber) vorliegen, offengelegt werden. Dies würde wohl insbesondere in Bezug auf die Dokumentation, Information und Protokollierung gemäß AI Act, vor allem in Hinblick auf die Trainingsdatenbasis relevant sein (vgl insbesondere Erwägungsgründe 16, 18 und 19 Vorschlag AILD; [[Artificial Intelligence Act (AIA)#Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act)|Anforderungen an Hochrisiko-KI-Systeme]]).

Würden die Beweismittel trotz entsprechender gerichtlicher Anordnung nicht offengelegt, sollte ein Sorgfaltspflichtverstoß gemäß Artikel 3 Absatz 5 Vorschlag AILD auch widerlegbar vermutet werden können, was wiederum insbesondere Beweismittel betreffen sollte, die Umstände rund um die Verletzung jener AI Act-Anforderungen durch den KI-Anbieter oder -Nutzer beweisen sollen, die für die Kausalitätsvermutung nach dem Vorschlag AILD relevant sein sollten (vgl Artikel 4 Absätze 2 und 3 Vorschlag AILD). Dies wäre im gegenständlichen Fall wie dargestellt vor allem in Bezug auf den KI-Anbieter (und dessen Pflichten nunmehr gemäß Artikel 10 AI Act) von Relevanz. Diese Vermutung könnte gemäß Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD wiederum auch für die Voraussetzungen der Kausalitätsvermutung bedeutsam sein.
|-
!Einordnung neue Produkthaftungs-RL
|Die PHRL neu ist bei reinen (nicht in Artikel 6 adressierten) Vermögensschäden '''nicht anwendbar''' (Artikel 6 PHRL neu e contrario; Erwägungsgründe 23 und 24 PHRL neu).
|}

==== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ====
{| class="wikitable"
|+
!Sachverhalt
|Ein KI-Chatbotassistent wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) zu einer fehlerhaften Überweisung, indem der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn '''grundsätzlich ein KI-System im Sinne des AI Act''' vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Artikel 5 AI Act, noch ein Hochrisiko-KI-System gemäß Artikel 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die '''Informationspflicht des Anbieters gemäß Artikel 50 Absatz 1 AI Act''' einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen. Nach dem Sachverhalt ist insbesondere die Rolle des Betreibers naheliegend.
|-
!Einordnung Vorschlag AI Liability Directive
|Nachdem ein KI-System im Sinne des AI Act vorliegt, wäre grundsätzlich auch die '''Kausalitätsvermutung''' nach dem Vorschlag AILD in einschlägigen Schadenersatzverfahren (insbesondere gegen die Bank oder allenfalls den KI-Anbieter) relevant. Hierbei wäre aber in Hinblick auf den fehlerhaften Assistenz-Chatbot wohl vorrangig zu überlegen, inwieweit insbesondere ein Verschulden der Bank (als wohl jedenfalls Nutzer/Betreiber) bzw des KI-Anbieters oder einer Person vorliegt, für deren Verhalten diese jeweils verantwortlich wären. Dieses hätte im '''Verstoß gegen eine national- oder unionsrechtlich festgelegte Sorgfaltspflicht ''liegen'', deren unmittelbarer Zweck darin besteht, den eingetretenen Schaden zu verhindern'''<ref>Im Detail versteht Artikel 2 Ziffer 9 Vorschlag AILD unter "''Sorgfaltspflicht''" dabei "''einen im nationalen Recht oder im Unionsrecht festgelegten Verhaltensmaßstab, der einzuhalten ist, um eine Beeinträchtigung von im nationalen Recht oder im Unionsrecht anerkannten Rechtsgütern, einschließlich Leben, körperlicher Unversehrtheit, Eigentum und Wahrung der Grundrechte, zu vermeiden''".</ref> liegen müssen und in der Folge nachgewiesen werden müssen (Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD). Da kein Hochrisiko-KI-System im Sinne des AI Act vorliegt, wäre dies durch Artikel 4 Vorschlag AILD auch nicht derart (siehe etwa Beispiel 1) beschränkt gewesen.<ref>Insbesondere hält Erwägungsgrund 24 Vorschlag AILD in dem Zusammenhang fest: "''In Bereichen, die nicht durch das Unionsrecht harmonisiert sind, gelten weiterhin nationale Rechtsvorschriften, und ein Verschulden wird nach dem geltenden nationalen Recht festgestellt''".</ref> Zudem müsste die Kausalität der Übernahme der falschen Überweisungssumme für den geltend gemachten Schaden bewiesen werden (Artikel 4 Absatz 1 Buchstabe c Vorschlag AILD). Ein möglicher Schaden könnte im Beispiel wohl zumindest in den Kosten dafür bestehen, die fehlerhafte Überweisung rückgängig zu machen.<ref>Regelungen zu Begriffen wie "''Schaden''" sollten durch die AILD allerdings grundsätzlich unberührt bleiben; dies wäre daher insbesondere national zu beurteilen: vgl Erwägungsgrund 22 Vorschlag AILD; Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz (Richtlinie über KI-Haftung), COM(2022) 496 final, insbesondere Seite 13.</ref> Außerdem müsste wiederum auf der Grundlage der Umstände des Falls nach vernünftigem Ermessen davon ausgegangen werden können, dass das Verschulden den beschriebenen Fehler des Chatbots beeinflusst hat (Artikel 4 Absatz 1 Buchstabe b Vorschlag AILD). Da kein Hochrisiko-KI-System vorliegt, sollte die Vermutung schließlich nur gelten, "''wenn es nach Auffassung des nationalen Gerichts für den Kläger übermäßig schwierig ist",'' den etwaig zu vermutenden Kausalzusammenhang zu beweisen (Artikel 4 Absatz 5 Vorschlag AILD)''.'' Die Vermutung sollte schließlich gemäß Artikel 4 Absatz 7 Vorschlag AILD widerlegt werden können.
Da kein Hochrisiko-KI-System vorliegt, wäre die '''Offenlegungspflicht''' gemäß Artikel 3 Vorschlag AILD '''nicht anwendbar'''. Somit könnte auf dieser Basis auch nicht die Vorlage entsprechender Beweismittel geltend gemacht werden, was die beschriebenen Nachweise wohl erschweren würde.
|-
!Einordnung neue Produkthaftungs-RL
|Die PHRL neu ist bei reinen (nicht in Artikel 6 adressierten) Vermögensschäden '''nicht anwendbar''' (Artikel 6 PHRL neu e contrario; Erwägungsgründe 23 und 24 PHRL neu).
|}

==== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ====
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssystemebene bei einer bestimmten Marke privater Computer implementiert ist, wird durch eine Nutzerin eines solchen Computers aufgefordert, bestimmte Dateien (Scans von wichtigen privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das Assistenzsystem einzudringen, sodass dieses die Dateien stattdessen an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses System interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|'''Für die Nutzerin als Betreiberin''' liegt vermutlich die '''"Haushaltsausnahme"''' vor, wodurch der '''AI Act nicht zur Anwendung''' kommt (Artikel 2 Absatz 10 AI Act).
'''Für den Anbieter''': Auch wenn prinzipiell ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich '''weder''' eine prinzipiell '''verbotene Praxis''' gemäß Artikel 5 AI Act, '''noch ein Hochrisiko-KI-System''' gemäß Artikel 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich im Sinne von Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Artikel 6 Absatz 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die '''Informationspflicht des Anbieters gemäß Artikel 50 Absatz 1 AI Act''' einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "''für die direkte Interaktion mit natürlichen Personen bestimmt''" ist.
|-
!Einordnung Vorschlag AI Liability Directive
|Nachdem ein KI-System im Sinne des AI Act vorliegt, wäre grundsätzlich auch die '''Kausalitätsvermutung''' nach dem Vorschlag AILD in einschlägigen Schadenersatzverfahren (wohl insbesondere gegen den KI-Anbieter)<ref>Prinzipiell könnte im Grundfall freilich auch überlegt werden, den Angreifer in Haftung zu nehmen. Allerdings wird dies wohl faktisch schwierig umzusetzen sein.</ref> relevant. Ähnlich wie in Beispiel 2 wären dabei allerdings der Nachweis eines Verschuldens (insbesondere des Anbieters oder von Personen, für deren Verhalten dieser verantwortlich ist) sowie der Kausalität der Aktionen des Assistenzsystems für den Schaden zu erbringen und wohl fraglich. Zudem müsste wiederum auf der Grundlage der Umstände des Falls nach vernünftigem Ermessen davon ausgegangen werden können, dass ein etwaiges Verschulden die beschriebenen Aktionen des Assistenzsystems beeinflusst hat (siehe insgesamt Artikel 4 Absatz 1 Vorschlag AILD).
Da wiederum prinzipiell kein Hochrisiko-KI-System vorliegt, sollte die Vermutung schließlich nur gelten, "''wenn es nach Auffassung des nationalen Gerichts für den Kläger übermäßig schwierig ist",'' den etwaig zu vermutenden Kausalzusammenhang zu beweisen (Artikel 4 Absatz 5 Vorschlag AILD)''.''
Die Vermutung sollte schließlich gemäß Artikel 4 Absatz 7 Vorschlag AILD widerlegt werden können.
Die für die Kausalitätsvermutung geforderten Nachweise wären wiederum auch deswegen fraglich, weil diesfalls die '''Offenlegungspflicht gemäß Artikel 3 Vorschlag AILD nicht anwendbar''' wäre, weil grundsätzlich kein Hochrisiko-KI-System vorliegt.
|-
!Einordnung neue Produkthaftungs-RL
|Die PHRL neu ist zwar bei reinen (nicht in Artikel 6 adressierten) Vermögensschäden nicht anwendbar (Artikel 6 PHRL ''e contrario''; Erwägungsgründe 23 und 24 PHRL neu), allerdings sehr wohl auf Vermögensschäden, die sich aus der "''Vernichtung oder Beschädigung von Daten''" ergeben, "''die nicht für berufliche Zwecke verwendet werden''" (Artikel 6 Absatz 2 in Verbindung mit Absatz 1 Buchstabe c PHRL neu). Dies würde nach dem Sachverhalt grundsätzlich zutreffen, jedenfalls sofern sich aus der Löschung der Dokumentdateien ein finanzieller Schaden ergibt. Dieser wäre dann prinzipiell ersatzfähig.
Weiters wären gemäß Artikel 6 Absatz 2 PHRL neu aber auch entsprechende immaterielle Schäden erfasst, soweit diese nach dem nationalen Recht ersatzfähig sind, was sich nach Erwägungsgrund 23 PHRL neu insbesondere auf ''Schmerzen und Leid'' beziehen soll. Diesbezüglich ist demnach insbesondere auch die konkrete nationale Umsetzung abzuwarten.

Bei dem Assistenzsystem handelt es sich um eine Software und damit grundsätzlich um ein ''Produkt'' im Sinne des Artikel 4 Ziffer 1 PHRL neu<ref>Prinzipiell ist in diesem Zusammenhang aber auch auf Software-as-a-Service-Modelle zu verweisen, die demnach anders zu beurteilen sein könnten.</ref>, gleichzeitig liegt aber auch eine Komponente im Sinne des Artikel 4 Ziffer 4 PHRL neu vor (in das Betriebssystem des Computers integrierter/verbundener nicht-körperlicher Gegenstand).<ref>Vgl grundlegend Erwägungsgrund 13 PHRL neu, sowie zur Produkteigenschaft von in ein anderes Produkt integrierten Komponenten zudem Erwägungsgrund 36 PHRL neu.</ref>

In der Folge wäre insbesondere zu überlegen, inwieweit eine Fehlerhaftigkeit des Assistenzsystems die jeweiligen Schäden verursacht hat.

Bei der Beurteilung der Fehlerhaftigkeit von Produkten sind gemäß Artikel 7 Absatz 2 PHRL neu grundsätzlich alle Umstände einzubeziehen, was insbesondere auch einschlägige Produktsicherheitsanforderungen, einschließlich sicherheitsrelevanter Cybersicherheitsanforderungen, betrifft (Buchstabe f). Daneben sind auch andere Aspekte in Artikel 7 Absatz 2 PHRL neu genannt. Sofern der Kläger den Nachweis erbringen würde, dass das Produkt '''verbindliche''' Produktsicherheitsanforderungen des Unions- oder nationalen Rechts verletzt, die vor dem Risiko des erlittenen Schadens schützen sollen, wäre die Fehlerhaftigkeit gemäß Artikel 10 Absatz 2 Buchstabe b sogar zu vermuten. In dem Zusammenhang würden prinzipiell insbesondere Regelungen des AI Act relevant erscheinen. Da die Cybersicherheitsanforderungen gemäß Artikel 15 AI Act nur auf Hochrisiko-KI-Systeme anwendbar sind (siehe [[Artificial Intelligence Act (AIA)#Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act)|Genauigkeit, Robustheit und Cybersicherheit]]), müsste die Fehlerhaftigkeit diesfalls aber anhand anderer Aspekte bzw Überlegungen hinsichtlich der Sicherheit, die eine Person erwarten darf oder die unions- oder nationalrechtlich vorgeschrieben ist, festgestellt werden.

'''Bei der''' '''Variante''' hingegen liegt nach dem Sachverhalt insbesondere der Schluss nahe, dass etwaig gegebene Informationspflichten gemäß Artikel 50 Absatz 1 AI Act nicht eingehalten wurden. Sofern man davon ausgeht, dass es sich dabei um verbindliche Produktsicherheitsanforderungen handelt, die vor dem Risiko entsprechender Schäden schützen sollen, und die Nutzerin eine entsprechende Verletzung nachweist, wäre die Fehlerhaftigkeit des Assistenzsystems als Produkt demnach zu vermuten.

Prinzipiell hätte der Kläger weiters den erlittenen Schaden und den Kausalzusammenhang zwischen diesem und der Fehlerhaftigkeit des Produkts nachzuweisen (Siehe im Detail Artikel 10 PHRL neu).

Gegebenenfalls können insbesondere Hersteller von Produkten für deren Fehlerhaftigkeit haftbar gemacht werden (Artikel 8 Absatz 1 Buchstabe a PHRL neu; vgl auch Erwägungsgrund 36 PHRL neu). Dies kann nach Erwägungsgrund 13 PHRL neu insbesondere auch der Anbieter eines KI-Systems gemäß AI Act sein. Unbeschadet dessen trifft die Haftung insbesondere auch den "''Hersteller einer fehlerhaften Komponente, wenn diese Komponente unter der Kontrolle des Herstellers in ein Produkt integriert oder damit verbunden wurde und die Fehlerhaftigkeit dieses Produkts verursacht hat''" (Artikel 8 Absatz 1 Buchstabe b PHRL neu). Nach dem Sachverhalt ist davon auszugehen, dass das Assistenzsystem unter der Kontrolle des Betriebssystem-Herstellers als Komponente in dieses integriert wurde, wobei das Betriebssystem als Software wiederum ein Produkt darstellen dürfte (vgl Erwägungsgrund 13 PHRL neu). Nach dem Sachverhalt ist weiters wohl davon auszugehen, dass das Betriebssystem wiederum unter der Kontrolle des Computer-Herstellers zur Komponente des Computers als wiederum eigenständiges Produkt im Sinne des Artikel 4 Ziffer 4 PHRL neu wurde. Gegebenenfalls könnte demnach jedenfalls der Anbieter des Assistenzsystems als Produkthersteller haftbar gemacht werden. Sofern das Assistenzsystem aber auch die jeweilige Fehlerhaftigkeit des Betriebssystems bzw des Computers verursacht hat, könnten gegebenenfalls auch deren Hersteller haftbar gemacht werden und unbeschadet dessen wiederum der Anbieter des Assistenzsystems als Komponentenhersteller (vgl Artikel 8 und insbesondere Erwägungsgrund 36 PHRL neu).

Je nach den Umständen des Falles kämen aber auch noch andere Wirtschaftsakteure für eine Haftung in Frage (vgl im Detail Artikel 8 PHRL neu).

Zwei oder mehrere für denselben Schaden haftbare Wirtschaftsakteure sollen nach Artikel 12 Absatz 1 PHRL neu prinzipiell solidarisch haftbar gemacht werden können (vgl allerdings insbesondere Absatz 2 zum unter Umständen möglichen Regress-Ausschluss).

Die Tatsache, dass im Grundfall (auch) die Handlungen eines Angreifers zu entsprechenden Schäden geführt hat, darf die Haftung der jeweiligen Wirtschaftsakteure prinzipiell nicht mindern oder ausschließen (vgl Artikel 13 Absatz 1, Erwägungsgrund 55 PHRL neu).
|}

==== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ====
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs an Patient*innen eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.

Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfarbe, weshalb das System Hautkrebs bei Personen mit dunklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Artikel 6 Absatz 1 AI Act.

Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Artikel 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Artikel 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung Vorschlag AI Liability Directive
|Nachdem ein KI-System im Sinne des AI Act vorliegt, wäre grundsätzlich auch die '''Kausalitätsvermutung''' nach dem Vorschlag AILD in einschlägigen Schadenersatzverfahren (wohl insbesondere gegen den KI-Anbieter; unter Umständen auch gegen die Klinik als Nutzer/Betreiber) relevant.
In Bezug auf den KI-Anbieter wäre aber wohl vor allem zu überlegen, inwieweit in Hinblick auf die fehlerhaften Ergebnisse der KI ein Verschulden des KI-Anbieters oder einer Person vorliegt, für deren Verhalten dieser verantwortlich wäre. Dies müsste prinzipiell in der Folge nachgewiesen werden (vgl Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD; siehe auch noch im Folgenden). Dieses Verschulden müsste bei entsprechenden Anbietern von Hochrisiko-KI wiederum in der Verletzung bestimmter Anforderungen des AI Act(-Vorschlag)s begründet sein. Darunter würde gemäß Artikel 4 Absatz 2 Buchstabe a Vorschlag AILD aber prinzipiell auch das Training mit Daten fallen, die nicht entsprechenden Qualitätskriterien des AI Act(-Vorschlags) (nunmehr Artikel 10 AI Act) entsprechen.
Weiters müsste auch die Kausalität der fehlerhaften Diagnose bzw Therapieempfehlungen für den geltend gemachten Schaden nachgewiesen werden (vgl Artikel 4 Absatz 1 Buchstabe c Vorschlag AILD). Zudem müsste wiederum auf der Grundlage der Umstände des Falls nach vernünftigem Ermessen davon ausgegangen werden können, dass das entsprechende Verschulden den beschriebenen Fehler des KI-Systems beeinflusst hat (vgl 4 Absatz 1 Buchstabe b Vorschlag AILD). Nach dem Sachverhalt erscheint zumindest eine Beeinflussung des fehlerhaften KI-Ergebnisses durch die Trainingsdaten naheliegend. Die Vermutung sollte schließlich gemäß Artikel 4 Absatz 7 Vorschlag AILD widerlegt werden können.
Im Übrigen hätte das im Sachverhalt beschriebene (potenziell fehlerbehaftete) Verhalten der Ärztin die fehlerhaften Ausgaben des KI-Systems prinzipiell nicht beeinflusst, weil es schließlich erst im Nachhinein (auf Basis ebenjener KI-Ausgaben) erfolgt wäre. Dies wäre wohl wiederum insbesondere bei entsprechenden Schadenersatzforderungen gegen die Klinik als vermutlichen Nutzer (Betreiber) des KI-Systems in Hinblick auf die Kausalitätsvermutung gemäß Vorschlag AILD relevant. Ein etwaiger Verstoß gegen die Pflicht zur Verwendung des (Hochrisiko-)KI-Systems nach seiner Gebrauchsanweisung (als Verstoß gegen dabei einschlägige Sorgfaltspflichten des Nutzers/Betreibers des KI-Systems<ref>Vgl Artikel 4 Absatz 3 Buchstabe a Vorschlag AILD und weiters insbesondere insbesondere Artikeln 13 und 29 Absatz 1 des AI-Act-Vorschlags; nunmehr prinzipiell Artikeln 13 und 26 Absatz 1 AI Act.</ref>) hätte aber wohl wiederum einen entsprechenden weiteren Ansatz in diesem Zusammenhang bieten können.

Aufgrund der Einordnung als Hochrisiko-KI-System gemäß AI Act wäre prinzipiell auch die '''Offenlegungspflicht''' gemäß Artikel 3 Vorschlag AILD einschlägig. Bei entsprechender gerichtlicher Anordnung (siehe zu den Voraussetzungen im Detail unter [[KI-Haftungsregelungen#Offenlegungspflicht (Artikel 3)|Offenlegungspflicht (Artikel 3)]]) müssten demnach einschlägige Beweismittel zu dem Kredit-Scoring-System, die dem Anbieter oder dem Nutzer (/Betreiber) vorliegen, offengelegt werden. Dies würde wohl insbesondere in Bezug auf die Dokumentation, Information und Protokollierung gemäß AI Act, vor allem in Hinblick auf die Trainingsdatenbasis relevant sein (vgl insbesondere Erwägungsgründe 16, 18 und 19 Vorschlag AILD; [[Artificial Intelligence Act (AIA)#Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act)|Anforderungen an Hochrisiko-KI-Systeme]]).

Würden die Beweismittel trotz entsprechender gerichtlicher Anordnung nicht offengelegt, sollte ein Sorgfaltspflichtverstoß gemäß Artikel 3 Absatz 5 Vorschlag AILD auch widerlegbar vermutet werden können, was wiederum insbesondere Beweismittel betreffen sollte, die Umstände rund um die Verletzung jener AI Act-Anforderungen durch den KI-Anbieter oder -Nutzer beweisen sollen, die für die Kausalitätsvermutung nach dem Vorschlag AILD relevant sein sollten (vgl Artikel 4 Absätze 2 und 3 Vorschlag AILD). Dies wäre im gegenständlichen Fall wie dargestellt vor allem in Bezug auf den KI-Anbieter (und dessen Pflichten nunmehr gemäß Artikel 10 AI Act) unter Umständen aber eben auch in Hinblick auf die Klinik als Nutzer von Relevanz. Diese Vermutung könnte gemäß Artikel 4 Absatz 1 Buchstabe a Vorschlag AILD wiederum auch für die Voraussetzungen der Kausalitätsvermutung bedeutsam sein.
|-
!Einordnung neue Produkthaftungs-RL
|Da es sich bei dem KI-System um eine Software und damit ein ''Produkt'' im Sinne des Artikel 4 Ziffer 1 PHRL neu handelt (vgl Erwägungsgrund 13 PHRL neu), wäre die PHRL neu grundsätzlich einschlägig.
Mit der entsprechenden Literatur wäre aber zu überlegen, inwieweit die PHRL neu auch Fälle abdeckt, bei denen auf Basis fehlerhafter Informationen als KI-Output erst eine schädigende Handlung gesetzt wird (siehe im Detail unter '''[[KI-Haftungsregelungen#Neuer Produktbegriff und grundlegender Regelungsgegenstand|neuer Produktbegriff und grundlegender Regelungsgegenstand]]''' mwN). Da das System hierbei allerdings auf Basis der Eingabedaten die fehlerhaften Ausgaben/Empfehlungen tendenziell selbst erzeugt (und nicht bloß übermittelt), wäre zumindest nach einem dargestellten Ansatz wohl prinzipiell eine Haftung denkbar.<ref name=":3" />

Weiters liegt ein nach dieser prinzipiell ersatzfähiger Schaden in Form der Körperverletzung vor (Artikel 6 Absatz 1 Buchstabe a PHRL neu).

Anschließend wäre zu überlegen, inwieweit das KI-System fehlerhaft war. Bei der Beurteilung der Fehlerhaftigkeit sind gemäß Artikel 7 Absatz 2 PHRL neu grundsätzlich alle Umstände einzubeziehen, was insbesondere auch einschlägige Produktsicherheitsanforderungen, wie wohl auch (gewisse) Regelungen des AI Act, betrifft (Buchstabe f). Sofern durch die Verletzung der Anforderungen an Trainingsdaten gemäß Artikel 10 AI Act gegen '''verbindliche''' unionsrechtliche Produktsicherheitsanforderungen verstoßen würde, die wohl durchaus vor dem Risiko des erlittenen Schadens schützen sollen<ref>Vgl insbesondere Erwägungsgrund 67 und Artikel 10 Absatz 2 Buchstabe f AI Act.</ref>, wäre die Fehlerhaftigkeit des KI-Systems als Produkt gemäß Artikel 10 Absatz 2 Buchstabe b PHRL neu zu vermuten, wenn der Kläger diesen Verstoß nachweist.<ref>Vgl in dem Zusammenhang auch die Ausführungen zur Beweismitteloffenlegung gemäß Vorschlag AILD, die wohl auch in dem Zusammenhang relevant wäre.</ref> Prinzipiell hätte der Kläger außerdem den erlittenen Schaden und den Kausalzusammenhang zwischen diesem und der Fehlerhaftigkeit des Produkts nachzuweisen (Siehe im Detail Artikel 10 PHRL neu).

Gegebenenfalls wäre prinzipiell insbesondere der Anbieter des KI-Systems als Hersteller haftbar (vgl Erwägungsgrund 13 PHRL neu). Je nach den Umständen des Falles kämen aber auch andere Wirtschaftsakteure für eine Haftung in Frage (vgl im Detail Artikel 8 PHRL neu).
|}

== Weiterführende Literatur ==

=== Versionen der Produkthaftungsrichtlinie ===

* Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte, COM(2022) 495 final

* Provisional Agreement Resulting From Interinstitutional Negotiations - Proposal for a directive of the European Parliament and of the Council on Liability for defective products (COM(2022)0495 – C9 0322/2022 – 2022/0302(COD))

* Richtlinie (EU) 2024/2853 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 über die Haftung für fehlerhafte Produkte und zur Aufhebung der Richtlinie 85/374/EWG des Rates, ABl L 18. 11. 2024

=== Fachliteratur und Ähnliches ===

* BeckOK KI-Recht/Bosman, 3. Ed. 1.8.2025, KI-VO Art. 24 Rn. 16
* BeckOK KI-Recht/Henke, 3. Ed. 1.8.2025, KI-VO Art. 16 Rn. 62
* ''B.A. Koch'', Zukunftsfähiges österreichisches Haftungsrecht, 22. ÖJT Band II/1
* ''Borges'', Liability for AI Systems Under Current and Future Law - An overview of the key changes envisioned by the proposal of an EU-directive on liability for AI, Computer Law Review International 1/2023
* ''Claßen'', Erhöhte Haftungsrisiken für Quasi-Hersteller in der EU, ZfPC 2025, 153
* ''Dötsch'', Außervertragliche Haftung für Künstliche Intelligenz am Beispiel von autonomen Systemen (2023)
* ''Ebers'', Haftung für Künstliche Intelligenz nach der neuen Produkthaftungsrichtlinie, KIR 2025, 252
* ''European Data Protection Supervisor'', Opion 42/2023 on the Porporsals for two Directives on AI liability rules, 11. 10. 2023
* ''European Parliamentary Research Service'', Artificial intelligence liability directive, PE 739.342, February 2023
* ''European Parliamentary Research Service'', Proposal for a directive on adapting non-contractual civil liability rules to artificial intelligence – Complementary impact assessment, PE 762.861, September 2024
* ''Handig'', Produkthaftung refurbished – Vorschlag der Kommission für eine neue ProdukthaftungsRL, ecolex 2023/107
* ''Hoeren/Pinelli'', Das neue Produkthaftungsrecht: Zwischen effektivem Verbraucherschutz und unternehmerischer Freiheit, MMR 2025, 767
* ''Joggerst/Wendt'', Die Weiterentwicklung der Produkthaftungsrichtlinie, InTeR 2021, 13
* ''Karner'' in ''Bydlinski/Perner/Spitzer'', KBB. ABGB. Kommentar zum ABGB7 (2023) § 1294 ABGB, § 1295 ABGB, § 1311 ABGB
* ''Larcher'', Medizinprodukte-Software: Abgrenzung und Produkthaftung, rdm 2018/100, 130
* ''Lutz'', Fahrzeugdaten: Datenzugangsansprüche, Sicherheitsrisiken und die neue Produkthaftungsrichtlinie, ZfPC 2025, 154
* ''Schenk'', Produkthaftung für falsche KI-Antworten nach der neuen Produkthaftungs-RL?, LTZ 2025, 184
* ''Thöne,'' Die „digitale“ Erweiterung der Produkthaftungsrichtlinie, MMR 2025, 408
* ''Veith/Walther'', Das Software-Update im Schadenersatzrecht, ÖJZ 2025/59
* ''Weiler/Bell/Wilkens'', Die neue Produkthaftungsrichtlinie - Auswirkungen auf und Implikationen für die Praxis, RIW 2025, 1
* ''Wendehorst'' in ''Martini/Wendehorst'', KI-VO. Verordnung über Künstliche Intelligenz. Kommentar (2024) Art 1
* ''Wendt'', KI-Strategie der EU ohne KI-Haftungs-RL?, ZfPC 2025, 45

=== Judikatur ===

* OGH 3. 8. 2021, 8 ObA 109/20t

=== Newsbeiträge und Ähnliches ===

* ''Imco'', New Product Liability Directive, https://www.europarl.europa.eu/committees/en/new-product-liability-directive/product-details/20230417CDT11482<nowiki/>(abgerufen am 21. 1. 2025)
* Legislative Train 10. 2024 - 2 A Europe Fit For The Digital Age - AI Liability Directive - Q4 2020, https://www.europarl.europa.eu/legislative-train/theme-legal-affairs-juri/file-ai-liability-directive (abgerufen am 26. 11. 2024)
* ''Redaktion beck-aktuell'', Verlag C.H.BECK, 11. September 2025 von js (dpa), Produkthaftung soll auch für KI und Software-Fehler gelten, https://beck-online.beck.de/Dokument?vpath=bibdata%2Freddok%2Fbecklink%2F2035621.htm&pos=16&hlwords=on (abgerufen am 29. 11. 2025).
* ''Schucht'', Die neue EU-Produkthaftungsrichtlinie 2024/2853, https://www.ibf-solutions.com/fachbeitraege/news-zur-eu-produkthaftungsrichtlinie (abgerufen am 28. 11. 2025)
* ''Tom Whittaker'', EU AI Liability Directive: An Update, in: Burges Salmon blog, https://blog.burges-salmon.com/post/102jfdv/eu-ai-liability-directive-an-update<nowiki/>(abgerufen am 26. 11. 2024)

=== Einzelnachweise ===

Artificial Intelligence Act (AIA)

2025-12-09T12:47:32Z

Walter: /* Kurzübersicht */ AILD Link in der Tabelle

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche Haftung ([[KI-Haftungsregelungen|AILD, von der Kommission zurückgezogen]])
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse.

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Diese sind seit 2. August 2025 in Geltung. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können (anknüpfend an die allgemeinen Rollendefinitionen des AI Act) folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref name=":3">Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 72 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Verwenden ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt.<ref>Zur Berechnung dieser Maßzahl siehe Annex der Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 117 ff.</ref> Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 Abs 1 AI Act):

# eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden
# Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
# eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
# eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen
Die Pflichten 1 und 2 "gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen [sic!] mit allgemeinem Verwendungszweck mit systemischen Risiken." (Art 53 Abs 2 AI Act) In den Leitlinien der Kommission ist die (strenge) Auslegung der einzelnen Kriterien dieser Definition ausführlich dargelegt.<ref name=":3" />

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 Abs 1 AI Act):

# eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
# mögliche systemische Risiken auf Unionsebene bewerten und mindern
# einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
# ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten
Details zur Umsetzung insbesondere dieser risiko- und sicherheitsbezogenen Pflichten sind im Kapitel Sicherheit des [https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice] festgelegt. Siehe dazu sogleich.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie ihre Pflichten nach Art 53 Abs 1 und Art 55 Abs 1 AI Act erfüllen.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act, Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 94 sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit sollen Rechtssicherheit geschaffen sowie Compliance und Vollzug vereinfacht werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

Das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (cenelec) wurden mittels Durchführungsbeschluss aufgefordert, bis zum 30. April 2025 bestimmte angeführte Normen auzuarbeiten.<ref>Vgl https://ec.europa.eu/growth/tools-databases/enorm/mandate/593_en</ref> Der ursprüngliche Zeitplan konnte nicht eingehalten werden und es erfolgte eine neuerliche Fristverlängerung mittels eines neuerlichen Durchführungsrechtsaktes.<ref>Vgl Commisson Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 <nowiki>https://ec.europa.eu/transparency/documents-register/detail?ref=C(2025)3871&lang=en</nowiki></ref> Seit November 2025 liegt der erste Entwurf einer harmonisierten Norm zum Qualitätsmanagement "EprEN 18286, Artificial intelligence – Quality management system for EU AI Act regulatory purposes nach Art 17 AI Act zur öffentlichen Kommentierung vor.<ref>Vgl https://adamleonsmith.substack.com/p/pren-18286</ref> Die Konsultation zu diesem Normentwurf läuft bis zum 22. Jänner 2026. In den kommenden Monaten sollen weitere Normentwürfe folgen – unter anderem zu Risikomanagement, Cybersicherheit, Vertrauenswürdigkeit und Konformitätsbewertung.

Zudem verabschiedenen CEN/cenelec im Oktober 2025 ein Maßnahmenpaket, um die Fertigstellung wichtiger Normen, die im Rahmen von CEN-CLC/JTC 21 „Künstliche Intelligenz” entwickelt wurden, sowie der im Rahmen des Normungsantrags M/593 (und seiner Änderung M/613) geforderten Ergebnisse zu beschleunigen. Diese Maßnahmen betreffen eine Reihe von Arbeitspunkten, die die technische Grundlage für die künftigen europäischen Normen zur Unterstützung des KI-Gesetzes bilden. Die Vorstände kamen überein, im Falle einer positiven Abstimmung über die Anfrage die direkte Veröffentlichung der Entwürfe ohne separate formelle Abstimmung zuzulassen und CEN-CLC/JTC 21 zu beauftragen, eine kleine Redaktionsgruppe aus bereits aktiven Experten einzurichten, um sechs der am stärksten verzögerten Entwürfe fertigzustellen, bevor sie den jeweiligen Arbeitsgruppen zur Information und für abschließende Kommentare vorgelegt werden.<ref>Vgl https://www.cencenelec.eu/news-events/news/2025/brief-news/2025-10-23-ai-standardization/</ref>

Als Reaktion auf die verzögerten Standards im Entwurf Digital Omnibus on AI Regulation Proposal<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744</ref> bestimmte Maßnahmen vorgeschlagen, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des AI-Acts sicherzustellen. Als eine Maßnahme wurde dabei die Kopplung des Zeitplans für die Umsetzung der Vorschriften für hohe Risiken an die Verfügbarkeit von Normen vorgeschlagen.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Regulation on electronic identification and trust services (eIDAS)

2025-12-09T12:01:01Z

Walter: /* European Digital Identity Wallet (EUDIW) */ Präzisierung zu den Durchführungsrechtsakten

'''Änderung durch''' {{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1183|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1183 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Änderung der Verordnung (EU) Nr. 910/2014 im Hinblick auf die Schaffung des europäischen Rahmens für eine digitale Identität|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS (2.0)|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1183, 1|Anzuwenden=21. Mai 2026/2027 (Übergangsbestimmungen)|Gültig=inkraft}}'''Ursprungsrechtsakt'''{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2014|Nummer=910|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) Nr. 910/2014 des Europäischen Parlaments und des Rates vom 23. Juli 2014 über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen im Binnenmarkt und zur Aufhebung der Richtlinie 1999/93/EG|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2014/257, 73|Anzuwenden=1. Juli 2016 (mit Ausnahmen)|Gültig=anwendbar}}

== Einführung ==
Die Abkürzung eIDAS steht für "electronic IDentification, Authentication and Trust Services". Die ursprüngliche Fassung der eIDAS-VO wurde im Jahr 2014 beschlossen. Sie umfasst zwei Regelungsgegenstände, die völlig unabhängig voneinander behandelt werden,

* die elektronische Identifizierung sowie
* Vertrauensdienste, wie insbesondere elektronische Signaturen.

Die eIDAS-VO enthält zudem eine ganz allgemeine Grundregel für elektronische Dokumente: "Einem elektronischen Dokument darf die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil es in elektronischer Form vorliegt" (Art 46 eIDAS-VO). Der Begriff elektronisches Dokument ist dabei sehr weit definiert als jeder in elektronischer Form, insbesondere als Text-, Ton-, Bild- oder audiovisuelle Aufzeichnung gespeicherte Inhalt (Art 3 Z 35 eIDAS-VO).

Die Rahmenbedingungen für elektronische Signaturen bauen auf der Signaturrichtlinie auf, die seit 1999 gegolten hatte. Betreffend die Vertrauensdienste enthielt die IDAS-VO von 2014 bereits europaweit einheitliche Regeln (Harmonisierung), betreffend die elektronische Identifizierung regelte diese hingegen nur grenzüberschreitende Aspekte. Sie versuchte, Interoperabilität zwischen den verschiedenen nationalen elektronischen Identifizierungssystemen der Mitgliedstaaten herzustellen, indem sie deren gegenseitige Anerkennung durch die Mitgliedstaaten für deren E-Government-Services normiert. Vorschriften, wie diese gestaltet sein müssen, eine Verpflichtung zur Anerkennung im Privatsektor oder eine Verpflichtung, dass jeder Mitgliedsaat überhaupt ein elektronisches Identifizierungssystem haben müsse, enthielt sie nicht. Dies führte dazu, dass elektronische Identifizierungssysteme nicht in allen Mitgliedstaaten gleichermaßen zur Verfügung standen und ihre Verbreitung teilweise gering blieb, insbesondere in Bezug auf die Verwendung im privaten Sektor.<ref>[https://digital-strategy.ec.europa.eu/de/policies/eudi-regulation Europäische Kommission, Verordnung über die europäische digitale Identität (EUDI)]</ref>

Um diese Mängel zu beheben, wurde eine umfangreiche Novellierung der eIDAS-VO erarbeitet – bekannt als eIDAS 2.0 – die am 20. Mai 2024 in Kraft trat. Als zentrale Neuerung treten neben die Interoperabilität der nationalen elektronischen Identifizierungssysteme einheitliche Vorgaben für eine „Europäische Brieftasche für die Digitale Identität“ („European Digital Identity Wallet“, kurz EUDI-Wallet, <abbr>EUDI</abbr>-Brieftasche oder EUDIW). Bis Herbst 2026 müssen alle EU-Mitgliedstaaten ihren Bürger*innen eine solche Wallet anbieten, mit der sie sich online und offline ausweisen können, insbesondere auch gegenüber Unternehmen, sowie Attribute aller Art nachweisen können, vom Altersnachweis über Zeugnisse bis hin zu Tickets. Die Nutzung soll freiwillig und kostenfrei sein.

Betreffend Vertrauensdienste enthielt die eIDAS-VO bereits bisher Regelungen zu Vertrauensdiensteanbietern sowie zu folgenden spezifischen Vertrauensdiensten:

* Elektronische Signaturen
* Elektronische Siegel
* Elektronische Zeitstempel
* Dienste für die Zustellung elektronischer Einschreiben
* Website-Authentifizierung

Mit der Novellierung 2024 wurden einige dieser Regelungen angepasst und es traten Regelungen zu folgenden neunen Vertrauensdiensten hinzu:

* Elektronische Attributsbescheinigung
* Elektronische Archivierungsdienste
* Elektronische Journale (electronic ledgers)
Die Regulierung ist im Detail nicht abgeschlossen, denn die novellierte eIDAS-VO sieht insgesamt ca. 40 Durchführungsrechtsakte vor, die zahlreiche teils sehr relevante Umsetzungsdetails regeln werden. Sie müssen entweder 6, 12 oder 24 Monate nach Inkrafttreten der eIDAS-VO vorliegen, manche sind jedoch optional. Wegen ihrer hohen Anzahl kann hier nicht auf alle näher eingegangen werden. Mit Stand November 2025 liegen zahlreiche Durchführungsverordnungen der Kommission bereits vor,<ref>Eine stets aktualisierte komplette Liste aller eIDAS-Durchführungsrechtsakte findet sich hier: ''Europäische Kommission,'' European Digital Identity Wallet, https://eudi.dev/latest/</ref> insbesondere zur Ausgestaltung der EUDIW, siehe dazu [https://wiki.atlaws.eu/index.php/Regulation_on_electronic_identification_and_trust_services_(eIDAS)#Umsetzungsstand_und_Pilotprojekte_der_EUDIW unten], andere befinden sich in öffentlicher Konsultation.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives_de?text=European%20Digital%20Identity%20Wallets Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Schlüsselwort "European Digital Identity Wallets"]</ref>

== Zentrale Inhalte ==

=== Elektronische Identifizierung ===
Die elektronische Identifizierung ist in Art 3 Z 1 eIDAS-VO definiert als "der Prozess der Verwendung von Personenidentifizierungsdaten in elektronischer Form, die eine natürliche oder juristische Person oder eine natürliche Person, die eine andere natürliche Person oder eine juristische Person vertritt, eindeutig repräsentieren." Ein elektronisches Identifizierungsmittel ist "eine materielle und/oder immaterielle Einheit, die Personenidentifizierungsdaten enthält und zur Authentifizierung bei Online-Diensten oder gegebenenfalls bei Offline-Diensten verwendet wird" (Art 3 Z 2 eIDAS-VO). Die Authentifizierung ist "ein elektronischer Prozess, der die Bestätigung der elektronischen Identifizierung einer natürlichen oder juristischen Person oder die Bestätigung des Ursprungs und der Unversehrtheit von Daten in elektronischer Form ermöglicht" (Art 3 Z 5 eIDAS-VO). Die natürliche oder juristische Person, der gegenüber sich ein Individuum identifiziert und/oder bestimmte Eigenschaften (Attribute) nachweist, die also, wie es die Definition in Art 3 Z 6 eIDAS-VO formuliert, "auf eine elektronische Identifizierung, europäische Brieftaschen für die Digitale Identität oder andere Mittel zur elektronischen Identifizierung oder einen Vertrauensdienst vertraut", wird "vertrauender Beteiligter" genannt, in direkter Übersetzung des wesentlich gebräuchlicheren englischen Begriffs "relying party".

Die eIDAS-VO sieht drei Sicherheitsniveaus für elektronische Identifizierungsmittel vor, „niedrig“, „substanziell“ und „hoch“. Die Kriterien für diese Sicherheitsniveaus sind in Art 8 eIDAS-VO sowie in Durchführungsrechtsakten festgelegt.

==== European Digital Identity Wallet (EUDIW) ====
Die "Europäische Brieftasche für die Digitale Identität“, wie sie auf Deutsch heißt, "ist ein elektronisches Identifizierungsmittel, das es dem Nutzer ermöglicht, Personenidentifizierungsdaten und elektronische Attributsbescheinigungen sicher zu speichern, zu verwalten und zu validieren, um sie vertrauenden Beteiligten und anderen Nutzern von europäischen Brieftaschen für die Digitale Identität zu präsentieren und mittels qualifizierter elektronischer Signaturen zu unterzeichnen oder mittels qualifizierter elektronischer Siegel zu besiegeln" (Art 3 Z 43 eIDAS-VO). Hervorzuheben ist, dass die EUDIW somit selbst ein elektronisches Identifizierungsmittel ist und zwar auf der Sicherheitsstufe "hoch" (Art 5a Abs 4 lit d eIDAS-VO).

Jeder Mitgliedstaat muss bis spätestens 24.12.2026<ref>Art 5a Abs 1 legt diesen Zeitpunkt auf 24 Monate nach dem Inkrafttreten der entsprechenden Durchführungsrechtsakte fest, die am 4.12.2024 veröffentlicht wurden und 20 Tage danach in Kraft traten.</ref> zumindest ein EUDIW bereitstellen (Art 5a Abs 1 eIDAS-VO). Dies kann unmittelbar durch den Mitgliedstaat erfolgen oder in dessen Auftrag oder unabhängig von diesem, aber von diesem anerkannt (Art 5a Abs 2 eIDAS-VO). Der "Quellcode der Anwendungssoftwarekomponenten" der EUDIW muss gemäß Art 5a Abs 3 eIDAS-VO einer Open-Source-Lizenz unterliegen, wobei eine Ausnahmen vorgesehen ist für bestimmte "Komponenten, die nicht auf den Geräten des Nutzers installiert sind".

===== Funktionen der EUDIW =====
Die Funktionalität eines EUDIW ist in Art 5a Abs 4 eIDAS-VO wie folgt festgelegt:

* das sichere Anfordern, Erhalten, Auswählen, Kombinieren, Speichern, Löschen, Weitergeben und Vorweisen — unter alleiniger Kontrolle durch den Nutzer — elektronischer Attributsbescheinigungen und von Personenidentifizierungsdaten und, falls anwendbar, in Kombination mit elektronischen Attributsbescheinigungen, gegenüber vertrauenden Beteiligten, um sich online und, gegebenenfalls, offline für den Zugang zu öffentlichen und privaten Diensten zu authentifizieren, bei gleichzeitiger Sicherstellung, dass eine selektive Offenlegung von Daten möglich ist;
* das Generieren von Pseudonymen und deren verschlüsselte und lokale Speicherung in der EUDIW;
* die sichere Authentifizierung der EUDIW einer anderen Person und das Empfangen und Austauschen — zwischen den beiden EUDIW — von Personenidentifizierungsdaten und elektronischen Attributsbescheinigungen;
* den Zugang zur Protokollierung aller über die EUDIW vorgenommenen Transaktionen über ein gemeinsames Dashboard, sodass der Nutzer in der Lage ist,
** eine aktuelle Auflistung der vertrauenden Beteiligten, mit denen der Nutzer eine Verbindung aufgebaut hat, und, falls anwendbar, alle weitergegebenen Daten einzusehen;
** einen vertrauenden Beteiligten auf einfache Weise um die Löschung personenbezogener Daten gemäß Artikel 17 der Verordnung (EU) 2016/679 durch einen vertrauenden Beteiligten zu ersuchen;
** eine Meldung auf einfache Weise an die zuständige nationale Datenschutzbehörde zu erstatten, wenn ein mutmaßlich unrechtmäßiges oder verdächtiges Ersuchen um Daten eingegangen ist;
* das Unterzeichnen mit qualifizierten elektronischen Signaturen oder das Siegeln mit qualifizierten elektronischen Siegeln;
* – soweit technisch möglich — das Herunterladen von Nutzerdaten, elektronischen Attributsbescheinigungen und Konfigurationen;
* die Ausübung der Rechte des Nutzers auf Datenübertragbarkeit.

Diese Funktionen muss ein EUDIW "in transparenter und nachvollziehbarer Weise ermöglichen". Darüber hinaus können die Mitgliedstaaten zusätzliche Funktionen vorsehen (Art 5a Abs 7 eIDAS-VO). Hervorzuheben ist zum ersten Punkt, dass auch eine Verwendung der EUDIW offline, also ohne Internetverbindung und somit ohne Beteiligung eines Servers, vorgesehen ist, eingeschränkt durch den Begriff "gegebenenfalls" bzw. in der englischsprachigen Fassung etwas aussagekräftiger "where appropriate", sowie die selektive Offenlegung von Daten. Auch die Verwendung des EUDIW auf der Empfängerseite einer Transaktion und somit horizontal zwischen Nutzern ist hervorzuheben (dritter Punkt).

Nur in den Erwägungsgründen findet sich die Anforderung, dass die Mitgliedstaaten "verschiedene Technologien zum Schutz der Privatsphäre, beispielsweise Zero-Knowledge-Proof (Null-Wissens-Beweis)", in die EUDIW integrieren "sollten". "Diese kryptografischen Methoden sollten es einem vertrauenden Beteiligten ermöglichen, die Richtigkeit einer bestimmten Aussage, die auf der Grundlage der Identifizierungsdaten und der Attributsbescheinigung in der europäischen Brieftasche für die Digitale Identität eines Nutzers erfolgt, zu validieren, ohne dass Daten, auf denen die Aussage beruht, preisgegeben werden, wodurch die Privatsphäre des Nutzers gewahrt bleibt" (ErwGr 14).

Die Ausstellung, die Verwendung und der Widerruf von EUDIW muss für alle natürlichen Personen kostenlos sein (Art 5a Abs 12 eIDAS-VO). Ebenso muss das Unterzeichnen mit qualifizierten elektronischen Signaturen mittels EUDIW für alle natürlichen Personen kostenlos sein (Art 5a Abs 5 lit g eIDAS-VO), wobei die Mitgliedstaaten verhältnismäßige Maßnahmen treffen können, um dies auf nichtgewerbliche Zwecke zu beschränken.

Während die Nutzer nationaler eIDs über nationale eIDAS-Knoten mit der jeweiligen Anwendung interagieren, kommuniziert die EUDIW direkt mit der jeweiligen Anwendung, sodass es einheitlicher Protokolle und Schnittstellen bedarf, deren Funktionalität in Art 5a Abs 5 lit a eIDAS-VO detailliert festgelegt ist.

===== Datenschutz und Datensicherheit =====
Aufgrund der potenziellen Datenschutzrisiken, die ein Identitätsmanagementsystem mit sich bringen kann, insbesondere wenn es weiträumig und umfassend verwendbar ist, war der Datenschutz im Entstehungsprozess von eIDAS 2.0 und in der Phase der Ausarbeitung der Durchführungsrechtsakte ein vieldiskutiertes Thema. Wesentliche Datenschutzrisiken von Identitätsmanagementsystemen und die entsprechenden Anforderungen im Sinne des Gebots der Datenminimierung sind:<ref>Siehe dazu ausführlich ''Hötzendorfer'', Datenschutz und Privacy by Design im Identitätsmanagement, Österreichische Computer Gesellschaft (OCG), Wien, 2016.</ref>

* Überidentifikation: Die betroffene Person sollte bei einer Transaktion nur jene Daten offenlegen müssen, die für die Transaktion erforderlich sind, und insbesondere ihre Identität nur dann offenlegen müssen, wenn diese für die Transaktion erforderlich ist.
* Verknüpfung von Transaktionen: Transaktionen, die nichts miteinander zu tun haben, und Daten, die jeweils in diesen Transaktionen offengelegt werden, sollten nicht miteinander in Verbindung gebracht werden können (Unverknüpfbarkeit). Praktisch bedeutet das vor allem, ein vertrauender Beteiligter sollte nicht erkennen können, dass zwei Transaktionen derselben anonymen Person, die beispielsweise nur ihre Volljährigkeit nachweist, von derselben Person stammen.
* Beobachtung des Nutzerverhaltens: Eine zentrale Stelle, wie im vorliegenden Kontext der Anbieter des EUDIW, oder ein Aussteller von Identitäts- oder Attributsdaten, sollte nicht in der Lage sein, zu beobachten, für welche Zwecke und wem gegenüber die betroffene Person ihre Identität und/oder bestimmte Attribute nachweist (Unbeobachtbarkeit).

Der Beobachtung des Nutzerverhaltens, oder vielmehr zumindest dessen Auswertung soll insbesondere die Bestimmung des Art 5a Abs 14 eIDAS-VO entgegenwirken, die Folgendes normiert:

* Die Nutzer haben die uneingeschränkte Kontrolle über die Nutzung ihrer EUDIW und über die darin enthaltenen Daten.
* Der Anbieter der EUDIW sammelt weder Informationen über die Nutzung der EUDIW, die für die Erbringung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, noch kombiniert er Personenidentifizierungsdaten oder andere gespeicherte oder im Zusammenhang mit der Verwendung der EUDIW stehende personenbezogene Daten mit personenbezogenen Daten aus anderen vom Anbieter angebotenen Diensten oder aus Diensten Dritter, die für die Bereitstellung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, es sei denn, der Nutzer hat dies ausdrücklich anders verlangt.
* Personenbezogene Daten in Bezug auf die Bereitstellung der EUDIW werden vom Anbieter der europäischen Brieftasche für die Digitale Identität von allen anderen gespeicherten Daten logisch getrennt gehalten.

Einer strikten Umsetzung des Datenminimierungsgebots dahingehend, dass die Daten zur Nutzung gar nicht erst gespeichert werden, steht wohl das Erfordernis der Protokollierung aller über die EUDIW vorgenommenen Transaktionen in Art 5a Abs 4 lit d eIDAS-VO entgegen.

Art 5a Abs 14 eIDAS-VO betrifft sowohl die Unbeobachtbarkeit als auch die Unverknüpfbarkeit und normiert, dass der technische Rahmen der EUDIW

* es Anbietern elektronischer Attributsbescheinigungen oder anderen Parteien nach Ausstellung der Attributsbescheinigung nicht erlauben darf, Daten zu erhalten, die es ermöglichen, Transaktionen oder Nutzerverhalten zu verfolgen, zu verknüpfen, zu korrelieren oder Kenntnisse über Transaktionen oder das Nutzerverhalten anderweitig zu erlangen, es sei denn, der Nutzer hat dies ausdrücklich genehmigt, und
* technische Verfahren zum Schutz der Privatsphäre ermöglichen muss, die die Unverknüpfbarkeit gewährleisten, wenn die Attributsbescheinigung keine Identifizierung des Nutzers erfordert.
Die zentrale Maßnahme der eIDAS-VO gegen Überidentifikation ist die Registrierungsnotwendigkeit für vertrauende Beteiligte (Art 5b eIDAS-VO): Ein vertrauende Beteiligter, der für die Bereitstellung öffentlicher oder privater Dienste auf die EUDIW zurückzugreifen möchte, muss sich in dem Mitgliedstaat, in dem er niedergelassen ist, registrieren. Dabei muss er angeben, welche Daten er von den Nutzern anzufordern beabsichtigt (in ErwGr 17 der eIDAS-VO ist auch davon die Rede, dass dies zu begründen ist), und nur diese darf er dann im Zuge von Transaktionen tatsächlich anfordern, wie in Art 5b Abs 3 ausdrücklich festgelegt ist. Die bei der Registrierung gemachten Angaben sind von den Mitgliedstaaten online zu veröffentlichen, in elektronisch signierter oder besiegelter Form, die für eine automatisierte Verarbeitung geeignet ist. Flankiert wird diese Maßnahme von der Verpflichtung vertrauender Beteiligter, sich gegenüber den Nutzern zu identifizieren und Pseudonyme nicht zu verweigern, wenn die Identifizierung des Nutzers nicht im Unionsrecht oder im nationalen Recht vorgeschrieben ist. Die betreffende Durchführungsverordnung zur Registrierung vertrauender Beteiligter ([https://eur-lex.europa.eu/eli/reg_impl/2025/848/oj 2025/848]) kann als Aufweichung dieser Prinzipien verstanden werden, da sie in Art 8 Mitgliedstaaten nicht verpflichtet, einer Zertifizierungsbehörde die Befugnis zur Ausstellung von Registrierungszertifikaten für vertrauende Beteiligte zu erteilen.<ref>Man könnte argumentieren, da dies nicht Art 5b Abs 3 eIDAS-VO in Verbindung mit dem Gebot des Art 25 DSGVO zum Datenschutz durch Technikgestaltung und durch datenschutzfreundliche Voreinstellungen entspricht, kann dies nicht so auszulegen sein. Jedenfalls scheint es aber so intendiert gewesen zu sein, denn ErwGr 10 der Durchführungsverordnung 2025/848 spricht tatsächlich den Fall an, dass ein "vertrauender Beteiligter mehr Informationen abfragt als diejenigen, für die er registriert oder zugangsberechtigt ist". </ref> Dieser Aspekt wurde im Zuge der Konsultation trotz deutlicher Kritik<ref>Siehe dazu insbesondere den offenen Brief der Zivilgesellschaft vom 20. Jänner 2025, https://epicenter.works/content/zivilgesellschaft-fordert-eu-kommission-muss-schlupfloecher-in-der-eid-schliessen.</ref> nicht geändert und führt nun dazu, dass die Rechtmäßigkeit dieser Bestimmung der Durchführungsverordnung angesichts der soeben wiedergegeben verbindlichen Regeln der EIDAS-VO in Frage steht.<ref name=":0">[https://netzpolitik.org/2024/digitale-identitaeten-faule-eier-der-kommission/ ''Leisegang'', Faule Eier der Kommission, Netzpolitik.org, 05.12.2024] sowie [https://netzpolitik.org/2025/digitale-brieftasche-eu-kommission-oeffnet-schlupfloecher-fuer-ueberidentifikation/ Leisegang, EU-Kommission soll „Schlupflöcher“ bei digitaler Brieftasche schließen, 02.04.2025] </ref>

Art 5a Abs 12 eIDAS-VO legt zudem fest, dass die EUDIW "security-by-design" sicherstellen müssen, was im deutschen Verordnungstext damit übersetzt wird, dass sie "mit ‚konzeptintegrierter Sicherheit‘ auszustatten" sind. Art 5a Abs 5 eIDAS-VO normiert eine Pflicht zur Verständigung der Nutzer über Sicherheitsverletzungen. Näheres zu Konsequenzen von Sicherheitsverletzungen ist in Art 5e eIDAS-VO vorgesehen.

In Art 5c eIDAS-VO ist das Erfordernis der Zertifizierung jedes EUDIW geregelt, unter Bezugnahme auf den [[Cyber Security Act (CSA)|Cyber Security Act]]. Alle zertifizierten EUDIW werden die im Amtsblatt der Europäischen Union veröffentlicht und in einer maschinenlesbaren Liste geführt (Art 5d eIDAS-VO).

Auch die Bestimmung über die Freiwilligkeit der Nutzung (Art 5a Abs 14 eIDAS-VO) dient - neben dem Hauptzweck der Nichtdiskriminierung - gewissermaßen auch Datenschutzzwecken. Sie normiert zusätzlich folgende Anforderungen, damit eine Freiwilligkeit auch faktisch besteht:

* Natürliche oder juristische Personen, die die EUDIW nicht nutzen, dürfen in ihrem Zugang zu öffentlichen und privaten Diensten und zum Arbeitsmarkt sowie in ihrer unternehmerischen Freiheit in keiner Weise eingeschränkt oder benachteiligt werden.
* Der Zugang zu öffentlichen und privaten Diensten muss weiterhin über andere bestehende Identifizierungs- und Authentifizierungsmittel möglich sein.

===== Annahmepflichten der EUDIW =====
In drei verschiedenen Konstellationen ist eine Verpflichtungen zur Akzeptanz des EUDIW vorgesehen (Art 5f eIDAS-VO):

* Wenn Mitgliedstaaten für einen E-Government-Dienst eine elektronische Identifizierung und Authentifizierung verlangen, müssen sie dafür auch die EUDIW akzeptieren.
* Sind private vertrauende Beteiligte, die Dienste erbringen — mit Ausnahme von Kleinst- und kleinen Unternehmen im Sinne von Art 2 des Anhangs der Empfehlung 2003/361/EG der Kommission<ref>[https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32003H0361 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (2003/361/EG) (ABl. L 124 vom 20.5.2003, S. 36).]</ref> –, nach Unionsrecht oder nationalem Recht verpflichtet, eine Online-Identifizierung mit starker Nutzerauthentifizierung vorzunehmen, oder ist eine Online-Identifizierung mit starker Nutzerauthentifizierung vertraglich vorgeschrieben, auch in den Bereichen Verkehr, Energie, Bankenwesen, Finanzdienstleistungen, soziale Sicherheit, Gesundheit, Trinkwasser, Postdienste, digitale Infrastrukturen, Bildung oder Telekommunikation, so akzeptieren diese privaten vertrauenden Beteiligten hierfür spätestens 36 Monate nach dem Tag des Inkrafttretens der Durchführungsrechtsakte gemäß Art 5a Abs 23 und Art 5c Abs 6 eIDAS-VO und nur auf freiwilliges Verlangen des Nutzers auch EUDIW. Der Begriff starke Nutzerauthentifizierung kann grundsätzlich als 2-Faktor-Authentifizierung verstanden werden und ist in Art 3 Z 51 eIDAS-VO näher definiert.
* Verlangen Anbieter sehr großer Online-Plattformen gemäß Art 33 [[Digital Services Act (DSA)|Digital Services Act]] für den Zugang zu Online-Diensten eine Nutzerauthentifizierung, so akzeptieren und erleichtern sie hierfür auch die Verwendung von EUDIW, und zwar nur auf freiwilliges Verlangen des Nutzers und nur mit den Mindestdaten, die für den spezifischen Online-Dienst, für den die Authentifizierung verlangt wird, erforderlich sind.

===== Umsetzungsstand und Pilotprojekte der EUDIW =====
Zur Vorbereitung des Roll-outs der EUDIW koordiniert die Kommission über die sog. „Toolbox“ und das Architecture and Reference Framework (ARF) die technische Zusammenarbeit der Mitgliedstaaten. Das [https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework ARF] wird regelmäßig aktualisiert und dient als Referenzdokument für Wallet-Implementierungen, Schnittstellen und Sicherheitsanforderungen.<ref>[https://eudi.dev/latest/ ''Europäische Kommission,'' European Digital Identity]</ref>

Parallel dazu laufen mehrere von der EU kofinanzierte „Large Scale Pilot“-Projekte, in deren Rahmen der Einsatz der EUDIW in verschiedenen grenzüberschreitenden Use Cases (zB E-Government, Führerschein, Bankkonteneröffnung) praktisch getestet wird.<ref>[https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487808/What%2Bare%2Bthe%2BLarge%2BScale%2BPilot%2BProjects European Commission, What are the Large Scale Pilots]</ref>

Am 4. Dezember 2024 wurden fünf Durchführungsverordnungen veröffentlicht, die ua Personenidentifizierungsdaten und elektronische Attributsbescheinigungen ([https://eur-lex.europa.eu/eli/reg_impl/2024/2977/oj DurchführungsVO (EU) 2024/2977]), die Integrität und Kernfunktionen der Wallet ([https://eur-lex.europa.eu/eli/reg_impl/2024/2979/oj 2024/2979]), die Notifizierung bezüglich des Wallet-Ökosystems ([https://eur-lex.europa.eu/eli/reg_impl/2024/2980/oj 2024/2980]), die Zertifizierung von Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2024/2981/oj 2024/2981]) sowie die zu unterstützenden Protokolle und Schnittstellen ([https://eur-lex.europa.eu/eli/reg_impl/2024/2982/oj 2024/2982]) konkretisieren.

Am 7. Mai 2025 folgte eine zweite Runde von Durchführungsverordnungen, ua zum grenzüberschreitenden Identitätsabgleich natürlicher Personen ([https://eur-lex.europa.eu/eli/reg_impl/2025/846/oj 2025/846]), zur Reaktion auf Sicherheitsverletzungen von Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2025/847/oj 2025/847]), zur Registrierung vertrauender Beteiligter ([https://eur-lex.europa.eu/eli/reg_impl/2025/848/oj 2025/848]), sowie zur Übermittlung von Informationen an die Kommission und die Kooperationsgruppe für die Liste zertifizierter Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2025/849/oj 2025/849]).

==== Gegenseitige Anerkennung mitgliedstaatlicher elektronischer Identifizierungsmittel ====
Neben den 2024 neu eingeführten EUDIW enthält die eIDAS-VO in den Art 6ff auch die bisherigen Bestimmungen zu elektronischen Identifizierungssystemen mit dem Schwerpunkt der gegenseitigen Anerkennung durch die Mitgliedstaaten notifizierter elektronischer Identifizierungssysteme. Kernbestimmung ist die Verpflichtung der Mitgliedstaaten, wenn für einen E-Government-Dienst nach nationalem Recht oder aufgrund der Verwaltungspraxis eine elektronische Identifizierung mit einem elektronischen Identifizierungsmittel auf dem Sicherheitsniveau „substanziell“ oder „hoch“ und mit einer Authentifizierung erforderlich ist, auch in einem anderen Mitgliedstaat ausgestellte elektronische Identifizierungsmittel des gleichen oder eines höheren Sicherheitsniveaus für Zwecke der grenzüberschreitenden Authentifizierung anzuerkennen (Art 6 Abs 1 eIDAS-VO). Die dafür erforderliche Notifizierung des elektronischen Identifizierungssystems durch den jeweiligen Mitgliedstaat und die Voraussetzungen dafür sind in Art 7 und 9 eIDAS-VO näher geregelt. Österreich hat im Jahr 2022 die ID Austria notifiziert.<ref>''Kustor'', Vortrag zu eIDAS 2.0, Innovation Day 2023 https://www.youtube.com/watch?v=_JgS_4e1Qs4</ref>

=== Vertrauensdienste ===
Vertrauensdiensteanbieter (Art 3 Z 19 eIDAS-VO) ist, wer einen Vertrauensdienst erbringt (oder mehrere), das ist ein elektronischer Dienst, der in der Regel gegen Entgelt erbracht wird und aus irgendeiner der folgenden Tätigkeiten besteht (Art 3 Z 19 eIDAS-VO):

* Ausstellung von Zertifikaten für elektronische Signaturen, von Zertifikaten für elektronische Siegel, von Zertifikaten für die Website-Authentifizierung oder von Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Validierung von Zertifikaten für elektronische Signaturen, Zertifikaten für elektronische Siegel, Zertifikaten für die Website-Authentifizierung oder Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Erstellung elektronischer Signaturen oder elektronischer Siegel;
* Validierung elektronischer Signaturen oder elektronischer Siegel;
* Bewahrung von elektronischen Signaturen, elektronischen Siegeln, Zertifikaten für elektronische Signaturen oder Zertifikaten für elektronische Siegel;
* Verwaltung elektronischer Fernsignaturerstellungseinheiten oder elektronischer Fernsiegelerstellungseinheiten;
* Ausstellung elektronischer Attributsbescheinigungen;
* Validierung elektronischer Attributsbescheinigungen;
* Erstellung elektronischer Zeitstempel;
* Validierung elektronischer Zeitstempel;
* Erbringung von Diensten für die Zustellung elektronischer Einschreiben;
* Validierung von durch Dienste für die Zustellung elektronischer Einschreiben übermittelten Daten und damit zusammenhängenden Nachweisen;
* elektronische Archivierung elektronischer Daten und elektronischer Dokumente;
* Aufzeichnung elektronischer Daten in einem elektronischen Journal.
In Art 24a eIDAS-VO ist die gegenseitige Anerkennung qualifizierter Vertrauensdienste in allen Mitgliedstaaten festgelegt.

==== Elektronische Signaturen ====
In Art 3 Z 10 eIDAS-VO ist der Begriff ''elektronische Signatur'' definiert als „Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder logisch mit ihnen verbunden werden und die der Unterzeichner zum Unterzeichnen verwendet.“ Der Unterzeichner ist definiert als „eine natürliche Person, die eine elektronische Signatur erstellt“ (Art 3 Z 11 eIDAS-VO). Für juristische Personen bestehen als Äquivalent zur elektronischen Signatur die elektronischen Siegel.

Die eIDAS-VO unterscheidet zwischen drei Arten von elektronischen Signaturen: „einfachen“, fortgeschrittenen und qualifizierten elektronischen Signaturen, deren Definitionen aufeinander aufbauen. Aus der Definition der "einfachen" elektronischen Signatur wird deutlich, dass an diese keinerlei Anforderungen gestellt werden. Bereits das Unterzeichnen eines E-Mails mit dem Namen des Verfassers erfüllt die Definition. Die Definition der "einfachen" elektronischen Signatur in der eIDAS-VO dient daher vor allem dem Zweck, darauf aufbauend die ''fortgeschrittene elektronische Signatur'' zu definieren als elektronische Signatur, die die Anforderungen des Art 26 eIDAS-VO erfüllt (Art 3 Z 11 eIDAS-VO). Art 26 Abs 1 lautet:

'''''Anforderungen an fortgeschrittene elektronische Signaturen'''''

''Eine fortgeschrittene elektronische Signatur erfüllt alle folgenden Anforderungen:''

''a) Sie ist eindeutig dem Unterzeichner zugeordnet.''

''b) Sie ermöglicht die Identifizierung des Unterzeichners.''

''c) Sie wird unter Verwendung elektronischer Signaturerstellungsdaten erstellt, die der Unterzeichner mit einem hohen Maß an Vertrauen unter seiner alleinigen Kontrolle verwenden kann.''

''d) Sie ist so mit den auf diese Weise unterzeichneten Daten verbunden, dass eine nachträgliche Veränderung der Daten erkannt werden kann.''

Art 26 Abs 2 ermöglicht der Kommission, Durchführungsrechtsakte zu erlassen, „mit denen eine Liste von Referenzstandards erstellt wird und gegebenenfalls Spezifikationen und Verfahren für fortgeschrittene elektronische Signaturen festgelegt werden.“

Art 3 Z 12 eIDAS-VO definiert schließlich die ''qualifizierte elektronischen Signatur'' als „eine fortgeschrittene elektronische Signatur, die von einer qualifizierten elektronischen Signaturerstellungseinheit erstellt wurde und auf einem qualifizierten Zertifikat für elektronische Signaturen beruht.“

Eine solche qualifizierte elektronische Signatur hat die gleiche '''Rechtswirkung''' wie eine handschriftliche Unterschrift (Art 25 Abs 2 eIDAS-VO). Überdies normiert Art 25 Abs 1 eIDAS-VO, dass einer elektronischen Signatur die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden darf, weil sie in elektronischer Form vorliegt oder weil sie die Anforderungen an qualifizierte elektronische Signaturen nicht erfüllt.

Im allgemeinen (technischen) Sprachgebrauch wird die auf [https://de.wikipedia.org/wiki/Asymmetrische_Kryptographie asymmetrischer Kryptographie] basierende Technologie, mit der die soeben dargelegten Anforderungen umgesetzt werden, als ''[https://de.wikipedia.org/wiki/Digitale_Signatur digitale Signatur]'' bezeichnet. ''Elektronische Signatur'' ist demgegenüber ein rechtlicher Begriff, der bewusst technologieneutral gewählt wurde, wobei in der Praxis zur Implementierung qualifizierter elektronischer Signaturen nur die Technologie der digitalen Signatur eine Rolle spielt.

Entsprechend dieser begrifflich abstrakten Herangehensweise ist in der eIDAS-VO auch nicht von privatem und öffentlichem Schlüssel die Rede, sondern von ''elektronischen'' ''Signaturerstellungsdaten'' (Art 3 Z 13 eIDAS-VO) und ''Signaturvalidierungsdaten''. Letztere sind nicht eigenständig definiert, sondern in der Definition des Begriffs Zertifikat für elektronische Signaturen enthalten (Art 3 Z 14 eIDAS-VO). Diese lautet: „‚Zertifikat für elektronische Signaturen‘ ist eine elektronische Bescheinigung, die elektronische Signaturvalidierungsdaten mit einer natürlichen Person verknüpft und die mindestens den Namen oder das Pseudonym dieser Person bestätigt.“ Eine detaillierte Liste jener Angaben, die ein qualifiziertes Zertifikat enthalten muss, findet sich in Anhang I der eIDAS-VO.

Ein Zertifikat für elektronische Signaturen, das diese Anforderungen erfüllt und von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde, ist gemäß Art 3 Z 15 eIDAS-VO ein ''qualifiziertes Zertifikat für elektronische Signaturen''. Art 28 Abs 2 eIDAS-VO bestimmt, dass keine obligatorischen Anforderungen an ein qualifiziertes Zertifikat für elektronische Signaturen gelten dürfen, die über die Anforderungen des Anhang I hinausgehen. Gemäß Art 28 Abs 3 eIDAS-VO können qualifizierte Zertifikate zusätzliche fakultative spezifische Attribute enthalten. Der Begriff [https://de.wikipedia.org/wiki/Digitales_Zertifikat Zertifikat] entspricht dem allgemeinen einschlägigen Sprachgebrauch.

Die Anforderungen, die eine '''qualifizierte elektronische Signaturerstellungseinheit''' erfüllen muss, um gemäß Art 29 Abs 1 eIDAS-VO als solche zu gelten, sind in Anhang II der eIDAS-VO definiert. In der Praxis wird als qualifizierte elektronische Signaturerstellungseinheit insbesondere eine [https://de.wikipedia.org/wiki/Chipkarte Chipkarte] oder ein [https://de.wikipedia.org/wiki/Hardware-Sicherheitsmodul Hardware Security Module (HSM)] verwendet. Mit der Novellierung wurden ausdrücklich auch Bestimmungen zu Fernsignaturen eingeführt (Art 3 Z 23a, Art 29a eIDAS-VO)

==== Elektronische Siegel ====
Elektronische Siegel sind für juristische Personen das Äquivalent zu elektronischen Signaturen. Die Regelungen zu elektronischen Siegeln in Abschnitt 5 der eIDAS-VO sind äquivalent zu jenen für elektronische Signaturen ausgestaltet und normieren zum Teil nur die sinngemäße Geltung der entsprechenden Bestimmungen betreffend elektronische Signaturen. Die Regelung, wonach eine qualifizierte elektronische Signatur die gleiche Rechtswirkung hat wie eine handschriftliche Unterschrift, ist hingegen auf juristische Personen naturgemäß nicht übertragbar. Für ein qualifiziertes elektronisches Siegel gilt stattdessen die Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunftsangabe der Daten, mit denen das qualifizierte elektronische Siegel verbunden ist (Art 35 Abs 2 eIDAS-VO).

Wie aus den Rechtswirkungen deutlich wird, zielen elektronische Siegel nicht auf die Abgabe von Willenserklärungen ab, sondern insbesondere auf die Abgabe von Wissenserklärungen, wie z.B. die Bestätigung der Integrität von Dokumenten oder Software oder des Erhalts von Daten. Der Vorteil eines elektronischen Siegels ist, dass sich im Vergleich zu einer elektronischen Signatur, die eine natürliche Person in Vertretung einer juristischen Person erstellt, die in diesem Fall zusätzlich erforderliche Überprüfung der Vertretungsbefugnis dieser natürlichen Person erübrigt.

==== Elektronische Zeitstempel ====
Ein elektronischer Zeitstempel ist in Art 3 Z 33 eIDAS-VO definiert als „Daten in elektronischer Form, die andere Daten in elektronischer Form mit einem bestimmten Zeitpunkt verknüpfen und dadurch den Nachweis erbringen, dass diese anderen Daten zu diesem Zeitpunkt vorhanden waren.“ Elektronische Zeitstempel dienen somit dem Nachweis, dass die damit bestätigten Daten zum darin angegebenen Zeitpunkt vorlagen und seitdem nicht verändert wurden. Ein ''qualifizierter'' ''elektronischer Zeitstempel'' ein solcher, der die Anforderungen des Art 42 eIDAS-VO (Art 3 Z 34 eIDAS-VO). Gemäß Art 41 Abs 2 eIDAS-VO gilt für einen qualifizierten elektronischen Zeitstempel die Vermutung der Richtigkeit des Datums und der Zeit, die darin angegeben sind, sowie der Unversehrtheit der mit dem Datum und der Zeit verbundenen Daten.

==== Dienste für die Zustellung elektronischer Einschreiben ====
Gemäß Art 3 Z 36 eIDAS-VO ist ein ''Dienst für die Zustellung elektronischer Einschreiben'' ein „Dienst, der die Übermittlung von Daten zwischen Dritten mit elektronischen Mitteln ermöglicht und einen Nachweis der Handhabung der übermittelten Daten erbringt, darunter den Nachweis der Absendung und des Empfangs der Daten, und der die übertragenen Daten vor Verlust, Diebstahl, Beschädigung oder unbefugter Veränderung schützt“. Ein ''qualifizierter'' ''Dienst für die Zustellung elektronischer Einschreiben'' ist gemäß Art 3 Z 37 eIDAS-VO ein solcher Dienst, der die Anforderungen des Art 44 eIDAS-VO erfüllt. Diese Bestimmung zeigt, dass sich ein Dienst für die Zustellung elektronischer Einschreiben der zuvor behandelten Vertrauensdienste bedient.

==== Website-Authentifizierung ====
Art 3 Z 38 eIDAS-VO definiert ein Zertifikat für die Website-Authentifizierung (qualified website authentication certificate, QWAC) als "eine elektronische Bescheinigung, die die Authentifizierung einer Website ermöglicht und die Website mit der natürlichen oder juristischen Person verknüpft, der das Zertifikat ausgestellt wurde." In der Praxis wird dies durch [https://de.wikipedia.org/wiki/Transport_Layer_Security TLS]-Zertifikate realisiert und standardmäßig verwendet, erkennbar an der Präfix "https" in der URL-Zeile des Browsers und dem daneben angezeigten stilisierten Schloss. Ein qualifiziertes Zertifikat für die Website-Authentifizierung ist gemäß Art 3 Z 39 eIDAS-VO ein von einem qualifizierten Vertrauensdiensteanbieter ausgestelltes Zertifikat für Website-Authentifizierung, das die Anforderungen des Anhangs IV der eIDAS-VO erfüllt. Die Stammfassung der Verordnung beschränkte sich darauf, verbindliche Anforderungen für solche Zertifikate zu definieren, die vom Aussteller als qualifiziert bezeichnet werden. Weder normiert die eIDAS-VO Rechtswirkungen solcher qualifizierter Zertifikate für die Website-Authentifizierung, noch trifft sie Regelungen, die in bestimmten Fällen zum Einsatz qualifizierter oder nichtqualifizierter Zertifikate für die Website-Authentifizierung verpflichten.

Die Novellierung brachte diesbezüglich jedoch eine umstrittene Neuerung mit sich: Art 45 Abs 1a eIDAS-VO verpflichtet nunmehr Anbieter von Webbrowsern, qualifizierte Zertifikate für die Website-Authentifizierung anzuerkennen. An dieser Neuerung wurde kritisiert, dass sie staatlichen Stellen ermöglicht, im Sinne eines Man-in-the-Middle-Angriffs Online-Kommunikation zu überwachen.<ref>''Eggendorfer/Schmidt-Wudy'', eIDAS 2.0 - "Sicherheit trotz und wegen Verschlüsselung"?, KuR 2024, 13</ref><ref>[https://netzpolitik.org/2023/eidas-reform-schlagabtausch-zwischen-forschenden-und-eu-parlament/ ''Leisegang'', Schlagabtausch zwischen Forschenden und EU-Parlament, Netzpolitik.org, 07.12.2023]</ref> Als Kompromisslösung wurde daher in Art 45a Abs 2 eIDAS-VO klargestellt, dass Anbieter von Webbrowsern in Fällen begründeter Bedenken hinsichtlich Sicherheitsverletzungen oder eines Integritätsverlusts eines bestimmten Zertifikats oder eines Satzes von Zertifikaten Vorsorgemaßnahmen in Bezug auf dieses Zertifikat oder diesen Satz von Zertifikaten ergreifen können und die Kommission hielt in einer förmlichen Erklärung fest, dass Art 45 eIDAS-VO Anbietern von Webbrowsern keine Verpflichtungen und Einschränkungen hinsichtlich der Gewährleistung vertraulicher Online-Kommunikation auferlege.<ref>[https://netzpolitik.org/2024/eidas-reform-eu-parlament-stimmt-fuer-digitale-brieftasche/ ''Leisegang'', EU-Parlament stimmt für digitale Brieftasche, Netzpolitik.org, 29.02.2024]</ref><ref>[https://www.europarl.europa.eu/doceo/document/A-9-2023-0038-AM-007-007_EN.pdf Statement by the Commission on Article 45 on the occasion of the adoption of Regulation 2024/...]</ref>

==== Elektronische Attributsbescheinigungen ====
Die mit eIDAS 2.0 eingeführten elektronischen Attributsbescheinigungen (engl. electronic attestations of attributes, EAA) ermöglichen den Nachweis von Attributen, das sind gemäß Art 3 Z 43 eIDAS-VO Merkmale, Qualitäten, Rechte oder Erlaubnisse einer natürlichen oder juristischen Person oder eines Objekts, wie z.B. ein Hochschulabschluss oder eine Fahrerlaubnis (Führerschein). Eine EAA ist folglich definiert als "eine in elektronischer Form vorliegende Bescheinigung, die die Authentifizierung von Attributen ermöglicht" (Art 3 Z 44 eIDAS-VO). Wenn eine EAA von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde und die Anforderungen des Anhangs V der eIDAS-VO erfüllt, gilt sie als qualifizierte EAA (Art 3 Z 45 eIDAS-VO). Diesen gleichgestellt gibt es zum Zweck der unmittelbaren Bescheinigung von Attributen aus staatlichen Registern, für die aufgrund ihrer originären Authentizität eine Einbeziehung eines qualifizierten Vertrauensdiensteanbieters widersinnig wäre, eine eigene Kategorie der EAA, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden. Diese definiert Art 3 Z 46 eIDAS-VO als eine EAA, die gemäß Art 45f und Anhang VII der eIDAS-VO on einer öffentlichen Stelle ausgestellt wurde, die für eine authentische Quelle (vgl Art 3 Z 47 eIDAS-VO) zuständig ist, oder von einer öffentlichen Stelle ausgestellt wurde, die von dem Mitgliedstaat dafür benannt wurde, solche Attributsbescheinigungen im Namen der öffentlichen Stellen auszustellen, die für authentische Quellen zuständig sind.

Die Mitgliedstaaten müssen bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) dafür sorgen, dass zumindest die folgenden Attribute anhand authentischer Quellen elektronisch überprüft werden können (Art 45e Abs 1 iVm Anhang VI eIDAS-VO):

# Adresse,
# Alter,
# Geschlecht,
# Personenstand,
# Familienzusammensetzung,
# Staatsangehörigkeit oder Staatsbürgerschaft,
# Bildungsabschlüsse, Titel und Erlaubnisse,
# Berufsqualifikationen, Titel und Berechtigungen,
# Vollmachten und Mandate, eine natürliche oder juristische Person zu vertreten,
# behördliche Genehmigungen und Lizenzen,
# für juristische Personen Finanzdaten und Unternehmensdaten.

Art 45b Abs 3 eIDAS-VO schreibt für diese Kategorie der EAA die Anerkennung in allen Mitgliedstaaten vor. Die weiteren Regeln zu den Rechtwirkungen ähneln jenen der elektronischen Signatur: "Eine qualifizierte elektronische Attributsbescheinigung und Attributsbescheinigungen, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden, haben dieselbe Rechtswirkung wie rechtmäßig ausgestellte Bescheinigungen in Papierform" (Art 45b Abs 2 eIDAS-VO) und "[e]iner elektronischen Attributsbescheinigung darf die Rechtswirkung oder die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil sie in elektronischer Form vorliegt oder nicht die Anforderungen an qualifizierte elektronische Attributsbescheinigungen erfüllt" (Art 45b Abs 1 eIDAS-VO).

Zum Zusammenspiel zwischen EAA und der EUDIW ist festgelegt, dass Anbieter von EAA EUDIW-Nutzern die Möglichkeit bieten müssen, die EAA unabhängig von dem Mitgliedstaat, in dem die EUDIW bereitgestellt wird, anzufordern, zu erhalten, zu speichern und zu verwalten (Art 45g Abs 1 eIDAS-VO) und dass Anbieter qualifizierter EAA eine Schnittstelle zum EUDIW bereitstellen müssen (Art 45g Abs 2 eIDAS-VO).

Art 45h eIDAS-VO enthält Datenschutzvorschriften für die Erbringung von Diensten für EAA:

# Kein Kombinieren der Daten: Anbieter qualifizierter und nichtqualifizierter Dienste für EAA dürfen personenbezogene Daten in Bezug auf die Erbringung dieser Dienste nicht mit personenbezogenen Daten aus anderen von ihnen oder ihren Geschäftspartnern angebotenen Diensten kombinieren (Art 45h Abs 1 eIDAS-VO).
# Trennung der Daten: Personenbezogene Daten in Bezug auf die Erbringung von Diensten für EAA müssen von allen anderen vom Anbieter von EAA gespeicherten Daten logisch getrennt gehalten werden (Art 45h Abs 2 eIDAS-VO).
# Trennung der Dienste: Anbieter von EAA setzen die Bereitstellung solcher qualifizierter Vertrauensdienste auf eine Weise um, dass sie von anderen von ihnen bereitgestellten Diensten funktional getrennt ist (Art 45h Abs 3 eIDAS-VO).

==== Elektronische Archivierungsdienste ====
Elektronische Archivierung "ist ein Dienst für die Entgegennahme, die Speicherung, den Abruf und die Löschung elektronischer Daten und elektronischer Dokumente, der ihre Dauerhaftigkeit und Lesbarkeit gewährleistet sowie ihre Unversehrtheit, Vertraulichkeit und den Nachweis ihrer Herkunft während des gesamten Bewahrungszeitraums erhält" (Art 3 Z 48 eIDAS-VO). Analog zu anderen Vertrauensdiensten regeln die Art 45i und 45j eIDAS-VO die Rechtswirkung sowie die Anforderungen an qualifizierte elektronische Archivierungsdienste.

==== Elektronische Journale (electronic ledgers) ====
Die eIDAS-VO enthält wie erwähnt nunmehr auch Regelungen zu electronic ledgers, in der deutschsprachigen Fassung als elektronische Journale bezeichnet. Ein solches ist in Art 3 Z 52 eIDAS-VO definiert als "eine Abfolge von Aufzeichnungen elektronischer Daten, die die Unversehrtheit dieser Aufzeichnungen und die Richtigkeit ihrer chronologischen Reihenfolge gewährleistet." Auch hierzu sind mit anderen Vertrauensdiensten vergleichbare Regelungen zu den Rechtswirkungen sowie die Anforderungen an qualifizierte elektronische Journale in Art 45k und 45l eIDAS-VO vorgesehen. Zu erwähnen ist, dass die Definition nicht das Kriterium der verteilten Datenhaltung enthält (vgl. [https://de.wikipedia.org/wiki/Distributed-Ledger-Technologie Distributed-Ledger-Technologie]). Art 45l Abs 1 lit a eIDAS-VO erwähnt allerdings, dass ein qualifiziertes elektronisches Journal von einem oder mehreren qualifizierten Vertrauensdiensteanbietern erstellt und verwaltet werden kann.

== Verhältnis zu anderen Rechtsakten ==

=== DSGVO ===

* Wie oben dargestellt, enthält die eIDAS-VO zahlreiche Bestimmungen, um die Einhaltung der Datenschutzgrundsätze, insbesondere des Grundsatzes der Datenminimierung, in Bezug auf das EUDIW sicherzustellen. Art 2 eIDAS-VO normiert ausdrücklich, dass diese "unbeschadet der" [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32016R0679 DSGVO (Datenschutz-Grundverordnung)] gilt. Die beiden Verordnungen stehen somit grundsätzlich nebeneinander. Eindeutig ist die Rechtslage dahingehend, dass die Durchführungsrechtsakte zur eIDAS-VO den Bestimmungen der DSGVO nicht widersprechen dürfen und dass vertrauende Beteiligte in ihrem Umgang mit den EUDIW-Nutzern und mit deren Daten nicht nur die Bestimmungen der eIDAS-VO, sondern auch die Bestimmungen der DSGVO einhalten müssen.

=== European Business Wallets ===

* Am 19. November 2025 veröffentlichte die Kommission einen Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen (European Business Wallets).<ref>[https://digital-strategy.ec.europa.eu/de/library/proposal-regulation-establishment-european-business-wallets Europäische Kommission, Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen]</ref> Diese sollen technisch auf den EUDIW aufbauen<ref>[https://digital-strategy.ec.europa.eu/de/policies/business-wallets Europäische Kommission, EU-Brieftaschen für Unternehmen]</ref> und - sofern die Verordnung beschlossen wird - Unternehmen in der EU die grenzüberschreitende Authentifizierung (insbesondere, aber nicht nur gegenüber Behörden) und den vertrauenswürdigen Austausch von Dokumenten ermöglichen und damit den Verwaltungsaufwand für Unternehmen reduzieren.

== Weiterführende Links ==

* ''Europäische Kommission'', eIDAS Dashboard, https://eidas.ec.europa.eu/efda/discover/eu-trust-service-framework
* ''Europäische Kommission,'' EU Digital Identity Wallet Home, https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487738/EU+Digital+Identity+Wallet+Home
* ''Europäische Kommission,'' European Digital Identity Wallet, https://eudi.dev/latest/
* ''Europäische Kommission,'' Architecture and Reference Framework, https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework

== Einzelnachweise ==
<references />

Regulation on electronic identification and trust services (eIDAS)

2025-12-05T14:04:42Z

Walter: EUDIW-Umsetzung und die Kritik an der Aufweichung der Registrierung für vertrauende Beteiligte.

'''Änderung durch''' {{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1183|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1183 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Änderung der Verordnung (EU) Nr. 910/2014 im Hinblick auf die Schaffung des europäischen Rahmens für eine digitale Identität|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS (2.0)|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1183, 1|Anzuwenden=21. Mai 2026/2027 (Übergangsbestimmungen)|Gültig=inkraft}}'''Ursprungsrechtsakt'''{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2014|Nummer=910|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) Nr. 910/2014 des Europäischen Parlaments und des Rates vom 23. Juli 2014 über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen im Binnenmarkt und zur Aufhebung der Richtlinie 1999/93/EG|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2014/257, 73|Anzuwenden=1. Juli 2016 (mit Ausnahmen)|Gültig=anwendbar}}

== Einführung ==
Die Abkürzung eIDAS steht für "electronic IDentification, Authentication and Trust Services". Die ursprüngliche Fassung der eIDAS-VO wurde im Jahr 2014 beschlossen. Sie umfasst zwei Regelungsgegenstände, die völlig unabhängig voneinander behandelt werden,

* die elektronische Identifizierung sowie
* Vertrauensdienste, wie insbesondere elektronische Signaturen.

Die eIDAS-VO enthält zudem eine ganz allgemeine Grundregel für elektronische Dokumente: "Einem elektronischen Dokument darf die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil es in elektronischer Form vorliegt" (Art 46 eIDAS-VO). Der Begriff elektronisches Dokument ist dabei sehr weit definiert als jeder in elektronischer Form, insbesondere als Text-, Ton-, Bild- oder audiovisuelle Aufzeichnung gespeicherte Inhalt (Art 3 Z 35 eIDAS-VO).

Die Rahmenbedingungen für elektronische Signaturen bauen auf der Signaturrichtlinie auf, die seit 1999 gegolten hatte. Betreffend die Vertrauensdienste enthielt die IDAS-VO von 2014 bereits europaweit einheitliche Regeln (Harmonisierung), betreffend die elektronische Identifizierung regelte diese hingegen nur grenzüberschreitende Aspekte. Sie versuchte, Interoperabilität zwischen den verschiedenen nationalen elektronischen Identifizierungssystemen der Mitgliedstaaten herzustellen, indem sie deren gegenseitige Anerkennung durch die Mitgliedstaaten für deren E-Government-Services normiert. Vorschriften, wie diese gestaltet sein müssen, eine Verpflichtung zur Anerkennung im Privatsektor oder eine Verpflichtung, dass jeder Mitgliedsaat überhaupt ein elektronisches Identifizierungssystem haben müsse, enthielt sie nicht. Dies führte dazu, dass elektronische Identifizierungssysteme nicht in allen Mitgliedstaaten gleichermaßen zur Verfügung standen und ihre Verbreitung teilweise gering blieb, insbesondere in Bezug auf die Verwendung im privaten Sektor.<ref>[https://digital-strategy.ec.europa.eu/de/policies/eudi-regulation Europäische Kommission, Verordnung über die europäische digitale Identität (EUDI)]</ref>

Um diese Mängel zu beheben, wurde eine umfangreiche Novellierung der eIDAS-VO erarbeitet – bekannt als eIDAS 2.0 – die am 20. Mai 2024 in Kraft trat. Als zentrale Neuerung treten neben die Interoperabilität der nationalen elektronischen Identifizierungssysteme einheitliche Vorgaben für eine „Europäische Brieftasche für die Digitale Identität“ („European Digital Identity Wallet“, kurz EUDI-Wallet, <abbr>EUDI</abbr>-Brieftasche oder EUDIW). Bis Herbst 2026 müssen alle EU-Mitgliedstaaten ihren Bürger*innen eine solche Wallet anbieten, mit der sie sich online und offline ausweisen können, insbesondere auch gegenüber Unternehmen, sowie Attribute aller Art nachweisen können, vom Altersnachweis über Zeugnisse bis hin zu Tickets. Die Nutzung soll freiwillig und kostenfrei sein.

Betreffend Vertrauensdienste enthielt die eIDAS-VO bereits bisher Regelungen zu Vertrauensdiensteanbietern sowie zu folgenden spezifischen Vertrauensdiensten:

* Elektronische Signaturen
* Elektronische Siegel
* Elektronische Zeitstempel
* Dienste für die Zustellung elektronischer Einschreiben
* Website-Authentifizierung

Mit der Novellierung 2024 wurden einige dieser Regelungen angepasst und es traten Regelungen zu folgenden neunen Vertrauensdiensten hinzu:

* Elektronische Attributsbescheinigung
* Elektronische Archivierungsdienste
* Elektronische Journale (electronic ledgers)
Die Regulierung ist im Detail nicht abgeschlossen, denn die novellierte eIDAS-VO sieht insgesamt ca. 40 Durchführungsrechtsakte vor, die zahlreiche teils sehr relevante Umsetzungsdetails regeln werden. Sie müssen entweder 6, 12 oder 24 Monate nach Inkrafttreten der eIDAS-VO vorliegen, manche sind jedoch optional. Wegen ihrer hohen Anzahl kann hier nicht auf alle näher eingegangen werden. Mit Stand November 2025 liegen zahlreiche Durchführungsverordnungen der Kommission bereits vor,<ref>Eine stets aktualisierte komplette Liste aller eIDAS-Durchführungsrechtsakte findet sich hier: ''Europäische Kommission,'' European Digital Identity Wallet, https://eudi.dev/latest/</ref> insbesondere zur Ausgestaltung der EUDIW, siehe dazu [https://wiki.atlaws.eu/index.php/Regulation_on_electronic_identification_and_trust_services_(eIDAS)#Umsetzungsstand_und_Pilotprojekte_der_EUDIW unten], andere befinden sich in öffentlicher Konsultation.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives_de?text=European%20Digital%20Identity%20Wallets Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Schlüsselwort "European Digital Identity Wallets"]</ref>

== Zentrale Inhalte ==

=== Elektronische Identifizierung ===
Die elektronische Identifizierung ist in Art 3 Z 1 eIDAS-VO definiert als "der Prozess der Verwendung von Personenidentifizierungsdaten in elektronischer Form, die eine natürliche oder juristische Person oder eine natürliche Person, die eine andere natürliche Person oder eine juristische Person vertritt, eindeutig repräsentieren." Ein elektronisches Identifizierungsmittel ist "eine materielle und/oder immaterielle Einheit, die Personenidentifizierungsdaten enthält und zur Authentifizierung bei Online-Diensten oder gegebenenfalls bei Offline-Diensten verwendet wird" (Art 3 Z 2 eIDAS-VO). Die Authentifizierung ist "ein elektronischer Prozess, der die Bestätigung der elektronischen Identifizierung einer natürlichen oder juristischen Person oder die Bestätigung des Ursprungs und der Unversehrtheit von Daten in elektronischer Form ermöglicht" (Art 3 Z 5 eIDAS-VO). Die natürliche oder juristische Person, der gegenüber sich ein Individuum identifiziert und/oder bestimmte Eigenschaften (Attribute) nachweist, die also, wie es die Definition in Art 3 Z 6 eIDAS-VO formuliert, "auf eine elektronische Identifizierung, europäische Brieftaschen für die Digitale Identität oder andere Mittel zur elektronischen Identifizierung oder einen Vertrauensdienst vertraut", wird "vertrauender Beteiligter" genannt, in direkter Übersetzung des wesentlich gebräuchlicheren englischen Begriffs "relying party".

Die eIDAS-VO sieht drei Sicherheitsniveaus für elektronische Identifizierungsmittel vor, „niedrig“, „substanziell“ und „hoch“. Die Kriterien für diese Sicherheitsniveaus sind in Art 8 eIDAS-VO sowie in Durchführungsrechtsakten festgelegt.

==== European Digital Identity Wallet (EUDIW) ====
Die "Europäische Brieftasche für die Digitale Identität“, wie sie auf Deutsch heißt, "ist ein elektronisches Identifizierungsmittel, das es dem Nutzer ermöglicht, Personenidentifizierungsdaten und elektronische Attributsbescheinigungen sicher zu speichern, zu verwalten und zu validieren, um sie vertrauenden Beteiligten und anderen Nutzern von europäischen Brieftaschen für die Digitale Identität zu präsentieren und mittels qualifizierter elektronischer Signaturen zu unterzeichnen oder mittels qualifizierter elektronischer Siegel zu besiegeln" (Art 3 Z 43 eIDAS-VO). Hervorzuheben ist, dass die EUDIW somit selbst ein elektronisches Identifizierungsmittel ist und zwar auf der Sicherheitsstufe "hoch" (Art 5a Abs 4 lit d eIDAS-VO).

Jeder Mitgliedstaat muss bis spätestens 24.12.2026<ref>Art 5a Abs 1 legt diesen Zeitpunkt auf 24 Monate nach dem Inkrafttreten der entsprechenden Durchführungsrechtsakte fest, die am 4.12.2024 veröffentlicht wurden und 20 Tage danach in Kraft traten.</ref> zumindest ein EUDIW bereitstellen (Art 5a Abs 1 eIDAS-VO). Dies kann unmittelbar durch den Mitgliedstaat erfolgen oder in dessen Auftrag oder unabhängig von diesem, aber von diesem anerkannt (Art 5a Abs 2 eIDAS-VO). Der "Quellcode der Anwendungssoftwarekomponenten" der EUDIW muss gemäß Art 5a Abs 3 eIDAS-VO einer Open-Source-Lizenz unterliegen, wobei eine Ausnahmen vorgesehen ist für bestimmte "Komponenten, die nicht auf den Geräten des Nutzers installiert sind".

===== Funktionen der EUDIW =====
Die Funktionalität eines EUDIW ist in Art 5a Abs 4 eIDAS-VO wie folgt festgelegt:

* das sichere Anfordern, Erhalten, Auswählen, Kombinieren, Speichern, Löschen, Weitergeben und Vorweisen — unter alleiniger Kontrolle durch den Nutzer — elektronischer Attributsbescheinigungen und von Personenidentifizierungsdaten und, falls anwendbar, in Kombination mit elektronischen Attributsbescheinigungen, gegenüber vertrauenden Beteiligten, um sich online und, gegebenenfalls, offline für den Zugang zu öffentlichen und privaten Diensten zu authentifizieren, bei gleichzeitiger Sicherstellung, dass eine selektive Offenlegung von Daten möglich ist;
* das Generieren von Pseudonymen und deren verschlüsselte und lokale Speicherung in der EUDIW;
* die sichere Authentifizierung der EUDIW einer anderen Person und das Empfangen und Austauschen — zwischen den beiden EUDIW — von Personenidentifizierungsdaten und elektronischen Attributsbescheinigungen;
* den Zugang zur Protokollierung aller über die EUDIW vorgenommenen Transaktionen über ein gemeinsames Dashboard, sodass der Nutzer in der Lage ist,
** eine aktuelle Auflistung der vertrauenden Beteiligten, mit denen der Nutzer eine Verbindung aufgebaut hat, und, falls anwendbar, alle weitergegebenen Daten einzusehen;
** einen vertrauenden Beteiligten auf einfache Weise um die Löschung personenbezogener Daten gemäß Artikel 17 der Verordnung (EU) 2016/679 durch einen vertrauenden Beteiligten zu ersuchen;
** eine Meldung auf einfache Weise an die zuständige nationale Datenschutzbehörde zu erstatten, wenn ein mutmaßlich unrechtmäßiges oder verdächtiges Ersuchen um Daten eingegangen ist;
* das Unterzeichnen mit qualifizierten elektronischen Signaturen oder das Siegeln mit qualifizierten elektronischen Siegeln;
* – soweit technisch möglich — das Herunterladen von Nutzerdaten, elektronischen Attributsbescheinigungen und Konfigurationen;
* die Ausübung der Rechte des Nutzers auf Datenübertragbarkeit.

Diese Funktionen muss ein EUDIW "in transparenter und nachvollziehbarer Weise ermöglichen". Darüber hinaus können die Mitgliedstaaten zusätzliche Funktionen vorsehen (Art 5a Abs 7 eIDAS-VO). Hervorzuheben ist zum ersten Punkt, dass auch eine Verwendung der EUDIW offline, also ohne Internetverbindung und somit ohne Beteiligung eines Servers, vorgesehen ist, eingeschränkt durch den Begriff "gegebenenfalls" bzw. in der englischsprachigen Fassung etwas aussagekräftiger "where appropriate", sowie die selektive Offenlegung von Daten. Auch die Verwendung des EUDIW auf der Empfängerseite einer Transaktion und somit horizontal zwischen Nutzern ist hervorzuheben (dritter Punkt).

Nur in den Erwägungsgründen findet sich die Anforderung, dass die Mitgliedstaaten "verschiedene Technologien zum Schutz der Privatsphäre, beispielsweise Zero-Knowledge-Proof (Null-Wissens-Beweis)", in die EUDIW integrieren "sollten". "Diese kryptografischen Methoden sollten es einem vertrauenden Beteiligten ermöglichen, die Richtigkeit einer bestimmten Aussage, die auf der Grundlage der Identifizierungsdaten und der Attributsbescheinigung in der europäischen Brieftasche für die Digitale Identität eines Nutzers erfolgt, zu validieren, ohne dass Daten, auf denen die Aussage beruht, preisgegeben werden, wodurch die Privatsphäre des Nutzers gewahrt bleibt" (ErwGr 14).

Die Ausstellung, die Verwendung und der Widerruf von EUDIW muss für alle natürlichen Personen kostenlos sein (Art 5a Abs 12 eIDAS-VO). Ebenso muss das Unterzeichnen mit qualifizierten elektronischen Signaturen mittels EUDIW für alle natürlichen Personen kostenlos sein (Art 5a Abs 5 lit g eIDAS-VO), wobei die Mitgliedstaaten verhältnismäßige Maßnahmen treffen können, um dies auf nichtgewerbliche Zwecke zu beschränken.

Während die Nutzer nationaler eIDs über nationale eIDAS-Knoten mit der jeweiligen Anwendung interagieren, kommuniziert die EUDIW direkt mit der jeweiligen Anwendung, sodass es einheitlicher Protokolle und Schnittstellen bedarf, deren Funktionalität in Art 5a Abs 5 lit a eIDAS-VO detailliert festgelegt ist.

===== Datenschutz und Datensicherheit =====
Aufgrund der potenziellen Datenschutzrisiken, die ein Identitätsmanagementsystem mit sich bringen kann, insbesondere wenn es weiträumig und umfassend verwendbar ist, war der Datenschutz im Entstehungsprozess von eIDAS 2.0 und in der Phase der Ausarbeitung der Durchführungsrechtsakte ein vieldiskutiertes Thema. Wesentliche Datenschutzrisiken von Identitätsmanagementsystemen und die entsprechenden Anforderungen im Sinne des Gebots der Datenminimierung sind:<ref>Siehe dazu ausführlich ''Hötzendorfer'', Datenschutz und Privacy by Design im Identitätsmanagement, Österreichische Computer Gesellschaft (OCG), Wien, 2016.</ref>

* Überidentifikation: Die betroffene Person sollte bei einer Transaktion nur jene Daten offenlegen müssen, die für die Transaktion erforderlich sind, und insbesondere ihre Identität nur dann offenlegen müssen, wenn diese für die Transaktion erforderlich ist.
* Verknüpfung von Transaktionen: Transaktionen, die nichts miteinander zu tun haben, und Daten, die jeweils in diesen Transaktionen offengelegt werden, sollten nicht miteinander in Verbindung gebracht werden können (Unverknüpfbarkeit). Praktisch bedeutet das vor allem, ein vertrauender Beteiligter sollte nicht erkennen können, dass zwei Transaktionen derselben anonymen Person, die beispielsweise nur ihre Volljährigkeit nachweist, von derselben Person stammen.
* Beobachtung des Nutzerverhaltens: Eine zentrale Stelle, wie im vorliegenden Kontext der Anbieter des EUDIW, oder ein Aussteller von Identitäts- oder Attributsdaten, sollte nicht in der Lage sein, zu beobachten, für welche Zwecke und wem gegenüber die betroffene Person ihre Identität und/oder bestimmte Attribute nachweist (Unbeobachtbarkeit).

Der Beobachtung des Nutzerverhaltens, oder vielmehr zumindest dessen Auswertung soll insbesondere die Bestimmung des Art 5a Abs 14 eIDAS-VO entgegenwirken, die Folgendes normiert:

* Die Nutzer haben die uneingeschränkte Kontrolle über die Nutzung ihrer EUDIW und über die darin enthaltenen Daten.
* Der Anbieter der EUDIW sammelt weder Informationen über die Nutzung der EUDIW, die für die Erbringung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, noch kombiniert er Personenidentifizierungsdaten oder andere gespeicherte oder im Zusammenhang mit der Verwendung der EUDIW stehende personenbezogene Daten mit personenbezogenen Daten aus anderen vom Anbieter angebotenen Diensten oder aus Diensten Dritter, die für die Bereitstellung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, es sei denn, der Nutzer hat dies ausdrücklich anders verlangt.
* Personenbezogene Daten in Bezug auf die Bereitstellung der EUDIW werden vom Anbieter der europäischen Brieftasche für die Digitale Identität von allen anderen gespeicherten Daten logisch getrennt gehalten.

Einer strikten Umsetzung des Datenminimierungsgebots dahingehend, dass die Daten zur Nutzung gar nicht erst gespeichert werden, steht wohl das Erfordernis der Protokollierung aller über die EUDIW vorgenommenen Transaktionen in Art 5a Abs 4 lit d eIDAS-VO entgegen.

Art 5a Abs 14 eIDAS-VO betrifft sowohl die Unbeobachtbarkeit als auch die Unverknüpfbarkeit und normiert, dass der technische Rahmen der EUDIW

* es Anbietern elektronischer Attributsbescheinigungen oder anderen Parteien nach Ausstellung der Attributsbescheinigung nicht erlauben darf, Daten zu erhalten, die es ermöglichen, Transaktionen oder Nutzerverhalten zu verfolgen, zu verknüpfen, zu korrelieren oder Kenntnisse über Transaktionen oder das Nutzerverhalten anderweitig zu erlangen, es sei denn, der Nutzer hat dies ausdrücklich genehmigt, und
* technische Verfahren zum Schutz der Privatsphäre ermöglichen muss, die die Unverknüpfbarkeit gewährleisten, wenn die Attributsbescheinigung keine Identifizierung des Nutzers erfordert.
Die zentrale Maßnahme der eIDAS-VO gegen Überidentifikation ist die Registrierungsnotwendigkeit für vertrauende Beteiligte (Art 5b eIDAS-VO): Ein vertrauende Beteiligter, der für die Bereitstellung öffentlicher oder privater Dienste auf die EUDIW zurückzugreifen möchte, muss sich in dem Mitgliedstaat, in dem er niedergelassen ist, registrieren. Dabei muss er angeben, welche Daten er von den Nutzern anzufordern beabsichtigt (in ErwGr 17 der eIDAS-VO ist auch davon die Rede, dass dies zu begründen ist), und nur diese darf er dann im Zuge von Transaktionen tatsächlich anfordern, wie in Art 5b Abs 3 ausdrücklich festgelegt ist. Die bei der Registrierung gemachten Angaben sind von den Mitgliedstaaten online zu veröffentlichen, in elektronisch signierter oder besiegelter Form, die für eine automatisierte Verarbeitung geeignet ist. Flankiert wird diese Maßnahme von der Verpflichtung vertrauender Beteiligter, sich gegenüber den Nutzern zu identifizieren und Pseudonyme nicht zu verweigern, wenn die Identifizierung des Nutzers nicht im Unionsrecht oder im nationalen Recht vorgeschrieben ist. Die betreffende Durchführungsverordnung zur Registrierung vertrauender Beteiligter ([https://eur-lex.europa.eu/eli/reg_impl/2025/848/oj 2025/848]) kann als Aufweichung dieser Prinzipien verstanden werden, da sie in Art 8 Mitgliedstaaten nicht verpflichtet, einer Zertifizierungsbehörde die Befugnis zur Ausstellung von Registrierungszertifikaten für vertrauende Beteiligte zu erteilen. Dieser Aspekt wurde im Zuge der Konsultation trotz deutlicher Kritik nicht mehr geändert und führt nun dazu, dass die Rechtmäßigkeit dieser Bestimmung der Durchführungsverordnung angesichts der soeben wiedergegeben verbindlichen Regeln der EIDAS-VO in Frage steht.<ref name=":0">[https://netzpolitik.org/2024/digitale-identitaeten-faule-eier-der-kommission/ ''Leisegang'', Faule Eier der Kommission, Netzpolitik.org, 05.12.2024] sowie [https://netzpolitik.org/2025/digitale-brieftasche-eu-kommission-oeffnet-schlupfloecher-fuer-ueberidentifikation/ Leisegang, EU-Kommission soll „Schlupflöcher“ bei digitaler Brieftasche schließen, 02.04.2025] </ref>

Art 5a Abs 12 eIDAS-VO legt zudem fest, dass die EUDIW "security-by-design" sicherstellen müssen, was im deutschen Verordnungstext damit übersetzt wird, dass sie "mit ‚konzeptintegrierter Sicherheit‘ auszustatten" sind. Art 5a Abs 5 eIDAS-VO normiert eine Pflicht zur Verständigung der Nutzer über Sicherheitsverletzungen. Näheres zu Konsequenzen von Sicherheitsverletzungen ist in Art 5e eIDAS-VO vorgesehen.

In Art 5c eIDAS-VO ist das Erfordernis der Zertifizierung jedes EUDIW geregelt, unter Bezugnahme auf den [[Cyber Security Act (CSA)|Cyber Security Act]]. Alle zertifizierten EUDIW werden die im Amtsblatt der Europäischen Union veröffentlicht und in einer maschinenlesbaren Liste geführt (Art 5d eIDAS-VO).

Auch die Bestimmung über die Freiwilligkeit der Nutzung (Art 5a Abs 14 eIDAS-VO) dient - neben dem Hauptzweck der Nichtdiskriminierung - gewissermaßen auch Datenschutzzwecken. Sie normiert zusätzlich folgende Anforderungen, damit eine Freiwilligkeit auch faktisch besteht:

* Natürliche oder juristische Personen, die die EUDIW nicht nutzen, dürfen in ihrem Zugang zu öffentlichen und privaten Diensten und zum Arbeitsmarkt sowie in ihrer unternehmerischen Freiheit in keiner Weise eingeschränkt oder benachteiligt werden.
* Der Zugang zu öffentlichen und privaten Diensten muss weiterhin über andere bestehende Identifizierungs- und Authentifizierungsmittel möglich sein.

===== Annahmepflichten der EUDIW =====
In drei verschiedenen Konstellationen ist eine Verpflichtungen zur Akzeptanz des EUDIW vorgesehen (Art 5f eIDAS-VO):

* Wenn Mitgliedstaaten für einen E-Government-Dienst eine elektronische Identifizierung und Authentifizierung verlangen, müssen sie dafür auch die EUDIW akzeptieren.
* Sind private vertrauende Beteiligte, die Dienste erbringen — mit Ausnahme von Kleinst- und kleinen Unternehmen im Sinne von Art 2 des Anhangs der Empfehlung 2003/361/EG der Kommission<ref>[https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32003H0361 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (2003/361/EG) (ABl. L 124 vom 20.5.2003, S. 36).]</ref> –, nach Unionsrecht oder nationalem Recht verpflichtet, eine Online-Identifizierung mit starker Nutzerauthentifizierung vorzunehmen, oder ist eine Online-Identifizierung mit starker Nutzerauthentifizierung vertraglich vorgeschrieben, auch in den Bereichen Verkehr, Energie, Bankenwesen, Finanzdienstleistungen, soziale Sicherheit, Gesundheit, Trinkwasser, Postdienste, digitale Infrastrukturen, Bildung oder Telekommunikation, so akzeptieren diese privaten vertrauenden Beteiligten hierfür spätestens 36 Monate nach dem Tag des Inkrafttretens der Durchführungsrechtsakte gemäß Art 5a Abs 23 und Art 5c Abs 6 eIDAS-VO und nur auf freiwilliges Verlangen des Nutzers auch EUDIW. Der Begriff starke Nutzerauthentifizierung kann grundsätzlich als 2-Faktor-Authentifizierung verstanden werden und ist in Art 3 Z 51 eIDAS-VO näher definiert.
* Verlangen Anbieter sehr großer Online-Plattformen gemäß Art 33 [[Digital Services Act (DSA)|Digital Services Act]] für den Zugang zu Online-Diensten eine Nutzerauthentifizierung, so akzeptieren und erleichtern sie hierfür auch die Verwendung von EUDIW, und zwar nur auf freiwilliges Verlangen des Nutzers und nur mit den Mindestdaten, die für den spezifischen Online-Dienst, für den die Authentifizierung verlangt wird, erforderlich sind.

===== Umsetzungsstand und Pilotprojekte der EUDIW =====
Zur Vorbereitung des Roll-outs der EUDIW koordiniert die Kommission über die sog. „Toolbox“ und das Architecture and Reference Framework (ARF) die technische Zusammenarbeit der Mitgliedstaaten. Das [https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework ARF] wird regelmäßig aktualisiert und dient als Referenzdokument für Wallet-Implementierungen, Schnittstellen und Sicherheitsanforderungen.<ref>[https://eudi.dev/latest/ ''Europäische Kommission,'' European Digital Identity]</ref>

Parallel dazu laufen mehrere von der EU kofinanzierte „Large Scale Pilot“-Projekte, in deren Rahmen der Einsatz der EUDIW in verschiedenen grenzüberschreitenden Use Cases (zB E-Government, Führerschein, Bankkonteneröffnung) praktisch getestet wird.<ref>[https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487808/What%2Bare%2Bthe%2BLarge%2BScale%2BPilot%2BProjects European Commission, What are the Large Scale Pilots]</ref>

Am 4. Dezember 2024 wurden fünf Durchführungsverordnungen veröffentlicht, die ua Personenidentifizierungsdaten und elektronische Attributsbescheinigungen ([https://eur-lex.europa.eu/eli/reg_impl/2024/2977/oj DurchführungsVO (EU) 2024/2977]), die Integrität und Kernfunktionen der Wallet ([https://eur-lex.europa.eu/eli/reg_impl/2024/2979/oj 2024/2979]), die Notifizierung bezüglich des Wallet-Ökosystems ([https://eur-lex.europa.eu/eli/reg_impl/2024/2980/oj 2024/2980]), die Zertifizierung von Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2024/2981/oj 2024/2981]) sowie die zu unterstützenden Protokolle und Schnittstellen ([https://eur-lex.europa.eu/eli/reg_impl/2024/2982/oj 2024/2982]) konkretisieren.

Am 7. Mai 2025 folgte eine zweite Runde von Durchführungsverordnungen, ua zum grenzüberschreitenden Identitätsabgleich natürlicher Personen ([https://eur-lex.europa.eu/eli/reg_impl/2025/846/oj 2025/846]), zur Reaktion auf Sicherheitsverletzungen von Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2025/847/oj 2025/847]), zur Registrierung vertrauender Beteiligter ([https://eur-lex.europa.eu/eli/reg_impl/2025/848/oj 2025/848]), sowie zur Übermittlung von Informationen an die Kommission und die Kooperationsgruppe für die Liste zertifizierter Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2025/849/oj 2025/849]).

==== Gegenseitige Anerkennung mitgliedstaatlicher elektronischer Identifizierungsmittel ====
Neben den 2024 neu eingeführten EUDIW enthält die eIDAS-VO in den Art 6ff auch die bisherigen Bestimmungen zu elektronischen Identifizierungssystemen mit dem Schwerpunkt der gegenseitigen Anerkennung durch die Mitgliedstaaten notifizierter elektronischer Identifizierungssysteme. Kernbestimmung ist die Verpflichtung der Mitgliedstaaten, wenn für einen E-Government-Dienst nach nationalem Recht oder aufgrund der Verwaltungspraxis eine elektronische Identifizierung mit einem elektronischen Identifizierungsmittel auf dem Sicherheitsniveau „substanziell“ oder „hoch“ und mit einer Authentifizierung erforderlich ist, auch in einem anderen Mitgliedstaat ausgestellte elektronische Identifizierungsmittel des gleichen oder eines höheren Sicherheitsniveaus für Zwecke der grenzüberschreitenden Authentifizierung anzuerkennen (Art 6 Abs 1 eIDAS-VO). Die dafür erforderliche Notifizierung des elektronischen Identifizierungssystems durch den jeweiligen Mitgliedstaat und die Voraussetzungen dafür sind in Art 7 und 9 eIDAS-VO näher geregelt. Österreich hat im Jahr 2022 die ID Austria notifiziert.<ref>''Kustor'', Vortrag zu eIDAS 2.0, Innovation Day 2023 https://www.youtube.com/watch?v=_JgS_4e1Qs4</ref>

=== Vertrauensdienste ===
Vertrauensdiensteanbieter (Art 3 Z 19 eIDAS-VO) ist, wer einen Vertrauensdienst erbringt (oder mehrere), das ist ein elektronischer Dienst, der in der Regel gegen Entgelt erbracht wird und aus irgendeiner der folgenden Tätigkeiten besteht (Art 3 Z 19 eIDAS-VO):

* Ausstellung von Zertifikaten für elektronische Signaturen, von Zertifikaten für elektronische Siegel, von Zertifikaten für die Website-Authentifizierung oder von Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Validierung von Zertifikaten für elektronische Signaturen, Zertifikaten für elektronische Siegel, Zertifikaten für die Website-Authentifizierung oder Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Erstellung elektronischer Signaturen oder elektronischer Siegel;
* Validierung elektronischer Signaturen oder elektronischer Siegel;
* Bewahrung von elektronischen Signaturen, elektronischen Siegeln, Zertifikaten für elektronische Signaturen oder Zertifikaten für elektronische Siegel;
* Verwaltung elektronischer Fernsignaturerstellungseinheiten oder elektronischer Fernsiegelerstellungseinheiten;
* Ausstellung elektronischer Attributsbescheinigungen;
* Validierung elektronischer Attributsbescheinigungen;
* Erstellung elektronischer Zeitstempel;
* Validierung elektronischer Zeitstempel;
* Erbringung von Diensten für die Zustellung elektronischer Einschreiben;
* Validierung von durch Dienste für die Zustellung elektronischer Einschreiben übermittelten Daten und damit zusammenhängenden Nachweisen;
* elektronische Archivierung elektronischer Daten und elektronischer Dokumente;
* Aufzeichnung elektronischer Daten in einem elektronischen Journal.
In Art 24a eIDAS-VO ist die gegenseitige Anerkennung qualifizierter Vertrauensdienste in allen Mitgliedstaaten festgelegt.

==== Elektronische Signaturen ====
In Art 3 Z 10 eIDAS-VO ist der Begriff ''elektronische Signatur'' definiert als „Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder logisch mit ihnen verbunden werden und die der Unterzeichner zum Unterzeichnen verwendet.“ Der Unterzeichner ist definiert als „eine natürliche Person, die eine elektronische Signatur erstellt“ (Art 3 Z 11 eIDAS-VO). Für juristische Personen bestehen als Äquivalent zur elektronischen Signatur die elektronischen Siegel.

Die eIDAS-VO unterscheidet zwischen drei Arten von elektronischen Signaturen: „einfachen“, fortgeschrittenen und qualifizierten elektronischen Signaturen, deren Definitionen aufeinander aufbauen. Aus der Definition der "einfachen" elektronischen Signatur wird deutlich, dass an diese keinerlei Anforderungen gestellt werden. Bereits das Unterzeichnen eines E-Mails mit dem Namen des Verfassers erfüllt die Definition. Die Definition der "einfachen" elektronischen Signatur in der eIDAS-VO dient daher vor allem dem Zweck, darauf aufbauend die ''fortgeschrittene elektronische Signatur'' zu definieren als elektronische Signatur, die die Anforderungen des Art 26 eIDAS-VO erfüllt (Art 3 Z 11 eIDAS-VO). Art 26 Abs 1 lautet:

'''''Anforderungen an fortgeschrittene elektronische Signaturen'''''

''Eine fortgeschrittene elektronische Signatur erfüllt alle folgenden Anforderungen:''

''a) Sie ist eindeutig dem Unterzeichner zugeordnet.''

''b) Sie ermöglicht die Identifizierung des Unterzeichners.''

''c) Sie wird unter Verwendung elektronischer Signaturerstellungsdaten erstellt, die der Unterzeichner mit einem hohen Maß an Vertrauen unter seiner alleinigen Kontrolle verwenden kann.''

''d) Sie ist so mit den auf diese Weise unterzeichneten Daten verbunden, dass eine nachträgliche Veränderung der Daten erkannt werden kann.''

Art 26 Abs 2 ermöglicht der Kommission, Durchführungsrechtsakte zu erlassen, „mit denen eine Liste von Referenzstandards erstellt wird und gegebenenfalls Spezifikationen und Verfahren für fortgeschrittene elektronische Signaturen festgelegt werden.“

Art 3 Z 12 eIDAS-VO definiert schließlich die ''qualifizierte elektronischen Signatur'' als „eine fortgeschrittene elektronische Signatur, die von einer qualifizierten elektronischen Signaturerstellungseinheit erstellt wurde und auf einem qualifizierten Zertifikat für elektronische Signaturen beruht.“

Eine solche qualifizierte elektronische Signatur hat die gleiche '''Rechtswirkung''' wie eine handschriftliche Unterschrift (Art 25 Abs 2 eIDAS-VO). Überdies normiert Art 25 Abs 1 eIDAS-VO, dass einer elektronischen Signatur die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden darf, weil sie in elektronischer Form vorliegt oder weil sie die Anforderungen an qualifizierte elektronische Signaturen nicht erfüllt.

Im allgemeinen (technischen) Sprachgebrauch wird die auf [https://de.wikipedia.org/wiki/Asymmetrische_Kryptographie asymmetrischer Kryptographie] basierende Technologie, mit der die soeben dargelegten Anforderungen umgesetzt werden, als ''[https://de.wikipedia.org/wiki/Digitale_Signatur digitale Signatur]'' bezeichnet. ''Elektronische Signatur'' ist demgegenüber ein rechtlicher Begriff, der bewusst technologieneutral gewählt wurde, wobei in der Praxis zur Implementierung qualifizierter elektronischer Signaturen nur die Technologie der digitalen Signatur eine Rolle spielt.

Entsprechend dieser begrifflich abstrakten Herangehensweise ist in der eIDAS-VO auch nicht von privatem und öffentlichem Schlüssel die Rede, sondern von ''elektronischen'' ''Signaturerstellungsdaten'' (Art 3 Z 13 eIDAS-VO) und ''Signaturvalidierungsdaten''. Letztere sind nicht eigenständig definiert, sondern in der Definition des Begriffs Zertifikat für elektronische Signaturen enthalten (Art 3 Z 14 eIDAS-VO). Diese lautet: „‚Zertifikat für elektronische Signaturen‘ ist eine elektronische Bescheinigung, die elektronische Signaturvalidierungsdaten mit einer natürlichen Person verknüpft und die mindestens den Namen oder das Pseudonym dieser Person bestätigt.“ Eine detaillierte Liste jener Angaben, die ein qualifiziertes Zertifikat enthalten muss, findet sich in Anhang I der eIDAS-VO.

Ein Zertifikat für elektronische Signaturen, das diese Anforderungen erfüllt und von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde, ist gemäß Art 3 Z 15 eIDAS-VO ein ''qualifiziertes Zertifikat für elektronische Signaturen''. Art 28 Abs 2 eIDAS-VO bestimmt, dass keine obligatorischen Anforderungen an ein qualifiziertes Zertifikat für elektronische Signaturen gelten dürfen, die über die Anforderungen des Anhang I hinausgehen. Gemäß Art 28 Abs 3 eIDAS-VO können qualifizierte Zertifikate zusätzliche fakultative spezifische Attribute enthalten. Der Begriff [https://de.wikipedia.org/wiki/Digitales_Zertifikat Zertifikat] entspricht dem allgemeinen einschlägigen Sprachgebrauch.

Die Anforderungen, die eine '''qualifizierte elektronische Signaturerstellungseinheit''' erfüllen muss, um gemäß Art 29 Abs 1 eIDAS-VO als solche zu gelten, sind in Anhang II der eIDAS-VO definiert. In der Praxis wird als qualifizierte elektronische Signaturerstellungseinheit insbesondere eine [https://de.wikipedia.org/wiki/Chipkarte Chipkarte] oder ein [https://de.wikipedia.org/wiki/Hardware-Sicherheitsmodul Hardware Security Module (HSM)] verwendet. Mit der Novellierung wurden ausdrücklich auch Bestimmungen zu Fernsignaturen eingeführt (Art 3 Z 23a, Art 29a eIDAS-VO)

==== Elektronische Siegel ====
Elektronische Siegel sind für juristische Personen das Äquivalent zu elektronischen Signaturen. Die Regelungen zu elektronischen Siegeln in Abschnitt 5 der eIDAS-VO sind äquivalent zu jenen für elektronische Signaturen ausgestaltet und normieren zum Teil nur die sinngemäße Geltung der entsprechenden Bestimmungen betreffend elektronische Signaturen. Die Regelung, wonach eine qualifizierte elektronische Signatur die gleiche Rechtswirkung hat wie eine handschriftliche Unterschrift, ist hingegen auf juristische Personen naturgemäß nicht übertragbar. Für ein qualifiziertes elektronisches Siegel gilt stattdessen die Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunftsangabe der Daten, mit denen das qualifizierte elektronische Siegel verbunden ist (Art 35 Abs 2 eIDAS-VO).

Wie aus den Rechtswirkungen deutlich wird, zielen elektronische Siegel nicht auf die Abgabe von Willenserklärungen ab, sondern insbesondere auf die Abgabe von Wissenserklärungen, wie z.B. die Bestätigung der Integrität von Dokumenten oder Software oder des Erhalts von Daten. Der Vorteil eines elektronischen Siegels ist, dass sich im Vergleich zu einer elektronischen Signatur, die eine natürliche Person in Vertretung einer juristischen Person erstellt, die in diesem Fall zusätzlich erforderliche Überprüfung der Vertretungsbefugnis dieser natürlichen Person erübrigt.

==== Elektronische Zeitstempel ====
Ein elektronischer Zeitstempel ist in Art 3 Z 33 eIDAS-VO definiert als „Daten in elektronischer Form, die andere Daten in elektronischer Form mit einem bestimmten Zeitpunkt verknüpfen und dadurch den Nachweis erbringen, dass diese anderen Daten zu diesem Zeitpunkt vorhanden waren.“ Elektronische Zeitstempel dienen somit dem Nachweis, dass die damit bestätigten Daten zum darin angegebenen Zeitpunkt vorlagen und seitdem nicht verändert wurden. Ein ''qualifizierter'' ''elektronischer Zeitstempel'' ein solcher, der die Anforderungen des Art 42 eIDAS-VO (Art 3 Z 34 eIDAS-VO). Gemäß Art 41 Abs 2 eIDAS-VO gilt für einen qualifizierten elektronischen Zeitstempel die Vermutung der Richtigkeit des Datums und der Zeit, die darin angegeben sind, sowie der Unversehrtheit der mit dem Datum und der Zeit verbundenen Daten.

==== Dienste für die Zustellung elektronischer Einschreiben ====
Gemäß Art 3 Z 36 eIDAS-VO ist ein ''Dienst für die Zustellung elektronischer Einschreiben'' ein „Dienst, der die Übermittlung von Daten zwischen Dritten mit elektronischen Mitteln ermöglicht und einen Nachweis der Handhabung der übermittelten Daten erbringt, darunter den Nachweis der Absendung und des Empfangs der Daten, und der die übertragenen Daten vor Verlust, Diebstahl, Beschädigung oder unbefugter Veränderung schützt“. Ein ''qualifizierter'' ''Dienst für die Zustellung elektronischer Einschreiben'' ist gemäß Art 3 Z 37 eIDAS-VO ein solcher Dienst, der die Anforderungen des Art 44 eIDAS-VO erfüllt. Diese Bestimmung zeigt, dass sich ein Dienst für die Zustellung elektronischer Einschreiben der zuvor behandelten Vertrauensdienste bedient.

==== Website-Authentifizierung ====
Art 3 Z 38 eIDAS-VO definiert ein Zertifikat für die Website-Authentifizierung (qualified website authentication certificate, QWAC) als "eine elektronische Bescheinigung, die die Authentifizierung einer Website ermöglicht und die Website mit der natürlichen oder juristischen Person verknüpft, der das Zertifikat ausgestellt wurde." In der Praxis wird dies durch [https://de.wikipedia.org/wiki/Transport_Layer_Security TLS]-Zertifikate realisiert und standardmäßig verwendet, erkennbar an der Präfix "https" in der URL-Zeile des Browsers und dem daneben angezeigten stilisierten Schloss. Ein qualifiziertes Zertifikat für die Website-Authentifizierung ist gemäß Art 3 Z 39 eIDAS-VO ein von einem qualifizierten Vertrauensdiensteanbieter ausgestelltes Zertifikat für Website-Authentifizierung, das die Anforderungen des Anhangs IV der eIDAS-VO erfüllt. Die Stammfassung der Verordnung beschränkte sich darauf, verbindliche Anforderungen für solche Zertifikate zu definieren, die vom Aussteller als qualifiziert bezeichnet werden. Weder normiert die eIDAS-VO Rechtswirkungen solcher qualifizierter Zertifikate für die Website-Authentifizierung, noch trifft sie Regelungen, die in bestimmten Fällen zum Einsatz qualifizierter oder nichtqualifizierter Zertifikate für die Website-Authentifizierung verpflichten.

Die Novellierung brachte diesbezüglich jedoch eine umstrittene Neuerung mit sich: Art 45 Abs 1a eIDAS-VO verpflichtet nunmehr Anbieter von Webbrowsern, qualifizierte Zertifikate für die Website-Authentifizierung anzuerkennen. An dieser Neuerung wurde kritisiert, dass sie staatlichen Stellen ermöglicht, im Sinne eines Man-in-the-Middle-Angriffs Online-Kommunikation zu überwachen.<ref>''Eggendorfer/Schmidt-Wudy'', eIDAS 2.0 - "Sicherheit trotz und wegen Verschlüsselung"?, KuR 2024, 13</ref><ref>[https://netzpolitik.org/2023/eidas-reform-schlagabtausch-zwischen-forschenden-und-eu-parlament/ ''Leisegang'', Schlagabtausch zwischen Forschenden und EU-Parlament, Netzpolitik.org, 07.12.2023]</ref> Als Kompromisslösung wurde daher in Art 45a Abs 2 eIDAS-VO klargestellt, dass Anbieter von Webbrowsern in Fällen begründeter Bedenken hinsichtlich Sicherheitsverletzungen oder eines Integritätsverlusts eines bestimmten Zertifikats oder eines Satzes von Zertifikaten Vorsorgemaßnahmen in Bezug auf dieses Zertifikat oder diesen Satz von Zertifikaten ergreifen können und die Kommission hielt in einer förmlichen Erklärung fest, dass Art 45 eIDAS-VO Anbietern von Webbrowsern keine Verpflichtungen und Einschränkungen hinsichtlich der Gewährleistung vertraulicher Online-Kommunikation auferlege.<ref>[https://netzpolitik.org/2024/eidas-reform-eu-parlament-stimmt-fuer-digitale-brieftasche/ ''Leisegang'', EU-Parlament stimmt für digitale Brieftasche, Netzpolitik.org, 29.02.2024]</ref><ref>[https://www.europarl.europa.eu/doceo/document/A-9-2023-0038-AM-007-007_EN.pdf Statement by the Commission on Article 45 on the occasion of the adoption of Regulation 2024/...]</ref>

==== Elektronische Attributsbescheinigungen ====
Die mit eIDAS 2.0 eingeführten elektronischen Attributsbescheinigungen (engl. electronic attestations of attributes, EAA) ermöglichen den Nachweis von Attributen, das sind gemäß Art 3 Z 43 eIDAS-VO Merkmale, Qualitäten, Rechte oder Erlaubnisse einer natürlichen oder juristischen Person oder eines Objekts, wie z.B. ein Hochschulabschluss oder eine Fahrerlaubnis (Führerschein). Eine EAA ist folglich definiert als "eine in elektronischer Form vorliegende Bescheinigung, die die Authentifizierung von Attributen ermöglicht" (Art 3 Z 44 eIDAS-VO). Wenn eine EAA von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde und die Anforderungen des Anhangs V der eIDAS-VO erfüllt, gilt sie als qualifizierte EAA (Art 3 Z 45 eIDAS-VO). Diesen gleichgestellt gibt es zum Zweck der unmittelbaren Bescheinigung von Attributen aus staatlichen Registern, für die aufgrund ihrer originären Authentizität eine Einbeziehung eines qualifizierten Vertrauensdiensteanbieters widersinnig wäre, eine eigene Kategorie der EAA, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden. Diese definiert Art 3 Z 46 eIDAS-VO als eine EAA, die gemäß Art 45f und Anhang VII der eIDAS-VO on einer öffentlichen Stelle ausgestellt wurde, die für eine authentische Quelle (vgl Art 3 Z 47 eIDAS-VO) zuständig ist, oder von einer öffentlichen Stelle ausgestellt wurde, die von dem Mitgliedstaat dafür benannt wurde, solche Attributsbescheinigungen im Namen der öffentlichen Stellen auszustellen, die für authentische Quellen zuständig sind.

Die Mitgliedstaaten müssen bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) dafür sorgen, dass zumindest die folgenden Attribute anhand authentischer Quellen elektronisch überprüft werden können (Art 45e Abs 1 iVm Anhang VI eIDAS-VO):

# Adresse,
# Alter,
# Geschlecht,
# Personenstand,
# Familienzusammensetzung,
# Staatsangehörigkeit oder Staatsbürgerschaft,
# Bildungsabschlüsse, Titel und Erlaubnisse,
# Berufsqualifikationen, Titel und Berechtigungen,
# Vollmachten und Mandate, eine natürliche oder juristische Person zu vertreten,
# behördliche Genehmigungen und Lizenzen,
# für juristische Personen Finanzdaten und Unternehmensdaten.

Art 45b Abs 3 eIDAS-VO schreibt für diese Kategorie der EAA die Anerkennung in allen Mitgliedstaaten vor. Die weiteren Regeln zu den Rechtwirkungen ähneln jenen der elektronischen Signatur: "Eine qualifizierte elektronische Attributsbescheinigung und Attributsbescheinigungen, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden, haben dieselbe Rechtswirkung wie rechtmäßig ausgestellte Bescheinigungen in Papierform" (Art 45b Abs 2 eIDAS-VO) und "[e]iner elektronischen Attributsbescheinigung darf die Rechtswirkung oder die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil sie in elektronischer Form vorliegt oder nicht die Anforderungen an qualifizierte elektronische Attributsbescheinigungen erfüllt" (Art 45b Abs 1 eIDAS-VO).

Zum Zusammenspiel zwischen EAA und der EUDIW ist festgelegt, dass Anbieter von EAA EUDIW-Nutzern die Möglichkeit bieten müssen, die EAA unabhängig von dem Mitgliedstaat, in dem die EUDIW bereitgestellt wird, anzufordern, zu erhalten, zu speichern und zu verwalten (Art 45g Abs 1 eIDAS-VO) und dass Anbieter qualifizierter EAA eine Schnittstelle zum EUDIW bereitstellen müssen (Art 45g Abs 2 eIDAS-VO).

Art 45h eIDAS-VO enthält Datenschutzvorschriften für die Erbringung von Diensten für EAA:

# Kein Kombinieren der Daten: Anbieter qualifizierter und nichtqualifizierter Dienste für EAA dürfen personenbezogene Daten in Bezug auf die Erbringung dieser Dienste nicht mit personenbezogenen Daten aus anderen von ihnen oder ihren Geschäftspartnern angebotenen Diensten kombinieren (Art 45h Abs 1 eIDAS-VO).
# Trennung der Daten: Personenbezogene Daten in Bezug auf die Erbringung von Diensten für EAA müssen von allen anderen vom Anbieter von EAA gespeicherten Daten logisch getrennt gehalten werden (Art 45h Abs 2 eIDAS-VO).
# Trennung der Dienste: Anbieter von EAA setzen die Bereitstellung solcher qualifizierter Vertrauensdienste auf eine Weise um, dass sie von anderen von ihnen bereitgestellten Diensten funktional getrennt ist (Art 45h Abs 3 eIDAS-VO).

==== Elektronische Archivierungsdienste ====
Elektronische Archivierung "ist ein Dienst für die Entgegennahme, die Speicherung, den Abruf und die Löschung elektronischer Daten und elektronischer Dokumente, der ihre Dauerhaftigkeit und Lesbarkeit gewährleistet sowie ihre Unversehrtheit, Vertraulichkeit und den Nachweis ihrer Herkunft während des gesamten Bewahrungszeitraums erhält" (Art 3 Z 48 eIDAS-VO). Analog zu anderen Vertrauensdiensten regeln die Art 45i und 45j eIDAS-VO die Rechtswirkung sowie die Anforderungen an qualifizierte elektronische Archivierungsdienste.

==== Elektronische Journale (electronic ledgers) ====
Die eIDAS-VO enthält wie erwähnt nunmehr auch Regelungen zu electronic ledgers, in der deutschsprachigen Fassung als elektronische Journale bezeichnet. Ein solches ist in Art 3 Z 52 eIDAS-VO definiert als "eine Abfolge von Aufzeichnungen elektronischer Daten, die die Unversehrtheit dieser Aufzeichnungen und die Richtigkeit ihrer chronologischen Reihenfolge gewährleistet." Auch hierzu sind mit anderen Vertrauensdiensten vergleichbare Regelungen zu den Rechtswirkungen sowie die Anforderungen an qualifizierte elektronische Journale in Art 45k und 45l eIDAS-VO vorgesehen. Zu erwähnen ist, dass die Definition nicht das Kriterium der verteilten Datenhaltung enthält (vgl. [https://de.wikipedia.org/wiki/Distributed-Ledger-Technologie Distributed-Ledger-Technologie]). Art 45l Abs 1 lit a eIDAS-VO erwähnt allerdings, dass ein qualifiziertes elektronisches Journal von einem oder mehreren qualifizierten Vertrauensdiensteanbietern erstellt und verwaltet werden kann.

== Verhältnis zu anderen Rechtsakten ==

=== DSGVO ===

* Wie oben dargestellt, enthält die eIDAS-VO zahlreiche Bestimmungen, um die Einhaltung der Datenschutzgrundsätze, insbesondere des Grundsatzes der Datenminimierung, in Bezug auf das EUDIW sicherzustellen. Art 2 eIDAS-VO normiert ausdrücklich, dass diese "unbeschadet der" [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32016R0679 DSGVO (Datenschutz-Grundverordnung)] gilt. Die beiden Verordnungen stehen somit grundsätzlich nebeneinander. Eindeutig ist die Rechtslage dahingehend, dass die Durchführungsrechtsakte zur eIDAS-VO den Bestimmungen der DSGVO nicht widersprechen dürfen und dass vertrauende Beteiligte in ihrem Umgang mit den EUDIW-Nutzern und mit deren Daten nicht nur die Bestimmungen der eIDAS-VO, sondern auch die Bestimmungen der DSGVO einhalten müssen.

=== European Business Wallets ===

* Am 19. November 2025 veröffentlichte die Kommission einen Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen (European Business Wallets).<ref>[https://digital-strategy.ec.europa.eu/de/library/proposal-regulation-establishment-european-business-wallets Europäische Kommission, Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen]</ref> Diese sollen technisch auf den EUDIW aufbauen<ref>[https://digital-strategy.ec.europa.eu/de/policies/business-wallets Europäische Kommission, EU-Brieftaschen für Unternehmen]</ref> und - sofern die Verordnung beschlossen wird - Unternehmen in der EU die grenzüberschreitende Authentifizierung (insbesondere, aber nicht nur gegenüber Behörden) und den vertrauenswürdigen Austausch von Dokumenten ermöglichen und damit den Verwaltungsaufwand für Unternehmen reduzieren.

== Weiterführende Links ==

* ''Europäische Kommission'', eIDAS Dashboard, https://eidas.ec.europa.eu/efda/discover/eu-trust-service-framework
* ''Europäische Kommission,'' EU Digital Identity Wallet Home, https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487738/EU+Digital+Identity+Wallet+Home
* ''Europäische Kommission,'' European Digital Identity Wallet, https://eudi.dev/latest/
* ''Europäische Kommission,'' Architecture and Reference Framework, https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework

== Einzelnachweise ==
<references />

Regulation on electronic identification and trust services (eIDAS)

2025-12-04T13:42:37Z

Walter: EUDIW Durchführungsrechtsakte

'''Änderung durch''' {{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1183|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1183 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Änderung der Verordnung (EU) Nr. 910/2014 im Hinblick auf die Schaffung des europäischen Rahmens für eine digitale Identität|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS (2.0)|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1183, 1|Anzuwenden=21. Mai 2026/2027 (Übergangsbestimmungen)|Gültig=inkraft}}'''Ursprungsrechtsakt'''{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2014|Nummer=910|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) Nr. 910/2014 des Europäischen Parlaments und des Rates vom 23. Juli 2014 über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen im Binnenmarkt und zur Aufhebung der Richtlinie 1999/93/EG|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2014/257, 73|Anzuwenden=1. Juli 2016 (mit Ausnahmen)|Gültig=anwendbar}}

== Einführung ==
Die Abkürzung eIDAS steht für "electronic IDentification, Authentication and Trust Services". Die ursprüngliche Fassung der eIDAS-VO wurde im Jahr 2014 beschlossen. Sie umfasst zwei Regelungsgegenstände, die völlig unabhängig voneinander behandelt werden,

* die elektronische Identifizierung sowie
* Vertrauensdienste, wie insbesondere elektronische Signaturen.

Die eIDAS-VO enthält auch eine ganz allgemeine Grundregel für elektronische Dokumente: "Einem elektronischen Dokument darf die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil es in elektronischer Form vorliegt" (Art 46 eIDAS-VO). Der Begriff elektronisches Dokument ist dabei sehr weit definiert als jeder in elektronischer Form, insbesondere als Text-, Ton-, Bild- oder audiovisuelle Aufzeichnung gespeicherte Inhalt (Art 3 Z 35 eIDAS-VO).

Die Rahmenbedingungen für elektronische Signaturen bauen auf der Signaturrichtlinie auf, die seit 1999 gegolten hatte. Betreffend die Vertrauensdienste enthielt die IDAS-VO von 2014 bereits europaweit einheitliche Regeln (Harmonisierung), betreffend die elektronische Identifizierung regelte diese hingegen nur grenzüberschreitende Aspekte. Sie versuchte, Interoperabilität zwischen den verschiedenen nationalen elektronischen Identifizierungssystemen der Mitgliedstaaten herzustellen, indem sie deren gegenseitige Anerkennung durch die Mitgliedstaaten für deren E-Government-Services normiert. Vorschriften, wie diese gestaltet sein müssen, eine Verpflichtung zur Anerkennung im Privatsektor oder eine Verpflichtung, dass jeder Mitgliedsaat überhaupt ein elektronisches Identifizierungssystem haben müsse, enthielt sie nicht. Dies führte dazu, dass elektronische Identifizierungssysteme nicht in allen Mitgliedstaaten gleichermaßen zur Verfügung standen und ihre Verbreitung teilweise gering blieb, insbesondere in Bezug auf die Verwendung im privaten Sektor.<ref>[https://digital-strategy.ec.europa.eu/de/policies/eudi-regulation Europäische Kommission, Verordnung über die europäische digitale Identität (EUDI)]</ref>

Um diese Mängel zu beheben, wurde eine umfangreiche Novellierung der eIDAS-VO erarbeitet – bekannt als eIDAS 2.0 – die am 20. Mai 2024 in Kraft trat. Als zentrale Neuerung treten neben die Interoperabilität der nationalen elektronischen Identifizierungssysteme einheitliche Vorgaben für eine „Europäische Brieftasche für die Digitale Identität“ („European Digital Identity Wallet“, kurz EUDI-Wallet, <abbr>EUDI</abbr>-Brieftasche oder EUDIW). Bis Herbst 2026 müssen alle EU-Mitgliedstaaten ihren Bürger*innen eine solche Wallet anbieten, mit der sie sich online und offline ausweisen können, insbesondere auch gegenüber Unternehmen, sowie Attribute aller Art nachweisen können, vom Altersnachweis über Zeugnisse bis hin zu Tickets. Die Nutzung soll freiwillig und kostenfrei sein.

Betreffend Vertrauensdienste enthielt die eIDAS-VO bereits bisher Regelungen zu Vertrauensdiensteanbietern sowie zu folgenden spezifischen Vertrauensdiensten:

* Elektronische Signaturen
* Elektronische Siegel
* Elektronische Zeitstempel
* Dienste für die Zustellung elektronischer Einschreiben
* Website-Authentifizierung

Mit der Novellierung 2024 wurden einige dieser Regelungen angepasst und es traten Regelungen zu folgenden neunen Vertrauensdiensten hinzu:

* Elektronische Attributsbescheinigung
* Elektronische Archivierungsdienste
* Elektronische Journale (electronic ledgers)
Die Regulierung ist im Detail nicht abgeschlossen, denn die novellierte eIDAS-VO sieht insgesamt ca. 40 Durchführungsrechtsakte vor, die zahlreiche teils sehr relevante Umsetzungsdetails regeln werden. Sie müssen entweder 6, 12 oder 24 Monate nach Inkrafttreten der eIDAS-VO vorliegen, manche sind jedoch optional. Wegen ihrer hohen Anzahl kann hier nicht auf alle näher eingegangen werden. Mit Stand November 2025 liegen zahlreiche Durchführungsverordnungen der Kommission bereits vor,<ref>Eine stets aktualisierte komplette Liste aller eIDAS-Durchführungsrechtsakte findet sich hier: ''Europäische Kommission,'' European Digital Identity Wallet, https://eudi.dev/latest/</ref> insbesondere zur Ausgestaltung der EUDIW, siehe dazu [https://wiki.atlaws.eu/index.php/Regulation_on_electronic_identification_and_trust_services_(eIDAS)#Umsetzungsstand_und_Pilotprojekte_der_EUDIW unten], andere befinden sich in öffentlicher Konsultation.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives_de?text=European%20Digital%20Identity%20Wallets Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Schlüsselwort "European Digital Identity Wallets"]</ref> In den Entwürfen zeichnete sich zuletzt eine Aufweichung der unten beschriebenen Datenschutz- und Datensicherheitsmaßnahmen des EUDIW ab, sodass diese Gegenstand intensiver politischer Diskussionen sind.<ref name=":0">[https://netzpolitik.org/2024/digitale-identitaeten-faule-eier-der-kommission/ ''Leisegang'', Faule Eier der Kommission, Netzpolitik.org, 05.12.2024] </ref>

== Zentrale Inhalte ==

=== Elektronische Identifizierung ===
Die elektronische Identifizierung ist in Art 3 Z 1 eIDAS-VO definiert als "der Prozess der Verwendung von Personenidentifizierungsdaten in elektronischer Form, die eine natürliche oder juristische Person oder eine natürliche Person, die eine andere natürliche Person oder eine juristische Person vertritt, eindeutig repräsentieren." Ein elektronisches Identifizierungsmittel ist "eine materielle und/oder immaterielle Einheit, die Personenidentifizierungsdaten enthält und zur Authentifizierung bei Online-Diensten oder gegebenenfalls bei Offline-Diensten verwendet wird" (Art 3 Z 2 eIDAS-VO). Die Authentifizierung ist "ein elektronischer Prozess, der die Bestätigung der elektronischen Identifizierung einer natürlichen oder juristischen Person oder die Bestätigung des Ursprungs und der Unversehrtheit von Daten in elektronischer Form ermöglicht" (Art 3 Z 5 eIDAS-VO). Die natürliche oder juristische Person, der gegenüber sich ein Individuum identifiziert und/oder bestimmte Eigenschaften (Attribute) nachweist, die also, wie es die Definition in Art 3 Z 6 eIDAS-VO formuliert, "auf eine elektronische Identifizierung, europäische Brieftaschen für die Digitale Identität oder andere Mittel zur elektronischen Identifizierung oder einen Vertrauensdienst vertraut", wird "vertrauender Beteiligter" genannt, in direkter Übersetzung des wesentlich gebräuchlicheren englischen Begriffs "relying party".

Die eIDAS-VO sieht drei Sicherheitsniveaus für elektronische Identifizierungsmittel vor, „niedrig“, „substanziell“ und „hoch“. Die Kriterien für diese Sicherheitsniveaus sind in Art 8 eIDAS-VO sowie in Durchführungsrechtsakten festgelegt.

==== European Digital Identity Wallet (EUDIW) ====
Die "Europäische Brieftasche für die Digitale Identität“, wie sie auf Deutsch heißt, "ist ein elektronisches Identifizierungsmittel, das es dem Nutzer ermöglicht, Personenidentifizierungsdaten und elektronische Attributsbescheinigungen sicher zu speichern, zu verwalten und zu validieren, um sie vertrauenden Beteiligten und anderen Nutzern von europäischen Brieftaschen für die Digitale Identität zu präsentieren und mittels qualifizierter elektronischer Signaturen zu unterzeichnen oder mittels qualifizierter elektronischer Siegel zu besiegeln" (Art 3 Z 43 eIDAS-VO). Hervorzuheben ist, dass die EUDIW somit selbst ein elektronisches Identifizierungsmittel ist und zwar auf der Sicherheitsstufe "hoch" (Art 5a Abs 4 lit d eIDAS-VO).

Jeder Mitgliedstaat muss bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) zumindest ein EUDIW bereitstellen (Art 5a Abs 1 eIDAS-VO). Dies kann unmittelbar durch den Mitgliedstaat erfolgen oder in dessen Auftrag oder unabhängig von diesem, aber von diesem anerkannt (Art 5a Abs 2 eIDAS-VO). Der "Quellcode der Anwendungssoftwarekomponenten" der EUDIW muss gemäß Art 5a Abs 3 eIDAS-VO einer Open-Source-Lizenz unterliegen, wobei eine Ausnahmen vorgesehen ist für bestimmte "Komponenten, die nicht auf den Geräten des Nutzers installiert sind".

===== Funktionen der EUDIW =====
Die Funktionalität eines EUDIW ist in Art 5a Abs 4 eIDAS-VO wie folgt festgelegt:

* das sichere Anfordern, Erhalten, Auswählen, Kombinieren, Speichern, Löschen, Weitergeben und Vorweisen — unter alleiniger Kontrolle durch den Nutzer — elektronischer Attributsbescheinigungen und von Personenidentifizierungsdaten und, falls anwendbar, in Kombination mit elektronischen Attributsbescheinigungen, gegenüber vertrauenden Beteiligten, um sich online und, gegebenenfalls, offline für den Zugang zu öffentlichen und privaten Diensten zu authentifizieren, bei gleichzeitiger Sicherstellung, dass eine selektive Offenlegung von Daten möglich ist;
* das Generieren von Pseudonymen und deren verschlüsselte und lokale Speicherung in der EUDIW;
* die sichere Authentifizierung der EUDIW einer anderen Person und das Empfangen und Austauschen — zwischen den beiden EUDIW — von Personenidentifizierungsdaten und elektronischen Attributsbescheinigungen;
* den Zugang zur Protokollierung aller über die EUDIW vorgenommenen Transaktionen über ein gemeinsames Dashboard, sodass der Nutzer in der Lage ist,
** eine aktuelle Auflistung der vertrauenden Beteiligten, mit denen der Nutzer eine Verbindung aufgebaut hat, und, falls anwendbar, alle weitergegebenen Daten einzusehen;
** einen vertrauenden Beteiligten auf einfache Weise um die Löschung personenbezogener Daten gemäß Artikel 17 der Verordnung (EU) 2016/679 durch einen vertrauenden Beteiligten zu ersuchen;
** eine Meldung auf einfache Weise an die zuständige nationale Datenschutzbehörde zu erstatten, wenn ein mutmaßlich unrechtmäßiges oder verdächtiges Ersuchen um Daten eingegangen ist;
* das Unterzeichnen mit qualifizierten elektronischen Signaturen oder das Siegeln mit qualifizierten elektronischen Siegeln;
* – soweit technisch möglich — das Herunterladen von Nutzerdaten, elektronischen Attributsbescheinigungen und Konfigurationen;
* die Ausübung der Rechte des Nutzers auf Datenübertragbarkeit.

Diese Funktionen muss ein EUDIW "in transparenter und nachvollziehbarer Weise ermöglichen". Darüber hinaus können die Mitgliedstaaten zusätzliche Funktionen vorsehen (Art 5a Abs 7 eIDAS-VO). Hervorzuheben ist zum ersten Punkt, dass auch eine Verwendung der EUDIW offline, also ohne Internetverbindung und somit ohne Beteiligung eines Servers, vorgesehen ist, eingeschränkt durch den Begriff "gegebenenfalls" bzw. in der englischsprachigen Fassung etwas aussagekräftiger "where appropriate", sowie die selektive Offenlegung von Daten. Auch die Verwendung des EUDIW auf der Empfängerseite einer Transaktion und somit horizontal zwischen Nutzern ist hervorzuheben (dritter Punkt).

Nur in den Erwägungsgründen findet sich die Anforderung, dass die Mitgliedstaaten "verschiedene Technologien zum Schutz der Privatsphäre, beispielsweise Zero-Knowledge-Proof (Null-Wissens-Beweis)", in die EUDIW integrieren "sollten". "Diese kryptografischen Methoden sollten es einem vertrauenden Beteiligten ermöglichen, die Richtigkeit einer bestimmten Aussage, die auf der Grundlage der Identifizierungsdaten und der Attributsbescheinigung in der europäischen Brieftasche für die Digitale Identität eines Nutzers erfolgt, zu validieren, ohne dass Daten, auf denen die Aussage beruht, preisgegeben werden, wodurch die Privatsphäre des Nutzers gewahrt bleibt" (ErwGr 14).

Die Ausstellung, die Verwendung und der Widerruf von EUDIW muss für alle natürlichen Personen kostenlos sein (Art 5a Abs 12 eIDAS-VO). Ebenso muss das Unterzeichnen mit qualifizierten elektronischen Signaturen mittels EUDIW für alle natürlichen Personen kostenlos sein (Art 5a Abs 5 lit g eIDAS-VO), wobei die Mitgliedstaaten verhältnismäßige Maßnahmen treffen können, um dies auf nichtgewerbliche Zwecke zu beschränken.

Während die Nutzer nationaler eIDs über nationale eIDAS-Knoten mit der jeweiligen Anwendung interagieren, kommuniziert die EUDIW direkt mit der jeweiligen Anwendung, sodass es einheitlicher Protokolle und Schnittstellen bedarf, deren Funktionalität in Art 5a Abs 5 lit a eIDAS-VO detailliert festgelegt ist.

===== Datenschutz und Datensicherheit =====
Aufgrund der potenziellen Datenschutzrisiken, die ein Identitätsmanagementsystem mit sich bringen kann, insbesondere wenn es weiträumig und umfassend verwendbar ist, war der Datenschutz im Entstehungsprozess von eIDAS 2.0 ein vieldiskutiertes Thema und ist es weiterhin in der Phase der Ausarbeitung der Durchführungsrechtsakte. Wesentliche Datenschutzrisiken von Identitätsmanagementsystemen und die entsprechenden Anforderungen im Sinne des Gebots der Datenminimierung sind:<ref>Siehe dazu ausführlich ''Hötzendorfer'', Datenschutz und Privacy by Design im Identitätsmanagement, Österreichische Computer Gesellschaft (OCG), Wien, 2016.</ref>

* Überidentifikation: Die betroffene Person sollte bei einer Transaktion nur jene Daten offenlegen müssen, die für die Transaktion erforderlich sind, und insbesondere ihre Identität nur dann offenlegen müssen, wenn diese für die Transaktion erforderlich ist.
* Verknüpfung von Transaktionen: Transaktionen, die nichts miteinander zu tun haben, und Daten, die jeweils in diesen Transaktionen offengelegt werden, sollten nicht miteinander in Verbindung gebracht werden können (Unverknüpfbarkeit). Praktisch bedeutet das vor allem, ein vertrauender Beteiligter sollte nicht erkennen können, dass zwei Transaktionen derselben anonymen Person, die beispielsweise nur ihre Volljährigkeit nachweist, von derselben Person stammen.
* Beobachtung des Nutzerverhaltens: Eine zentrale Stelle, wie im vorliegenden Kontext der Anbieter des EUDIW, oder ein Aussteller von Identitäts- oder Attributsdaten, sollte nicht in der Lage sein, zu beobachten, für welche Zwecke und wem gegenüber die betroffene Person ihre Identität und/oder bestimmte Attribute nachweist (Unbeobachtbarkeit).

Der Beobachtung des Nutzerverhaltens, oder vielmehr zumindest dessen Auswertung soll insbesondere die Bestimmung des Art 5a Abs 14 eIDAS-VO entgegenwirken, die Folgendes normiert:

* Die Nutzer haben die uneingeschränkte Kontrolle über die Nutzung ihrer EUDIW und über die darin enthaltenen Daten.
* Der Anbieter der EUDIW sammelt weder Informationen über die Nutzung der EUDIW, die für die Erbringung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, noch kombiniert er Personenidentifizierungsdaten oder andere gespeicherte oder im Zusammenhang mit der Verwendung der EUDIW stehende personenbezogene Daten mit personenbezogenen Daten aus anderen vom Anbieter angebotenen Diensten oder aus Diensten Dritter, die für die Bereitstellung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, es sei denn, der Nutzer hat dies ausdrücklich anders verlangt.
* Personenbezogene Daten in Bezug auf die Bereitstellung der EUDIW werden vom Anbieter der europäischen Brieftasche für die Digitale Identität von allen anderen gespeicherten Daten logisch getrennt gehalten.

Einer strikten Umsetzung des Datenminimierungsgebots dahingehend, dass die Daten zur Nutzung gar nicht erst gespeichert werden, steht wohl das Erfordernis der Protokollierung aller über die EUDIW vorgenommenen Transaktionen in Art 5a Abs 4 lit d eIDAS-VO entgegen.

Art 5a Abs 14 eIDAS-VO betrifft sowohl die Unbeobachtbarkeit als auch die Unverknüpfbarkeit und normiert, dass der technische Rahmen der EUDIW

* es Anbietern elektronischer Attributsbescheinigungen oder anderen Parteien nach Ausstellung der Attributsbescheinigung nicht erlauben darf, Daten zu erhalten, die es ermöglichen, Transaktionen oder Nutzerverhalten zu verfolgen, zu verknüpfen, zu korrelieren oder Kenntnisse über Transaktionen oder das Nutzerverhalten anderweitig zu erlangen, es sei denn, der Nutzer hat dies ausdrücklich genehmigt, und
* technische Verfahren zum Schutz der Privatsphäre ermöglichen muss, die die Unverknüpfbarkeit gewährleisten, wenn die Attributsbescheinigung keine Identifizierung des Nutzers erfordert.
Die zentrale Maßnahme der eIDAS-VO gegen Überidentifikation ist die Registrierungsnotwendigkeit für vertrauende Beteiligte (Art 5b eIDAS-VO): Ein vertrauende Beteiligter, der für die Bereitstellung öffentlicher oder privater Dienste auf die EUDIW zurückzugreifen möchte, muss sich in dem Mitgliedstaat, in dem er niedergelassen ist, registrieren. Dabei muss er angeben, welche Daten er von den Nutzern anzufordern beabsichtigt (in ErwGr 17 der eIDAS-VO ist auch davon die Rede, dass dies zu begründen ist), und nur diese darf er dann im Zuge von Transaktionen tatsächlich anfordern, wie in Art 5b Abs 3 ausdrücklich festgelegt ist. Die bei der Registrierung gemachten Angaben sind von den Mitgliedstaaten online zu veröffentlichen, in elektronisch signierter oder besiegelter Form, die für eine automatisierte Verarbeitung geeignet ist. Flankiert wird diese Maßnahme von der Verpflichtung vertrauender Beteiligter, sich gegenüber den Nutzern zu identifizieren und Pseudonyme nicht zu verweigern, wenn die Identifizierung des Nutzers nicht im Unionsrecht oder im nationalen Recht vorgeschrieben ist. Insbesondere zu diesen Aspekten zeichnete sich zuletzt in der betreffenden Durchführungsverordnung eine Aufweichung ab, deren Zulässigkeit angesichts der soeben wiedergegeben Bestimmungen der EIDAS-VO in Frage steht.<ref name=":0" />

Art 5a Abs 12 eIDAS-VO legt zudem fest, dass die EUDIW "security-by-design" sicherstellen müssen, was im deutschen Verordnungstext damit übersetzt wird, dass sie "mit ‚konzeptintegrierter Sicherheit‘ auszustatten" sind. Art 5a Abs 5 eIDAS-VO normiert eine Pflicht zur Verständigung der Nutzer über Sicherheitsverletzungen. Näheres zu Konsequenzen von Sicherheitsverletzungen ist in Art 5e eIDAS-VO vorgesehen.

In Art 5c eIDAS-VO ist das Erfordernis der Zertifizierung jedes EUDIW geregelt, unter Bezugnahme auf den [[Cyber Security Act (CSA)|Cyber Security Act]]. Alle zertifizierten EUDIW werden die im Amtsblatt der Europäischen Union veröffentlicht und in einer maschinenlesbaren Liste geführt (Art 5d eIDAS-VO).

Auch die Bestimmung über die Freiwilligkeit der Nutzung (Art 5a Abs 14 eIDAS-VO) dient - neben dem Hauptzweck der Nichtdiskriminierung - gewissermaßen auch Datenschutzzwecken. Sie normiert zusätzlich folgende Anforderungen, damit eine Freiwilligkeit auch faktisch besteht:

* Natürliche oder juristische Personen, die die EUDIW nicht nutzen, dürfen in ihrem Zugang zu öffentlichen und privaten Diensten und zum Arbeitsmarkt sowie in ihrer unternehmerischen Freiheit in keiner Weise eingeschränkt oder benachteiligt werden.
* Der Zugang zu öffentlichen und privaten Diensten muss weiterhin über andere bestehende Identifizierungs- und Authentifizierungsmittel möglich sein.

===== Annahmepflichten der EUDIW =====
In drei verschiedenen Konstellationen ist eine Verpflichtungen zur Akzeptanz des EUDIW vorgesehen (Art 5f eIDAS-VO):

* Wenn Mitgliedstaaten für einen E-Government-Dienst eine elektronische Identifizierung und Authentifizierung verlangen, müssen sie dafür auch die EUDIW akzeptieren.
* Sind private vertrauende Beteiligte, die Dienste erbringen — mit Ausnahme von Kleinst- und kleinen Unternehmen im Sinne von Art 2 des Anhangs der Empfehlung 2003/361/EG der Kommission<ref>[https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32003H0361 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (2003/361/EG) (ABl. L 124 vom 20.5.2003, S. 36).]</ref> –, nach Unionsrecht oder nationalem Recht verpflichtet, eine Online-Identifizierung mit starker Nutzerauthentifizierung vorzunehmen, oder ist eine Online-Identifizierung mit starker Nutzerauthentifizierung vertraglich vorgeschrieben, auch in den Bereichen Verkehr, Energie, Bankenwesen, Finanzdienstleistungen, soziale Sicherheit, Gesundheit, Trinkwasser, Postdienste, digitale Infrastrukturen, Bildung oder Telekommunikation, so akzeptieren diese privaten vertrauenden Beteiligten hierfür spätestens 36 Monate nach dem Tag des Inkrafttretens der Durchführungsrechtsakte gemäß Art 5a Abs 23 und Art 5c Abs 6 eIDAS-VO und nur auf freiwilliges Verlangen des Nutzers auch EUDIW. Der Begriff starke Nutzerauthentifizierung kann grundsätzlich als 2-Faktor-Authentifizierung verstanden werden und ist in Art 3 Z 51 eIDAS-VO näher definiert.
* Verlangen Anbieter sehr großer Online-Plattformen gemäß Art 33 [[Digital Services Act (DSA)|Digital Services Act]] für den Zugang zu Online-Diensten eine Nutzerauthentifizierung, so akzeptieren und erleichtern sie hierfür auch die Verwendung von EUDIW, und zwar nur auf freiwilliges Verlangen des Nutzers und nur mit den Mindestdaten, die für den spezifischen Online-Dienst, für den die Authentifizierung verlangt wird, erforderlich sind.

===== Umsetzungsstand und Pilotprojekte der EUDIW =====
Zur Vorbereitung des Roll-outs der EUDIW koordiniert die Kommission über die sog. „Toolbox“ und das Architecture and Reference Framework (ARF) die technische Zusammenarbeit der Mitgliedstaaten. Das [https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework ARF] wird regelmäßig aktualisiert und dient als Referenzdokument für Wallet-Implementierungen, Schnittstellen und Sicherheitsanforderungen.<ref>[https://eudi.dev/latest/ ''Europäische Kommission,'' European Digital Identity]</ref>

Parallel dazu laufen mehrere von der EU kofinanzierte „Large Scale Pilot“-Projekte, in deren Rahmen der Einsatz der EUDIW in verschiedenen grenzüberschreitenden Use Cases (zB E-Government, Führerschein, Bankkonteneröffnung) praktisch getestet wird.<ref>[https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487808/What%2Bare%2Bthe%2BLarge%2BScale%2BPilot%2BProjects European Commission, What are the Large Scale Pilots]</ref>

Am 4. Dezember 2024 wurden fünf Durchführungsverordnungen veröffentlicht, die ua Personenidentifizierungsdaten und elektronische Attributsbescheinigungen ([https://eur-lex.europa.eu/eli/reg_impl/2024/2977/oj DurchführungsVO (EU) 2024/2977]), die Integrität und Kernfunktionen der Wallet ([https://eur-lex.europa.eu/eli/reg_impl/2024/2979/oj 2024/2979]), die Notifizierung bezüglich des Wallet-Ökosystems ([https://eur-lex.europa.eu/eli/reg_impl/2024/2980/oj 2024/2980]), die Zertifizierung von Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2024/2981/oj 2024/2981]) sowie die zu unterstützenden Protokolle und Schnittstellen ([https://eur-lex.europa.eu/eli/reg_impl/2024/2982/oj 2024/2982]) konkretisieren.

Am 7. Mai 2025 folgte eine zweite Runde von Durchführungsverordnungen, ua zum grenzüberschreitenden Identitätsabgleich natürlicher Personen ([https://eur-lex.europa.eu/eli/reg_impl/2025/846/oj 2025/846]), zur Reaktion auf Sicherheitsverletzungen von Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2025/847/oj 2025/847]), zur Registrierung vertrauender Beteiligter ([https://eur-lex.europa.eu/eli/reg_impl/2025/848/oj 2025/848]), sowie zur Übermittlung von Informationen an die Kommission und die Kooperationsgruppe für die Liste zertifizierter Wallets ([https://eur-lex.europa.eu/eli/reg_impl/2025/849/oj 2025/849]).

==== Gegenseitige Anerkennung mitgliedstaatlicher elektronischer Identifizierungsmittel ====
Neben den 2024 neu eingeführten EUDIW enthält die eIDAS-VO in den Art 6ff auch die bisherigen Bestimmungen zu elektronischen Identifizierungssystemen mit dem Schwerpunkt der gegenseitigen Anerkennung durch die Mitgliedstaaten notifizierter elektronischer Identifizierungssysteme. Kernbestimmung ist die Verpflichtung der Mitgliedstaaten, wenn für einen E-Government-Dienst nach nationalem Recht oder aufgrund der Verwaltungspraxis eine elektronische Identifizierung mit einem elektronischen Identifizierungsmittel auf dem Sicherheitsniveau „substanziell“ oder „hoch“ und mit einer Authentifizierung erforderlich ist, auch in einem anderen Mitgliedstaat ausgestellte elektronische Identifizierungsmittel des gleichen oder eines höheren Sicherheitsniveaus für Zwecke der grenzüberschreitenden Authentifizierung anzuerkennen (Art 6 Abs 1 eIDAS-VO). Die dafür erforderliche Notifizierung des elektronischen Identifizierungssystems durch den jeweiligen Mitgliedstaat und die Voraussetzungen dafür sind in Art 7 und 9 eIDAS-VO näher geregelt. Österreich hat im Jahr 2022 die ID Austria notifiziert.<ref>''Kustor'', Vortrag zu eIDAS 2.0, Innovation Day 2023 https://www.youtube.com/watch?v=_JgS_4e1Qs4</ref>

=== Vertrauensdienste ===
Vertrauensdiensteanbieter (Art 3 Z 19 eIDAS-VO) ist, wer einen Vertrauensdienst erbringt (oder mehrere), das ist ein elektronischer Dienst, der in der Regel gegen Entgelt erbracht wird und aus irgendeiner der folgenden Tätigkeiten besteht (Art 3 Z 19 eIDAS-VO):

* Ausstellung von Zertifikaten für elektronische Signaturen, von Zertifikaten für elektronische Siegel, von Zertifikaten für die Website-Authentifizierung oder von Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Validierung von Zertifikaten für elektronische Signaturen, Zertifikaten für elektronische Siegel, Zertifikaten für die Website-Authentifizierung oder Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Erstellung elektronischer Signaturen oder elektronischer Siegel;
* Validierung elektronischer Signaturen oder elektronischer Siegel;
* Bewahrung von elektronischen Signaturen, elektronischen Siegeln, Zertifikaten für elektronische Signaturen oder Zertifikaten für elektronische Siegel;
* Verwaltung elektronischer Fernsignaturerstellungseinheiten oder elektronischer Fernsiegelerstellungseinheiten;
* Ausstellung elektronischer Attributsbescheinigungen;
* Validierung elektronischer Attributsbescheinigungen;
* Erstellung elektronischer Zeitstempel;
* Validierung elektronischer Zeitstempel;
* Erbringung von Diensten für die Zustellung elektronischer Einschreiben;
* Validierung von durch Dienste für die Zustellung elektronischer Einschreiben übermittelten Daten und damit zusammenhängenden Nachweisen;
* elektronische Archivierung elektronischer Daten und elektronischer Dokumente;
* Aufzeichnung elektronischer Daten in einem elektronischen Journal.
In Art 24a eIDAS-VO ist die gegenseitige Anerkennung qualifizierter Vertrauensdienste in allen Mitgliedstaaten festgelegt.

==== Elektronische Signaturen ====
In Art 3 Z 10 eIDAS-VO ist der Begriff ''elektronische Signatur'' definiert als „Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder logisch mit ihnen verbunden werden und die der Unterzeichner zum Unterzeichnen verwendet.“ Der Unterzeichner ist definiert als „eine natürliche Person, die eine elektronische Signatur erstellt“ (Art 3 Z 11 eIDAS-VO). Für juristische Personen bestehen als Äquivalent zur elektronischen Signatur die elektronischen Siegel.

Die eIDAS-VO unterscheidet zwischen drei Arten von elektronischen Signaturen: „einfachen“, fortgeschrittenen und qualifizierten elektronischen Signaturen, deren Definitionen aufeinander aufbauen. Aus der Definition der "einfachen" elektronischen Signatur wird deutlich, dass an diese keinerlei Anforderungen gestellt werden. Bereits das Unterzeichnen eines E-Mails mit dem Namen des Verfassers erfüllt die Definition. Die Definition der "einfachen" elektronischen Signatur in der eIDAS-VO dient daher vor allem dem Zweck, darauf aufbauend die ''fortgeschrittene elektronische Signatur'' zu definieren als elektronische Signatur, die die Anforderungen des Art 26 eIDAS-VO erfüllt (Art 3 Z 11 eIDAS-VO). Art 26 Abs 1 lautet:

'''''Anforderungen an fortgeschrittene elektronische Signaturen'''''

''Eine fortgeschrittene elektronische Signatur erfüllt alle folgenden Anforderungen:''

''a) Sie ist eindeutig dem Unterzeichner zugeordnet.''

''b) Sie ermöglicht die Identifizierung des Unterzeichners.''

''c) Sie wird unter Verwendung elektronischer Signaturerstellungsdaten erstellt, die der Unterzeichner mit einem hohen Maß an Vertrauen unter seiner alleinigen Kontrolle verwenden kann.''

''d) Sie ist so mit den auf diese Weise unterzeichneten Daten verbunden, dass eine nachträgliche Veränderung der Daten erkannt werden kann.''

Art 26 Abs 2 ermöglicht der Kommission, Durchführungsrechtsakte zu erlassen, „mit denen eine Liste von Referenzstandards erstellt wird und gegebenenfalls Spezifikationen und Verfahren für fortgeschrittene elektronische Signaturen festgelegt werden.“

Art 3 Z 12 eIDAS-VO definiert schließlich die ''qualifizierte elektronischen Signatur'' als „eine fortgeschrittene elektronische Signatur, die von einer qualifizierten elektronischen Signaturerstellungseinheit erstellt wurde und auf einem qualifizierten Zertifikat für elektronische Signaturen beruht.“

Eine solche qualifizierte elektronische Signatur hat die gleiche '''Rechtswirkung''' wie eine handschriftliche Unterschrift (Art 25 Abs 2 eIDAS-VO). Überdies normiert Art 25 Abs 1 eIDAS-VO, dass einer elektronischen Signatur die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden darf, weil sie in elektronischer Form vorliegt oder weil sie die Anforderungen an qualifizierte elektronische Signaturen nicht erfüllt.

Im allgemeinen (technischen) Sprachgebrauch wird die auf [https://de.wikipedia.org/wiki/Asymmetrische_Kryptographie asymmetrischer Kryptographie] basierende Technologie, mit der die soeben dargelegten Anforderungen umgesetzt werden, als ''[https://de.wikipedia.org/wiki/Digitale_Signatur digitale Signatur]'' bezeichnet. ''Elektronische Signatur'' ist demgegenüber ein rechtlicher Begriff, der bewusst technologieneutral gewählt wurde, wobei in der Praxis zur Implementierung qualifizierter elektronischer Signaturen nur die Technologie der digitalen Signatur eine Rolle spielt.

Entsprechend dieser begrifflich abstrakten Herangehensweise ist in der eIDAS-VO auch nicht von privatem und öffentlichem Schlüssel die Rede, sondern von ''elektronischen'' ''Signaturerstellungsdaten'' (Art 3 Z 13 eIDAS-VO) und ''Signaturvalidierungsdaten''. Letztere sind nicht eigenständig definiert, sondern in der Definition des Begriffs Zertifikat für elektronische Signaturen enthalten (Art 3 Z 14 eIDAS-VO). Diese lautet: „‚Zertifikat für elektronische Signaturen‘ ist eine elektronische Bescheinigung, die elektronische Signaturvalidierungsdaten mit einer natürlichen Person verknüpft und die mindestens den Namen oder das Pseudonym dieser Person bestätigt.“ Eine detaillierte Liste jener Angaben, die ein qualifiziertes Zertifikat enthalten muss, findet sich in Anhang I der eIDAS-VO.

Ein Zertifikat für elektronische Signaturen, das diese Anforderungen erfüllt und von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde, ist gemäß Art 3 Z 15 eIDAS-VO ein ''qualifiziertes Zertifikat für elektronische Signaturen''. Art 28 Abs 2 eIDAS-VO bestimmt, dass keine obligatorischen Anforderungen an ein qualifiziertes Zertifikat für elektronische Signaturen gelten dürfen, die über die Anforderungen des Anhang I hinausgehen. Gemäß Art 28 Abs 3 eIDAS-VO können qualifizierte Zertifikate zusätzliche fakultative spezifische Attribute enthalten. Der Begriff [https://de.wikipedia.org/wiki/Digitales_Zertifikat Zertifikat] entspricht dem allgemeinen einschlägigen Sprachgebrauch.

Die Anforderungen, die eine '''qualifizierte elektronische Signaturerstellungseinheit''' erfüllen muss, um gemäß Art 29 Abs 1 eIDAS-VO als solche zu gelten, sind in Anhang II der eIDAS-VO definiert. In der Praxis wird als qualifizierte elektronische Signaturerstellungseinheit insbesondere eine [https://de.wikipedia.org/wiki/Chipkarte Chipkarte] oder ein [https://de.wikipedia.org/wiki/Hardware-Sicherheitsmodul Hardware Security Module (HSM)] verwendet. Mit der Novellierung wurden ausdrücklich auch Bestimmungen zu Fernsignaturen eingeführt (Art 3 Z 23a, Art 29a eIDAS-VO)

==== Elektronische Siegel ====
Elektronische Siegel sind für juristische Personen das Äquivalent zu elektronischen Signaturen. Die Regelungen zu elektronischen Siegeln in Abschnitt 5 der eIDAS-VO sind äquivalent zu jenen für elektronische Signaturen ausgestaltet und normieren zum Teil nur die sinngemäße Geltung der entsprechenden Bestimmungen betreffend elektronische Signaturen. Die Regelung, wonach eine qualifizierte elektronische Signatur die gleiche Rechtswirkung hat wie eine handschriftliche Unterschrift, ist hingegen auf juristische Personen naturgemäß nicht übertragbar. Für ein qualifiziertes elektronisches Siegel gilt stattdessen die Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunftsangabe der Daten, mit denen das qualifizierte elektronische Siegel verbunden ist (Art 35 Abs 2 eIDAS-VO).

Wie aus den Rechtswirkungen deutlich wird, zielen elektronische Siegel nicht auf die Abgabe von Willenserklärungen ab, sondern insbesondere auf die Abgabe von Wissenserklärungen, wie z.B. die Bestätigung der Integrität von Dokumenten oder Software oder des Erhalts von Daten. Der Vorteil eines elektronischen Siegels ist, dass sich im Vergleich zu einer elektronischen Signatur, die eine natürliche Person in Vertretung einer juristischen Person erstellt, die in diesem Fall zusätzlich erforderliche Überprüfung der Vertretungsbefugnis dieser natürlichen Person erübrigt.

==== Elektronische Zeitstempel ====
Ein elektronischer Zeitstempel ist in Art 3 Z 33 eIDAS-VO definiert als „Daten in elektronischer Form, die andere Daten in elektronischer Form mit einem bestimmten Zeitpunkt verknüpfen und dadurch den Nachweis erbringen, dass diese anderen Daten zu diesem Zeitpunkt vorhanden waren.“ Elektronische Zeitstempel dienen somit dem Nachweis, dass die damit bestätigten Daten zum darin angegebenen Zeitpunkt vorlagen und seitdem nicht verändert wurden. Ein ''qualifizierter'' ''elektronischer Zeitstempel'' ein solcher, der die Anforderungen des Art 42 eIDAS-VO (Art 3 Z 34 eIDAS-VO). Gemäß Art 41 Abs 2 eIDAS-VO gilt für einen qualifizierten elektronischen Zeitstempel die Vermutung der Richtigkeit des Datums und der Zeit, die darin angegeben sind, sowie der Unversehrtheit der mit dem Datum und der Zeit verbundenen Daten.

==== Dienste für die Zustellung elektronischer Einschreiben ====
Gemäß Art 3 Z 36 eIDAS-VO ist ein ''Dienst für die Zustellung elektronischer Einschreiben'' ein „Dienst, der die Übermittlung von Daten zwischen Dritten mit elektronischen Mitteln ermöglicht und einen Nachweis der Handhabung der übermittelten Daten erbringt, darunter den Nachweis der Absendung und des Empfangs der Daten, und der die übertragenen Daten vor Verlust, Diebstahl, Beschädigung oder unbefugter Veränderung schützt“. Ein ''qualifizierter'' ''Dienst für die Zustellung elektronischer Einschreiben'' ist gemäß Art 3 Z 37 eIDAS-VO ein solcher Dienst, der die Anforderungen des Art 44 eIDAS-VO erfüllt. Diese Bestimmung zeigt, dass sich ein Dienst für die Zustellung elektronischer Einschreiben der zuvor behandelten Vertrauensdienste bedient.

==== Website-Authentifizierung ====
Art 3 Z 38 eIDAS-VO definiert ein Zertifikat für die Website-Authentifizierung (qualified website authentication certificate, QWAC) als "eine elektronische Bescheinigung, die die Authentifizierung einer Website ermöglicht und die Website mit der natürlichen oder juristischen Person verknüpft, der das Zertifikat ausgestellt wurde." In der Praxis wird dies durch [https://de.wikipedia.org/wiki/Transport_Layer_Security TLS]-Zertifikate realisiert und standardmäßig verwendet, erkennbar an der Präfix "https" in der URL-Zeile des Browsers und dem daneben angezeigten stilisierten Schloss. Ein qualifiziertes Zertifikat für die Website-Authentifizierung ist gemäß Art 3 Z 39 eIDAS-VO ein von einem qualifizierten Vertrauensdiensteanbieter ausgestelltes Zertifikat für Website-Authentifizierung, das die Anforderungen des Anhangs IV der eIDAS-VO erfüllt. Die Stammfassung der Verordnung beschränkte sich darauf, verbindliche Anforderungen für solche Zertifikate zu definieren, die vom Aussteller als qualifiziert bezeichnet werden. Weder normiert die eIDAS-VO Rechtswirkungen solcher qualifizierter Zertifikate für die Website-Authentifizierung, noch trifft sie Regelungen, die in bestimmten Fällen zum Einsatz qualifizierter oder nichtqualifizierter Zertifikate für die Website-Authentifizierung verpflichten.

Die Novellierung brachte diesbezüglich jedoch eine umstrittene Neuerung mit sich: Art 45 Abs 1a eIDAS-VO verpflichtet nunmehr Anbieter von Webbrowsern, qualifizierte Zertifikate für die Website-Authentifizierung anzuerkennen. An dieser Neuerung wurde kritisiert, dass sie staatlichen Stellen ermöglicht, im Sinne eines Man-in-the-Middle-Angriffs Online-Kommunikation zu überwachen.<ref>''Eggendorfer/Schmidt-Wudy'', eIDAS 2.0 - "Sicherheit trotz und wegen Verschlüsselung"?, KuR 2024, 13</ref><ref>[https://netzpolitik.org/2023/eidas-reform-schlagabtausch-zwischen-forschenden-und-eu-parlament/ ''Leisegang'', Schlagabtausch zwischen Forschenden und EU-Parlament, Netzpolitik.org, 07.12.2023]</ref> Als Kompromisslösung wurde daher in Art 45a Abs 2 eIDAS-VO klargestellt, dass Anbieter von Webbrowsern in Fällen begründeter Bedenken hinsichtlich Sicherheitsverletzungen oder eines Integritätsverlusts eines bestimmten Zertifikats oder eines Satzes von Zertifikaten Vorsorgemaßnahmen in Bezug auf dieses Zertifikat oder diesen Satz von Zertifikaten ergreifen können und die Kommission hielt in einer förmlichen Erklärung fest, dass Art 45 eIDAS-VO Anbietern von Webbrowsern keine Verpflichtungen und Einschränkungen hinsichtlich der Gewährleistung vertraulicher Online-Kommunikation auferlege.<ref>[https://netzpolitik.org/2024/eidas-reform-eu-parlament-stimmt-fuer-digitale-brieftasche/ ''Leisegang'', EU-Parlament stimmt für digitale Brieftasche, Netzpolitik.org, 29.02.2024]</ref><ref>[https://www.europarl.europa.eu/doceo/document/A-9-2023-0038-AM-007-007_EN.pdf Statement by the Commission on Article 45 on the occasion of the adoption of Regulation 2024/...]</ref>

==== Elektronische Attributsbescheinigungen ====
Die mit eIDAS 2.0 eingeführten elektronischen Attributsbescheinigungen (engl. electronic attestations of attributes, EAA) ermöglichen den Nachweis von Attributen, das sind gemäß Art 3 Z 43 eIDAS-VO Merkmale, Qualitäten, Rechte oder Erlaubnisse einer natürlichen oder juristischen Person oder eines Objekts, wie z.B. ein Hochschulabschluss oder eine Fahrerlaubnis (Führerschein). Eine EAA ist folglich definiert als "eine in elektronischer Form vorliegende Bescheinigung, die die Authentifizierung von Attributen ermöglicht" (Art 3 Z 44 eIDAS-VO). Wenn eine EAA von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde und die Anforderungen des Anhangs V der eIDAS-VO erfüllt, gilt sie als qualifizierte EAA (Art 3 Z 45 eIDAS-VO). Diesen gleichgestellt gibt es zum Zweck der unmittelbaren Bescheinigung von Attributen aus staatlichen Registern, für die aufgrund ihrer originären Authentizität eine Einbeziehung eines qualifizierten Vertrauensdiensteanbieters widersinnig wäre, eine eigene Kategorie der EAA, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden. Diese definiert Art 3 Z 46 eIDAS-VO als eine EAA, die gemäß Art 45f und Anhang VII der eIDAS-VO on einer öffentlichen Stelle ausgestellt wurde, die für eine authentische Quelle (vgl Art 3 Z 47 eIDAS-VO) zuständig ist, oder von einer öffentlichen Stelle ausgestellt wurde, die von dem Mitgliedstaat dafür benannt wurde, solche Attributsbescheinigungen im Namen der öffentlichen Stellen auszustellen, die für authentische Quellen zuständig sind.

Die Mitgliedstaaten müssen bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) dafür sorgen, dass zumindest die folgenden Attribute anhand authentischer Quellen elektronisch überprüft werden können (Art 45e Abs 1 iVm Anhang VI eIDAS-VO):

# Adresse,
# Alter,
# Geschlecht,
# Personenstand,
# Familienzusammensetzung,
# Staatsangehörigkeit oder Staatsbürgerschaft,
# Bildungsabschlüsse, Titel und Erlaubnisse,
# Berufsqualifikationen, Titel und Berechtigungen,
# Vollmachten und Mandate, eine natürliche oder juristische Person zu vertreten,
# behördliche Genehmigungen und Lizenzen,
# für juristische Personen Finanzdaten und Unternehmensdaten.

Art 45b Abs 3 eIDAS-VO schreibt für diese Kategorie der EAA die Anerkennung in allen Mitgliedstaaten vor. Die weiteren Regeln zu den Rechtwirkungen ähneln jenen der elektronischen Signatur: "Eine qualifizierte elektronische Attributsbescheinigung und Attributsbescheinigungen, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden, haben dieselbe Rechtswirkung wie rechtmäßig ausgestellte Bescheinigungen in Papierform" (Art 45b Abs 2 eIDAS-VO) und "[e]iner elektronischen Attributsbescheinigung darf die Rechtswirkung oder die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil sie in elektronischer Form vorliegt oder nicht die Anforderungen an qualifizierte elektronische Attributsbescheinigungen erfüllt" (Art 45b Abs 1 eIDAS-VO).

Zum Zusammenspiel zwischen EAA und der EUDIW ist festgelegt, dass Anbieter von EAA EUDIW-Nutzern die Möglichkeit bieten müssen, die EAA unabhängig von dem Mitgliedstaat, in dem die EUDIW bereitgestellt wird, anzufordern, zu erhalten, zu speichern und zu verwalten (Art 45g Abs 1 eIDAS-VO) und dass Anbieter qualifizierter EAA eine Schnittstelle zum EUDIW bereitstellen müssen (Art 45g Abs 2 eIDAS-VO).

Art 45h eIDAS-VO enthält Datenschutzvorschriften für die Erbringung von Diensten für EAA:

# Kein Kombinieren der Daten: Anbieter qualifizierter und nichtqualifizierter Dienste für EAA dürfen personenbezogene Daten in Bezug auf die Erbringung dieser Dienste nicht mit personenbezogenen Daten aus anderen von ihnen oder ihren Geschäftspartnern angebotenen Diensten kombinieren (Art 45h Abs 1 eIDAS-VO).
# Trennung der Daten: Personenbezogene Daten in Bezug auf die Erbringung von Diensten für EAA müssen von allen anderen vom Anbieter von EAA gespeicherten Daten logisch getrennt gehalten werden (Art 45h Abs 2 eIDAS-VO).
# Trennung der Dienste: Anbieter von EAA setzen die Bereitstellung solcher qualifizierter Vertrauensdienste auf eine Weise um, dass sie von anderen von ihnen bereitgestellten Diensten funktional getrennt ist (Art 45h Abs 3 eIDAS-VO).

==== Elektronische Archivierungsdienste ====
Elektronische Archivierung "ist ein Dienst für die Entgegennahme, die Speicherung, den Abruf und die Löschung elektronischer Daten und elektronischer Dokumente, der ihre Dauerhaftigkeit und Lesbarkeit gewährleistet sowie ihre Unversehrtheit, Vertraulichkeit und den Nachweis ihrer Herkunft während des gesamten Bewahrungszeitraums erhält" (Art 3 Z 48 eIDAS-VO). Analog zu anderen Vertrauensdiensten regeln die Art 45i und 45j eIDAS-VO die Rechtswirkung sowie die Anforderungen an qualifizierte elektronische Archivierungsdienste.

==== Elektronische Journale (electronic ledgers) ====
Die eIDAS-VO enthält wie erwähnt nunmehr auch Regelungen zu electronic ledgers, in der deutschsprachigen Fassung als elektronische Journale bezeichnet. Ein solches ist in Art 3 Z 52 eIDAS-VO definiert als "eine Abfolge von Aufzeichnungen elektronischer Daten, die die Unversehrtheit dieser Aufzeichnungen und die Richtigkeit ihrer chronologischen Reihenfolge gewährleistet." Auch hierzu sind mit anderen Vertrauensdiensten vergleichbare Regelungen zu den Rechtswirkungen sowie die Anforderungen an qualifizierte elektronische Journale in Art 45k und 45l eIDAS-VO vorgesehen. Zu erwähnen ist, dass die Definition nicht das Kriterium der verteilten Datenhaltung enthält (vgl. [https://de.wikipedia.org/wiki/Distributed-Ledger-Technologie Distributed-Ledger-Technologie]). Art 45l Abs 1 lit a eIDAS-VO erwähnt allerdings, dass ein qualifiziertes elektronisches Journal von einem oder mehreren qualifizierten Vertrauensdiensteanbietern erstellt und verwaltet werden kann.

== Verhältnis zu anderen Rechtsakten ==

=== DSGVO ===

* Wie oben dargestellt, enthält die eIDAS-VO zahlreiche Bestimmungen, um die Einhaltung der Datenschutzgrundsätze, insbesondere des Grundsatzes der Datenminimierung, in Bezug auf das EUDIW sicherzustellen. Art 2 eIDAS-VO normiert ausdrücklich, dass diese "unbeschadet der" [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32016R0679 DSGVO (Datenschutz-Grundverordnung)] gilt. Die beiden Verordnungen stehen somit grundsätzlich nebeneinander. Eindeutig ist die Rechtslage dahingehend, dass die Durchführungsrechtsakte zur eIDAS-VO den Bestimmungen der DSGVO nicht widersprechen dürfen und dass vertrauende Beteiligte in ihrem Umgang mit den EUDIW-Nutzern und mit deren Daten nicht nur die Bestimmungen der eIDAS-VO, sondern auch die Bestimmungen der DSGVO einhalten müssen.

=== European Business Wallets ===

* Am 19. November 2025 veröffentlichte die Kommission einen Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen (European Business Wallets).<ref>[https://digital-strategy.ec.europa.eu/de/library/proposal-regulation-establishment-european-business-wallets Europäische Kommission, Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen]</ref> Diese sollen technisch auf den EUDIW aufbauen<ref>[https://digital-strategy.ec.europa.eu/de/policies/business-wallets Europäische Kommission, EU-Brieftaschen für Unternehmen]</ref> und - sofern die Verordnung beschlossen wird - Unternehmen in der EU die grenzüberschreitende Authentifizierung (insbesondere, aber nicht nur gegenüber Behörden) und den vertrauenswürdigen Austausch von Dokumenten ermöglichen und damit den Verwaltungsaufwand für Unternehmen reduzieren.

== Weiterführende Links ==

* ''Europäische Kommission'', eIDAS Dashboard, https://eidas.ec.europa.eu/efda/discover/eu-trust-service-framework
* ''Europäische Kommission,'' EU Digital Identity Wallet Home, https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487738/EU+Digital+Identity+Wallet+Home
* ''Europäische Kommission,'' European Digital Identity Wallet, https://eudi.dev/latest/
* ''Europäische Kommission,'' Architecture and Reference Framework, https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework

== Einzelnachweise ==
<references />

Regulation on electronic identification and trust services (eIDAS)

2025-12-03T22:38:43Z

Walter: Umsetzungsstand

'''Änderung durch''' {{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1183|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1183 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Änderung der Verordnung (EU) Nr. 910/2014 im Hinblick auf die Schaffung des europäischen Rahmens für eine digitale Identität|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS (2.0)|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1183, 1|Anzuwenden=21. Mai 2026/2027 (Übergangsbestimmungen)|Gültig=inkraft}}'''Ursprungsrechtsakt'''{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2014|Nummer=910|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) Nr. 910/2014 des Europäischen Parlaments und des Rates vom 23. Juli 2014 über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen im Binnenmarkt und zur Aufhebung der Richtlinie 1999/93/EG|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2014/257, 73|Anzuwenden=1. Juli 2016 (mit Ausnahmen)|Gültig=anwendbar}}

== Einführung ==
Die Abkürzung eIDAS steht für "electronic IDentification, Authentication and Trust Services". Die ursprüngliche Fassung der eIDAS-VO wurde im Jahr 2014 beschlossen. Sie umfasst zwei Regelungsgegenstände, die völlig unabhängig voneinander behandelt werden,

* die elektronische Identifizierung sowie
* Vertrauensdienste, wie insbesondere elektronische Signaturen.

Die eIDAS-VO enthält auch eine ganz allgemeine Grundregel für elektronische Dokumente: "Einem elektronischen Dokument darf die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil es in elektronischer Form vorliegt" (Art 46 eIDAS-VO). Der Begriff elektronisches Dokument ist dabei sehr weit definiert als jeder in elektronischer Form, insbesondere als Text-, Ton-, Bild- oder audiovisuelle Aufzeichnung gespeicherte Inhalt (Art 3 Z 35 eIDAS-VO).

Die Rahmenbedingungen für elektronische Signaturen bauen auf der Signaturrichtlinie auf, die seit 1999 gegolten hatte. Betreffend die Vertrauensdienste enthielt die IDAS-VO von 2014 bereits europaweit einheitliche Regeln (Harmonisierung), betreffend die elektronische Identifizierung regelte diese hingegen nur grenzüberschreitende Aspekte. Sie versuchte, Interoperabilität zwischen den verschiedenen nationalen elektronischen Identifizierungssystemen der Mitgliedstaaten herzustellen, indem sie deren gegenseitige Anerkennung durch die Mitgliedstaaten für deren E-Government-Services normiert. Vorschriften, wie diese gestaltet sein müssen, eine Verpflichtung zur Anerkennung im Privatsektor oder eine Verpflichtung, dass jeder Mitgliedsaat überhaupt ein elektronisches Identifizierungssystem haben müsse, enthielt sie nicht. Dies führte dazu, dass elektronische Identifizierungssysteme nicht in allen Mitgliedstaaten gleichermaßen zur Verfügung standen und ihre Verbreitung teilweise gering blieb, insbesondere in Bezug auf die Verwendung im privaten Sektor.<ref>[https://digital-strategy.ec.europa.eu/de/policies/eudi-regulation Europäische Kommission, Verordnung über die europäische digitale Identität (EUDI)]</ref>

Um diese Mängel zu beheben, wurde eine umfangreiche Novellierung der eIDAS-VO erarbeitet – bekannt als eIDAS 2.0 – die am 20. Mai 2024 in Kraft trat. Als zentrale Neuerung treten neben die Interoperabilität der nationalen elektronischen Identifizierungssysteme einheitliche Vorgaben für eine „Europäische Brieftasche für die Digitale Identität“ („European Digital Identity Wallet“, kurz EUDI-Wallet, <abbr>EUDI</abbr>-Brieftasche oder EUDIW). Bis Herbst 2026 müssen alle EU-Mitgliedstaaten ihren Bürger*innen eine solche Wallet anbieten, mit der sie sich online und offline ausweisen können, insbesondere auch gegenüber Unternehmen, sowie Attribute aller Art nachweisen können, vom Altersnachweis über Zeugnisse bis hin zu Tickets. Die Nutzung soll freiwillig und kostenfrei sein.

Betreffend Vertrauensdienste enthielt die eIDAS-VO bereits bisher Regelungen zu Vertrauensdiensteanbietern sowie zu folgenden spezifischen Vertrauensdiensten:

* Elektronische Signaturen
* Elektronische Siegel
* Elektronische Zeitstempel
* Dienste für die Zustellung elektronischer Einschreiben
* Website-Authentifizierung

Mit der Novellierung 2024 wurden einige dieser Regelungen angepasst und es traten Regelungen zu folgenden neunen Vertrauensdiensten hinzu:

* Elektronische Attributsbescheinigung
* Elektronische Archivierungsdienste
* Elektronische Journale (electronic ledgers)
Die Regulierung ist im Detail nicht abgeschlossen, denn die novellierte eIDAS-VO sieht insgesamt ca. 40 Durchführungsrechtsakte vor, die zahlreiche teils sehr relevante Umsetzungsdetails regeln werden. Sie müssen entweder 6, 12 oder 24 Monate nach Inkrafttreten der eIDAS-VO vorliegen, manche sind jedoch optional. Wegen ihrer hohen Anzahl kann hier nicht auf alle näher eingegangen werden. Mit Stand November 2025 liegen wichtige Durchführungsverordnungen der Kommission bereits vor, insbesondere zur Ausgestaltung der EUDIW, siehe dazu [https://wiki.atlaws.eu/index.php/Regulation_on_electronic_identification_and_trust_services_(eIDAS)#Umsetzungsstand_und_Pilotprojekte_der_EUDIW unten], andere befinden sich in öffentlicher Konsultation.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives_de?text=European%20Digital%20Identity%20Wallets Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Schlüsselwort "European Digital Identity Wallets"]</ref> In den Entwürfen zeichnete sich zuletzt eine Aufweichung der unten beschriebenen Datenschutz- und Datensicherheitsmaßnahmen des EUDIW ab, sodass diese Gegenstand intensiver politischer Diskussionen sind.<ref name=":0">[https://netzpolitik.org/2024/digitale-identitaeten-faule-eier-der-kommission/ ''Leisegang'', Faule Eier der Kommission, Netzpolitik.org, 05.12.2024] </ref>

== Zentrale Inhalte ==

=== Elektronische Identifizierung ===
Die elektronische Identifizierung ist in Art 3 Z 1 eIDAS-VO definiert als "der Prozess der Verwendung von Personenidentifizierungsdaten in elektronischer Form, die eine natürliche oder juristische Person oder eine natürliche Person, die eine andere natürliche Person oder eine juristische Person vertritt, eindeutig repräsentieren." Ein elektronisches Identifizierungsmittel ist "eine materielle und/oder immaterielle Einheit, die Personenidentifizierungsdaten enthält und zur Authentifizierung bei Online-Diensten oder gegebenenfalls bei Offline-Diensten verwendet wird" (Art 3 Z 2 eIDAS-VO). Die Authentifizierung ist "ein elektronischer Prozess, der die Bestätigung der elektronischen Identifizierung einer natürlichen oder juristischen Person oder die Bestätigung des Ursprungs und der Unversehrtheit von Daten in elektronischer Form ermöglicht" (Art 3 Z 5 eIDAS-VO). Die natürliche oder juristische Person, der gegenüber sich ein Individuum identifiziert und/oder bestimmte Eigenschaften (Attribute) nachweist, die also, wie es die Definition in Art 3 Z 6 eIDAS-VO formuliert, "auf eine elektronische Identifizierung, europäische Brieftaschen für die Digitale Identität oder andere Mittel zur elektronischen Identifizierung oder einen Vertrauensdienst vertraut", wird "vertrauender Beteiligter" genannt, in direkter Übersetzung des wesentlich gebräuchlicheren englischen Begriffs "relying party".

Die eIDAS-VO sieht drei Sicherheitsniveaus für elektronische Identifizierungsmittel vor, „niedrig“, „substanziell“ und „hoch“. Die Kriterien für diese Sicherheitsniveaus sind in Art 8 eIDAS-VO sowie in Durchführungsrechtsakten festgelegt.

==== European Digital Identity Wallet (EUDIW) ====
Die "Europäische Brieftasche für die Digitale Identität“, wie sie auf Deutsch heißt, "ist ein elektronisches Identifizierungsmittel, das es dem Nutzer ermöglicht, Personenidentifizierungsdaten und elektronische Attributsbescheinigungen sicher zu speichern, zu verwalten und zu validieren, um sie vertrauenden Beteiligten und anderen Nutzern von europäischen Brieftaschen für die Digitale Identität zu präsentieren und mittels qualifizierter elektronischer Signaturen zu unterzeichnen oder mittels qualifizierter elektronischer Siegel zu besiegeln" (Art 3 Z 43 eIDAS-VO). Hervorzuheben ist, dass die EUDIW somit selbst ein elektronisches Identifizierungsmittel ist und zwar auf der Sicherheitsstufe "hoch" (Art 5a Abs 4 lit d eIDAS-VO).

Jeder Mitgliedstaat muss bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) zumindest ein EUDIW bereitstellen (Art 5a Abs 1 eIDAS-VO). Dies kann unmittelbar durch den Mitgliedstaat erfolgen oder in dessen Auftrag oder unabhängig von diesem, aber von diesem anerkannt (Art 5a Abs 2 eIDAS-VO). Der "Quellcode der Anwendungssoftwarekomponenten" der EUDIW muss gemäß Art 5a Abs 3 eIDAS-VO einer Open-Source-Lizenz unterliegen, wobei eine Ausnahmen vorgesehen ist für bestimmte "Komponenten, die nicht auf den Geräten des Nutzers installiert sind".

===== Funktionen der EUDIW =====
Die Funktionalität eines EUDIW ist in Art 5a Abs 4 eIDAS-VO wie folgt festgelegt:

* das sichere Anfordern, Erhalten, Auswählen, Kombinieren, Speichern, Löschen, Weitergeben und Vorweisen — unter alleiniger Kontrolle durch den Nutzer — elektronischer Attributsbescheinigungen und von Personenidentifizierungsdaten und, falls anwendbar, in Kombination mit elektronischen Attributsbescheinigungen, gegenüber vertrauenden Beteiligten, um sich online und, gegebenenfalls, offline für den Zugang zu öffentlichen und privaten Diensten zu authentifizieren, bei gleichzeitiger Sicherstellung, dass eine selektive Offenlegung von Daten möglich ist;
* das Generieren von Pseudonymen und deren verschlüsselte und lokale Speicherung in der EUDIW;
* die sichere Authentifizierung der EUDIW einer anderen Person und das Empfangen und Austauschen — zwischen den beiden EUDIW — von Personenidentifizierungsdaten und elektronischen Attributsbescheinigungen;
* den Zugang zur Protokollierung aller über die EUDIW vorgenommenen Transaktionen über ein gemeinsames Dashboard, sodass der Nutzer in der Lage ist,
** eine aktuelle Auflistung der vertrauenden Beteiligten, mit denen der Nutzer eine Verbindung aufgebaut hat, und, falls anwendbar, alle weitergegebenen Daten einzusehen;
** einen vertrauenden Beteiligten auf einfache Weise um die Löschung personenbezogener Daten gemäß Artikel 17 der Verordnung (EU) 2016/679 durch einen vertrauenden Beteiligten zu ersuchen;
** eine Meldung auf einfache Weise an die zuständige nationale Datenschutzbehörde zu erstatten, wenn ein mutmaßlich unrechtmäßiges oder verdächtiges Ersuchen um Daten eingegangen ist;
* das Unterzeichnen mit qualifizierten elektronischen Signaturen oder das Siegeln mit qualifizierten elektronischen Siegeln;
* – soweit technisch möglich — das Herunterladen von Nutzerdaten, elektronischen Attributsbescheinigungen und Konfigurationen;
* die Ausübung der Rechte des Nutzers auf Datenübertragbarkeit.

Diese Funktionen muss ein EUDIW "in transparenter und nachvollziehbarer Weise ermöglichen". Darüber hinaus können die Mitgliedstaaten zusätzliche Funktionen vorsehen (Art 5a Abs 7 eIDAS-VO). Hervorzuheben ist zum ersten Punkt, dass auch eine Verwendung der EUDIW offline, also ohne Internetverbindung und somit ohne Beteiligung eines Servers, vorgesehen ist, eingeschränkt durch den Begriff "gegebenenfalls" bzw. in der englischsprachigen Fassung etwas aussagekräftiger "where appropriate", sowie die selektive Offenlegung von Daten. Auch die Verwendung des EUDIW auf der Empfängerseite einer Transaktion und somit horizontal zwischen Nutzern ist hervorzuheben (dritter Punkt).

Nur in den Erwägungsgründen findet sich die Anforderung, dass die Mitgliedstaaten "verschiedene Technologien zum Schutz der Privatsphäre, beispielsweise Zero-Knowledge-Proof (Null-Wissens-Beweis)", in die EUDIW integrieren "sollten". "Diese kryptografischen Methoden sollten es einem vertrauenden Beteiligten ermöglichen, die Richtigkeit einer bestimmten Aussage, die auf der Grundlage der Identifizierungsdaten und der Attributsbescheinigung in der europäischen Brieftasche für die Digitale Identität eines Nutzers erfolgt, zu validieren, ohne dass Daten, auf denen die Aussage beruht, preisgegeben werden, wodurch die Privatsphäre des Nutzers gewahrt bleibt" (ErwGr 14).

Die Ausstellung, die Verwendung und der Widerruf von EUDIW muss für alle natürlichen Personen kostenlos sein (Art 5a Abs 12 eIDAS-VO). Ebenso muss das Unterzeichnen mit qualifizierten elektronischen Signaturen mittels EUDIW für alle natürlichen Personen kostenlos sein (Art 5a Abs 5 lit g eIDAS-VO), wobei die Mitgliedstaaten verhältnismäßige Maßnahmen treffen können, um dies auf nichtgewerbliche Zwecke zu beschränken.

Während die Nutzer nationaler eIDs über nationale eIDAS-Knoten mit der jeweiligen Anwendung interagieren, kommuniziert die EUDIW direkt mit der jeweiligen Anwendung, sodass es einheitlicher Protokolle und Schnittstellen bedarf, deren Funktionalität in Art 5a Abs 5 lit a eIDAS-VO detailliert festgelegt ist.

===== Datenschutz und Datensicherheit =====
Aufgrund der potenziellen Datenschutzrisiken, die ein Identitätsmanagementsystem mit sich bringen kann, insbesondere wenn es weiträumig und umfassend verwendbar ist, war der Datenschutz im Entstehungsprozess von eIDAS 2.0 ein vieldiskutiertes Thema und ist es weiterhin in der Phase der Ausarbeitung der Durchführungsrechtsakte. Wesentliche Datenschutzrisiken von Identitätsmanagementsystemen und die entsprechenden Anforderungen im Sinne des Gebots der Datenminimierung sind:<ref>Siehe dazu ausführlich ''Hötzendorfer'', Datenschutz und Privacy by Design im Identitätsmanagement, Österreichische Computer Gesellschaft (OCG), Wien, 2016.</ref>

* Überidentifikation: Die betroffene Person sollte bei einer Transaktion nur jene Daten offenlegen müssen, die für die Transaktion erforderlich sind, und insbesondere ihre Identität nur dann offenlegen müssen, wenn diese für die Transaktion erforderlich ist.
* Verknüpfung von Transaktionen: Transaktionen, die nichts miteinander zu tun haben, und Daten, die jeweils in diesen Transaktionen offengelegt werden, sollten nicht miteinander in Verbindung gebracht werden können (Unverknüpfbarkeit). Praktisch bedeutet das vor allem, ein vertrauender Beteiligter sollte nicht erkennen können, dass zwei Transaktionen derselben anonymen Person, die beispielsweise nur ihre Volljährigkeit nachweist, von derselben Person stammen.
* Beobachtung des Nutzerverhaltens: Eine zentrale Stelle, wie im vorliegenden Kontext der Anbieter des EUDIW, oder ein Aussteller von Identitäts- oder Attributsdaten, sollte nicht in der Lage sein, zu beobachten, für welche Zwecke und wem gegenüber die betroffene Person ihre Identität und/oder bestimmte Attribute nachweist (Unbeobachtbarkeit).

Der Beobachtung des Nutzerverhaltens, oder vielmehr zumindest dessen Auswertung soll insbesondere die Bestimmung des Art 5a Abs 14 eIDAS-VO entgegenwirken, die Folgendes normiert:

* Die Nutzer haben die uneingeschränkte Kontrolle über die Nutzung ihrer EUDIW und über die darin enthaltenen Daten.
* Der Anbieter der EUDIW sammelt weder Informationen über die Nutzung der EUDIW, die für die Erbringung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, noch kombiniert er Personenidentifizierungsdaten oder andere gespeicherte oder im Zusammenhang mit der Verwendung der EUDIW stehende personenbezogene Daten mit personenbezogenen Daten aus anderen vom Anbieter angebotenen Diensten oder aus Diensten Dritter, die für die Bereitstellung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, es sei denn, der Nutzer hat dies ausdrücklich anders verlangt.
* Personenbezogene Daten in Bezug auf die Bereitstellung der EUDIW werden vom Anbieter der europäischen Brieftasche für die Digitale Identität von allen anderen gespeicherten Daten logisch getrennt gehalten.

Einer strikten Umsetzung des Datenminimierungsgebots dahingehend, dass die Daten zur Nutzung gar nicht erst gespeichert werden, steht wohl das Erfordernis der Protokollierung aller über die EUDIW vorgenommenen Transaktionen in Art 5a Abs 4 lit d eIDAS-VO entgegen.

Art 5a Abs 14 eIDAS-VO betrifft sowohl die Unbeobachtbarkeit als auch die Unverknüpfbarkeit und normiert, dass der technische Rahmen der EUDIW

* es Anbietern elektronischer Attributsbescheinigungen oder anderen Parteien nach Ausstellung der Attributsbescheinigung nicht erlauben darf, Daten zu erhalten, die es ermöglichen, Transaktionen oder Nutzerverhalten zu verfolgen, zu verknüpfen, zu korrelieren oder Kenntnisse über Transaktionen oder das Nutzerverhalten anderweitig zu erlangen, es sei denn, der Nutzer hat dies ausdrücklich genehmigt, und
* technische Verfahren zum Schutz der Privatsphäre ermöglichen muss, die die Unverknüpfbarkeit gewährleisten, wenn die Attributsbescheinigung keine Identifizierung des Nutzers erfordert.
Die zentrale Maßnahme der eIDAS-VO gegen Überidentifikation ist die Registrierungsnotwendigkeit für vertrauende Beteiligte (Art 5b eIDAS-VO): Ein vertrauende Beteiligter, der für die Bereitstellung öffentlicher oder privater Dienste auf die EUDIW zurückzugreifen möchte, muss sich in dem Mitgliedstaat, in dem er niedergelassen ist, registrieren. Dabei muss er angeben, welche Daten er von den Nutzern anzufordern beabsichtigt (in ErwGr 17 der eIDAS-VO ist auch davon die Rede, dass dies zu begründen ist), und nur diese darf er dann im Zuge von Transaktionen tatsächlich anfordern, wie in Art 5b Abs 3 ausdrücklich festgelegt ist. Die bei der Registrierung gemachten Angaben sind von den Mitgliedstaaten online zu veröffentlichen, in elektronisch signierter oder besiegelter Form, die für eine automatisierte Verarbeitung geeignet ist. Flankiert wird diese Maßnahme von der Verpflichtung vertrauender Beteiligter, sich gegenüber den Nutzern zu identifizieren und Pseudonyme nicht zu verweigern, wenn die Identifizierung des Nutzers nicht im Unionsrecht oder im nationalen Recht vorgeschrieben ist. Insbesondere zu diesen Aspekten zeichnete sich zuletzt in der betreffenden Durchführungsverordnung eine Aufweichung ab, deren Zulässigkeit angesichts der soeben wiedergegeben Bestimmungen der EIDAS-VO in Frage steht.<ref name=":0" /> Die Verabschiedung der finalen Durchführungsverordnung ist für das 1. Quartal 2025 angekündigt.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/14399-Brieftaschen-fur-die-europaische-digitale-Identitat-Registrierung-vertrauender-Beteiligter_de Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Brieftaschen für die europäische digitale Identität – Registrierung vertrauender Beteiligter]</ref>

Art 5a Abs 12 eIDAS-VO legt zudem fest, dass die EUDIW "security-by-design" sicherstellen müssen, was im deutschen Verordnungstext damit übersetzt wird, dass sie "mit ‚konzeptintegrierter Sicherheit‘ auszustatten" sind. Art 5a Abs 5 eIDAS-VO normiert eine Pflicht zur Verständigung der Nutzer über Sicherheitsverletzungen. Näheres zu Konsequenzen von Sicherheitsverletzungen ist in Art 5e eIDAS-VO vorgesehen.

In Art 5c eIDAS-VO ist das Erfordernis der Zertifizierung jedes EUDIW geregelt, unter Bezugnahme auf den [[Cyber Security Act (CSA)|Cyber Security Act]]. Alle zertifizierten EUDIW werden die im Amtsblatt der Europäischen Union veröffentlicht und in einer maschinenlesbaren Liste geführt (Art 5d eIDAS-VO).

Auch die Bestimmung über die Freiwilligkeit der Nutzung (Art 5a Abs 14 eIDAS-VO) dient - neben dem Hauptzweck der Nichtdiskriminierung - gewissermaßen auch Datenschutzzwecken. Sie normiert zusätzlich folgende Anforderungen, damit eine Freiwilligkeit auch faktisch besteht:

* Natürliche oder juristische Personen, die die EUDIW nicht nutzen, dürfen in ihrem Zugang zu öffentlichen und privaten Diensten und zum Arbeitsmarkt sowie in ihrer unternehmerischen Freiheit in keiner Weise eingeschränkt oder benachteiligt werden.
* Der Zugang zu öffentlichen und privaten Diensten muss weiterhin über andere bestehende Identifizierungs- und Authentifizierungsmittel möglich sein.

===== Annahmepflichten der EUDIW =====
In drei verschiedenen Konstellationen ist eine Verpflichtungen zur Akzeptanz des EUDIW vorgesehen (Art 5f eIDAS-VO):

* Wenn Mitgliedstaaten für einen E-Government-Dienst eine elektronische Identifizierung und Authentifizierung verlangen, müssen sie dafür auch die EUDIW akzeptieren.
* Sind private vertrauende Beteiligte, die Dienste erbringen — mit Ausnahme von Kleinst- und kleinen Unternehmen im Sinne von Art 2 des Anhangs der Empfehlung 2003/361/EG der Kommission<ref>[https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32003H0361 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (2003/361/EG) (ABl. L 124 vom 20.5.2003, S. 36).]</ref> –, nach Unionsrecht oder nationalem Recht verpflichtet, eine Online-Identifizierung mit starker Nutzerauthentifizierung vorzunehmen, oder ist eine Online-Identifizierung mit starker Nutzerauthentifizierung vertraglich vorgeschrieben, auch in den Bereichen Verkehr, Energie, Bankenwesen, Finanzdienstleistungen, soziale Sicherheit, Gesundheit, Trinkwasser, Postdienste, digitale Infrastrukturen, Bildung oder Telekommunikation, so akzeptieren diese privaten vertrauenden Beteiligten hierfür spätestens 36 Monate nach dem Tag des Inkrafttretens der Durchführungsrechtsakte gemäß Art 5a Abs 23 und Art 5c Abs 6 eIDAS-VO und nur auf freiwilliges Verlangen des Nutzers auch EUDIW. Der Begriff starke Nutzerauthentifizierung kann grundsätzlich als 2-Faktor-Authentifizierung verstanden werden und ist in Art 3 Z 51 eIDAS-VO näher definiert.
* Verlangen Anbieter sehr großer Online-Plattformen gemäß Art 33 [[Digital Services Act (DSA)|Digital Services Act]] für den Zugang zu Online-Diensten eine Nutzerauthentifizierung, so akzeptieren und erleichtern sie hierfür auch die Verwendung von EUDIW, und zwar nur auf freiwilliges Verlangen des Nutzers und nur mit den Mindestdaten, die für den spezifischen Online-Dienst, für den die Authentifizierung verlangt wird, erforderlich sind.

===== Umsetzungsstand und Pilotprojekte der EUDIW =====
Zur Vorbereitung des Roll-outs der EUDIW koordiniert die Kommission über die sog. „Toolbox“ und das Architecture and Reference Framework (ARF) die technische Zusammenarbeit der Mitgliedstaaten. Das [https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework ARF] wird regelmäßig aktualisiert und dient als Referenzdokument für Wallet-Implementierungen, Schnittstellen und Sicherheitsanforderungen.<ref>[https://eudi.dev/latest/ ''Europäische Kommission,'' European Digital Identity]</ref>

Parallel dazu laufen mehrere von der EU kofinanzierte „Large Scale Pilot“-Projekte, in deren Rahmen der Einsatz der EUDIW in verschiedenen grenzüberschreitenden Use Cases (zB E-Government, Führerschein, Bankkonteneröffnung) praktisch getestet wird.<ref>[https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487808/What%2Bare%2Bthe%2BLarge%2BScale%2BPilot%2BProjects European Commission, What are the Large Scale Pilots]</ref>

==== Gegenseitige Anerkennung mitgliedstaatlicher elektronischer Identifizierungsmittel ====
Neben den 2024 neu eingeführten EUDIW enthält die eIDAS-VO in den Art 6ff auch die bisherigen Bestimmungen zu elektronischen Identifizierungssystemen mit dem Schwerpunkt der gegenseitigen Anerkennung durch die Mitgliedstaaten notifizierter elektronischer Identifizierungssysteme. Kernbestimmung ist die Verpflichtung der Mitgliedstaaten, wenn für einen E-Government-Dienst nach nationalem Recht oder aufgrund der Verwaltungspraxis eine elektronische Identifizierung mit einem elektronischen Identifizierungsmittel auf dem Sicherheitsniveau „substanziell“ oder „hoch“ und mit einer Authentifizierung erforderlich ist, auch in einem anderen Mitgliedstaat ausgestellte elektronische Identifizierungsmittel des gleichen oder eines höheren Sicherheitsniveaus für Zwecke der grenzüberschreitenden Authentifizierung anzuerkennen (Art 6 Abs 1 eIDAS-VO). Die dafür erforderliche Notifizierung des elektronischen Identifizierungssystems durch den jeweiligen Mitgliedstaat und die Voraussetzungen dafür sind in Art 7 und 9 eIDAS-VO näher geregelt. Österreich hat im Jahr 2022 die ID Austria notifiziert.<ref>''Kustor'', Vortrag zu eIDAS 2.0, Innovation Day 2023 https://www.youtube.com/watch?v=_JgS_4e1Qs4</ref>

=== Vertrauensdienste ===
Vertrauensdiensteanbieter (Art 3 Z 19 eIDAS-VO) ist, wer einen Vertrauensdienst erbringt (oder mehrere), das ist ein elektronischer Dienst, der in der Regel gegen Entgelt erbracht wird und aus irgendeiner der folgenden Tätigkeiten besteht (Art 3 Z 19 eIDAS-VO):

* Ausstellung von Zertifikaten für elektronische Signaturen, von Zertifikaten für elektronische Siegel, von Zertifikaten für die Website-Authentifizierung oder von Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Validierung von Zertifikaten für elektronische Signaturen, Zertifikaten für elektronische Siegel, Zertifikaten für die Website-Authentifizierung oder Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Erstellung elektronischer Signaturen oder elektronischer Siegel;
* Validierung elektronischer Signaturen oder elektronischer Siegel;
* Bewahrung von elektronischen Signaturen, elektronischen Siegeln, Zertifikaten für elektronische Signaturen oder Zertifikaten für elektronische Siegel;
* Verwaltung elektronischer Fernsignaturerstellungseinheiten oder elektronischer Fernsiegelerstellungseinheiten;
* Ausstellung elektronischer Attributsbescheinigungen;
* Validierung elektronischer Attributsbescheinigungen;
* Erstellung elektronischer Zeitstempel;
* Validierung elektronischer Zeitstempel;
* Erbringung von Diensten für die Zustellung elektronischer Einschreiben;
* Validierung von durch Dienste für die Zustellung elektronischer Einschreiben übermittelten Daten und damit zusammenhängenden Nachweisen;
* elektronische Archivierung elektronischer Daten und elektronischer Dokumente;
* Aufzeichnung elektronischer Daten in einem elektronischen Journal.
In Art 24a eIDAS-VO ist die gegenseitige Anerkennung qualifizierter Vertrauensdienste in allen Mitgliedstaaten festgelegt.

==== Elektronische Signaturen ====
In Art 3 Z 10 eIDAS-VO ist der Begriff ''elektronische Signatur'' definiert als „Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder logisch mit ihnen verbunden werden und die der Unterzeichner zum Unterzeichnen verwendet.“ Der Unterzeichner ist definiert als „eine natürliche Person, die eine elektronische Signatur erstellt“ (Art 3 Z 11 eIDAS-VO). Für juristische Personen bestehen als Äquivalent zur elektronischen Signatur die elektronischen Siegel.

Die eIDAS-VO unterscheidet zwischen drei Arten von elektronischen Signaturen: „einfachen“, fortgeschrittenen und qualifizierten elektronischen Signaturen, deren Definitionen aufeinander aufbauen. Aus der Definition der "einfachen" elektronischen Signatur wird deutlich, dass an diese keinerlei Anforderungen gestellt werden. Bereits das Unterzeichnen eines E-Mails mit dem Namen des Verfassers erfüllt die Definition. Die Definition der "einfachen" elektronischen Signatur in der eIDAS-VO dient daher vor allem dem Zweck, darauf aufbauend die ''fortgeschrittene elektronische Signatur'' zu definieren als elektronische Signatur, die die Anforderungen des Art 26 eIDAS-VO erfüllt (Art 3 Z 11 eIDAS-VO). Art 26 Abs 1 lautet:

'''''Anforderungen an fortgeschrittene elektronische Signaturen'''''

''Eine fortgeschrittene elektronische Signatur erfüllt alle folgenden Anforderungen:''

''a) Sie ist eindeutig dem Unterzeichner zugeordnet.''

''b) Sie ermöglicht die Identifizierung des Unterzeichners.''

''c) Sie wird unter Verwendung elektronischer Signaturerstellungsdaten erstellt, die der Unterzeichner mit einem hohen Maß an Vertrauen unter seiner alleinigen Kontrolle verwenden kann.''

''d) Sie ist so mit den auf diese Weise unterzeichneten Daten verbunden, dass eine nachträgliche Veränderung der Daten erkannt werden kann.''

Art 26 Abs 2 ermöglicht der Kommission, Durchführungsrechtsakte zu erlassen, „mit denen eine Liste von Referenzstandards erstellt wird und gegebenenfalls Spezifikationen und Verfahren für fortgeschrittene elektronische Signaturen festgelegt werden.“

Art 3 Z 12 eIDAS-VO definiert schließlich die ''qualifizierte elektronischen Signatur'' als „eine fortgeschrittene elektronische Signatur, die von einer qualifizierten elektronischen Signaturerstellungseinheit erstellt wurde und auf einem qualifizierten Zertifikat für elektronische Signaturen beruht.“

Eine solche qualifizierte elektronische Signatur hat die gleiche '''Rechtswirkung''' wie eine handschriftliche Unterschrift (Art 25 Abs 2 eIDAS-VO). Überdies normiert Art 25 Abs 1 eIDAS-VO, dass einer elektronischen Signatur die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden darf, weil sie in elektronischer Form vorliegt oder weil sie die Anforderungen an qualifizierte elektronische Signaturen nicht erfüllt.

Im allgemeinen (technischen) Sprachgebrauch wird die auf [https://de.wikipedia.org/wiki/Asymmetrische_Kryptographie asymmetrischer Kryptographie] basierende Technologie, mit der die soeben dargelegten Anforderungen umgesetzt werden, als ''[https://de.wikipedia.org/wiki/Digitale_Signatur digitale Signatur]'' bezeichnet. ''Elektronische Signatur'' ist demgegenüber ein rechtlicher Begriff, der bewusst technologieneutral gewählt wurde, wobei in der Praxis zur Implementierung qualifizierter elektronischer Signaturen nur die Technologie der digitalen Signatur eine Rolle spielt.

Entsprechend dieser begrifflich abstrakten Herangehensweise ist in der eIDAS-VO auch nicht von privatem und öffentlichem Schlüssel die Rede, sondern von ''elektronischen'' ''Signaturerstellungsdaten'' (Art 3 Z 13 eIDAS-VO) und ''Signaturvalidierungsdaten''. Letztere sind nicht eigenständig definiert, sondern in der Definition des Begriffs Zertifikat für elektronische Signaturen enthalten (Art 3 Z 14 eIDAS-VO). Diese lautet: „‚Zertifikat für elektronische Signaturen‘ ist eine elektronische Bescheinigung, die elektronische Signaturvalidierungsdaten mit einer natürlichen Person verknüpft und die mindestens den Namen oder das Pseudonym dieser Person bestätigt.“ Eine detaillierte Liste jener Angaben, die ein qualifiziertes Zertifikat enthalten muss, findet sich in Anhang I der eIDAS-VO.

Ein Zertifikat für elektronische Signaturen, das diese Anforderungen erfüllt und von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde, ist gemäß Art 3 Z 15 eIDAS-VO ein ''qualifiziertes Zertifikat für elektronische Signaturen''. Art 28 Abs 2 eIDAS-VO bestimmt, dass keine obligatorischen Anforderungen an ein qualifiziertes Zertifikat für elektronische Signaturen gelten dürfen, die über die Anforderungen des Anhang I hinausgehen. Gemäß Art 28 Abs 3 eIDAS-VO können qualifizierte Zertifikate zusätzliche fakultative spezifische Attribute enthalten. Der Begriff [https://de.wikipedia.org/wiki/Digitales_Zertifikat Zertifikat] entspricht dem allgemeinen einschlägigen Sprachgebrauch.

Die Anforderungen, die eine '''qualifizierte elektronische Signaturerstellungseinheit''' erfüllen muss, um gemäß Art 29 Abs 1 eIDAS-VO als solche zu gelten, sind in Anhang II der eIDAS-VO definiert. In der Praxis wird als qualifizierte elektronische Signaturerstellungseinheit insbesondere eine [https://de.wikipedia.org/wiki/Chipkarte Chipkarte] oder ein [https://de.wikipedia.org/wiki/Hardware-Sicherheitsmodul Hardware Security Module (HSM)] verwendet. Mit der Novellierung wurden ausdrücklich auch Bestimmungen zu Fernsignaturen eingeführt (Art 3 Z 23a, Art 29a eIDAS-VO)

==== Elektronische Siegel ====
Elektronische Siegel sind für juristische Personen das Äquivalent zu elektronischen Signaturen. Die Regelungen zu elektronischen Siegeln in Abschnitt 5 der eIDAS-VO sind äquivalent zu jenen für elektronische Signaturen ausgestaltet und normieren zum Teil nur die sinngemäße Geltung der entsprechenden Bestimmungen betreffend elektronische Signaturen. Die Regelung, wonach eine qualifizierte elektronische Signatur die gleiche Rechtswirkung hat wie eine handschriftliche Unterschrift, ist hingegen auf juristische Personen naturgemäß nicht übertragbar. Für ein qualifiziertes elektronisches Siegel gilt stattdessen die Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunftsangabe der Daten, mit denen das qualifizierte elektronische Siegel verbunden ist (Art 35 Abs 2 eIDAS-VO).

Wie aus den Rechtswirkungen deutlich wird, zielen elektronische Siegel nicht auf die Abgabe von Willenserklärungen ab, sondern insbesondere auf die Abgabe von Wissenserklärungen, wie z.B. die Bestätigung der Integrität von Dokumenten oder Software oder des Erhalts von Daten. Der Vorteil eines elektronischen Siegels ist, dass sich im Vergleich zu einer elektronischen Signatur, die eine natürliche Person in Vertretung einer juristischen Person erstellt, die in diesem Fall zusätzlich erforderliche Überprüfung der Vertretungsbefugnis dieser natürlichen Person erübrigt.

==== Elektronische Zeitstempel ====
Ein elektronischer Zeitstempel ist in Art 3 Z 33 eIDAS-VO definiert als „Daten in elektronischer Form, die andere Daten in elektronischer Form mit einem bestimmten Zeitpunkt verknüpfen und dadurch den Nachweis erbringen, dass diese anderen Daten zu diesem Zeitpunkt vorhanden waren.“ Elektronische Zeitstempel dienen somit dem Nachweis, dass die damit bestätigten Daten zum darin angegebenen Zeitpunkt vorlagen und seitdem nicht verändert wurden. Ein ''qualifizierter'' ''elektronischer Zeitstempel'' ein solcher, der die Anforderungen des Art 42 eIDAS-VO (Art 3 Z 34 eIDAS-VO). Gemäß Art 41 Abs 2 eIDAS-VO gilt für einen qualifizierten elektronischen Zeitstempel die Vermutung der Richtigkeit des Datums und der Zeit, die darin angegeben sind, sowie der Unversehrtheit der mit dem Datum und der Zeit verbundenen Daten.

==== Dienste für die Zustellung elektronischer Einschreiben ====
Gemäß Art 3 Z 36 eIDAS-VO ist ein ''Dienst für die Zustellung elektronischer Einschreiben'' ein „Dienst, der die Übermittlung von Daten zwischen Dritten mit elektronischen Mitteln ermöglicht und einen Nachweis der Handhabung der übermittelten Daten erbringt, darunter den Nachweis der Absendung und des Empfangs der Daten, und der die übertragenen Daten vor Verlust, Diebstahl, Beschädigung oder unbefugter Veränderung schützt“. Ein ''qualifizierter'' ''Dienst für die Zustellung elektronischer Einschreiben'' ist gemäß Art 3 Z 37 eIDAS-VO ein solcher Dienst, der die Anforderungen des Art 44 eIDAS-VO erfüllt. Diese Bestimmung zeigt, dass sich ein Dienst für die Zustellung elektronischer Einschreiben der zuvor behandelten Vertrauensdienste bedient.

==== Website-Authentifizierung ====
Art 3 Z 38 eIDAS-VO definiert ein Zertifikat für die Website-Authentifizierung (qualified website authentication certificate, QWAC) als "eine elektronische Bescheinigung, die die Authentifizierung einer Website ermöglicht und die Website mit der natürlichen oder juristischen Person verknüpft, der das Zertifikat ausgestellt wurde." In der Praxis wird dies durch [https://de.wikipedia.org/wiki/Transport_Layer_Security TLS]-Zertifikate realisiert und standardmäßig verwendet, erkennbar an der Präfix "https" in der URL-Zeile des Browsers und dem daneben angezeigten stilisierten Schloss. Ein qualifiziertes Zertifikat für die Website-Authentifizierung ist gemäß Art 3 Z 39 eIDAS-VO ein von einem qualifizierten Vertrauensdiensteanbieter ausgestelltes Zertifikat für Website-Authentifizierung, das die Anforderungen des Anhangs IV der eIDAS-VO erfüllt. Die Stammfassung der Verordnung beschränkte sich darauf, verbindliche Anforderungen für solche Zertifikate zu definieren, die vom Aussteller als qualifiziert bezeichnet werden. Weder normiert die eIDAS-VO Rechtswirkungen solcher qualifizierter Zertifikate für die Website-Authentifizierung, noch trifft sie Regelungen, die in bestimmten Fällen zum Einsatz qualifizierter oder nichtqualifizierter Zertifikate für die Website-Authentifizierung verpflichten.

Die Novellierung brachte diesbezüglich jedoch eine umstrittene Neuerung mit sich: Art 45 Abs 1a eIDAS-VO verpflichtet nunmehr Anbieter von Webbrowsern, qualifizierte Zertifikate für die Website-Authentifizierung anzuerkennen. An dieser Neuerung wurde kritisiert, dass sie staatlichen Stellen ermöglicht, im Sinne eines Man-in-the-Middle-Angriffs Online-Kommunikation zu überwachen.<ref>''Eggendorfer/Schmidt-Wudy'', eIDAS 2.0 - "Sicherheit trotz und wegen Verschlüsselung"?, KuR 2024, 13</ref><ref>[https://netzpolitik.org/2023/eidas-reform-schlagabtausch-zwischen-forschenden-und-eu-parlament/ ''Leisegang'', Schlagabtausch zwischen Forschenden und EU-Parlament, Netzpolitik.org, 07.12.2023]</ref> Als Kompromisslösung wurde daher in Art 45a Abs 2 eIDAS-VO klargestellt, dass Anbieter von Webbrowsern in Fällen begründeter Bedenken hinsichtlich Sicherheitsverletzungen oder eines Integritätsverlusts eines bestimmten Zertifikats oder eines Satzes von Zertifikaten Vorsorgemaßnahmen in Bezug auf dieses Zertifikat oder diesen Satz von Zertifikaten ergreifen können und die Kommission hielt in einer förmlichen Erklärung fest, dass Art 45 eIDAS-VO Anbietern von Webbrowsern keine Verpflichtungen und Einschränkungen hinsichtlich der Gewährleistung vertraulicher Online-Kommunikation auferlege.<ref>[https://netzpolitik.org/2024/eidas-reform-eu-parlament-stimmt-fuer-digitale-brieftasche/ ''Leisegang'', EU-Parlament stimmt für digitale Brieftasche, Netzpolitik.org, 29.02.2024]</ref><ref>[https://www.europarl.europa.eu/doceo/document/A-9-2023-0038-AM-007-007_EN.pdf Statement by the Commission on Article 45 on the occasion of the adoption of Regulation 2024/...]</ref>

==== Elektronische Attributsbescheinigungen ====
Die mit eIDAS 2.0 eingeführten elektronischen Attributsbescheinigungen (engl. electronic attestations of attributes, EAA) ermöglichen den Nachweis von Attributen, das sind gemäß Art 3 Z 43 eIDAS-VO Merkmale, Qualitäten, Rechte oder Erlaubnisse einer natürlichen oder juristischen Person oder eines Objekts, wie z.B. ein Hochschulabschluss oder eine Fahrerlaubnis (Führerschein). Eine EAA ist folglich definiert als "eine in elektronischer Form vorliegende Bescheinigung, die die Authentifizierung von Attributen ermöglicht" (Art 3 Z 44 eIDAS-VO). Wenn eine EAA von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde und die Anforderungen des Anhangs V der eIDAS-VO erfüllt, gilt sie als qualifizierte EAA (Art 3 Z 45 eIDAS-VO). Diesen gleichgestellt gibt es zum Zweck der unmittelbaren Bescheinigung von Attributen aus staatlichen Registern, für die aufgrund ihrer originären Authentizität eine Einbeziehung eines qualifizierten Vertrauensdiensteanbieters widersinnig wäre, eine eigene Kategorie der EAA, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden. Diese definiert Art 3 Z 46 eIDAS-VO als eine EAA, die gemäß Art 45f und Anhang VII der eIDAS-VO on einer öffentlichen Stelle ausgestellt wurde, die für eine authentische Quelle (vgl Art 3 Z 47 eIDAS-VO) zuständig ist, oder von einer öffentlichen Stelle ausgestellt wurde, die von dem Mitgliedstaat dafür benannt wurde, solche Attributsbescheinigungen im Namen der öffentlichen Stellen auszustellen, die für authentische Quellen zuständig sind.

Die Mitgliedstaaten müssen bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) dafür sorgen, dass zumindest die folgenden Attribute anhand authentischer Quellen elektronisch überprüft werden können (Art 45e Abs 1 iVm Anhang VI eIDAS-VO):

# Adresse,
# Alter,
# Geschlecht,
# Personenstand,
# Familienzusammensetzung,
# Staatsangehörigkeit oder Staatsbürgerschaft,
# Bildungsabschlüsse, Titel und Erlaubnisse,
# Berufsqualifikationen, Titel und Berechtigungen,
# Vollmachten und Mandate, eine natürliche oder juristische Person zu vertreten,
# behördliche Genehmigungen und Lizenzen,
# für juristische Personen Finanzdaten und Unternehmensdaten.

Art 45b Abs 3 eIDAS-VO schreibt für diese Kategorie der EAA die Anerkennung in allen Mitgliedstaaten vor. Die weiteren Regeln zu den Rechtwirkungen ähneln jenen der elektronischen Signatur: "Eine qualifizierte elektronische Attributsbescheinigung und Attributsbescheinigungen, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden, haben dieselbe Rechtswirkung wie rechtmäßig ausgestellte Bescheinigungen in Papierform" (Art 45b Abs 2 eIDAS-VO) und "[e]iner elektronischen Attributsbescheinigung darf die Rechtswirkung oder die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil sie in elektronischer Form vorliegt oder nicht die Anforderungen an qualifizierte elektronische Attributsbescheinigungen erfüllt" (Art 45b Abs 1 eIDAS-VO).

Zum Zusammenspiel zwischen EAA und der EUDIW ist festgelegt, dass Anbieter von EAA EUDIW-Nutzern die Möglichkeit bieten müssen, die EAA unabhängig von dem Mitgliedstaat, in dem die EUDIW bereitgestellt wird, anzufordern, zu erhalten, zu speichern und zu verwalten (Art 45g Abs 1 eIDAS-VO) und dass Anbieter qualifizierter EAA eine Schnittstelle zum EUDIW bereitstellen müssen (Art 45g Abs 2 eIDAS-VO).

Art 45h eIDAS-VO enthält Datenschutzvorschriften für die Erbringung von Diensten für EAA:

# Kein Kombinieren der Daten: Anbieter qualifizierter und nichtqualifizierter Dienste für EAA dürfen personenbezogene Daten in Bezug auf die Erbringung dieser Dienste nicht mit personenbezogenen Daten aus anderen von ihnen oder ihren Geschäftspartnern angebotenen Diensten kombinieren (Art 45h Abs 1 eIDAS-VO).
# Trennung der Daten: Personenbezogene Daten in Bezug auf die Erbringung von Diensten für EAA müssen von allen anderen vom Anbieter von EAA gespeicherten Daten logisch getrennt gehalten werden (Art 45h Abs 2 eIDAS-VO).
# Trennung der Dienste: Anbieter von EAA setzen die Bereitstellung solcher qualifizierter Vertrauensdienste auf eine Weise um, dass sie von anderen von ihnen bereitgestellten Diensten funktional getrennt ist (Art 45h Abs 3 eIDAS-VO).

==== Elektronische Archivierungsdienste ====
Elektronische Archivierung "ist ein Dienst für die Entgegennahme, die Speicherung, den Abruf und die Löschung elektronischer Daten und elektronischer Dokumente, der ihre Dauerhaftigkeit und Lesbarkeit gewährleistet sowie ihre Unversehrtheit, Vertraulichkeit und den Nachweis ihrer Herkunft während des gesamten Bewahrungszeitraums erhält" (Art 3 Z 48 eIDAS-VO). Analog zu anderen Vertrauensdiensten regeln die Art 45i und 45j eIDAS-VO die Rechtswirkung sowie die Anforderungen an qualifizierte elektronische Archivierungsdienste.

==== Elektronische Journale (electronic ledgers) ====
Die eIDAS-VO enthält wie erwähnt nunmehr auch Regelungen zu electronic ledgers, in der deutschsprachigen Fassung als elektronische Journale bezeichnet. Ein solches ist in Art 3 Z 52 eIDAS-VO definiert als "eine Abfolge von Aufzeichnungen elektronischer Daten, die die Unversehrtheit dieser Aufzeichnungen und die Richtigkeit ihrer chronologischen Reihenfolge gewährleistet." Auch hierzu sind mit anderen Vertrauensdiensten vergleichbare Regelungen zu den Rechtswirkungen sowie die Anforderungen an qualifizierte elektronische Journale in Art 45k und 45l eIDAS-VO vorgesehen. Zu erwähnen ist, dass die Definition nicht das Kriterium der verteilten Datenhaltung enthält (vgl. [https://de.wikipedia.org/wiki/Distributed-Ledger-Technologie Distributed-Ledger-Technologie]). Art 45l Abs 1 lit a eIDAS-VO erwähnt allerdings, dass ein qualifiziertes elektronisches Journal von einem oder mehreren qualifizierten Vertrauensdiensteanbietern erstellt und verwaltet werden kann.

== Verhältnis zu anderen Rechtsakten ==

=== DSGVO ===

* Wie oben dargestellt, enthält die eIDAS-VO zahlreiche Bestimmungen, um die Einhaltung der Datenschutzgrundsätze, insbesondere des Grundsatzes der Datenminimierung, in Bezug auf das EUDIW sicherzustellen. Art 2 eIDAS-VO normiert ausdrücklich, dass diese "unbeschadet der" [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32016R0679 DSGVO (Datenschutz-Grundverordnung)] gilt. Die beiden Verordnungen stehen somit grundsätzlich nebeneinander. Eindeutig ist die Rechtslage dahingehend, dass die Durchführungsrechtsakte zur eIDAS-VO den Bestimmungen der DSGVO nicht widersprechen dürfen und dass vertrauende Beteiligte in ihrem Umgang mit den EUDIW-Nutzern und mit deren Daten nicht nur die Bestimmungen der eIDAS-VO, sondern auch die Bestimmungen der DSGVO einhalten müssen.

=== European Business Wallets ===

* Am 19. November 2025 veröffentlichte die Kommission einen Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen (European Business Wallets).<ref>[https://digital-strategy.ec.europa.eu/de/library/proposal-regulation-establishment-european-business-wallets Europäische Kommission, Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen]</ref> Diese sollen technisch auf den EUDIW aufbauen<ref>[https://digital-strategy.ec.europa.eu/de/policies/business-wallets Europäische Kommission, EU-Brieftaschen für Unternehmen]</ref> und - sofern die Verordnung beschlossen wird - Unternehmen in der EU die grenzüberschreitende Authentifizierung (insbesondere, aber nicht nur gegenüber Behörden) und den vertrauenswürdigen Austausch von Dokumenten ermöglichen und damit den Verwaltungsaufwand für Unternehmen reduzieren.

== Weiterführende Links ==

* ''Europäische Kommission'', eIDAS Dashboard, https://eidas.ec.europa.eu/efda/discover/eu-trust-service-framework
* ''Europäische Kommission,'' EU Digital Identity Wallet Home, https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487738/EU+Digital+Identity+Wallet+Home
* ''Europäische Kommission,'' European Digital Identity, https://eudi.dev/latest/
* ''Europäische Kommission,'' Architecture and Reference Framework, https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework

== Einzelnachweise ==
<references />

Regulation on electronic identification and trust services (eIDAS)

2025-12-03T22:30:39Z

Walter: Umsetzung und aktueller Stand

'''Änderung durch''' {{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1183|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1183 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Änderung der Verordnung (EU) Nr. 910/2014 im Hinblick auf die Schaffung des europäischen Rahmens für eine digitale Identität|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS (2.0)|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1183, 1|Anzuwenden=21. Mai 2026/2027 (Übergangsbestimmungen)|Gültig=inkraft}}'''Ursprungsrechtsakt'''{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2014|Nummer=910|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) Nr. 910/2014 des Europäischen Parlaments und des Rates vom 23. Juli 2014 über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen im Binnenmarkt und zur Aufhebung der Richtlinie 1999/93/EG|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2014/257, 73|Anzuwenden=1. Juli 2016 (mit Ausnahmen)|Gültig=anwendbar}}

== Einführung ==
Die Abkürzung eIDAS steht für "electronic IDentification, Authentication and Trust Services". Die ursprüngliche Fassung der eIDAS-VO wurde im Jahr 2014 beschlossen. Sie umfasst zwei Regelungsgegenstände, die völlig unabhängig voneinander behandelt werden,

* die elektronische Identifizierung sowie
* Vertrauensdienste, wie insbesondere elektronische Signaturen.

Die eIDAS-VO enthält auch eine ganz allgemeine Grundregel für elektronische Dokumente: "Einem elektronischen Dokument darf die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil es in elektronischer Form vorliegt" (Art 46 eIDAS-VO). Der Begriff elektronisches Dokument ist dabei sehr weit definiert als jeder in elektronischer Form, insbesondere als Text-, Ton-, Bild- oder audiovisuelle Aufzeichnung gespeicherte Inhalt (Art 3 Z 35 eIDAS-VO).

Die Rahmenbedingungen für elektronische Signaturen bauen auf der Signaturrichtlinie auf, die seit 1999 gegolten hatte. Betreffend die Vertrauensdienste enthielt die IDAS-VO von 2014 bereits europaweit einheitliche Regeln (Harmonisierung), betreffend die elektronische Identifizierung regelte diese hingegen nur grenzüberschreitende Aspekte. Sie versuchte, Interoperabilität zwischen den verschiedenen nationalen elektronischen Identifizierungssystemen der Mitgliedstaaten herzustellen, indem sie deren gegenseitige Anerkennung durch die Mitgliedstaaten für deren E-Government-Services normiert. Vorschriften, wie diese gestaltet sein müssen, eine Verpflichtung zur Anerkennung im Privatsektor oder eine Verpflichtung, dass jeder Mitgliedsaat überhaupt ein elektronisches Identifizierungssystem haben müsse, enthielt sie nicht. Dies führte dazu, dass elektronische Identifizierungssysteme nicht in allen Mitgliedstaaten gleichermaßen zur Verfügung standen und ihre Verbreitung teilweise gering blieb, insbesondere in Bezug auf die Verwendung im privaten Sektor.<ref>[https://digital-strategy.ec.europa.eu/de/policies/eudi-regulation Europäische Kommission, Verordnung über die europäische digitale Identität (EUDI)]</ref>

Um diese Mängel zu beheben, wurde eine umfangreiche Novellierung der eIDAS-VO erarbeitet – bekannt als eIDAS 2.0 – die am 20. Mai 2024 in Kraft trat. Als zentrale Neuerung treten neben die Interoperabilität der nationalen elektronischen Identifizierungssysteme einheitliche Vorgaben für eine „Europäische Brieftasche für die Digitale Identität“ („European Digital Identity Wallet“, kurz EUDI-Wallet, <abbr>EUDI</abbr>-Brieftasche oder EUDIW). Bis Herbst 2026 müssen alle EU-Mitgliedstaaten ihren Bürger*innen eine solche Wallet anbieten, mit der sie sich online und offline ausweisen können, insbesondere auch gegenüber Unternehmen, sowie Attribute aller Art nachweisen können, vom Altersnachweis über Zeugnisse bis hin zu Tickets. Die Nutzung soll freiwillig und kostenfrei sein.

Betreffend Vertrauensdienste enthielt die eIDAS-VO bereits bisher Regelungen zu Vertrauensdiensteanbietern sowie zu folgenden spezifischen Vertrauensdiensten:

* Elektronische Signaturen
* Elektronische Siegel
* Elektronische Zeitstempel
* Dienste für die Zustellung elektronischer Einschreiben
* Website-Authentifizierung

Mit der Novellierung 2024 wurden einige dieser Regelungen angepasst und es traten Regelungen zu folgenden neunen Vertrauensdiensten hinzu:

* Elektronische Attributsbescheinigung
* Elektronische Archivierungsdienste
* Elektronische Journale (electronic ledgers)
Die Regulierung ist im Detail nicht abgeschlossen, denn die novellierte eIDAS-VO sieht insgesamt ca. 40 Durchführungsrechtsakte vor, die zahlreiche teils sehr relevante Umsetzungsdetails regeln werden. Wegen ihrer hohen Anzahl kann hier nicht auf alle näher eingegangen werden, insbesondere wenn diese noch nicht veröffentlicht wurden. Sie müssen entweder 6, 12 oder 24 Monate nach Inkrafttreten der eIDAS-VO vorliegen, manche sind jedoch optional. Mit Stand November 2025 liegen wichtige Durchführungsverordnungen der Kommission bereits vor, insbesondere zur Ausgestaltung der EUDIW, andere befinden sich in öffentlicher Konsultation.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives_de?text=European%20Digital%20Identity%20Wallets Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Schlüsselwort "European Digital Identity Wallets"]</ref> In den Entwürfen zeichnete sich zuletzt eine Aufweichung der unten beschriebenen Datenschutz- und Datensicherheitsmaßnahmen des EUDIW ab, sodass diese Gegenstand intensiver politischer Diskussionen sind.<ref name=":0">[https://netzpolitik.org/2024/digitale-identitaeten-faule-eier-der-kommission/ ''Leisegang'', Faule Eier der Kommission, Netzpolitik.org, 05.12.2024] </ref>

== Zentrale Inhalte ==

=== Elektronische Identifizierung ===
Die elektronische Identifizierung ist in Art 3 Z 1 eIDAS-VO definiert als "der Prozess der Verwendung von Personenidentifizierungsdaten in elektronischer Form, die eine natürliche oder juristische Person oder eine natürliche Person, die eine andere natürliche Person oder eine juristische Person vertritt, eindeutig repräsentieren." Ein elektronisches Identifizierungsmittel ist "eine materielle und/oder immaterielle Einheit, die Personenidentifizierungsdaten enthält und zur Authentifizierung bei Online-Diensten oder gegebenenfalls bei Offline-Diensten verwendet wird" (Art 3 Z 2 eIDAS-VO). Die Authentifizierung ist "ein elektronischer Prozess, der die Bestätigung der elektronischen Identifizierung einer natürlichen oder juristischen Person oder die Bestätigung des Ursprungs und der Unversehrtheit von Daten in elektronischer Form ermöglicht" (Art 3 Z 5 eIDAS-VO). Die natürliche oder juristische Person, der gegenüber sich ein Individuum identifiziert und/oder bestimmte Eigenschaften (Attribute) nachweist, die also, wie es die Definition in Art 3 Z 6 eIDAS-VO formuliert, "auf eine elektronische Identifizierung, europäische Brieftaschen für die Digitale Identität oder andere Mittel zur elektronischen Identifizierung oder einen Vertrauensdienst vertraut", wird "vertrauender Beteiligter" genannt, in direkter Übersetzung des wesentlich gebräuchlicheren englischen Begriffs "relying party".

Die eIDAS-VO sieht drei Sicherheitsniveaus für elektronische Identifizierungsmittel vor, „niedrig“, „substanziell“ und „hoch“. Die Kriterien für diese Sicherheitsniveaus sind in Art 8 eIDAS-VO sowie in Durchführungsrechtsakten festgelegt.

==== European Digital Identity Wallet (EUDIW) ====
Die "Europäische Brieftasche für die Digitale Identität“, wie sie auf Deutsch heißt, "ist ein elektronisches Identifizierungsmittel, das es dem Nutzer ermöglicht, Personenidentifizierungsdaten und elektronische Attributsbescheinigungen sicher zu speichern, zu verwalten und zu validieren, um sie vertrauenden Beteiligten und anderen Nutzern von europäischen Brieftaschen für die Digitale Identität zu präsentieren und mittels qualifizierter elektronischer Signaturen zu unterzeichnen oder mittels qualifizierter elektronischer Siegel zu besiegeln" (Art 3 Z 43 eIDAS-VO). Hervorzuheben ist, dass die EUDIW somit selbst ein elektronisches Identifizierungsmittel ist und zwar auf der Sicherheitsstufe "hoch" (Art 5a Abs 4 lit d eIDAS-VO).

Jeder Mitgliedstaat muss bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) zumindest ein EUDIW bereitstellen (Art 5a Abs 1 eIDAS-VO). Dies kann unmittelbar durch den Mitgliedstaat erfolgen oder in dessen Auftrag oder unabhängig von diesem, aber von diesem anerkannt (Art 5a Abs 2 eIDAS-VO). Der "Quellcode der Anwendungssoftwarekomponenten" der EUDIW muss gemäß Art 5a Abs 3 eIDAS-VO einer Open-Source-Lizenz unterliegen, wobei eine Ausnahmen vorgesehen ist für bestimmte "Komponenten, die nicht auf den Geräten des Nutzers installiert sind".

===== Funktionen der EUDIW =====
Die Funktionalität eines EUDIW ist in Art 5a Abs 4 eIDAS-VO wie folgt festgelegt:

* das sichere Anfordern, Erhalten, Auswählen, Kombinieren, Speichern, Löschen, Weitergeben und Vorweisen — unter alleiniger Kontrolle durch den Nutzer — elektronischer Attributsbescheinigungen und von Personenidentifizierungsdaten und, falls anwendbar, in Kombination mit elektronischen Attributsbescheinigungen, gegenüber vertrauenden Beteiligten, um sich online und, gegebenenfalls, offline für den Zugang zu öffentlichen und privaten Diensten zu authentifizieren, bei gleichzeitiger Sicherstellung, dass eine selektive Offenlegung von Daten möglich ist;
* das Generieren von Pseudonymen und deren verschlüsselte und lokale Speicherung in der EUDIW;
* die sichere Authentifizierung der EUDIW einer anderen Person und das Empfangen und Austauschen — zwischen den beiden EUDIW — von Personenidentifizierungsdaten und elektronischen Attributsbescheinigungen;
* den Zugang zur Protokollierung aller über die EUDIW vorgenommenen Transaktionen über ein gemeinsames Dashboard, sodass der Nutzer in der Lage ist,
** eine aktuelle Auflistung der vertrauenden Beteiligten, mit denen der Nutzer eine Verbindung aufgebaut hat, und, falls anwendbar, alle weitergegebenen Daten einzusehen;
** einen vertrauenden Beteiligten auf einfache Weise um die Löschung personenbezogener Daten gemäß Artikel 17 der Verordnung (EU) 2016/679 durch einen vertrauenden Beteiligten zu ersuchen;
** eine Meldung auf einfache Weise an die zuständige nationale Datenschutzbehörde zu erstatten, wenn ein mutmaßlich unrechtmäßiges oder verdächtiges Ersuchen um Daten eingegangen ist;
* das Unterzeichnen mit qualifizierten elektronischen Signaturen oder das Siegeln mit qualifizierten elektronischen Siegeln;
* – soweit technisch möglich — das Herunterladen von Nutzerdaten, elektronischen Attributsbescheinigungen und Konfigurationen;
* die Ausübung der Rechte des Nutzers auf Datenübertragbarkeit.

Diese Funktionen muss ein EUDIW "in transparenter und nachvollziehbarer Weise ermöglichen". Darüber hinaus können die Mitgliedstaaten zusätzliche Funktionen vorsehen (Art 5a Abs 7 eIDAS-VO). Hervorzuheben ist zum ersten Punkt, dass auch eine Verwendung der EUDIW offline, also ohne Internetverbindung und somit ohne Beteiligung eines Servers, vorgesehen ist, eingeschränkt durch den Begriff "gegebenenfalls" bzw. in der englischsprachigen Fassung etwas aussagekräftiger "where appropriate", sowie die selektive Offenlegung von Daten. Auch die Verwendung des EUDIW auf der Empfängerseite einer Transaktion und somit horizontal zwischen Nutzern ist hervorzuheben (dritter Punkt).

Nur in den Erwägungsgründen findet sich die Anforderung, dass die Mitgliedstaaten "verschiedene Technologien zum Schutz der Privatsphäre, beispielsweise Zero-Knowledge-Proof (Null-Wissens-Beweis)", in die EUDIW integrieren "sollten". "Diese kryptografischen Methoden sollten es einem vertrauenden Beteiligten ermöglichen, die Richtigkeit einer bestimmten Aussage, die auf der Grundlage der Identifizierungsdaten und der Attributsbescheinigung in der europäischen Brieftasche für die Digitale Identität eines Nutzers erfolgt, zu validieren, ohne dass Daten, auf denen die Aussage beruht, preisgegeben werden, wodurch die Privatsphäre des Nutzers gewahrt bleibt" (ErwGr 14).

Die Ausstellung, die Verwendung und der Widerruf von EUDIW muss für alle natürlichen Personen kostenlos sein (Art 5a Abs 12 eIDAS-VO). Ebenso muss das Unterzeichnen mit qualifizierten elektronischen Signaturen mittels EUDIW für alle natürlichen Personen kostenlos sein (Art 5a Abs 5 lit g eIDAS-VO), wobei die Mitgliedstaaten verhältnismäßige Maßnahmen treffen können, um dies auf nichtgewerbliche Zwecke zu beschränken.

Während die Nutzer nationaler eIDs über nationale eIDAS-Knoten mit der jeweiligen Anwendung interagieren, kommuniziert die EUDIW direkt mit der jeweiligen Anwendung, sodass es einheitlicher Protokolle und Schnittstellen bedarf, deren Funktionalität in Art 5a Abs 5 lit a eIDAS-VO detailliert festgelegt ist.

===== Datenschutz und Datensicherheit =====
Aufgrund der potenziellen Datenschutzrisiken, die ein Identitätsmanagementsystem mit sich bringen kann, insbesondere wenn es weiträumig und umfassend verwendbar ist, war der Datenschutz im Entstehungsprozess von eIDAS 2.0 ein vieldiskutiertes Thema und ist es weiterhin in der Phase der Ausarbeitung der Durchführungsrechtsakte. Wesentliche Datenschutzrisiken von Identitätsmanagementsystemen und die entsprechenden Anforderungen im Sinne des Gebots der Datenminimierung sind:<ref>Siehe dazu ausführlich ''Hötzendorfer'', Datenschutz und Privacy by Design im Identitätsmanagement, Österreichische Computer Gesellschaft (OCG), Wien, 2016.</ref>

* Überidentifikation: Die betroffene Person sollte bei einer Transaktion nur jene Daten offenlegen müssen, die für die Transaktion erforderlich sind, und insbesondere ihre Identität nur dann offenlegen müssen, wenn diese für die Transaktion erforderlich ist.
* Verknüpfung von Transaktionen: Transaktionen, die nichts miteinander zu tun haben, und Daten, die jeweils in diesen Transaktionen offengelegt werden, sollten nicht miteinander in Verbindung gebracht werden können (Unverknüpfbarkeit). Praktisch bedeutet das vor allem, ein vertrauender Beteiligter sollte nicht erkennen können, dass zwei Transaktionen derselben anonymen Person, die beispielsweise nur ihre Volljährigkeit nachweist, von derselben Person stammen.
* Beobachtung des Nutzerverhaltens: Eine zentrale Stelle, wie im vorliegenden Kontext der Anbieter des EUDIW, oder ein Aussteller von Identitäts- oder Attributsdaten, sollte nicht in der Lage sein, zu beobachten, für welche Zwecke und wem gegenüber die betroffene Person ihre Identität und/oder bestimmte Attribute nachweist (Unbeobachtbarkeit).

Der Beobachtung des Nutzerverhaltens, oder vielmehr zumindest dessen Auswertung soll insbesondere die Bestimmung des Art 5a Abs 14 eIDAS-VO entgegenwirken, die Folgendes normiert:

* Die Nutzer haben die uneingeschränkte Kontrolle über die Nutzung ihrer EUDIW und über die darin enthaltenen Daten.
* Der Anbieter der EUDIW sammelt weder Informationen über die Nutzung der EUDIW, die für die Erbringung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, noch kombiniert er Personenidentifizierungsdaten oder andere gespeicherte oder im Zusammenhang mit der Verwendung der EUDIW stehende personenbezogene Daten mit personenbezogenen Daten aus anderen vom Anbieter angebotenen Diensten oder aus Diensten Dritter, die für die Bereitstellung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, es sei denn, der Nutzer hat dies ausdrücklich anders verlangt.
* Personenbezogene Daten in Bezug auf die Bereitstellung der EUDIW werden vom Anbieter der europäischen Brieftasche für die Digitale Identität von allen anderen gespeicherten Daten logisch getrennt gehalten.

Einer strikten Umsetzung des Datenminimierungsgebots dahingehend, dass die Daten zur Nutzung gar nicht erst gespeichert werden, steht wohl das Erfordernis der Protokollierung aller über die EUDIW vorgenommenen Transaktionen in Art 5a Abs 4 lit d eIDAS-VO entgegen.

Art 5a Abs 14 eIDAS-VO betrifft sowohl die Unbeobachtbarkeit als auch die Unverknüpfbarkeit und normiert, dass der technische Rahmen der EUDIW

* es Anbietern elektronischer Attributsbescheinigungen oder anderen Parteien nach Ausstellung der Attributsbescheinigung nicht erlauben darf, Daten zu erhalten, die es ermöglichen, Transaktionen oder Nutzerverhalten zu verfolgen, zu verknüpfen, zu korrelieren oder Kenntnisse über Transaktionen oder das Nutzerverhalten anderweitig zu erlangen, es sei denn, der Nutzer hat dies ausdrücklich genehmigt, und
* technische Verfahren zum Schutz der Privatsphäre ermöglichen muss, die die Unverknüpfbarkeit gewährleisten, wenn die Attributsbescheinigung keine Identifizierung des Nutzers erfordert.
Die zentrale Maßnahme der eIDAS-VO gegen Überidentifikation ist die Registrierungsnotwendigkeit für vertrauende Beteiligte (Art 5b eIDAS-VO): Ein vertrauende Beteiligter, der für die Bereitstellung öffentlicher oder privater Dienste auf die EUDIW zurückzugreifen möchte, muss sich in dem Mitgliedstaat, in dem er niedergelassen ist, registrieren. Dabei muss er angeben, welche Daten er von den Nutzern anzufordern beabsichtigt (in ErwGr 17 der eIDAS-VO ist auch davon die Rede, dass dies zu begründen ist), und nur diese darf er dann im Zuge von Transaktionen tatsächlich anfordern, wie in Art 5b Abs 3 ausdrücklich festgelegt ist. Die bei der Registrierung gemachten Angaben sind von den Mitgliedstaaten online zu veröffentlichen, in elektronisch signierter oder besiegelter Form, die für eine automatisierte Verarbeitung geeignet ist. Flankiert wird diese Maßnahme von der Verpflichtung vertrauender Beteiligter, sich gegenüber den Nutzern zu identifizieren und Pseudonyme nicht zu verweigern, wenn die Identifizierung des Nutzers nicht im Unionsrecht oder im nationalen Recht vorgeschrieben ist. Insbesondere zu diesen Aspekten zeichnete sich zuletzt in der betreffenden Durchführungsverordnung eine Aufweichung ab, deren Zulässigkeit angesichts der soeben wiedergegeben Bestimmungen der EIDAS-VO in Frage steht.<ref name=":0" /> Die Verabschiedung der finalen Durchführungsverordnung ist für das 1. Quartal 2025 angekündigt.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/14399-Brieftaschen-fur-die-europaische-digitale-Identitat-Registrierung-vertrauender-Beteiligter_de Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Brieftaschen für die europäische digitale Identität – Registrierung vertrauender Beteiligter]</ref>

Art 5a Abs 12 eIDAS-VO legt zudem fest, dass die EUDIW "security-by-design" sicherstellen müssen, was im deutschen Verordnungstext damit übersetzt wird, dass sie "mit ‚konzeptintegrierter Sicherheit‘ auszustatten" sind. Art 5a Abs 5 eIDAS-VO normiert eine Pflicht zur Verständigung der Nutzer über Sicherheitsverletzungen. Näheres zu Konsequenzen von Sicherheitsverletzungen ist in Art 5e eIDAS-VO vorgesehen.

In Art 5c eIDAS-VO ist das Erfordernis der Zertifizierung jedes EUDIW geregelt, unter Bezugnahme auf den [[Cyber Security Act (CSA)|Cyber Security Act]]. Alle zertifizierten EUDIW werden die im Amtsblatt der Europäischen Union veröffentlicht und in einer maschinenlesbaren Liste geführt (Art 5d eIDAS-VO).

Auch die Bestimmung über die Freiwilligkeit der Nutzung (Art 5a Abs 14 eIDAS-VO) dient - neben dem Hauptzweck der Nichtdiskriminierung - gewissermaßen auch Datenschutzzwecken. Sie normiert zusätzlich folgende Anforderungen, damit eine Freiwilligkeit auch faktisch besteht:

* Natürliche oder juristische Personen, die die EUDIW nicht nutzen, dürfen in ihrem Zugang zu öffentlichen und privaten Diensten und zum Arbeitsmarkt sowie in ihrer unternehmerischen Freiheit in keiner Weise eingeschränkt oder benachteiligt werden.
* Der Zugang zu öffentlichen und privaten Diensten muss weiterhin über andere bestehende Identifizierungs- und Authentifizierungsmittel möglich sein.

===== Annahmepflichten der EUDIW =====
In drei verschiedenen Konstellationen ist eine Verpflichtungen zur Akzeptanz des EUDIW vorgesehen (Art 5f eIDAS-VO):

* Wenn Mitgliedstaaten für einen E-Government-Dienst eine elektronische Identifizierung und Authentifizierung verlangen, müssen sie dafür auch die EUDIW akzeptieren.
* Sind private vertrauende Beteiligte, die Dienste erbringen — mit Ausnahme von Kleinst- und kleinen Unternehmen im Sinne von Art 2 des Anhangs der Empfehlung 2003/361/EG der Kommission<ref>[https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32003H0361 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (2003/361/EG) (ABl. L 124 vom 20.5.2003, S. 36).]</ref> –, nach Unionsrecht oder nationalem Recht verpflichtet, eine Online-Identifizierung mit starker Nutzerauthentifizierung vorzunehmen, oder ist eine Online-Identifizierung mit starker Nutzerauthentifizierung vertraglich vorgeschrieben, auch in den Bereichen Verkehr, Energie, Bankenwesen, Finanzdienstleistungen, soziale Sicherheit, Gesundheit, Trinkwasser, Postdienste, digitale Infrastrukturen, Bildung oder Telekommunikation, so akzeptieren diese privaten vertrauenden Beteiligten hierfür spätestens 36 Monate nach dem Tag des Inkrafttretens der Durchführungsrechtsakte gemäß Art 5a Abs 23 und Art 5c Abs 6 eIDAS-VO und nur auf freiwilliges Verlangen des Nutzers auch EUDIW. Der Begriff starke Nutzerauthentifizierung kann grundsätzlich als 2-Faktor-Authentifizierung verstanden werden und ist in Art 3 Z 51 eIDAS-VO näher definiert.
* Verlangen Anbieter sehr großer Online-Plattformen gemäß Art 33 [[Digital Services Act (DSA)|Digital Services Act]] für den Zugang zu Online-Diensten eine Nutzerauthentifizierung, so akzeptieren und erleichtern sie hierfür auch die Verwendung von EUDIW, und zwar nur auf freiwilliges Verlangen des Nutzers und nur mit den Mindestdaten, die für den spezifischen Online-Dienst, für den die Authentifizierung verlangt wird, erforderlich sind.

===== Umsetzungsstand und Pilotprojekte der EUDIW =====
Zur Vorbereitung des Roll-outs der EUDIW koordiniert die Kommission über die sog. „Toolbox“ und das Architecture and Reference Framework (ARF) die technische Zusammenarbeit der Mitgliedstaaten. Das [https://eudi.dev/latest/ ARF] wird regelmäßig aktualisiert und dient als Referenzdokument für Wallet-Implementierungen, Schnittstellen und Sicherheitsanforderungen.

Parallel dazu laufen mehrere von der EU kofinanzierte „Large Scale Pilot“-Projekte, in deren Rahmen der Einsatz der EUDIW in verschiedenen grenzüberschreitenden Use Cases (zB E-Government, Führerschein, Bankkonteneröffnung) praktisch getestet wird.<ref>[https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487808/What%2Bare%2Bthe%2BLarge%2BScale%2BPilot%2BProjects European Commission, What are the Large Scale Pilots]</ref>

==== Gegenseitige Anerkennung mitgliedstaatlicher elektronischer Identifizierungsmittel ====
Neben den 2024 neu eingeführten EUDIW enthält die eIDAS-VO in den Art 6ff auch die bisherigen Bestimmungen zu elektronischen Identifizierungssystemen mit dem Schwerpunkt der gegenseitigen Anerkennung durch die Mitgliedstaaten notifizierter elektronischer Identifizierungssysteme. Kernbestimmung ist die Verpflichtung der Mitgliedstaaten, wenn für einen E-Government-Dienst nach nationalem Recht oder aufgrund der Verwaltungspraxis eine elektronische Identifizierung mit einem elektronischen Identifizierungsmittel auf dem Sicherheitsniveau „substanziell“ oder „hoch“ und mit einer Authentifizierung erforderlich ist, auch in einem anderen Mitgliedstaat ausgestellte elektronische Identifizierungsmittel des gleichen oder eines höheren Sicherheitsniveaus für Zwecke der grenzüberschreitenden Authentifizierung anzuerkennen (Art 6 Abs 1 eIDAS-VO). Die dafür erforderliche Notifizierung des elektronischen Identifizierungssystems durch den jeweiligen Mitgliedstaat und die Voraussetzungen dafür sind in Art 7 und 9 eIDAS-VO näher geregelt. Österreich hat im Jahr 2022 die ID Austria notifiziert.<ref>''Kustor'', Vortrag zu eIDAS 2.0, Innovation Day 2023 https://www.youtube.com/watch?v=_JgS_4e1Qs4</ref>

=== Vertrauensdienste ===
Vertrauensdiensteanbieter (Art 3 Z 19 eIDAS-VO) ist, wer einen Vertrauensdienst erbringt (oder mehrere), das ist ein elektronischer Dienst, der in der Regel gegen Entgelt erbracht wird und aus irgendeiner der folgenden Tätigkeiten besteht (Art 3 Z 19 eIDAS-VO):

* Ausstellung von Zertifikaten für elektronische Signaturen, von Zertifikaten für elektronische Siegel, von Zertifikaten für die Website-Authentifizierung oder von Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Validierung von Zertifikaten für elektronische Signaturen, Zertifikaten für elektronische Siegel, Zertifikaten für die Website-Authentifizierung oder Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Erstellung elektronischer Signaturen oder elektronischer Siegel;
* Validierung elektronischer Signaturen oder elektronischer Siegel;
* Bewahrung von elektronischen Signaturen, elektronischen Siegeln, Zertifikaten für elektronische Signaturen oder Zertifikaten für elektronische Siegel;
* Verwaltung elektronischer Fernsignaturerstellungseinheiten oder elektronischer Fernsiegelerstellungseinheiten;
* Ausstellung elektronischer Attributsbescheinigungen;
* Validierung elektronischer Attributsbescheinigungen;
* Erstellung elektronischer Zeitstempel;
* Validierung elektronischer Zeitstempel;
* Erbringung von Diensten für die Zustellung elektronischer Einschreiben;
* Validierung von durch Dienste für die Zustellung elektronischer Einschreiben übermittelten Daten und damit zusammenhängenden Nachweisen;
* elektronische Archivierung elektronischer Daten und elektronischer Dokumente;
* Aufzeichnung elektronischer Daten in einem elektronischen Journal.
In Art 24a eIDAS-VO ist die gegenseitige Anerkennung qualifizierter Vertrauensdienste in allen Mitgliedstaaten festgelegt.

==== Elektronische Signaturen ====
In Art 3 Z 10 eIDAS-VO ist der Begriff ''elektronische Signatur'' definiert als „Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder logisch mit ihnen verbunden werden und die der Unterzeichner zum Unterzeichnen verwendet.“ Der Unterzeichner ist definiert als „eine natürliche Person, die eine elektronische Signatur erstellt“ (Art 3 Z 11 eIDAS-VO). Für juristische Personen bestehen als Äquivalent zur elektronischen Signatur die elektronischen Siegel.

Die eIDAS-VO unterscheidet zwischen drei Arten von elektronischen Signaturen: „einfachen“, fortgeschrittenen und qualifizierten elektronischen Signaturen, deren Definitionen aufeinander aufbauen. Aus der Definition der "einfachen" elektronischen Signatur wird deutlich, dass an diese keinerlei Anforderungen gestellt werden. Bereits das Unterzeichnen eines E-Mails mit dem Namen des Verfassers erfüllt die Definition. Die Definition der "einfachen" elektronischen Signatur in der eIDAS-VO dient daher vor allem dem Zweck, darauf aufbauend die ''fortgeschrittene elektronische Signatur'' zu definieren als elektronische Signatur, die die Anforderungen des Art 26 eIDAS-VO erfüllt (Art 3 Z 11 eIDAS-VO). Art 26 Abs 1 lautet:

'''''Anforderungen an fortgeschrittene elektronische Signaturen'''''

''Eine fortgeschrittene elektronische Signatur erfüllt alle folgenden Anforderungen:''

''a) Sie ist eindeutig dem Unterzeichner zugeordnet.''

''b) Sie ermöglicht die Identifizierung des Unterzeichners.''

''c) Sie wird unter Verwendung elektronischer Signaturerstellungsdaten erstellt, die der Unterzeichner mit einem hohen Maß an Vertrauen unter seiner alleinigen Kontrolle verwenden kann.''

''d) Sie ist so mit den auf diese Weise unterzeichneten Daten verbunden, dass eine nachträgliche Veränderung der Daten erkannt werden kann.''

Art 26 Abs 2 ermöglicht der Kommission, Durchführungsrechtsakte zu erlassen, „mit denen eine Liste von Referenzstandards erstellt wird und gegebenenfalls Spezifikationen und Verfahren für fortgeschrittene elektronische Signaturen festgelegt werden.“

Art 3 Z 12 eIDAS-VO definiert schließlich die ''qualifizierte elektronischen Signatur'' als „eine fortgeschrittene elektronische Signatur, die von einer qualifizierten elektronischen Signaturerstellungseinheit erstellt wurde und auf einem qualifizierten Zertifikat für elektronische Signaturen beruht.“

Eine solche qualifizierte elektronische Signatur hat die gleiche '''Rechtswirkung''' wie eine handschriftliche Unterschrift (Art 25 Abs 2 eIDAS-VO). Überdies normiert Art 25 Abs 1 eIDAS-VO, dass einer elektronischen Signatur die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden darf, weil sie in elektronischer Form vorliegt oder weil sie die Anforderungen an qualifizierte elektronische Signaturen nicht erfüllt.

Im allgemeinen (technischen) Sprachgebrauch wird die auf [https://de.wikipedia.org/wiki/Asymmetrische_Kryptographie asymmetrischer Kryptographie] basierende Technologie, mit der die soeben dargelegten Anforderungen umgesetzt werden, als ''[https://de.wikipedia.org/wiki/Digitale_Signatur digitale Signatur]'' bezeichnet. ''Elektronische Signatur'' ist demgegenüber ein rechtlicher Begriff, der bewusst technologieneutral gewählt wurde, wobei in der Praxis zur Implementierung qualifizierter elektronischer Signaturen nur die Technologie der digitalen Signatur eine Rolle spielt.

Entsprechend dieser begrifflich abstrakten Herangehensweise ist in der eIDAS-VO auch nicht von privatem und öffentlichem Schlüssel die Rede, sondern von ''elektronischen'' ''Signaturerstellungsdaten'' (Art 3 Z 13 eIDAS-VO) und ''Signaturvalidierungsdaten''. Letztere sind nicht eigenständig definiert, sondern in der Definition des Begriffs Zertifikat für elektronische Signaturen enthalten (Art 3 Z 14 eIDAS-VO). Diese lautet: „‚Zertifikat für elektronische Signaturen‘ ist eine elektronische Bescheinigung, die elektronische Signaturvalidierungsdaten mit einer natürlichen Person verknüpft und die mindestens den Namen oder das Pseudonym dieser Person bestätigt.“ Eine detaillierte Liste jener Angaben, die ein qualifiziertes Zertifikat enthalten muss, findet sich in Anhang I der eIDAS-VO.

Ein Zertifikat für elektronische Signaturen, das diese Anforderungen erfüllt und von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde, ist gemäß Art 3 Z 15 eIDAS-VO ein ''qualifiziertes Zertifikat für elektronische Signaturen''. Art 28 Abs 2 eIDAS-VO bestimmt, dass keine obligatorischen Anforderungen an ein qualifiziertes Zertifikat für elektronische Signaturen gelten dürfen, die über die Anforderungen des Anhang I hinausgehen. Gemäß Art 28 Abs 3 eIDAS-VO können qualifizierte Zertifikate zusätzliche fakultative spezifische Attribute enthalten. Der Begriff [https://de.wikipedia.org/wiki/Digitales_Zertifikat Zertifikat] entspricht dem allgemeinen einschlägigen Sprachgebrauch.

Die Anforderungen, die eine '''qualifizierte elektronische Signaturerstellungseinheit''' erfüllen muss, um gemäß Art 29 Abs 1 eIDAS-VO als solche zu gelten, sind in Anhang II der eIDAS-VO definiert. In der Praxis wird als qualifizierte elektronische Signaturerstellungseinheit insbesondere eine [https://de.wikipedia.org/wiki/Chipkarte Chipkarte] oder ein [https://de.wikipedia.org/wiki/Hardware-Sicherheitsmodul Hardware Security Module (HSM)] verwendet. Mit der Novellierung wurden ausdrücklich auch Bestimmungen zu Fernsignaturen eingeführt (Art 3 Z 23a, Art 29a eIDAS-VO)

==== Elektronische Siegel ====
Elektronische Siegel sind für juristische Personen das Äquivalent zu elektronischen Signaturen. Die Regelungen zu elektronischen Siegeln in Abschnitt 5 der eIDAS-VO sind äquivalent zu jenen für elektronische Signaturen ausgestaltet und normieren zum Teil nur die sinngemäße Geltung der entsprechenden Bestimmungen betreffend elektronische Signaturen. Die Regelung, wonach eine qualifizierte elektronische Signatur die gleiche Rechtswirkung hat wie eine handschriftliche Unterschrift, ist hingegen auf juristische Personen naturgemäß nicht übertragbar. Für ein qualifiziertes elektronisches Siegel gilt stattdessen die Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunftsangabe der Daten, mit denen das qualifizierte elektronische Siegel verbunden ist (Art 35 Abs 2 eIDAS-VO).

Wie aus den Rechtswirkungen deutlich wird, zielen elektronische Siegel nicht auf die Abgabe von Willenserklärungen ab, sondern insbesondere auf die Abgabe von Wissenserklärungen, wie z.B. die Bestätigung der Integrität von Dokumenten oder Software oder des Erhalts von Daten. Der Vorteil eines elektronischen Siegels ist, dass sich im Vergleich zu einer elektronischen Signatur, die eine natürliche Person in Vertretung einer juristischen Person erstellt, die in diesem Fall zusätzlich erforderliche Überprüfung der Vertretungsbefugnis dieser natürlichen Person erübrigt.

==== Elektronische Zeitstempel ====
Ein elektronischer Zeitstempel ist in Art 3 Z 33 eIDAS-VO definiert als „Daten in elektronischer Form, die andere Daten in elektronischer Form mit einem bestimmten Zeitpunkt verknüpfen und dadurch den Nachweis erbringen, dass diese anderen Daten zu diesem Zeitpunkt vorhanden waren.“ Elektronische Zeitstempel dienen somit dem Nachweis, dass die damit bestätigten Daten zum darin angegebenen Zeitpunkt vorlagen und seitdem nicht verändert wurden. Ein ''qualifizierter'' ''elektronischer Zeitstempel'' ein solcher, der die Anforderungen des Art 42 eIDAS-VO (Art 3 Z 34 eIDAS-VO). Gemäß Art 41 Abs 2 eIDAS-VO gilt für einen qualifizierten elektronischen Zeitstempel die Vermutung der Richtigkeit des Datums und der Zeit, die darin angegeben sind, sowie der Unversehrtheit der mit dem Datum und der Zeit verbundenen Daten.

==== Dienste für die Zustellung elektronischer Einschreiben ====
Gemäß Art 3 Z 36 eIDAS-VO ist ein ''Dienst für die Zustellung elektronischer Einschreiben'' ein „Dienst, der die Übermittlung von Daten zwischen Dritten mit elektronischen Mitteln ermöglicht und einen Nachweis der Handhabung der übermittelten Daten erbringt, darunter den Nachweis der Absendung und des Empfangs der Daten, und der die übertragenen Daten vor Verlust, Diebstahl, Beschädigung oder unbefugter Veränderung schützt“. Ein ''qualifizierter'' ''Dienst für die Zustellung elektronischer Einschreiben'' ist gemäß Art 3 Z 37 eIDAS-VO ein solcher Dienst, der die Anforderungen des Art 44 eIDAS-VO erfüllt. Diese Bestimmung zeigt, dass sich ein Dienst für die Zustellung elektronischer Einschreiben der zuvor behandelten Vertrauensdienste bedient.

==== Website-Authentifizierung ====
Art 3 Z 38 eIDAS-VO definiert ein Zertifikat für die Website-Authentifizierung (qualified website authentication certificate, QWAC) als "eine elektronische Bescheinigung, die die Authentifizierung einer Website ermöglicht und die Website mit der natürlichen oder juristischen Person verknüpft, der das Zertifikat ausgestellt wurde." In der Praxis wird dies durch [https://de.wikipedia.org/wiki/Transport_Layer_Security TLS]-Zertifikate realisiert und standardmäßig verwendet, erkennbar an der Präfix "https" in der URL-Zeile des Browsers und dem daneben angezeigten stilisierten Schloss. Ein qualifiziertes Zertifikat für die Website-Authentifizierung ist gemäß Art 3 Z 39 eIDAS-VO ein von einem qualifizierten Vertrauensdiensteanbieter ausgestelltes Zertifikat für Website-Authentifizierung, das die Anforderungen des Anhangs IV der eIDAS-VO erfüllt. Die Stammfassung der Verordnung beschränkte sich darauf, verbindliche Anforderungen für solche Zertifikate zu definieren, die vom Aussteller als qualifiziert bezeichnet werden. Weder normiert die eIDAS-VO Rechtswirkungen solcher qualifizierter Zertifikate für die Website-Authentifizierung, noch trifft sie Regelungen, die in bestimmten Fällen zum Einsatz qualifizierter oder nichtqualifizierter Zertifikate für die Website-Authentifizierung verpflichten.

Die Novellierung brachte diesbezüglich jedoch eine umstrittene Neuerung mit sich: Art 45 Abs 1a eIDAS-VO verpflichtet nunmehr Anbieter von Webbrowsern, qualifizierte Zertifikate für die Website-Authentifizierung anzuerkennen. An dieser Neuerung wurde kritisiert, dass sie staatlichen Stellen ermöglicht, im Sinne eines Man-in-the-Middle-Angriffs Online-Kommunikation zu überwachen.<ref>''Eggendorfer/Schmidt-Wudy'', eIDAS 2.0 - "Sicherheit trotz und wegen Verschlüsselung"?, KuR 2024, 13</ref><ref>[https://netzpolitik.org/2023/eidas-reform-schlagabtausch-zwischen-forschenden-und-eu-parlament/ ''Leisegang'', Schlagabtausch zwischen Forschenden und EU-Parlament, Netzpolitik.org, 07.12.2023]</ref> Als Kompromisslösung wurde daher in Art 45a Abs 2 eIDAS-VO klargestellt, dass Anbieter von Webbrowsern in Fällen begründeter Bedenken hinsichtlich Sicherheitsverletzungen oder eines Integritätsverlusts eines bestimmten Zertifikats oder eines Satzes von Zertifikaten Vorsorgemaßnahmen in Bezug auf dieses Zertifikat oder diesen Satz von Zertifikaten ergreifen können und die Kommission hielt in einer förmlichen Erklärung fest, dass Art 45 eIDAS-VO Anbietern von Webbrowsern keine Verpflichtungen und Einschränkungen hinsichtlich der Gewährleistung vertraulicher Online-Kommunikation auferlege.<ref>[https://netzpolitik.org/2024/eidas-reform-eu-parlament-stimmt-fuer-digitale-brieftasche/ ''Leisegang'', EU-Parlament stimmt für digitale Brieftasche, Netzpolitik.org, 29.02.2024]</ref><ref>[https://www.europarl.europa.eu/doceo/document/A-9-2023-0038-AM-007-007_EN.pdf Statement by the Commission on Article 45 on the occasion of the adoption of Regulation 2024/...]</ref>

==== Elektronische Attributsbescheinigungen ====
Die mit eIDAS 2.0 eingeführten elektronischen Attributsbescheinigungen (engl. electronic attestations of attributes, EAA) ermöglichen den Nachweis von Attributen, das sind gemäß Art 3 Z 43 eIDAS-VO Merkmale, Qualitäten, Rechte oder Erlaubnisse einer natürlichen oder juristischen Person oder eines Objekts, wie z.B. ein Hochschulabschluss oder eine Fahrerlaubnis (Führerschein). Eine EAA ist folglich definiert als "eine in elektronischer Form vorliegende Bescheinigung, die die Authentifizierung von Attributen ermöglicht" (Art 3 Z 44 eIDAS-VO). Wenn eine EAA von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde und die Anforderungen des Anhangs V der eIDAS-VO erfüllt, gilt sie als qualifizierte EAA (Art 3 Z 45 eIDAS-VO). Diesen gleichgestellt gibt es zum Zweck der unmittelbaren Bescheinigung von Attributen aus staatlichen Registern, für die aufgrund ihrer originären Authentizität eine Einbeziehung eines qualifizierten Vertrauensdiensteanbieters widersinnig wäre, eine eigene Kategorie der EAA, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden. Diese definiert Art 3 Z 46 eIDAS-VO als eine EAA, die gemäß Art 45f und Anhang VII der eIDAS-VO on einer öffentlichen Stelle ausgestellt wurde, die für eine authentische Quelle (vgl Art 3 Z 47 eIDAS-VO) zuständig ist, oder von einer öffentlichen Stelle ausgestellt wurde, die von dem Mitgliedstaat dafür benannt wurde, solche Attributsbescheinigungen im Namen der öffentlichen Stellen auszustellen, die für authentische Quellen zuständig sind.

Die Mitgliedstaaten müssen bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) dafür sorgen, dass zumindest die folgenden Attribute anhand authentischer Quellen elektronisch überprüft werden können (Art 45e Abs 1 iVm Anhang VI eIDAS-VO):

# Adresse,
# Alter,
# Geschlecht,
# Personenstand,
# Familienzusammensetzung,
# Staatsangehörigkeit oder Staatsbürgerschaft,
# Bildungsabschlüsse, Titel und Erlaubnisse,
# Berufsqualifikationen, Titel und Berechtigungen,
# Vollmachten und Mandate, eine natürliche oder juristische Person zu vertreten,
# behördliche Genehmigungen und Lizenzen,
# für juristische Personen Finanzdaten und Unternehmensdaten.

Art 45b Abs 3 eIDAS-VO schreibt für diese Kategorie der EAA die Anerkennung in allen Mitgliedstaaten vor. Die weiteren Regeln zu den Rechtwirkungen ähneln jenen der elektronischen Signatur: "Eine qualifizierte elektronische Attributsbescheinigung und Attributsbescheinigungen, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden, haben dieselbe Rechtswirkung wie rechtmäßig ausgestellte Bescheinigungen in Papierform" (Art 45b Abs 2 eIDAS-VO) und "[e]iner elektronischen Attributsbescheinigung darf die Rechtswirkung oder die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil sie in elektronischer Form vorliegt oder nicht die Anforderungen an qualifizierte elektronische Attributsbescheinigungen erfüllt" (Art 45b Abs 1 eIDAS-VO).

Zum Zusammenspiel zwischen EAA und der EUDIW ist festgelegt, dass Anbieter von EAA EUDIW-Nutzern die Möglichkeit bieten müssen, die EAA unabhängig von dem Mitgliedstaat, in dem die EUDIW bereitgestellt wird, anzufordern, zu erhalten, zu speichern und zu verwalten (Art 45g Abs 1 eIDAS-VO) und dass Anbieter qualifizierter EAA eine Schnittstelle zum EUDIW bereitstellen müssen (Art 45g Abs 2 eIDAS-VO).

Art 45h eIDAS-VO enthält Datenschutzvorschriften für die Erbringung von Diensten für EAA:

# Kein Kombinieren der Daten: Anbieter qualifizierter und nichtqualifizierter Dienste für EAA dürfen personenbezogene Daten in Bezug auf die Erbringung dieser Dienste nicht mit personenbezogenen Daten aus anderen von ihnen oder ihren Geschäftspartnern angebotenen Diensten kombinieren (Art 45h Abs 1 eIDAS-VO).
# Trennung der Daten: Personenbezogene Daten in Bezug auf die Erbringung von Diensten für EAA müssen von allen anderen vom Anbieter von EAA gespeicherten Daten logisch getrennt gehalten werden (Art 45h Abs 2 eIDAS-VO).
# Trennung der Dienste: Anbieter von EAA setzen die Bereitstellung solcher qualifizierter Vertrauensdienste auf eine Weise um, dass sie von anderen von ihnen bereitgestellten Diensten funktional getrennt ist (Art 45h Abs 3 eIDAS-VO).

==== Elektronische Archivierungsdienste ====
Elektronische Archivierung "ist ein Dienst für die Entgegennahme, die Speicherung, den Abruf und die Löschung elektronischer Daten und elektronischer Dokumente, der ihre Dauerhaftigkeit und Lesbarkeit gewährleistet sowie ihre Unversehrtheit, Vertraulichkeit und den Nachweis ihrer Herkunft während des gesamten Bewahrungszeitraums erhält" (Art 3 Z 48 eIDAS-VO). Analog zu anderen Vertrauensdiensten regeln die Art 45i und 45j eIDAS-VO die Rechtswirkung sowie die Anforderungen an qualifizierte elektronische Archivierungsdienste.

==== Elektronische Journale (electronic ledgers) ====
Die eIDAS-VO enthält wie erwähnt nunmehr auch Regelungen zu electronic ledgers, in der deutschsprachigen Fassung als elektronische Journale bezeichnet. Ein solches ist in Art 3 Z 52 eIDAS-VO definiert als "eine Abfolge von Aufzeichnungen elektronischer Daten, die die Unversehrtheit dieser Aufzeichnungen und die Richtigkeit ihrer chronologischen Reihenfolge gewährleistet." Auch hierzu sind mit anderen Vertrauensdiensten vergleichbare Regelungen zu den Rechtswirkungen sowie die Anforderungen an qualifizierte elektronische Journale in Art 45k und 45l eIDAS-VO vorgesehen. Zu erwähnen ist, dass die Definition nicht das Kriterium der verteilten Datenhaltung enthält (vgl. [https://de.wikipedia.org/wiki/Distributed-Ledger-Technologie Distributed-Ledger-Technologie]). Art 45l Abs 1 lit a eIDAS-VO erwähnt allerdings, dass ein qualifiziertes elektronisches Journal von einem oder mehreren qualifizierten Vertrauensdiensteanbietern erstellt und verwaltet werden kann.

== Verhältnis zu anderen Rechtsakten ==

=== DSGVO ===

* Wie oben dargestellt, enthält die eIDAS-VO zahlreiche Bestimmungen, um die Einhaltung der Datenschutzgrundsätze, insbesondere des Grundsatzes der Datenminimierung, in Bezug auf das EUDIW sicherzustellen. Art 2 eIDAS-VO normiert ausdrücklich, dass diese "unbeschadet der" [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32016R0679 DSGVO (Datenschutz-Grundverordnung)] gilt. Die beiden Verordnungen stehen somit grundsätzlich nebeneinander. Eindeutig ist die Rechtslage dahingehend, dass die Durchführungsrechtsakte zur eIDAS-VO den Bestimmungen der DSGVO nicht widersprechen dürfen und dass vertrauende Beteiligte in ihrem Umgang mit den EUDIW-Nutzern und mit deren Daten nicht nur die Bestimmungen der eIDAS-VO, sondern auch die Bestimmungen der DSGVO einhalten müssen.

=== European Business Wallets ===

* Am 19. November 2025 veröffentlichte die Kommission einen Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen (European Business Wallets).<ref>[https://digital-strategy.ec.europa.eu/de/library/proposal-regulation-establishment-european-business-wallets Europäische Kommission, Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen]</ref> Diese sollen technisch auf den EUDIW aufbauen<ref>[https://digital-strategy.ec.europa.eu/de/policies/business-wallets Europäische Kommission, EU-Brieftaschen für Unternehmen]</ref> und - sofern die Verordnung beschlossen wird - Unternehmen in der EU die grenzüberschreitende Authentifizierung (insbesondere, aber nicht nur gegenüber Behörden) und den vertrauenswürdigen Austausch von Dokumenten ermöglichen und damit den Verwaltungsaufwand für Unternehmen reduzieren.

== Weiterführende Links ==

* ''Europäische Kommission'', eIDAS Dashboard, https://eidas.ec.europa.eu/efda/discover/eu-trust-service-framework
* ''Europäische Kommission,'' EU Digital Identity Wallet Home, https://ec.europa.eu/digital-building-blocks/sites/spaces/EUDIGITALIDENTITYWALLET/pages/694487738/EU+Digital+Identity+Wallet+Home
* ''Europäische Kommission,'' European Digital Identity, https://eudi.dev/latest/
* ''Europäische Kommission,'' Architecture and Reference Framework, https://github.com/eu-digital-identity-wallet/eudi-doc-architecture-and-reference-framework

== Einzelnachweise ==
<references />

Regulation on electronic identification and trust services (eIDAS)

2025-12-02T21:21:55Z

Walter: /* Einführung */ Verhältnis zu anderen Rechtsakten: European Business Wallets

'''Änderung durch''' {{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1183|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1183 des Europäischen Parlaments und des Rates vom 11. April 2024 zur Änderung der Verordnung (EU) Nr. 910/2014 im Hinblick auf die Schaffung des europäischen Rahmens für eine digitale Identität|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS (2.0)|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1183, 1|Anzuwenden=21. Mai 2026/2027 (Übergangsbestimmungen)|Gültig=inkraft}}'''Ursprungsrechtsakt'''{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2014|Nummer=910|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) Nr. 910/2014 des Europäischen Parlaments und des Rates vom 23. Juli 2014 über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen im Binnenmarkt und zur Aufhebung der Richtlinie 1999/93/EG|Kurztitel=Regulation on electronic identification and trust services/Verordnung über elektronische Identifizierung und Vertrauensdienste für elektronische Transaktionen|Bezeichnung=eIDAS|Rechtsmaterie=Elektronische Identitäten|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2014/257, 73|Anzuwenden=1. Juli 2016 (mit Ausnahmen)|Gültig=anwendbar}}

== Einführung ==
Die Abkürzung eIDAS steht für "electronic IDentification, Authentication and Trust Services". Die ursprüngliche Fassung der eIDAS-VO wurde im Jahr 2014 beschlossen. Sie umfasst zwei Regelungsgegenstände, die völlig unabhängig voneinander behandelt werden,

* die elektronische Identifizierung sowie
* Vertrauensdienste, wie insbesondere elektronische Signaturen.

Die eIDAS-VO enthält auch eine ganz allgemeine Grundregel für elektronische Dokumente: "Einem elektronischen Dokument darf die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil es in elektronischer Form vorliegt" (Art 46 eIDAS-VO). Der Begriff elektronisches Dokument ist dabei sehr weit definiert als jeder in elektronischer Form, insbesondere als Text-, Ton-, Bild- oder audiovisuelle Aufzeichnung gespeicherte Inhalt (Art 3 Z 35 eIDAS-VO).

Die Rahmenbedingungen für elektronische Signaturen bauen auf der Signaturrichtlinie auf, die seit 1999 gegolten hatte. Betreffend die Vertrauensdienste enthielt die IDAS-VO von 2014 bereits europaweit einheitliche Regeln (Harmonisierung), betreffend die elektronische Identifizierung regelte diese hingegen nur grenzüberschreitende Aspekte. Sie versuchte, Interoperabilität zwischen den verschiedenen nationalen elektronischen Identifizierungssystemen der Mitgliedstaaten herzustellen, indem sie deren gegenseitige Anerkennung durch die Mitgliedstaaten für deren E-Government-Services normiert. Vorschriften, wie diese gestaltet sein müssen, eine Verpflichtung zur Anerkennung im Privatsektor oder eine Verpflichtung, dass jeder Mitgliedsaat überhaupt ein elektronisches Identifizierungssystem haben müsse, enthielt sie nicht. Dies führte dazu, dass elektronische Identifizierungssysteme nicht in allen Mitgliedstaaten gleichermaßen zur Verfügung standen und ihre Verbreitung teilweise gering blieb, insbesondere in Bezug auf die Verwendung im privaten Sektor.<ref>[https://digital-strategy.ec.europa.eu/de/policies/eudi-regulation Europäische Kommission, Verordnung über die europäische digitale Identität (EUDI)]</ref>

Um diese Mängel zu beheben, wurde eine umfangreiche Novellierung der eIDAS-VO erarbeitet – bekannt als eIDAS 2.0 – die am 20. Mai 2024 in Kraft trat. Als zentrale Neuerung treten neben die Interoperabilität der nationalen elektronischen Identifizierungssysteme einheitliche Vorgaben für eine „Europäische Brieftasche für die Digitale Identität“ („European Digital Identity Wallet“, kurz EUDI-Wallet, <abbr>EUDI</abbr>-Brieftasche oder EUDIW). Bis Herbst 2026 müssen alle EU-Mitgliedstaaten ihren Bürger*innen eine solche Wallet anbieten, mit der sie sich online und offline ausweisen können, insbesondere auch gegenüber Unternehmen, sowie Attribute aller Art nachweisen können, vom Altersnachweis über Zeugnisse bis hin zu Tickets. Die Nutzung soll freiwillig und kostenfrei sein.

Betreffend Vertrauensdienste enthielt die eIDAS-VO bereits bisher Regelungen zu Vertrauensdiensteanbietern sowie zu folgenden spezifischen Vertrauensdiensten:

* Elektronische Signaturen
* Elektronische Siegel
* Elektronische Zeitstempel
* Dienste für die Zustellung elektronischer Einschreiben
* Website-Authentifizierung

Mit der Novellierung 2024 wurden einige dieser Regelungen angepasst und es traten Regelungen zu folgenden neunen Vertrauensdiensten hinzu:

* Elektronische Attributsbescheinigung
* Elektronische Archivierungsdienste
* Elektronische Journale (electronic ledgers)
Die Regulierung ist im Detail nicht abgeschlossen, denn die novellierte eIDAS-VO sieht insgesamt ca. 40 Durchführungsrechtsakte vor, die zahlreiche teils sehr relevante Umsetzungsdetails regeln werden. Wegen ihrer hohen Anzahl kann hier nicht auf alle näher eingegangen werden, insbesondere wenn diese noch nicht veröffentlicht wurden. Sie müssen entweder 6, 12 oder 24 Monate nach Inkrafttreten der eIDAS-VO vorliegen, manche sind jedoch optional. Mit Stand November 2025 liegen wichtige Durchführungsverordnungen der Kommission bereits vor, insbesondere zur Ausgestaltung der EUDIW, andere befinden sich in öffentlicher Konsultation.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives_de?text=European%20Digital%20Identity%20Wallets Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Schlüsselwort "European Digital Identity Wallets"]</ref> In den Entwürfen zeichnete sich zuletzt eine Aufweichung der unten beschriebenen Datenschutz- und Datensicherheitsmaßnahmen des EUDIW ab, sodass diese Gegenstand intensiver politischer Diskussionen sind.<ref name=":0">[https://netzpolitik.org/2024/digitale-identitaeten-faule-eier-der-kommission/ ''Leisegang'', Faule Eier der Kommission, Netzpolitik.org, 05.12.2024] </ref>

== Zentrale Inhalte ==

=== Elektronische Identifizierung ===
Die elektronische Identifizierung ist in Art 3 Z 1 eIDAS-VO definiert als "der Prozess der Verwendung von Personenidentifizierungsdaten in elektronischer Form, die eine natürliche oder juristische Person oder eine natürliche Person, die eine andere natürliche Person oder eine juristische Person vertritt, eindeutig repräsentieren." Ein elektronisches Identifizierungsmittel ist "eine materielle und/oder immaterielle Einheit, die Personenidentifizierungsdaten enthält und zur Authentifizierung bei Online-Diensten oder gegebenenfalls bei Offline-Diensten verwendet wird" (Art 3 Z 2 eIDAS-VO). Die Authentifizierung ist "ein elektronischer Prozess, der die Bestätigung der elektronischen Identifizierung einer natürlichen oder juristischen Person oder die Bestätigung des Ursprungs und der Unversehrtheit von Daten in elektronischer Form ermöglicht" (Art 3 Z 5 eIDAS-VO). Die natürliche oder juristische Person, der gegenüber sich ein Individuum identifiziert und/oder bestimmte Eigenschaften (Attribute) nachweist, die also, wie es die Definition in Art 3 Z 6 eIDAS-VO formuliert, "auf eine elektronische Identifizierung, europäische Brieftaschen für die Digitale Identität oder andere Mittel zur elektronischen Identifizierung oder einen Vertrauensdienst vertraut", wird "vertrauender Beteiligter" genannt, in direkter Übersetzung des wesentlich gebräuchlicheren englischen Begriffs "relying party".

Die eIDAS-VO sieht drei Sicherheitsniveaus für elektronische Identifizierungsmittel vor, „niedrig“, „substanziell“ und „hoch“. Die Kriterien für diese Sicherheitsniveaus sind in Art 8 eIDAS-VO sowie in Durchführungsrechtsakten festgelegt.

==== European Digital Identity Wallet (EUDIW) ====
Die "Europäische Brieftasche für die Digitale Identität“, wie sie auf Deutsch heißt, "ist ein elektronisches Identifizierungsmittel, das es dem Nutzer ermöglicht, Personenidentifizierungsdaten und elektronische Attributsbescheinigungen sicher zu speichern, zu verwalten und zu validieren, um sie vertrauenden Beteiligten und anderen Nutzern von europäischen Brieftaschen für die Digitale Identität zu präsentieren und mittels qualifizierter elektronischer Signaturen zu unterzeichnen oder mittels qualifizierter elektronischer Siegel zu besiegeln" (Art 3 Z 43 eIDAS-VO). Hervorzuheben ist, dass die EUDIW somit selbst ein elektronisches Identifizierungsmittel ist und zwar auf der Sicherheitsstufe "hoch" (Art 5a Abs 4 lit d eIDAS-VO).

Jeder Mitgliedstaat muss bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) zumindest ein EUDIW bereitstellen (Art 5a Abs 1 eIDAS-VO). Dies kann unmittelbar durch den Mitgliedstaat erfolgen oder in dessen Auftrag oder unabhängig von diesem, aber von diesem anerkannt (Art 5a Abs 2 eIDAS-VO). Der "Quellcode der Anwendungssoftwarekomponenten" der EUDIW muss gemäß Art 5a Abs 3 eIDAS-VO einer Open-Source-Lizenz unterliegen, wobei eine Ausnahmen vorgesehen ist für bestimmte "Komponenten, die nicht auf den Geräten des Nutzers installiert sind".

===== Funktionen der EUDIW =====
Die Funktionalität eines EUDIW ist in Art 5a Abs 4 eIDAS-VO wie folgt festgelegt:

* das sichere Anfordern, Erhalten, Auswählen, Kombinieren, Speichern, Löschen, Weitergeben und Vorweisen — unter alleiniger Kontrolle durch den Nutzer — elektronischer Attributsbescheinigungen und von Personenidentifizierungsdaten und, falls anwendbar, in Kombination mit elektronischen Attributsbescheinigungen, gegenüber vertrauenden Beteiligten, um sich online und, gegebenenfalls, offline für den Zugang zu öffentlichen und privaten Diensten zu authentifizieren, bei gleichzeitiger Sicherstellung, dass eine selektive Offenlegung von Daten möglich ist;
* das Generieren von Pseudonymen und deren verschlüsselte und lokale Speicherung in der EUDIW;
* die sichere Authentifizierung der EUDIW einer anderen Person und das Empfangen und Austauschen — zwischen den beiden EUDIW — von Personenidentifizierungsdaten und elektronischen Attributsbescheinigungen;
* den Zugang zur Protokollierung aller über die EUDIW vorgenommenen Transaktionen über ein gemeinsames Dashboard, sodass der Nutzer in der Lage ist,
** eine aktuelle Auflistung der vertrauenden Beteiligten, mit denen der Nutzer eine Verbindung aufgebaut hat, und, falls anwendbar, alle weitergegebenen Daten einzusehen;
** einen vertrauenden Beteiligten auf einfache Weise um die Löschung personenbezogener Daten gemäß Artikel 17 der Verordnung (EU) 2016/679 durch einen vertrauenden Beteiligten zu ersuchen;
** eine Meldung auf einfache Weise an die zuständige nationale Datenschutzbehörde zu erstatten, wenn ein mutmaßlich unrechtmäßiges oder verdächtiges Ersuchen um Daten eingegangen ist;
* das Unterzeichnen mit qualifizierten elektronischen Signaturen oder das Siegeln mit qualifizierten elektronischen Siegeln;
* – soweit technisch möglich — das Herunterladen von Nutzerdaten, elektronischen Attributsbescheinigungen und Konfigurationen;
* die Ausübung der Rechte des Nutzers auf Datenübertragbarkeit.

Diese Funktionen muss ein EUDIW "in transparenter und nachvollziehbarer Weise ermöglichen". Darüber hinaus können die Mitgliedstaaten zusätzliche Funktionen vorsehen (Art 5a Abs 7 eIDAS-VO). Hervorzuheben ist zum ersten Punkt, dass auch eine Verwendung der EUDIW offline, also ohne Internetverbindung und somit ohne Beteiligung eines Servers, vorgesehen ist, eingeschränkt durch den Begriff "gegebenenfalls" bzw. in der englischsprachigen Fassung etwas aussagekräftiger "where appropriate", sowie die selektive Offenlegung von Daten. Auch die Verwendung des EUDIW auf der Empfängerseite einer Transaktion und somit horizontal zwischen Nutzern ist hervorzuheben (dritter Punkt).

Nur in den Erwägungsgründen findet sich die Anforderung, dass die Mitgliedstaaten "verschiedene Technologien zum Schutz der Privatsphäre, beispielsweise Zero-Knowledge-Proof (Null-Wissens-Beweis)", in die EUDIW integrieren "sollten". "Diese kryptografischen Methoden sollten es einem vertrauenden Beteiligten ermöglichen, die Richtigkeit einer bestimmten Aussage, die auf der Grundlage der Identifizierungsdaten und der Attributsbescheinigung in der europäischen Brieftasche für die Digitale Identität eines Nutzers erfolgt, zu validieren, ohne dass Daten, auf denen die Aussage beruht, preisgegeben werden, wodurch die Privatsphäre des Nutzers gewahrt bleibt" (ErwGr 14).

Die Ausstellung, die Verwendung und der Widerruf von EUDIW muss für alle natürlichen Personen kostenlos sein (Art 5a Abs 12 eIDAS-VO). Ebenso muss das Unterzeichnen mit qualifizierten elektronischen Signaturen mittels EUDIW für alle natürlichen Personen kostenlos sein (Art 5a Abs 5 lit g eIDAS-VO), wobei die Mitgliedstaaten verhältnismäßige Maßnahmen treffen können, um dies auf nichtgewerbliche Zwecke zu beschränken.

Während die Nutzer nationaler eIDs über nationale eIDAS-Knoten mit der jeweiligen Anwendung interagieren, kommuniziert die EUDIW direkt mit der jeweiligen Anwendung, sodass es einheitlicher Protokolle und Schnittstellen bedarf, deren Funktionalität in Art 5a Abs 5 lit a eIDAS-VO detailliert festgelegt ist.

===== Datenschutz und Datensicherheit =====
Aufgrund der potenziellen Datenschutzrisiken, die ein Identitätsmanagementsystem mit sich bringen kann, insbesondere wenn es weiträumig und umfassend verwendbar ist, war der Datenschutz im Entstehungsprozess von eIDAS 2.0 ein vieldiskutiertes Thema und ist es weiterhin in der Phase der Ausarbeitung der Durchführungsrechtsakte. Wesentliche Datenschutzrisiken von Identitätsmanagementsystemen und die entsprechenden Anforderungen im Sinne des Gebots der Datenminimierung sind:<ref>Siehe dazu ausführlich ''Hötzendorfer'', Datenschutz und Privacy by Design im Identitätsmanagement, Österreichische Computer Gesellschaft (OCG), Wien, 2016.</ref>

* Überidentifikation: Die betroffene Person sollte bei einer Transaktion nur jene Daten offenlegen müssen, die für die Transaktion erforderlich sind, und insbesondere ihre Identität nur dann offenlegen müssen, wenn diese für die Transaktion erforderlich ist.
* Verknüpfung von Transaktionen: Transaktionen, die nichts miteinander zu tun haben, und Daten, die jeweils in diesen Transaktionen offengelegt werden, sollten nicht miteinander in Verbindung gebracht werden können (Unverknüpfbarkeit). Praktisch bedeutet das vor allem, ein vertrauender Beteiligter sollte nicht erkennen können, dass zwei Transaktionen derselben anonymen Person, die beispielsweise nur ihre Volljährigkeit nachweist, von derselben Person stammen.
* Beobachtung des Nutzerverhaltens: Eine zentrale Stelle, wie im vorliegenden Kontext der Anbieter des EUDIW, oder ein Aussteller von Identitäts- oder Attributsdaten, sollte nicht in der Lage sein, zu beobachten, für welche Zwecke und wem gegenüber die betroffene Person ihre Identität und/oder bestimmte Attribute nachweist (Unbeobachtbarkeit).

Der Beobachtung des Nutzerverhaltens, oder vielmehr zumindest dessen Auswertung soll insbesondere die Bestimmung des Art 5a Abs 14 eIDAS-VO entgegenwirken, die Folgendes normiert:

* Die Nutzer haben die uneingeschränkte Kontrolle über die Nutzung ihrer EUDIW und über die darin enthaltenen Daten.
* Der Anbieter der EUDIW sammelt weder Informationen über die Nutzung der EUDIW, die für die Erbringung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, noch kombiniert er Personenidentifizierungsdaten oder andere gespeicherte oder im Zusammenhang mit der Verwendung der EUDIW stehende personenbezogene Daten mit personenbezogenen Daten aus anderen vom Anbieter angebotenen Diensten oder aus Diensten Dritter, die für die Bereitstellung der mit der EUDIW verbundenen Dienste nicht erforderlich sind, es sei denn, der Nutzer hat dies ausdrücklich anders verlangt.
* Personenbezogene Daten in Bezug auf die Bereitstellung der EUDIW werden vom Anbieter der europäischen Brieftasche für die Digitale Identität von allen anderen gespeicherten Daten logisch getrennt gehalten.

Einer strikten Umsetzung des Datenminimierungsgebots dahingehend, dass die Daten zur Nutzung gar nicht erst gespeichert werden, steht wohl das Erfordernis der Protokollierung aller über die EUDIW vorgenommenen Transaktionen in Art 5a Abs 4 lit d eIDAS-VO entgegen.

Art 5a Abs 14 eIDAS-VO betrifft sowohl die Unbeobachtbarkeit als auch die Unverknüpfbarkeit und normiert, dass der technische Rahmen der EUDIW

* es Anbietern elektronischer Attributsbescheinigungen oder anderen Parteien nach Ausstellung der Attributsbescheinigung nicht erlauben darf, Daten zu erhalten, die es ermöglichen, Transaktionen oder Nutzerverhalten zu verfolgen, zu verknüpfen, zu korrelieren oder Kenntnisse über Transaktionen oder das Nutzerverhalten anderweitig zu erlangen, es sei denn, der Nutzer hat dies ausdrücklich genehmigt, und
* technische Verfahren zum Schutz der Privatsphäre ermöglichen muss, die die Unverknüpfbarkeit gewährleisten, wenn die Attributsbescheinigung keine Identifizierung des Nutzers erfordert.
Die zentrale Maßnahme der eIDAS-VO gegen Überidentifikation ist die Registrierungsnotwendigkeit für vertrauende Beteiligte (Art 5b eIDAS-VO): Ein vertrauende Beteiligter, der für die Bereitstellung öffentlicher oder privater Dienste auf die EUDIW zurückzugreifen möchte, muss sich in dem Mitgliedstaat, in dem er niedergelassen ist, registrieren. Dabei muss er angeben, welche Daten er von den Nutzern anzufordern beabsichtigt (in ErwGr 17 der eIDAS-VO ist auch davon die Rede, dass dies zu begründen ist), und nur diese darf er dann im Zuge von Transaktionen tatsächlich anfordern, wie in Art 5b Abs 3 ausdrücklich festgelegt ist. Die bei der Registrierung gemachten Angaben sind von den Mitgliedstaaten online zu veröffentlichen, in elektronisch signierter oder besiegelter Form, die für eine automatisierte Verarbeitung geeignet ist. Flankiert wird diese Maßnahme von der Verpflichtung vertrauender Beteiligter, sich gegenüber den Nutzern zu identifizieren und Pseudonyme nicht zu verweigern, wenn die Identifizierung des Nutzers nicht im Unionsrecht oder im nationalen Recht vorgeschrieben ist. Insbesondere zu diesen Aspekten zeichnete sich zuletzt in der betreffenden Durchführungsverordnung eine Aufweichung ab, deren Zulässigkeit angesichts der soeben wiedergegeben Bestimmungen der EIDAS-VO in Frage steht.<ref name=":0" /> Die Verabschiedung der finalen Durchführungsverordnung ist für das 1. Quartal 2025 angekündigt.<ref>[https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/14399-Brieftaschen-fur-die-europaische-digitale-Identitat-Registrierung-vertrauender-Beteiligter_de Europäische Kommission, Öffentliche Konsultationen und Rückmeldungen, Brieftaschen für die europäische digitale Identität – Registrierung vertrauender Beteiligter]</ref>

Art 5a Abs 12 eIDAS-VO legt zudem fest, dass die EUDIW "security-by-design" sicherstellen müssen, was im deutschen Verordnungstext damit übersetzt wird, dass sie "mit ‚konzeptintegrierter Sicherheit‘ auszustatten" sind. Art 5a Abs 5 eIDAS-VO normiert eine Pflicht zur Verständigung der Nutzer über Sicherheitsverletzungen. Näheres zu Konsequenzen von Sicherheitsverletzungen ist in Art 5e eIDAS-VO vorgesehen.

In Art 5c eIDAS-VO ist das Erfordernis der Zertifizierung jedes EUDIW geregelt, unter Bezugnahme auf den [[Cyber Security Act (CSA)|Cyber Security Act]]. Alle zertifizierten EUDIW werden die im Amtsblatt der Europäischen Union veröffentlicht und in einer maschinenlesbaren Liste geführt (Art 5d eIDAS-VO).

Auch die Bestimmung über die Freiwilligkeit der Nutzung (Art 5a Abs 14 eIDAS-VO) dient - neben dem Hauptzweck der Nichtdiskriminierung - gewissermaßen auch Datenschutzzwecken. Sie normiert zusätzlich folgende Anforderungen, damit eine Freiwilligkeit auch faktisch besteht:

* Natürliche oder juristische Personen, die die EUDIW nicht nutzen, dürfen in ihrem Zugang zu öffentlichen und privaten Diensten und zum Arbeitsmarkt sowie in ihrer unternehmerischen Freiheit in keiner Weise eingeschränkt oder benachteiligt werden.
* Der Zugang zu öffentlichen und privaten Diensten muss weiterhin über andere bestehende Identifizierungs- und Authentifizierungsmittel möglich sein.

===== Annahmepflichten der EUDIW =====
In drei verschiedenen Konstellationen ist eine Verpflichtungen zur Akzeptanz des EUDIW vorgesehen (Art 5f eIDAS-VO):

* Wenn Mitgliedstaaten für einen E-Government-Dienst eine elektronische Identifizierung und Authentifizierung verlangen, müssen sie dafür auch die EUDIW akzeptieren.
* Sind private vertrauende Beteiligte, die Dienste erbringen — mit Ausnahme von Kleinst- und kleinen Unternehmen im Sinne von Art 2 des Anhangs der Empfehlung 2003/361/EG der Kommission<ref>[https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32003H0361 Empfehlung der Kommission vom 6. Mai 2003 betreffend die Definition der Kleinstunternehmen sowie der kleinen und mittleren Unternehmen (2003/361/EG) (ABl. L 124 vom 20.5.2003, S. 36).]</ref> –, nach Unionsrecht oder nationalem Recht verpflichtet, eine Online-Identifizierung mit starker Nutzerauthentifizierung vorzunehmen, oder ist eine Online-Identifizierung mit starker Nutzerauthentifizierung vertraglich vorgeschrieben, auch in den Bereichen Verkehr, Energie, Bankenwesen, Finanzdienstleistungen, soziale Sicherheit, Gesundheit, Trinkwasser, Postdienste, digitale Infrastrukturen, Bildung oder Telekommunikation, so akzeptieren diese privaten vertrauenden Beteiligten hierfür spätestens 36 Monate nach dem Tag des Inkrafttretens der Durchführungsrechtsakte gemäß Art 5a Abs 23 und Art 5c Abs 6 eIDAS-VO und nur auf freiwilliges Verlangen des Nutzers auch EUDIW. Der Begriff starke Nutzerauthentifizierung kann grundsätzlich als 2-Faktor-Authentifizierung verstanden werden und ist in Art 3 Z 51 eIDAS-VO näher definiert.
* Verlangen Anbieter sehr großer Online-Plattformen gemäß Art 33 [[Digital Services Act (DSA)|Digital Services Act]] für den Zugang zu Online-Diensten eine Nutzerauthentifizierung, so akzeptieren und erleichtern sie hierfür auch die Verwendung von EUDIW, und zwar nur auf freiwilliges Verlangen des Nutzers und nur mit den Mindestdaten, die für den spezifischen Online-Dienst, für den die Authentifizierung verlangt wird, erforderlich sind.

==== Gegenseitige Anerkennung mitgliedstaatlicher elektronischer Identifizierungsmittel ====
Neben den 2024 neu eingeführten EUDIW enthält die eIDAS-VO in den Art 6ff auch die bisherigen Bestimmungen zu elektronischen Identifizierungssystemen mit dem Schwerpunkt der gegenseitigen Anerkennung durch die Mitgliedstaaten notifizierter elektronischer Identifizierungssysteme. Kernbestimmung ist die Verpflichtung der Mitgliedstaaten, wenn für einen E-Government-Dienst nach nationalem Recht oder aufgrund der Verwaltungspraxis eine elektronische Identifizierung mit einem elektronischen Identifizierungsmittel auf dem Sicherheitsniveau „substanziell“ oder „hoch“ und mit einer Authentifizierung erforderlich ist, auch in einem anderen Mitgliedstaat ausgestellte elektronische Identifizierungsmittel des gleichen oder eines höheren Sicherheitsniveaus für Zwecke der grenzüberschreitenden Authentifizierung anzuerkennen (Art 6 Abs 1 eIDAS-VO). Die dafür erforderliche Notifizierung des elektronischen Identifizierungssystems durch den jeweiligen Mitgliedstaat und die Voraussetzungen dafür sind in Art 7 und 9 eIDAS-VO näher geregelt. Österreich hat im Jahr 2022 die ID Austria notifiziert.<ref>''Kustor'', Vortrag zu eIDAS 2.0, Innovation Day 2023 https://www.youtube.com/watch?v=_JgS_4e1Qs4</ref>

=== Vertrauensdienste ===
Vertrauensdiensteanbieter (Art 3 Z 19 eIDAS-VO) ist, wer einen Vertrauensdienst erbringt (oder mehrere), das ist ein elektronischer Dienst, der in der Regel gegen Entgelt erbracht wird und aus irgendeiner der folgenden Tätigkeiten besteht (Art 3 Z 19 eIDAS-VO):

* Ausstellung von Zertifikaten für elektronische Signaturen, von Zertifikaten für elektronische Siegel, von Zertifikaten für die Website-Authentifizierung oder von Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Validierung von Zertifikaten für elektronische Signaturen, Zertifikaten für elektronische Siegel, Zertifikaten für die Website-Authentifizierung oder Zertifikaten für die Erbringung anderer Vertrauensdienste;
* Erstellung elektronischer Signaturen oder elektronischer Siegel;
* Validierung elektronischer Signaturen oder elektronischer Siegel;
* Bewahrung von elektronischen Signaturen, elektronischen Siegeln, Zertifikaten für elektronische Signaturen oder Zertifikaten für elektronische Siegel;
* Verwaltung elektronischer Fernsignaturerstellungseinheiten oder elektronischer Fernsiegelerstellungseinheiten;
* Ausstellung elektronischer Attributsbescheinigungen;
* Validierung elektronischer Attributsbescheinigungen;
* Erstellung elektronischer Zeitstempel;
* Validierung elektronischer Zeitstempel;
* Erbringung von Diensten für die Zustellung elektronischer Einschreiben;
* Validierung von durch Dienste für die Zustellung elektronischer Einschreiben übermittelten Daten und damit zusammenhängenden Nachweisen;
* elektronische Archivierung elektronischer Daten und elektronischer Dokumente;
* Aufzeichnung elektronischer Daten in einem elektronischen Journal.
In Art 24a eIDAS-VO ist die gegenseitige Anerkennung qualifizierter Vertrauensdienste in allen Mitgliedstaaten festgelegt.

==== Elektronische Signaturen ====
In Art 3 Z 10 eIDAS-VO ist der Begriff ''elektronische Signatur'' definiert als „Daten in elektronischer Form, die anderen elektronischen Daten beigefügt oder logisch mit ihnen verbunden werden und die der Unterzeichner zum Unterzeichnen verwendet.“ Der Unterzeichner ist definiert als „eine natürliche Person, die eine elektronische Signatur erstellt“ (Art 3 Z 11 eIDAS-VO). Für juristische Personen bestehen als Äquivalent zur elektronischen Signatur die elektronischen Siegel.

Die eIDAS-VO unterscheidet zwischen drei Arten von elektronischen Signaturen: „einfachen“, fortgeschrittenen und qualifizierten elektronischen Signaturen, deren Definitionen aufeinander aufbauen. Aus der Definition der "einfachen" elektronischen Signatur wird deutlich, dass an diese keinerlei Anforderungen gestellt werden. Bereits das Unterzeichnen eines E-Mails mit dem Namen des Verfassers erfüllt die Definition. Die Definition der "einfachen" elektronischen Signatur in der eIDAS-VO dient daher vor allem dem Zweck, darauf aufbauend die ''fortgeschrittene elektronische Signatur'' zu definieren als elektronische Signatur, die die Anforderungen des Art 26 eIDAS-VO erfüllt (Art 3 Z 11 eIDAS-VO). Art 26 Abs 1 lautet:

'''''Anforderungen an fortgeschrittene elektronische Signaturen'''''

''Eine fortgeschrittene elektronische Signatur erfüllt alle folgenden Anforderungen:''

''a) Sie ist eindeutig dem Unterzeichner zugeordnet.''

''b) Sie ermöglicht die Identifizierung des Unterzeichners.''

''c) Sie wird unter Verwendung elektronischer Signaturerstellungsdaten erstellt, die der Unterzeichner mit einem hohen Maß an Vertrauen unter seiner alleinigen Kontrolle verwenden kann.''

''d) Sie ist so mit den auf diese Weise unterzeichneten Daten verbunden, dass eine nachträgliche Veränderung der Daten erkannt werden kann.''

Art 26 Abs 2 ermöglicht der Kommission, Durchführungsrechtsakte zu erlassen, „mit denen eine Liste von Referenzstandards erstellt wird und gegebenenfalls Spezifikationen und Verfahren für fortgeschrittene elektronische Signaturen festgelegt werden.“

Art 3 Z 12 eIDAS-VO definiert schließlich die ''qualifizierte elektronischen Signatur'' als „eine fortgeschrittene elektronische Signatur, die von einer qualifizierten elektronischen Signaturerstellungseinheit erstellt wurde und auf einem qualifizierten Zertifikat für elektronische Signaturen beruht.“

Eine solche qualifizierte elektronische Signatur hat die gleiche '''Rechtswirkung''' wie eine handschriftliche Unterschrift (Art 25 Abs 2 eIDAS-VO). Überdies normiert Art 25 Abs 1 eIDAS-VO, dass einer elektronischen Signatur die Rechtswirkung und die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden darf, weil sie in elektronischer Form vorliegt oder weil sie die Anforderungen an qualifizierte elektronische Signaturen nicht erfüllt.

Im allgemeinen (technischen) Sprachgebrauch wird die auf [https://de.wikipedia.org/wiki/Asymmetrische_Kryptographie asymmetrischer Kryptographie] basierende Technologie, mit der die soeben dargelegten Anforderungen umgesetzt werden, als ''[https://de.wikipedia.org/wiki/Digitale_Signatur digitale Signatur]'' bezeichnet. ''Elektronische Signatur'' ist demgegenüber ein rechtlicher Begriff, der bewusst technologieneutral gewählt wurde, wobei in der Praxis zur Implementierung qualifizierter elektronischer Signaturen nur die Technologie der digitalen Signatur eine Rolle spielt.

Entsprechend dieser begrifflich abstrakten Herangehensweise ist in der eIDAS-VO auch nicht von privatem und öffentlichem Schlüssel die Rede, sondern von ''elektronischen'' ''Signaturerstellungsdaten'' (Art 3 Z 13 eIDAS-VO) und ''Signaturvalidierungsdaten''. Letztere sind nicht eigenständig definiert, sondern in der Definition des Begriffs Zertifikat für elektronische Signaturen enthalten (Art 3 Z 14 eIDAS-VO). Diese lautet: „‚Zertifikat für elektronische Signaturen‘ ist eine elektronische Bescheinigung, die elektronische Signaturvalidierungsdaten mit einer natürlichen Person verknüpft und die mindestens den Namen oder das Pseudonym dieser Person bestätigt.“ Eine detaillierte Liste jener Angaben, die ein qualifiziertes Zertifikat enthalten muss, findet sich in Anhang I der eIDAS-VO.

Ein Zertifikat für elektronische Signaturen, das diese Anforderungen erfüllt und von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde, ist gemäß Art 3 Z 15 eIDAS-VO ein ''qualifiziertes Zertifikat für elektronische Signaturen''. Art 28 Abs 2 eIDAS-VO bestimmt, dass keine obligatorischen Anforderungen an ein qualifiziertes Zertifikat für elektronische Signaturen gelten dürfen, die über die Anforderungen des Anhang I hinausgehen. Gemäß Art 28 Abs 3 eIDAS-VO können qualifizierte Zertifikate zusätzliche fakultative spezifische Attribute enthalten. Der Begriff [https://de.wikipedia.org/wiki/Digitales_Zertifikat Zertifikat] entspricht dem allgemeinen einschlägigen Sprachgebrauch.

Die Anforderungen, die eine '''qualifizierte elektronische Signaturerstellungseinheit''' erfüllen muss, um gemäß Art 29 Abs 1 eIDAS-VO als solche zu gelten, sind in Anhang II der eIDAS-VO definiert. In der Praxis wird als qualifizierte elektronische Signaturerstellungseinheit insbesondere eine [https://de.wikipedia.org/wiki/Chipkarte Chipkarte] oder ein [https://de.wikipedia.org/wiki/Hardware-Sicherheitsmodul Hardware Security Module (HSM)] verwendet. Mit der Novellierung wurden ausdrücklich auch Bestimmungen zu Fernsignaturen eingeführt (Art 3 Z 23a, Art 29a eIDAS-VO)

==== Elektronische Siegel ====
Elektronische Siegel sind für juristische Personen das Äquivalent zu elektronischen Signaturen. Die Regelungen zu elektronischen Siegeln in Abschnitt 5 der eIDAS-VO sind äquivalent zu jenen für elektronische Signaturen ausgestaltet und normieren zum Teil nur die sinngemäße Geltung der entsprechenden Bestimmungen betreffend elektronische Signaturen. Die Regelung, wonach eine qualifizierte elektronische Signatur die gleiche Rechtswirkung hat wie eine handschriftliche Unterschrift, ist hingegen auf juristische Personen naturgemäß nicht übertragbar. Für ein qualifiziertes elektronisches Siegel gilt stattdessen die Vermutung der Unversehrtheit der Daten und der Richtigkeit der Herkunftsangabe der Daten, mit denen das qualifizierte elektronische Siegel verbunden ist (Art 35 Abs 2 eIDAS-VO).

Wie aus den Rechtswirkungen deutlich wird, zielen elektronische Siegel nicht auf die Abgabe von Willenserklärungen ab, sondern insbesondere auf die Abgabe von Wissenserklärungen, wie z.B. die Bestätigung der Integrität von Dokumenten oder Software oder des Erhalts von Daten. Der Vorteil eines elektronischen Siegels ist, dass sich im Vergleich zu einer elektronischen Signatur, die eine natürliche Person in Vertretung einer juristischen Person erstellt, die in diesem Fall zusätzlich erforderliche Überprüfung der Vertretungsbefugnis dieser natürlichen Person erübrigt.

==== Elektronische Zeitstempel ====
Ein elektronischer Zeitstempel ist in Art 3 Z 33 eIDAS-VO definiert als „Daten in elektronischer Form, die andere Daten in elektronischer Form mit einem bestimmten Zeitpunkt verknüpfen und dadurch den Nachweis erbringen, dass diese anderen Daten zu diesem Zeitpunkt vorhanden waren.“ Elektronische Zeitstempel dienen somit dem Nachweis, dass die damit bestätigten Daten zum darin angegebenen Zeitpunkt vorlagen und seitdem nicht verändert wurden. Ein ''qualifizierter'' ''elektronischer Zeitstempel'' ein solcher, der die Anforderungen des Art 42 eIDAS-VO (Art 3 Z 34 eIDAS-VO). Gemäß Art 41 Abs 2 eIDAS-VO gilt für einen qualifizierten elektronischen Zeitstempel die Vermutung der Richtigkeit des Datums und der Zeit, die darin angegeben sind, sowie der Unversehrtheit der mit dem Datum und der Zeit verbundenen Daten.

==== Dienste für die Zustellung elektronischer Einschreiben ====
Gemäß Art 3 Z 36 eIDAS-VO ist ein ''Dienst für die Zustellung elektronischer Einschreiben'' ein „Dienst, der die Übermittlung von Daten zwischen Dritten mit elektronischen Mitteln ermöglicht und einen Nachweis der Handhabung der übermittelten Daten erbringt, darunter den Nachweis der Absendung und des Empfangs der Daten, und der die übertragenen Daten vor Verlust, Diebstahl, Beschädigung oder unbefugter Veränderung schützt“. Ein ''qualifizierter'' ''Dienst für die Zustellung elektronischer Einschreiben'' ist gemäß Art 3 Z 37 eIDAS-VO ein solcher Dienst, der die Anforderungen des Art 44 eIDAS-VO erfüllt. Diese Bestimmung zeigt, dass sich ein Dienst für die Zustellung elektronischer Einschreiben der zuvor behandelten Vertrauensdienste bedient.

==== Website-Authentifizierung ====
Art 3 Z 38 eIDAS-VO definiert ein Zertifikat für die Website-Authentifizierung (qualified website authentication certificate, QWAC) als "eine elektronische Bescheinigung, die die Authentifizierung einer Website ermöglicht und die Website mit der natürlichen oder juristischen Person verknüpft, der das Zertifikat ausgestellt wurde." In der Praxis wird dies durch [https://de.wikipedia.org/wiki/Transport_Layer_Security TLS]-Zertifikate realisiert und standardmäßig verwendet, erkennbar an der Präfix "https" in der URL-Zeile des Browsers und dem daneben angezeigten stilisierten Schloss. Ein qualifiziertes Zertifikat für die Website-Authentifizierung ist gemäß Art 3 Z 39 eIDAS-VO ein von einem qualifizierten Vertrauensdiensteanbieter ausgestelltes Zertifikat für Website-Authentifizierung, das die Anforderungen des Anhangs IV der eIDAS-VO erfüllt. Die Stammfassung der Verordnung beschränkte sich darauf, verbindliche Anforderungen für solche Zertifikate zu definieren, die vom Aussteller als qualifiziert bezeichnet werden. Weder normiert die eIDAS-VO Rechtswirkungen solcher qualifizierter Zertifikate für die Website-Authentifizierung, noch trifft sie Regelungen, die in bestimmten Fällen zum Einsatz qualifizierter oder nichtqualifizierter Zertifikate für die Website-Authentifizierung verpflichten.

Die Novellierung brachte diesbezüglich jedoch eine umstrittene Neuerung mit sich: Art 45 Abs 1a eIDAS-VO verpflichtet nunmehr Anbieter von Webbrowsern, qualifizierte Zertifikate für die Website-Authentifizierung anzuerkennen. An dieser Neuerung wurde kritisiert, dass sie staatlichen Stellen ermöglicht, im Sinne eines Man-in-the-Middle-Angriffs Online-Kommunikation zu überwachen.<ref>''Eggendorfer/Schmidt-Wudy'', eIDAS 2.0 - "Sicherheit trotz und wegen Verschlüsselung"?, KuR 2024, 13</ref><ref>[https://netzpolitik.org/2023/eidas-reform-schlagabtausch-zwischen-forschenden-und-eu-parlament/ ''Leisegang'', Schlagabtausch zwischen Forschenden und EU-Parlament, Netzpolitik.org, 07.12.2023]</ref> Als Kompromisslösung wurde daher in Art 45a Abs 2 eIDAS-VO klargestellt, dass Anbieter von Webbrowsern in Fällen begründeter Bedenken hinsichtlich Sicherheitsverletzungen oder eines Integritätsverlusts eines bestimmten Zertifikats oder eines Satzes von Zertifikaten Vorsorgemaßnahmen in Bezug auf dieses Zertifikat oder diesen Satz von Zertifikaten ergreifen können und die Kommission hielt in einer förmlichen Erklärung fest, dass Art 45 eIDAS-VO Anbietern von Webbrowsern keine Verpflichtungen und Einschränkungen hinsichtlich der Gewährleistung vertraulicher Online-Kommunikation auferlege.<ref>[https://netzpolitik.org/2024/eidas-reform-eu-parlament-stimmt-fuer-digitale-brieftasche/ ''Leisegang'', EU-Parlament stimmt für digitale Brieftasche, Netzpolitik.org, 29.02.2024]</ref><ref>[https://www.europarl.europa.eu/doceo/document/A-9-2023-0038-AM-007-007_EN.pdf Statement by the Commission on Article 45 on the occasion of the adoption of Regulation 2024/...]</ref>

==== Elektronische Attributsbescheinigungen ====
Die mit eIDAS 2.0 eingeführten elektronischen Attributsbescheinigungen (engl. electronic attestations of attributes, EAA) ermöglichen den Nachweis von Attributen, das sind gemäß Art 3 Z 43 eIDAS-VO Merkmale, Qualitäten, Rechte oder Erlaubnisse einer natürlichen oder juristischen Person oder eines Objekts, wie z.B. ein Hochschulabschluss oder eine Fahrerlaubnis (Führerschein). Eine EAA ist folglich definiert als "eine in elektronischer Form vorliegende Bescheinigung, die die Authentifizierung von Attributen ermöglicht" (Art 3 Z 44 eIDAS-VO). Wenn eine EAA von einem qualifizierten Vertrauensdiensteanbieter ausgestellt wurde und die Anforderungen des Anhangs V der eIDAS-VO erfüllt, gilt sie als qualifizierte EAA (Art 3 Z 45 eIDAS-VO). Diesen gleichgestellt gibt es zum Zweck der unmittelbaren Bescheinigung von Attributen aus staatlichen Registern, für die aufgrund ihrer originären Authentizität eine Einbeziehung eines qualifizierten Vertrauensdiensteanbieters widersinnig wäre, eine eigene Kategorie der EAA, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden. Diese definiert Art 3 Z 46 eIDAS-VO als eine EAA, die gemäß Art 45f und Anhang VII der eIDAS-VO on einer öffentlichen Stelle ausgestellt wurde, die für eine authentische Quelle (vgl Art 3 Z 47 eIDAS-VO) zuständig ist, oder von einer öffentlichen Stelle ausgestellt wurde, die von dem Mitgliedstaat dafür benannt wurde, solche Attributsbescheinigungen im Namen der öffentlichen Stellen auszustellen, die für authentische Quellen zuständig sind.

Die Mitgliedstaaten müssen bis spätestens 24 Monate nach Inkrafttreten der entsprechenden Durchführungsrechtsakte (somit voraussichtlich zu einem Zeitpunkt im zweiten Halbjahr 2026) dafür sorgen, dass zumindest die folgenden Attribute anhand authentischer Quellen elektronisch überprüft werden können (Art 45e Abs 1 iVm Anhang VI eIDAS-VO):

# Adresse,
# Alter,
# Geschlecht,
# Personenstand,
# Familienzusammensetzung,
# Staatsangehörigkeit oder Staatsbürgerschaft,
# Bildungsabschlüsse, Titel und Erlaubnisse,
# Berufsqualifikationen, Titel und Berechtigungen,
# Vollmachten und Mandate, eine natürliche oder juristische Person zu vertreten,
# behördliche Genehmigungen und Lizenzen,
# für juristische Personen Finanzdaten und Unternehmensdaten.

Art 45b Abs 3 eIDAS-VO schreibt für diese Kategorie der EAA die Anerkennung in allen Mitgliedstaaten vor. Die weiteren Regeln zu den Rechtwirkungen ähneln jenen der elektronischen Signatur: "Eine qualifizierte elektronische Attributsbescheinigung und Attributsbescheinigungen, die von oder im Namen einer für eine authentische Quelle zuständigen öffentlichen Stelle ausgestellt werden, haben dieselbe Rechtswirkung wie rechtmäßig ausgestellte Bescheinigungen in Papierform" (Art 45b Abs 2 eIDAS-VO) und "[e]iner elektronischen Attributsbescheinigung darf die Rechtswirkung oder die Zulässigkeit als Beweismittel in Gerichtsverfahren nicht allein deshalb abgesprochen werden, weil sie in elektronischer Form vorliegt oder nicht die Anforderungen an qualifizierte elektronische Attributsbescheinigungen erfüllt" (Art 45b Abs 1 eIDAS-VO).

Zum Zusammenspiel zwischen EAA und der EUDIW ist festgelegt, dass Anbieter von EAA EUDIW-Nutzern die Möglichkeit bieten müssen, die EAA unabhängig von dem Mitgliedstaat, in dem die EUDIW bereitgestellt wird, anzufordern, zu erhalten, zu speichern und zu verwalten (Art 45g Abs 1 eIDAS-VO) und dass Anbieter qualifizierter EAA eine Schnittstelle zum EUDIW bereitstellen müssen (Art 45g Abs 2 eIDAS-VO).

Art 45h eIDAS-VO enthält Datenschutzvorschriften für die Erbringung von Diensten für EAA:

# Kein Kombinieren der Daten: Anbieter qualifizierter und nichtqualifizierter Dienste für EAA dürfen personenbezogene Daten in Bezug auf die Erbringung dieser Dienste nicht mit personenbezogenen Daten aus anderen von ihnen oder ihren Geschäftspartnern angebotenen Diensten kombinieren (Art 45h Abs 1 eIDAS-VO).
# Trennung der Daten: Personenbezogene Daten in Bezug auf die Erbringung von Diensten für EAA müssen von allen anderen vom Anbieter von EAA gespeicherten Daten logisch getrennt gehalten werden (Art 45h Abs 2 eIDAS-VO).
# Trennung der Dienste: Anbieter von EAA setzen die Bereitstellung solcher qualifizierter Vertrauensdienste auf eine Weise um, dass sie von anderen von ihnen bereitgestellten Diensten funktional getrennt ist (Art 45h Abs 3 eIDAS-VO).

==== Elektronische Archivierungsdienste ====
Elektronische Archivierung "ist ein Dienst für die Entgegennahme, die Speicherung, den Abruf und die Löschung elektronischer Daten und elektronischer Dokumente, der ihre Dauerhaftigkeit und Lesbarkeit gewährleistet sowie ihre Unversehrtheit, Vertraulichkeit und den Nachweis ihrer Herkunft während des gesamten Bewahrungszeitraums erhält" (Art 3 Z 48 eIDAS-VO). Analog zu anderen Vertrauensdiensten regeln die Art 45i und 45j eIDAS-VO die Rechtswirkung sowie die Anforderungen an qualifizierte elektronische Archivierungsdienste.

==== Elektronische Journale (electronic ledgers) ====
Die eIDAS-VO enthält wie erwähnt nunmehr auch Regelungen zu electronic ledgers, in der deutschsprachigen Fassung als elektronische Journale bezeichnet. Ein solches ist in Art 3 Z 52 eIDAS-VO definiert als "eine Abfolge von Aufzeichnungen elektronischer Daten, die die Unversehrtheit dieser Aufzeichnungen und die Richtigkeit ihrer chronologischen Reihenfolge gewährleistet." Auch hierzu sind mit anderen Vertrauensdiensten vergleichbare Regelungen zu den Rechtswirkungen sowie die Anforderungen an qualifizierte elektronische Journale in Art 45k und 45l eIDAS-VO vorgesehen. Zu erwähnen ist, dass die Definition nicht das Kriterium der verteilten Datenhaltung enthält (vgl. [https://de.wikipedia.org/wiki/Distributed-Ledger-Technologie Distributed-Ledger-Technologie]). Art 45l Abs 1 lit a eIDAS-VO erwähnt allerdings, dass ein qualifiziertes elektronisches Journal von einem oder mehreren qualifizierten Vertrauensdiensteanbietern erstellt und verwaltet werden kann.

== Verhältnis zu anderen Rechtsakten ==

=== DSGVO ===

* Wie oben dargestellt, enthält die eIDAS-VO zahlreiche Bestimmungen, um die Einhaltung der Datenschutzgrundsätze, insbesondere des Grundsatzes der Datenminimierung, in Bezug auf das EUDIW sicherzustellen. Art 2 eIDAS-VO normiert ausdrücklich, dass diese "unbeschadet der" [https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=celex%3A32016R0679 DSGVO (Datenschutz-Grundverordnung)] gilt. Die beiden Verordnungen stehen somit grundsätzlich nebeneinander. Eindeutig ist die Rechtslage dahingehend, dass die Durchführungsrechtsakte zur eIDAS-VO den Bestimmungen der DSGVO nicht widersprechen dürfen und dass vertrauende Beteiligte in ihrem Umgang mit den EUDIW-Nutzern und mit deren Daten nicht nur die Bestimmungen der eIDAS-VO, sondern auch die Bestimmungen der DSGVO einhalten müssen.

=== European Business Wallets ===

* Am 19. November 2025 veröffentlichte die Kommission einen Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen (European Business Wallets).<ref>[https://digital-strategy.ec.europa.eu/de/library/proposal-regulation-establishment-european-business-wallets Europäische Kommission, Vorschlag für eine Verordnung über die Einrichtung europäischer Brieftaschen für Unternehmen]</ref> Diese sollen technisch auf den EUDIW aufbauen<ref>[https://digital-strategy.ec.europa.eu/de/policies/business-wallets Europäische Kommission, EU-Brieftaschen für Unternehmen]</ref> und - sofern die Verordnung beschlossen wird - Unternehmen in der EU die grenzüberschreitende Authentifizierung (insbesondere, aber nicht nur gegenüber Behörden) und den vertrauenswürdigen Austausch von Dokumenten ermöglichen und damit den Verwaltungsaufwand für Unternehmen reduzieren.

== Einzelnachweise ==
<references />

Artificial Intelligence Act (AIA)

2025-11-28T12:13:54Z

Walter: /* Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) */ Kapitel Sicherheit des GPAI CoP

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Diese sind seit 2. August 2025 in Geltung. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können (anknüpfend an die allgemeinen Rollendefinitionen des AI Act) folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref name=":3">Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 72 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Verwenden ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt.<ref>Zur Berechnung dieser Maßzahl siehe Annex der Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 117 ff.</ref> Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 Abs 1 AI Act):

# eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden
# Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
# eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
# eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen
Die Pflichten 1 und 2 "gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen [sic!] mit allgemeinem Verwendungszweck mit systemischen Risiken." (Art 53 Abs 2 AI Act) In den Leitlinien der Kommission ist die (strenge) Auslegung der einzelnen Kriterien dieser Definition ausführlich dargelegt.<ref name=":3" />

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 Abs 1 AI Act):

# eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
# mögliche systemische Risiken auf Unionsebene bewerten und mindern
# einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
# ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten
Details zur Umsetzung insbesondere dieser risiko- und sicherheitsbezogenen Pflichten sind im Kapitel Sicherheit des [https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice] festgelegt. Siehe dazu sogleich.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie ihre Pflichten nach Art 53 Abs 1 und Art 55 Abs 1 AI Act erfüllen.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act, Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 94 sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit sollen Rechtssicherheit geschaffen sowie Compliance und Vollzug vereinfacht werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

Das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (cenelec) wurden mittels Durchführungsbeschluss aufgefordert, bis zum 30. April 2025 bestimmte angeführte Normen auzuarbeiten.<ref>Vgl https://ec.europa.eu/growth/tools-databases/enorm/mandate/593_en</ref> Der ursprüngliche Zeitplan konnte nicht eingehalten werden und es erfolgte eine neuerliche Fristverlängerung mittels eines neuerlichen Durchführungsrechtsaktes.<ref>Vgl Commisson Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 <nowiki>https://ec.europa.eu/transparency/documents-register/detail?ref=C(2025)3871&lang=en</nowiki></ref> Seit November 2025 liegt der erste Entwurf einer harmonisierten Norm zum Qualitätsmanagement "EprEN 18286, Artificial intelligence – Quality management system for EU AI Act regulatory purposes nach Art 17 AI Act zur öffentlichen Kommentierung vor.<ref>Vgl https://adamleonsmith.substack.com/p/pren-18286</ref> Die Konsultation zu diesem Normentwurf läuft bis zum 22. Jänner 2026. In den kommenden Monaten sollen weitere Normentwürfe folgen – unter anderem zu Risikomanagement, Cybersicherheit, Vertrauenswürdigkeit und Konformitätsbewertung.

Zudem verabschiedenen CEN/cenelec im Oktober 2025 ein Maßnahmenpaket, um die Fertigstellung wichtiger Normen, die im Rahmen von CEN-CLC/JTC 21 „Künstliche Intelligenz” entwickelt wurden, sowie der im Rahmen des Normungsantrags M/593 (und seiner Änderung M/613) geforderten Ergebnisse zu beschleunigen. Diese Maßnahmen betreffen eine Reihe von Arbeitspunkten, die die technische Grundlage für die künftigen europäischen Normen zur Unterstützung des KI-Gesetzes bilden. Die Vorstände kamen überein, im Falle einer positiven Abstimmung über die Anfrage die direkte Veröffentlichung der Entwürfe ohne separate formelle Abstimmung zuzulassen und CEN-CLC/JTC 21 zu beauftragen, eine kleine Redaktionsgruppe aus bereits aktiven Experten einzurichten, um sechs der am stärksten verzögerten Entwürfe fertigzustellen, bevor sie den jeweiligen Arbeitsgruppen zur Information und für abschließende Kommentare vorgelegt werden.<ref>Vgl https://www.cencenelec.eu/news-events/news/2025/brief-news/2025-10-23-ai-standardization/</ref>

Als Reaktion auf die verzögerten Standards im Entwurf Digital Omnibus on AI Regulation Proposal<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744</ref> bestimmte Maßnahmen vorgeschlagen, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des AI-Acts sicherzustellen. Als eine Maßnahme wurde dabei die Kopplung des Zeitplans für die Umsetzung der Vorschriften für hohe Risiken an die Verfügbarkeit von Normen vorgeschlagen.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-27T23:35:16Z

Walter: /* GPAI-Modelle (Art 51 ff AI Act) */ Präzisierung betreffen GPAI-Rollen

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Diese sind seit 2. August 2025 in Geltung. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können (anknüpfend an die allgemeinen Rollendefinitionen des AI Act) folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref name=":3">Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 72 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Verwenden ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt.<ref>Zur Berechnung dieser Maßzahl siehe Annex der Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 117 ff.</ref> Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 Abs 1 AI Act):

# eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden
# Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
# eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
# eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen
Die Pflichten 1 und 2 "gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen [sic!] mit allgemeinem Verwendungszweck mit systemischen Risiken." (Art 53 Abs 2 AI Act) In den Leitlinien der Kommission ist die (strenge) Auslegung der einzelnen Kriterien dieser Definition ausführlich dargelegt.<ref name=":3" />

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 Abs 1 AI Act):

# eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
# mögliche systemische Risiken auf Unionsebene bewerten und mindern
# einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
# ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie ihre Pflichten nach Art 53 Abs 1 und Art 55 Abs 1 AI Act erfüllen.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act, Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 94 sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit sollen Rechtssicherheit geschaffen sowie Compliance und Vollzug vereinfacht werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

Das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (cenelec) wurden mittels Durchführungsbeschluss aufgefordert, bis zum 30. April 2025 bestimmte angeführte Normen auzuarbeiten.<ref>Vgl https://ec.europa.eu/growth/tools-databases/enorm/mandate/593_en</ref> Der ursprüngliche Zeitplan konnte nicht eingehalten werden und es erfolgte eine neuerliche Fristverlängerung mittels eines neuerlichen Durchführungsrechtsaktes.<ref>Vgl Commisson Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 <nowiki>https://ec.europa.eu/transparency/documents-register/detail?ref=C(2025)3871&lang=en</nowiki></ref> Seit November 2025 liegt der erste Entwurf einer harmonisierten Norm zum Qualitätsmanagement "EprEN 18286, Artificial intelligence – Quality management system for EU AI Act regulatory purposes nach Art 17 AI Act zur öffentlichen Kommentierung vor.<ref>Vgl https://adamleonsmith.substack.com/p/pren-18286</ref> Die Konsultation zu diesem Normentwurf läuft bis zum 22. Jänner 2026. In den kommenden Monaten sollen weitere Normentwürfe folgen – unter anderem zu Risikomanagement, Cybersicherheit, Vertrauenswürdigkeit und Konformitätsbewertung.

Zudem verabschiedenen CEN/cenelec im Oktober 2025 ein Maßnahmenpaket, um die Fertigstellung wichtiger Normen, die im Rahmen von CEN-CLC/JTC 21 „Künstliche Intelligenz” entwickelt wurden, sowie der im Rahmen des Normungsantrags M/593 (und seiner Änderung M/613) geforderten Ergebnisse zu beschleunigen. Diese Maßnahmen betreffen eine Reihe von Arbeitspunkten, die die technische Grundlage für die künftigen europäischen Normen zur Unterstützung des KI-Gesetzes bilden. Die Vorstände kamen überein, im Falle einer positiven Abstimmung über die Anfrage die direkte Veröffentlichung der Entwürfe ohne separate formelle Abstimmung zuzulassen und CEN-CLC/JTC 21 zu beauftragen, eine kleine Redaktionsgruppe aus bereits aktiven Experten einzurichten, um sechs der am stärksten verzögerten Entwürfe fertigzustellen, bevor sie den jeweiligen Arbeitsgruppen zur Information und für abschließende Kommentare vorgelegt werden.<ref>Vgl https://www.cencenelec.eu/news-events/news/2025/brief-news/2025-10-23-ai-standardization/</ref>

Als Reaktion auf die verzögerten Standards im Entwurf Digital Omnibus on AI Regulation Proposal<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744</ref> bestimmte Maßnahmen vorgeschlagen, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des AI-Acts sicherzustellen. Als eine Maßnahme wurde dabei die Kopplung des Zeitplans für die Umsetzung der Vorschriften für hohe Risiken an die Verfügbarkeit von Normen vorgeschlagen.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-27T22:47:01Z

Walter: /* Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) */ Präzisierung GPAI Code of Practice

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref name=":3">Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 72 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Nutzen ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt. Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 Abs 1 AI Act):

# eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden
# Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
# eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
# eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen
Die Pflichten 1 und 2 "gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen [sic!] mit allgemeinem Verwendungszweck mit systemischen Risiken." (Art 53 Abs 2 AI Act) In den Leitlinien der Kommission ist die (strenge) Auslegung der einzelnen Kriterien dieser Definition ausführlich dargelegt.<ref name=":3" />

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 Abs 1 AI Act):

# eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
# mögliche systemische Risiken auf Unionsebene bewerten und mindern
# einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
# ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie ihre Pflichten nach Art 53 Abs 1 und Art 55 Abs 1 AI Act erfüllen.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act, Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 94 sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit sollen Rechtssicherheit geschaffen sowie Compliance und Vollzug vereinfacht werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

Das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (cenelec) wurden mittels Durchführungsbeschluss aufgefordert, bis zum 30. April 2025 bestimmte angeführte Normen auzuarbeiten.<ref>Vgl https://ec.europa.eu/growth/tools-databases/enorm/mandate/593_en</ref> Der ursprüngliche Zeitplan konnte nicht eingehalten werden und es erfolgte eine neuerliche Fristverlängerung mittels eines neuerlichen Durchführungsrechtsaktes.<ref>Vgl Commisson Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 <nowiki>https://ec.europa.eu/transparency/documents-register/detail?ref=C(2025)3871&lang=en</nowiki></ref> Seit November 2025 liegt der erste Entwurf einer harmonisierten Norm zum Qualitätsmanagement "EprEN 18286, Artificial intelligence – Quality management system for EU AI Act regulatory purposes nach Art 17 AI Act zur öffentlichen Kommentierung vor.<ref>Vgl https://adamleonsmith.substack.com/p/pren-18286</ref> Die Konsultation zu diesem Normentwurf läuft bis zum 22. Jänner 2026. In den kommenden Monaten sollen weitere Normentwürfe folgen – unter anderem zu Risikomanagement, Cybersicherheit, Vertrauenswürdigkeit und Konformitätsbewertung.

Zudem verabschiedenen CEN/cenelec im Oktober 2025 ein Maßnahmenpaket, um die Fertigstellung wichtiger Normen, die im Rahmen von CEN-CLC/JTC 21 „Künstliche Intelligenz” entwickelt wurden, sowie der im Rahmen des Normungsantrags M/593 (und seiner Änderung M/613) geforderten Ergebnisse zu beschleunigen. Diese Maßnahmen betreffen eine Reihe von Arbeitspunkten, die die technische Grundlage für die künftigen europäischen Normen zur Unterstützung des KI-Gesetzes bilden. Die Vorstände kamen überein, im Falle einer positiven Abstimmung über die Anfrage die direkte Veröffentlichung der Entwürfe ohne separate formelle Abstimmung zuzulassen und CEN-CLC/JTC 21 zu beauftragen, eine kleine Redaktionsgruppe aus bereits aktiven Experten einzurichten, um sechs der am stärksten verzögerten Entwürfe fertigzustellen, bevor sie den jeweiligen Arbeitsgruppen zur Information und für abschließende Kommentare vorgelegt werden.<ref>Vgl https://www.cencenelec.eu/news-events/news/2025/brief-news/2025-10-23-ai-standardization/</ref>

Als Reaktion auf die verzögerten Standards im Entwurf Digital Omnibus on AI Regulation Proposal<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744</ref> bestimmte Maßnahmen vorgeschlagen, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des AI-Acts sicherzustellen. Als eine Maßnahme wurde dabei die Kopplung des Zeitplans für die Umsetzung der Vorschriften für hohe Risiken an die Verfügbarkeit von Normen vorgeschlagen.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-27T14:39:31Z

Walter: /* Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) */ Ausnahme von den Pflichten für Open Source (+Leitlinien dazu)

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref name=":3">Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 72 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Nutzen ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt. Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 AI Act):

# eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden
# Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
# eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
# eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen
Die Pflichten 1 und 2 "gelten nicht für Anbieter von KI-Modellen, die im Rahmen einer freien und quelloffenen Lizenz bereitgestellt werden, die den Zugang, die Nutzung, die Änderung und die Verbreitung des Modells ermöglicht und deren Parameter, einschließlich Gewichte, Informationen über die Modellarchitektur und Informationen über die Modellnutzung, öffentlich zugänglich gemacht werden. Diese Ausnahme gilt nicht für KI-Modellen [sic!] mit allgemeinem Verwendungszweck mit systemischen Risiken." (Art 53 Abs 2 AI Act) In den Leitlinien der Kommission ist die (strenge) Auslegung der einzelnen Kriterien dieser Definition ausführlich dargelegt.<ref name=":3" />

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 AI Act):

# eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
# mögliche systemische Risiken auf Unionsebene bewerten und mindern
# einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
# ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie den AI Act einhalten.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit soll Rechtssicherheit geschaffen werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der AILD und PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

Das Europäische Komitee für Normung (CEN) und das Europäische Komitee für elektrotechnische Normung (cenelec) wurden mittels Durchführungsbeschluss aufgefordert, bis zum 30. April 2025 bestimmte angeführte Normen auzuarbeiten.<ref>Vgl https://ec.europa.eu/growth/tools-databases/enorm/mandate/593_en</ref> Der ursprüngliche Zeitplan konnte nicht eingehalten werden und es erfolgte eine neuerliche Fristverlängerung mittels eines neuerlichen Durchführungsrechtsaktes.<ref>Vgl Commisson Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation as regards high-risk AI-systems in support of Regulation (EU) 2024/1689 of the European Parliament and of the Council and repealing Implementing Decision C(2023)3215 <nowiki>https://ec.europa.eu/transparency/documents-register/detail?ref=C(2025)3871&lang=en</nowiki></ref> Seit November 2025 liegt der erste Entwurf einer harmonisierten Norm zum Qualitätsmanagement "EprEN 18286, Artificial intelligence – Quality management system for EU AI Act regulatory purposes nach Art 17 AI Act zur öffentlichen Kommentierung vor.<ref>Vgl https://adamleonsmith.substack.com/p/pren-18286</ref> Die Konsultation zu diesem Normentwurf läuft bis zum 22. Jänner 2026. In den kommenden Monaten sollen weitere Normentwürfe folgen – unter anderem zu Risikomanagement, Cybersicherheit, Vertrauenswürdigkeit und Konformitätsbewertung.

Zudem verabschiedenen CEN/cenelec im Oktober 2025 ein Maßnahmenpaket, um die Fertigstellung wichtiger Normen, die im Rahmen von CEN-CLC/JTC 21 „Künstliche Intelligenz” entwickelt wurden, sowie der im Rahmen des Normungsantrags M/593 (und seiner Änderung M/613) geforderten Ergebnisse zu beschleunigen. Diese Maßnahmen betreffen eine Reihe von Arbeitspunkten, die die technische Grundlage für die künftigen europäischen Normen zur Unterstützung des KI-Gesetzes bilden. Die Vorstände kamen überein, im Falle einer positiven Abstimmung über die Anfrage die direkte Veröffentlichung der Entwürfe ohne separate formelle Abstimmung zuzulassen und CEN-CLC/JTC 21 zu beauftragen, eine kleine Redaktionsgruppe aus bereits aktiven Experten einzurichten, um sechs der am stärksten verzögerten Entwürfe fertigzustellen, bevor sie den jeweiligen Arbeitsgruppen zur Information und für abschließende Kommentare vorgelegt werden.<ref>Vgl https://www.cencenelec.eu/news-events/news/2025/brief-news/2025-10-23-ai-standardization/</ref>

Als Reaktion auf die verzögerten Standards im Entwurf Digital Omnibus on AI Regulation Proposal<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744</ref> bestimmte Maßnahmen vorgeschlagen, um eine zeitnahe, reibungslose und verhältnismäßige Umsetzung bestimmter Bestimmungen des AI-Acts sicherzustellen. Als eine Maßnahme wurde dabei die Kopplung des Zeitplans für die Umsetzung der Vorschriften für hohe Risiken an die Verfügbarkeit von Normen vorgeschlagen.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-27T10:16:18Z

Walter: /* Abgrenzung der Rollen entlang der Wertschöpfungskette */

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref>Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 48 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# '''Nachgelagerte Modifizierer (Downstream Modifiers) von GPAI-Modellen''': Fine-tunen/modifizieren<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Nutzen ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt. Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 AI Act):

* eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden.
* Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
* eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
* eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 AI Act):

* eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
* mögliche systemische Risiken auf Unionsebene bewerten und mindern,
* einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
* ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie den AI Act einhalten.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit soll Rechtssicherheit geschaffen werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der AILD und PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-27T10:11:24Z

Walter: /* Praxisleitfäden (codes of practice) (Art 56 AI Act) */ Rolle des nachgelagerten Modifizierers

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> von mehr als 1023 und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13 ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können folgende Rollen unterschieden werden:

# '''Anbieter (Providers) von GPAI-Modellen:''' Entwickeln ein GPAI-Modell oder lassen es entwickeln und bringen es ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr oder nehmen es unter ihrem eigenen Namen oder ihrer Handelsmarke in Betrieb, sei es entgeltlich oder unentgeltlich (Art 3 Z 3 AI Act);<ref>Vgl Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 48 ff.</ref> sie treffen primär die nachfolgend beschriebenen Pflichten.
# Nachgelagerte Modifizierer (Downstream Modifiers) '''von GPAI-Modellen''': Fine-tunen/modifiziern<ref>Vgl ErwGr 97 Satz 5.</ref> bestehende GPAI-Modelle anderer Anbieter; laut der Kommission ist nicht jeder Modifizierer dadurch gleich als Anbieter des modifizierten GPAI-Modells anzusehen, dies jedoch dann, wenn die Modifikation des GPAI-Modells zu einer wesentlichen Änderung der Universalität, der Leistungsfähigkeit oder des systemischen Risikos des GPAI-Modells führt, wobei als Indiz dafür gilt, dass die Anzahl der Berechnungen für die Modifikation ein Drittel jener für das Training des ursprünglichen GPAI-Modells übersteigt.<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 60 ff.</ref>
# '''Nachgelagerte Anbieter (Downstream Providers) von KI-Systemen:''' Integrieren GPAI-Modelle in KI-Systeme; ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.
# '''Betreiber (Deployers):''' Nutzen ein KI-System im praktischen Einsatz.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, mehr als 1025 FLOPs beträgt. Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 AI Act):

* eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden.
* Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
* eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
* eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 AI Act):

* eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
* mögliche systemische Risiken auf Unionsebene bewerten und mindern,
* einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
* ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Auch ein [https://ec.europa.eu/newsroom/dae/redirection/document/118118 Musterdokumentationsformular für Modelle] ist Teil des GPAI Code of Practice. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie den AI Act einhalten.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit soll Rechtssicherheit geschaffen werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der AILD und PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-27T09:18:18Z

Walter: /* Praxisleitfäden (codes of practice) (Art 56 AI Act) */ GPAI Code of Practice

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen von mehr als 1023 FLOPs und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können drei Rollen unterschieden werden:

# '''Anbieter (Provider):''' Entwickeln, trainieren und veröffentlichen Modelle. Sie tragen primär Verantwortung für Modellqualität, Sicherheit und Dokumentation.
# '''Nachgelagerte Anbieter (Downstream Provider):''' Feintunen, modifizieren oder integrieren Modelle in KI-Systeme.
# '''Betreiber (Deployer):''' Nutzen ein KI-System im praktischen Einsatz.

Ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> mehr als 1025 beträgt. Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 AI Act):

* eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden.
* Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
* eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
* eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 AI Act):

* eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
* mögliche systemische Risiken auf Unionsebene bewerten und mindern,
* einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
* ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai FAQ-Seite] veröffentlicht. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch [https://ec.europa.eu/newsroom/dae/redirection/document/118340 Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act] veröffentlicht.

Für Anbieter von GPAI-Modellen, die den GPAI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie den AI Act einhalten.<ref>Vgl Art 50 Abs 7 und Art 53 Abs 4 AI Act sowie Europäische Kommission, Der General-Purpose AI Code of Practice, https://digital-strategy.ec.europa.eu/de/policies/contents-code-gpai.</ref> Damit soll Rechtssicherheit geschaffen werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es steht Anbietern von GPAI-Modellen somit frei, die entsprechenden Bestimmungen des AI Act auch auf andere Weise umzusetzen.

Auf der oben verlinkten Website des GPAI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der AILD und PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* ''Europäische Kommission,''Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* ''Europäische Kommission,''Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*''Europäische Kommission,''Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*''Europäische Kommission,''Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.
*''Europäische Kommission,''Whistleblower Tool for AI Act, https://digital-strategy.ec.europa.eu/en/news/commission-launches-whistleblower-tool-ai-act.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==

Artificial Intelligence Act (AIA)

2025-11-26T23:51:53Z

Walter: /* Abgrenzung der Rollen entlang der Wertschöpfungskette */ GPAI Code of Practice

{{Infobox Rechtsakt (EU)|Typ=Verordnung|Jahr=2024|Nummer=1689|Vertrag=EU|EWR=ja|Titel=Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828|Kurztitel=Verordnung über Künstliche Intelligenz|Bezeichnung=AI Act (AIA)/KI-VO|Rechtsmaterie=Binnenmarkt, Künstliche Intelligenz|Grundlage=AEUV, insbesondere {{Art.|114|AEUV|dejure|}}|Fundstelle=ABl L 2024/1689, 1|Anzuwenden=2. Februar 2025 (schrittweise)|Gültig=anwendbar}}

== Kurzübersicht ==
{| class="wikitable"
|+
!Ziele
!Anwendungsbereich
!Inhalt
!Synergien
!Konsequenzen
|-
|Förderung von Innnovation und Vertrauen
|Anbieter (häufig Entwickler) bei in Verkehr bringen/in Betrieb nehmen von KI-Systemen
|risikobasierter Ansatz
|direkte Verknüpfung mit der RL über außervertragliche
Haftung (AILD, von der Kommission zurückgezogen)
|Geldbußen von bis zu 35 000 000 Euro/7% des gesamten weltweiten Jahresumsatzes (Verstoß gegen verbotene Praktiken)
|-
|Wahrung der Grundrechte und Sicherheit von EU-Bürger*innen
|GPAI-Modelle (general purpose AI)
|Verbote von besonders riskanten Praktiken (zB social scoring, manipulative Systeme)
|einige Querbezüge zur DSGVO (zB Verarbeitung zur Vermeidung von Verzerrungen, Art 10), regulatory sandboxes
|Geldbußen von bis zu 15 000 000 Euro/3 % des gesamten weltweiten Jahresumsatzes (zB Anbieter- und Betreiberpflichten, Verstöße gegen Pflichten von Anbietern von GPAI-Modellen)
|-
|Förderung des Binnenmarktes
|Ausnahmen: militärische Zwecke; Systeme unter open-source-Lizenz (eingeschränkt); reine Forschungszwecke
Inkrafttreten am 1. August 2024; Geltung ab 2. August 2026;

einige Aspekte (verbotene Systeme) gelten seit 2. Februar 2025
|strenge Regulierung von Hochrisiko-
KI-Systemen (zB Risikomanagement,
Datenqualität, Dokumentation, Transparenz,
menschliche Aufsicht)
|Integrierung/Kombination von Anforderungen stellenweise möglich (zB Riskomanagementsysteme)
|Geldbußen von bis zu 7 500 000 Euro/1% des gesamten weltweiten Jahresumsatzes (Bereitstellung von falschen, unvollständigen oder irreführenden Informationen)
|-
|Gewährleistung von Transparenz und Verantwortlichkeit
|Pflichten für Betreiber (professionelle Nutzer*innen) und Anbieter
|Transparenzpflichten für gewisse KI-Systeme (zB Chatbots, Deepfakes)
|Informationspflichten nach der DSGVO
|Geldbußen von bis zu 15 000 000 Euro/3% des gesamten weltweiten Jahresumsatzes
|}

== Einführung ==
[[Datei:AI Act Risikopyramide Neu.png|mini|354x354px|Risikopyramide des AI Act; ''Europäische Kommission'', https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.]]
Der AI Act ist die erste EU-weite, sektorübergreifende Regulierung von Künstlicher Intelligenz (KI) und folgt dabei primär einem produktsicherheitsrechtlichem Ansatz, dessen vorrangiges Regulierungsziel die Sicherheit von KI-Systemen und Modellen ist. Damit ist er Teil des sog [https://single-market-economy.ec.europa.eu/single-market/goods/new-legislative-framework_en?prefLang=de "New Legislative Framework"] (NLF), einem unionsrechtlichen Maßnahmenpaket zur Produktregulierung, das auf die Verbesserung der Marktüberwachung abzielt und sich durch einheitliche Kernelemente auszeichnet (zB Konformitätsbewertungsverfahren, Selbstregulierung, Standards und einheitliche Anforderungen). Im Rahmen des Gesetzgebungsprozesses wurde der Rechtsakt - insbesondere auf Bestreben des Europäischen Parlaments - um menschenrechtliche Aspekte und Betroffenenrechte erweitert, weshalb der AI Act mittlerweile deutlich über reines Produktsicherheitsrecht hinausgeht.

Der AI Act verfolgt dabei kontrastierende Ziele: So soll das '''Funktionieren des Binnenmarktes''' durch einen einheitlichen Rechtsrahmen verbessert, '''menschenzentrierte und vertrauenswürdige KI''' gefördert und gleichzeitig ein hohes '''Schutzniveau''' in Bezug auf Gesundheit, Sicherheit und der Grundrechte sichergestellt, der '''Schutz vor schädlichen Auswirkungen''' von KI-Systemen gewährleistet und gleichzeitig die '''Innovation''' unterstützt werden (ErwGr 1 AI Act).

Kernstück des AI Act ist ein '''risikobasierter Ansatz''', der KI-Systeme nach dem mit ihnen verbundenen Risiko in vier Klassen einteilt und KI-Systeme mit inakzeptablem Risiko verbietet, Hochrisiko-KI-Systeme stark reguliert, für gewisse Systeme lediglich Transparenzpflichten vorsieht und Systeme mit minimalem Risiko unberührt lässt.

Durch die Prominenz von ChatGPT wurden spät im Gesetzgebungsprozess auch noch spezielle Bestimmungen in Bezug auf sog '''general purpose AI (GPAI) Modelle''' bzw KI-Modelle mit allgemeinem Verwendungszweck eingefügt.<ref>MwN zu diesen Entwicklungen ''Hacker/Engel/Mauer'', Regulating ChatGPT and other Large Generative AI Models, in ACM (Hrsg), FAccT '23: Proceedings of the 2023 ACM Conference on Fairness, Accountability, and Transparency (2023) 1112, https://doi.org/10.1145/3593013.359406; ''Steindl'', Legistisch innovativ und technologisch auf neuerem Stand: Das EU-Parlament und die Verhandlungen zum AI Act, RdW 2023, 1.</ref>

== Anwendungsbereich ==

=== Sachlicher Anwendungsbereich ===

==== KI-Systeme ====
Zentraler Anknüpfungspunkt für die Anwendbarkeit des AI Act ist dabei das Vorliegen eines "KI-Systems".<ref name=":0">Differenziert zum Begriff "KI-System" ''Wendehorst/Nessler/Aufreiter/Aichinger'', Der Begriff des "KI-Systems" unter der neuen KI-VO, MMR 2024, 605.</ref> Dabei handelt es sich um "ein '''maschinengestütztes''' System, das für einen in '''unterschiedlichem Grade autonomen Betrieb''' ausgelegt ist und das nach seiner Betriebsaufnahme '''anpassungsfähig sein kann''' und das aus den erhaltenen '''Eingaben''' für '''explizite oder implizite Ziele''' '''ableitet''', wie '''Ausgaben''' wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erstellt werden, die '''physische oder virtuelle Umgebungen beeinflussen können'''."<ref>Siehe Art 3 Z 1 AI Act. Hervorhebungen nicht im Original. </ref>

Das wichtigsten Abgrenzungsmerkmal der breit gehaltenen Definition ist die Fähigkeit, '''abzuleiten'''. Diese Fähigkeit kann sich auf den Prozess der Erzeugung von Ausgaben sowie auf die Fähigkeit, Modelle oder Algorithmen oder beides aus Eingaben oder Daten abzuleiten, beziehen. Der Begriff umfasst damit sowohl Machine-Learning- als auch (ältere) logik- und wissensgestützte Ansätze.

Hingegen soll sich nach ErwGr 12 der Begriff "KI-System" "nicht auf Systeme beziehen, die auf ausschließlich von natürlichen Personen definierten Regeln für das automatische Ausführen von Operationen beruhen [...]", womit auf eine Abgrenzung von KI von herkömmlichen Softwarelösungen und Programmierungsansätzen abgezielt wird.

Zusammenfassend möchte der EU-Gesetzgeber mit dieser Definition einerseits Rechtssicherheit schaffen, allerdings immer noch Raum für technologischen Fortschritt lassen, um den Anwendungsbereich des AI Act nicht von Vornherein vor potenziellen künftigen technologischen Entwicklungen zu verschließen. Dennoch wurde die Definition als zu vage und unbestimmt empfunden. So wurden diverse Unklarheiten bemängelt, zB ob hybride (neurosymbolische) Systeme unter den Begriff fallen.<ref>''EDPS'', EDPS comments to the AI Office’s consultation on the application of the definition of an AI system and the prohibited AI practices established in the AI Act launched by the European AI Office (2024) 3, https://www.edps.europa.eu/data-protection/our-work/publications/formal-comments/2024-12-19-edps-ai-offices-consultation-application-definition-ai-system-and-prohibited-ai-practices-established-ai-act-launched-european-ai_en.</ref> Um den Begriff des KI-Systems also zu konkretisieren und Unsicherheiten zu beseitigen, sollte die Kommission gemäß Art 96 Abs 1 lit f AI Act Leitlinien vorlegen, und damit eine einheitliche Anwendung des Regelwerks fördern sowie Rechtsicherheit gewährleisten.<ref>Dafür wurde ein Konsultationsprozess durchgeführt, vgl ''European Commission'', Commission launches consultation on AI Act prohibitions and AI system definition, https://digital-strategy.ec.europa.eu/en/news/commission-launches-consultation-ai-act-prohibitions-and-ai-system-definition (Stand 13. 11. 2024).</ref> Die entsprechenden (unverbindlichen) '''Leitlinien''' der Kommission wurden am 6. Februar 2025 veröffentlicht und stellen bspw klar, welche Systeme nicht in den Anwendungsbereich fallen (zB etablierte lineare Modelle, einfache Datenverarbeitungssysteme, auf klassische Heuristik gestützte Systeme, einfache Vorhersagesysteme etc.).<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on the defintion of an artificial intelligence system established by Regulation (EU) 2024/1689 (AI Act), C(2025) 924 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application.</ref> Eine Positiv-Liste, welche Systeme jedenfalls unter den KI-Begriff fallen, enthalten die Leitlinien allerdings nicht. Sie orientieren sich vielmehr an den 7 Kernelementen der KI-Definition gemäß Art 3 Z 1 AI Act. Es wird überdies betont, dass nicht alle Elemente kontinuierlich in den beiden Hauptphasen des Lebenszyklus von KI ("building phase" / "pre-deployment" oder "use phase" / "post-deployment") vorhanden sein müssen und, dass sich die Leitlinien kontinuierlich weiterentwickeln sollen.

Folgende Konkretisierungen der KI-Definition und Beispiele sind den Leitlinien zu entnehmen:
{| class="wikitable"
|+
!Elemente der KI-Definition
!Erläuterungen in den Leitlinien der EU-Kommission
!Beispiele
|-
|Maschinengestütztes System
|KI benötigt Hardware- und Softwarekomponenten
|zB eine Hardwareinfrastruktur wie processing units, Speicher, Input/Output-Schnittstellen und Software (Code, Programme etc.)
|-
|autonomer Betrieb (in unterschiedlichem Grade)
|Erfordert einen gewissen Grad an Unabhängigkeit von menschlichem Eingreifen, wobei Systeme, die vollständig manuelle menschliche Interaktion erfordern, nicht darunter fallen.
|Umfasst sind Systeme, die zwar einen manuellen Input erfordern, aber von selbst einen Output generieren (zB Chatbots)
|-
|Anpassungsfähigkeit nach Betriebsaufnahme (optional)
|Selbstlernfähigkeiten (nicht zwingend erforderlich); darunter versteht man, ob sich das Verhalten des Systems während seiner Verwendung anpassen oder verändern kann (zB automatisches Lernen, wie Muster oder Beziehungen zwischen Daten erkannt werden können).
|
|-
|Ableitungsfähigkeit
|Inferenz, Schlüsseleigenschaft; dient der Abgrenzung von KI-Systemen von einfacheren herkömmlichen Softwaresystemen und Programmierungsansätzen. Nicht umfasst sind hingegen Systeme, die nur von Menschen programmierten Regeln folgen und automatisiert Operationen ausführen. Die Ableitungsfähigkeit bedeutet daher die Erlernung allgemeiner Konzepte statt fester, vorprogrammierter Regeln.
|Bsp: maschinelles Lernen, logik- und wissensgestützte Systeme (Schlussfolgerungen mittels Deduktion oder Induktion)
|-
|Ableitung aus Eingaben für implizite oder explizite Ziele
|Ableitungen müssen nach entweder:

* expliziten Zielen (klar definierte, direkt in den Code programmierte Ziele, Optimierung von Kostenfunktionen, Wahrscheinlichkeitsberechnung) oder
* impliziten Zielen (Ableitung des Ziels aus dem Verhalten oder den dahinterstehenden Annahmen des Systems; bspw Trainingsdaten oder Interaktion des Systems mit Umwelt) erfolgen.
|
|-
|Erzeugung von Ausgaben
|Ausgabe-Arten umfassen unter anderem

* Vorhersagen (Schätzungen unbekannter Werte basierend auf komplexen Datenmustern)
* Inhalte (Texte, Bilder, Videos oder Musik)
* Empfehlungen (Vorschläge für Maßnahmen, Produkte oder Dienstleistungen, die hochgradig personalisiert sind und Massendaten nutzen).
* Entscheidungen (Vollautomatisierte Schlussfolgerungen oder Auswahlentscheidungen, die Prozesse automatisieren, die üblicherweise menschlichem Urteilsvermögen vorbehalten sind)
|zB die generierten Inhalte von Chatbots, Produktvorschläge, Echtzeit-Vorhersagen, Auswahlentscheidungen
|-
|Beeinflussung physischer oder virtueller Umgebungen
|Frage, ob das System einen aktiven Einfluss auf die Umgebungen hat, in denen es eingesetzt wird, sei es auf materielle physische Objekte oder auf digitale Räume
|zB Roboterarm, Software-Ökosysteme, Datenströme
|}

==== GPAI-Modelle/Modelle mit allgemeinem Verwendungszweck ====
'''General Purpose AI-Modelle''' (auf Deutsch "Modelle mit allgemeinem Verwendungszweck"<ref>Art 3 Z 63 KI-VO definiert ein solches Modell als "ein KI-Modell — einschließlich der Fälle, in denen ein solches KI-Modell mit einer großen Datenmenge unter umfassender Selbstüberwachung trainiert wird —, das eine '''erhebliche allgemeine Verwendbarkeit aufweist''' und in der Lage ist, unabhängig von der Art und Weise seines Inverkehrbringens ein '''breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen''', und das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann."</ref>) zeichnen sich durch ihre erhebliche allgemeine Verwendbarkeit und der Fähigkeit aus, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen. Der Begriff "Modell" darf dabei, da Modelle gesondert reguliert werden, nicht mit dem Begriff eines KI-Systems verwechselt werden. Denn damit "KI-Modelle zu KI-Systemen werden, ist die Hinzufügung weiterer Komponenten, zum Beispiel einer Nutzerschnittstelle, erforderlich" (ErwGr 97 AI Act). Man kann hier den Vergleich zu einem KFZ ziehen, wobei das KI-Modell den Motor darstellt, der die eigentliche "Arbeit" leistet. Um jedoch fahrtüchtig zu sein, bedarf es nicht nur eines Motors, sondern das Fahrzeug benötigt darüber hinaus eine Karosserie, Räder, ein Lenkrad etc. Das wiederum bezeichnet das KI-System, welches das Modell erst durch seine Schnittstellen, seine Benutzeroberfläche etc. "fahrtüchtig" und damit nutzbar macht. Ein KI-System bzw GPAI-System,<ref>Art 3 Z 66 KI-VO: "'KI-System mit allgemeinem Verwendungszweck' ein KI-System, das auf einem '''KI-Modell mit allgemeinem Verwendungszweck beruht''' und in der Lage ist, einer Vielzahl von Zwecken sowohl für die direkte Verwendung als auch für die Integration in andere KI-Systeme zu dienen." (Hervorhebungen nicht im Original)</ref> das auf einem GPAI-Modell beruht, muss dabei wiederum nach dem risikobasierten Ansatz des AI Act eingestuft werden.

=== Personeller Anwendungsbereich ===
[[Datei:KI-Servicestelle bei der RTR, AI Act Akteure.svg|links|mini|390x390px|Überblick über die Interaktion der einzelnen Akteure im AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html. ]]

In Bezug auf die Akteure ist primär zwischen Anbietern und Betreibern zu unterscheiden.

'''Anbieter''' ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck entwickelt oder entwickeln lässt (Art 3 Z 3 AI Act).

'''Betreiber''' (in früheren Fassungen "Nutzer") ist eine Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Art 3 Z 4 AI Act).

Daneben existieren auch weniger relevante Akteure wie Einführer, Händler und Bevollmächtigte.

=== (Geographischer) Anwendungsbereich (Art 2 AI Act) ===
Der (geographische) Anwendungsbereich des AI Act (Art 2) umfasst dabei primär:<ref>Sekundär werden noch weitere Beteiligte von geringerer Relevanz erfasst:

Einführer und Händler von KI-Systemen; Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringen oder in Betrieb nehmen; Bevollmächtigte von Anbietern, die nicht in der Union niedergelassen sind; betroffene Personen, die sich in der Union befinden.</ref>

* Anbieter, die in der Union KI-Systeme in Verkehr bringen<ref>Art 3 Z 9 KI-VO: "'Inverkehrbringen' die erstmalige Bereitstellung eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck auf dem Unionsmarkt".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder in Betrieb nehmen<ref>Art 3 Z 11 KI-VO: "'Inbetriebnahme' die Bereitstellung eines KI-Systems in der Union zum Erstgebrauch direkt an den Betreiber oder zum Eigengebrauch entsprechend seiner Zweckbestimmung".

Art 3 Z 10 KI-VO: "'Bereitstellung auf dem Markt' die entgeltliche oder unentgeltliche Abgabe eines KI-Systems oder eines KI-Modells mit allgemeinem Verwendungszweck zum Vertrieb oder zur Verwendung auf dem Unionsmarkt im Rahmen einer Geschäftstätigkeit".</ref> oder KI-Modelle mit allgemeinem Verwendungszweck in Verkehr bringen, unabhängig davon, ob diese Anbieter in der Union oder in einem Drittland niedergelassen sind
* Betreiber von KI-Systemen, die ihren Sitz in der Union haben oder sich in der Union befinden
* Anbieter und Betreiber von KI-Systemen, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird

=== Ausnahmen (Art 2 Abs 2 ff AI Act) ===
Art 2 Abs 2 ff AI Act enthält eine Reihe von Ausnahmen vom Anwendungsbereich, wobei hier die wichtigsten vorgestellt werden sollen:

* Bereiche, die '''nicht unter das Unionsrecht fallen''' (zB nationale Sicherheit): KI-Systeme (ausschließlich) für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit
* KI-Systeme/KI-Modelle, die eigens für den '''alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung''' entwickelt und in Betrieb genommen werden.
* '''Forschungs-, Test- und Entwicklungstätigkeiten''' zu KI-Systemen/KI-Modellen, '''bevor''' diese in Verkehr gebracht oder in Betrieb genommen werden.<ref>Dabei ist zu beachten, dass Tests unter Realbedingungen nicht unter diesen Ausschluss fallen.</ref>
* Der AI Act gilt für Betreiber, die natürliche Personen sind und KI-Systeme im Rahmen einer '''ausschließlich persönlichen und nicht beruflichen Tätigkeit''' verwenden ("Haushaltsausnahme")
*
{| class="wikitable"
|+
!Hinweis zur Sonderregelung von älterem Produktsicherheitsrecht (zB Mobilität)
|-
|Produkte, die unter Produktsicherheitsvorschriften mit dem älteren Ansatz (old approach) fallen und in Anhang I Abschnitt B gelistet werden (zB Luftfahrt und Mobilität), unterliegen nur eingeschränkt dem AI Act (Art 2 Abs 2 AI Act). Sie sind zwar nicht vollständig vom Anwendungsbereich ausgenommen, für sie gelten jedoch nur wenige Bestimmungen (Art 6 Abs 1, Art 102-109, Art 112 und Art 57 AI Act zu Reallaboren).
In der Praxis werden die Anforderungen des AI Act dabei "indirekt" im Wege der delegierten Gesetzgebung/von Durchführungsrechtsakten dieser Produktsicherheitsrechtsakte zur Anwendung kommen.

Die Trennung von Anhang I in Abschnitt A, der direkt dem AI Act unterfällt, und Abschnitt B, für den diese Wirkung indirekt erzielt wird, sollte somit in der Praxis beachtet werden.
|}
*

=== Zeitlicher Anwendungsbereich (Art 113 AI Act) ===
Der AI Act trat am '''1. August 2024''' in Kraft und wird generell am '''2. August 2026''' anwendbar (Art 113 AI Act). Gestaffelt erlangen einige Bestimmungen jedoch bereits vorab oder danach Geltung:<ref>''Future of Privacy Forum (FPF)'', EU AI Act. A Comprehensive Implementation & Compliance Timeline, https://fpf.org/wp-content/uploads/2024/07/FPF_EU_AI_Act_Timeline_July_24.pdf. </ref>

* allgemeine Bestimmungen (inklusive KI-Kompetenz) und verbotene Praktiken ab '''2. Februar 2025'''
* Bestimmungen über Notifizierende Behörden und notifizierte Stellen; GPAI-Modelle, Governance, Sanktionen, Vertraulichkeit ab '''2. August 2025'''
* Artikel 6 Absatz 1 (eingebettete Hochrisiko-KI-Systeme) und die entsprechenden Pflichten ab dem '''2. August 2027'''
[[Datei:KI-Servicestelle bei der RTR, AI Act Zeitlicher Rahmen.svg|mini|394x394px|Überblick über den abgestuften zeitlichen Geltungsbereich des AI Act. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/Zeitplan.de.html.|zentriert]]

Art 111 Abs 2 AI Act enthält dabei jedoch eine sog „grandfathering“-Klausel, nach welcher der AI Act für Betreiber von Hochrisiko-KI-Systemen, die vor dem 2. August 2026 in Verkehr gebracht oder in Betrieb genommen wurden, nur dann gilt, wenn diese Systeme danach in ihrer Konzeption erheblich verändert wurden.<ref>''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 23, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref>

== Zentrale Inhalte ==

=== KI-Kompetenz/AI literacy (Art 4 AI Act) ===
Als allgemeine Bestimmung für alle KI-Systeme fordert Art 4 AI Act, dass die Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an "KI-Kompetenz" verfügen. Dabei sind ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen.

Die Verpflichtung zur Maßnahmenergreifung gilt für Betreiber und Anbieter gleichermaßen und ist ferner unabhängig von der Risikoklasse der infragestehenden KI-Anwendung.

Unter KI-Kompetenz versteht man grundsätzlich "die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten im Rahmen dieser Verordnung ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden."<ref>Vgl die Definition in Art 3 Z 56 AI Act.</ref> Dies umfasst die notwendigen Kompetenzen, um fundierte Entscheidungen über KI-Systeme zu treffen, technische Elemente zu verstehen sowie korrekt anzuwenden, die Auswirkungen von KI-basierten Entscheidungen auf Betroffene zu verstehen und KI-generierte Ausgaben angemessen zu interpretieren.<ref name=":1">Vgl ErwGr 20 AI Act. </ref> Dazu gehört auch, den einschlägigen Akteuren der KI-Wertschöpfungskette jene erforderlichen Kenntnisse zu vermitteln, um die Einhaltung und Durchsetzung der Vorschriften des AI Act zu gewährleisten.

Weitere Konkretisierungen oder zwingende Mindestvorgaben für die Sicherstellung der KI-Kompetenz enthält der AI Act allerdings nicht und betont sogar, dass die Konzepte der KI-Kompetenz in Bezug auf den jeweiligen Kontext unterschiedlich sein können.<ref name=":1" /> Die EU-Kommission hat daher ein [https://digital-strategy.ec.europa.eu/de/library/living-repository-foster-learning-and-exchange-ai-literacy "Living Repository"] angelegt, in dem Unternehmen ihre Praktiken in Bezug auf KI-Kompetenz eingetragen haben. Das Repository wird laufend ergänzt, ist jedoch nicht rechtsverbindlich. Weiters bilden die darin enthaltenen Praktiken keine Garantie zur Compliance mit Art 4 AI Act, allerdings stellen sie eine gute Orientierung dar, welche Maßnahmen zur Sicherstellung von KI-Kompetenz in unterschiedlichen Branchen bereits ergriffen werden. Häufig genannte Praktiken umfassen:

* interne eLearning-Plattformen,
* interne Weiterbildungen und Trainingsprogramme,
* Kenntnis-basierte Schulungen,
* Video-/Podcast-Reihen,
* spielebasierte Trainings,
* Erstellung von KI-Verhaltenskodizes und Risikobewertungssystemen,
* eigene Chatbots zum Training im Umgang mit Sprachmodellen.

Denkbar ist überdies die Teilnahme an externen Fortbildungen und Schulungen, die Entwicklung von internen Richtlinien ("KI-Guidelines") oder die Schaffung von sog "KI-Beauftragten" in der Organisation. Ob die Schulungsmaßnahmen fortlaufend zu erfolgen haben, ist rechtlich nicht vorgeschrieben, wird allerdings anzunehmen sein.<ref>Dieser Ansicht folgend: ''Siglmüller'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 4 KI-Kompetenz Rz 5.</ref> Ebensowenig sind die genauen Inhalte der Kompetenzvermittlungsmaßnahmen definiert. Es kann jedenfalls davon ausgegangen werden, dass diese zielgruppengerecht und zugeschnitten auf unterschiedliche Bedürfnisse erfolgen sollten. Weiters werden sie sich bei manchen Branchen, KI-Einsatzgebieten oder Personengruppen nicht lediglich auf rechtliche oder technische Anforderungen beschränken, sondern ebenso soziale und ethische Komponenten umfassen. Bei der Entwicklung und Nutzung von GPAI-Modellen wird beispielsweise die Vermittlung von Kenntnissen im Zusammenhang mit Urheberrecht, Datenschutz, "Bias" (Verzerrungen) oder "Halluzinationen" (erfundene falsche Ausgaben) sinnvoll sein.<ref>MwN ''Müller/Scheichenbauer/Schneeberger,'' Wissenskultur im KI-Zeitalter – eine Auseinandersetzung mit der KI-Kompetenz nach Art 4 AI Act und ihren praktischen Implikationen, ZIIR 2025, 250.</ref>

Die EU-Kommission hat darüber hinaus eine [https://digital-strategy.ec.europa.eu/de/faqs/ai-literacy-questions-answers "FAQ-Seite"] mit Fragen und Antworten zur KI-Kompetenz angelegt, um einen besseren Überblick über die Anforderungen zu geben.

=== KI-Systeme mit inakzeptablem Risiko/verbotene Praktiken (Art 5 AI Act) ===
Nach Art 5 AI Act sind gewisse Praktiken im KI-Bereich verboten, da sie besonders schädlich sind, enormes Missbrauchspotenzial aufweisen und im Widerspruch zu europäischen Grundrechten und Grundfreiheiten stehen.<ref>Vgl ErwGr 28 AI Act. MwN ''Neuwirth'', Prohibited artificial intelligence practices in the proposed EU artificial intelligence act (AIA), CLSR 2023, https://doi.org/10.1016/j.clsr.2023.105798; ''Rostaski/Weiss'', § 3. Verbotene Praktiken, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 35.</ref> (Unverbindliche) '''Leitlinien''' der Kommission zu den verbotenen Praktiken konkretisieren die verbotenen Praktiken insbesondere durch zahlreiche Beispiele.<ref>Annex to the Communication to the Commission Approval of the content of the draft Communication from the Commission - Commission Guidelines on prohibited artificial intelligence practices established by Regulation (EU) 2024/1689 (AI Act), C(2025) 884 final, https://digital-strategy.ec.europa.eu/en/library/commission-publishes-guidelines-prohibited-artificial-intelligence-ai-practices-defined-ai-act.</ref> Folgende Praktiken sind davon umfasst:
{| class="wikitable"
|+
!Praktik
!Beispiele
!Nicht erfasste Praktiken
!Rechtsgrundlage
|-
|'''Unterschwellige Beeinflussung außerhalb des Bewusstseins oder manipulative/täuschende Techniken''', wodurch die freie Entscheidungsfähigkeit von Personen beeinträchtigt wird und ein Schaden mit hinreichender Wahrscheinlichkeit eintritt
|
* Ableitung sensibler Informationen aus Gehirnen von Nutzern über Maschine-Gehirn-Schnittstellen<ref>Vgl ErwGr 29 AI Act sowie Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 66. </ref>
* Chatbots, die zur Selbstverletzung verleiten<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 87.</ref>
* Unterschwellige visuelle oder auditive Reize bzw generelle sensorische Manipulation<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 65 und 68.</ref>
|Erlaubt ist hingegen der Einsatz eines KI-Systems, das personalisierte Empfehlungen auf der Grundlage transparenter Algorithmen und Nutzerpräferenzen verwendet, und sich nicht absichtlich manipulativer Techniken bedient.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 128.</ref>
|Art 5 Abs 1 lit a
|-
|'''Ausnutzen der Vulnerabilität/Schutzbedürftigkeit''' aufgrund des Alters, einer Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation
|
* Eine KI-Begleit-App, die durch gewisse Sprachmuster und Verhaltensweisen gezielt emotionale Abhängigkeiten und ungesunde Bindungen bei älteren Menschen erzeugt.
* Ein KI-gestütztes Spielzeug, das Kinder zu riskanten Herausforderungen ermutigt oder durch süchtig machende Techniken zu übermäßigem Spielen anregt
* KI-gestützte "Grooming-Praktiken" (gezielte Kontaktaufnahme Erwachsener mit Minderjährigen in Missbrauchsabsicht), um Mädchen mit Behinderung im Internet anzusprechen und zu manipulieren<ref>Vgl Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 88 ff. </ref>
|
* KI-Systeme, die Kinder beim Lernen einer Fremdsprache durch den Einsatz unterschwelliger Techniken unterstützen soll, sofern sie transparent arbeitet und die Nutzerautonomie wahrt.
* KI-Systeme, die Benommenheit und Ermüdung bei Fahrern erkennen und sie im Einklang mit den Sicherheitsvorschriften mit Warnmeldungen auf Ruhepausen hinweisen, gelten ebenso nicht als Ausnutzung von Vulnerabilitäten.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 130ff. </ref>
|Art 5 Abs 1 lit b
|-
|'''Social scoring''' (Bewertung/Einstufung von Personen/Gruppen von Personen auf der Grundlage ihres sozialen Verhaltens/Eigenschaften/Persönlichkeitsmerkmale)
|
* Die Verwendung eines KI-Systems zur Schätzung der Betrugswahrscheinlichkeit bei Empfängern von Haushaltszulagen durch das Sozialamt, das sich auf Merkmale stützt, die in sozialen Kontexten ohne offensichtlichen Zusammenhang mit oder Relevanz für die Bewertung von Betrug erhoben oder abgeleitet werden, wie zB ein Ehepartner mit einer bestimmten Staatsangehörigkeit oder ethnischen Herkunft, der Besitz eines Internetanschlusses, das Verhalten auf sozialen Plattformen oder die Leistung am Arbeitsplatz etc.
* Die Nutzung eines KI-Systems durch eine öffentliche Stelle, um für die Früherkennung gefährdeter Kinder anhand von Kriterien wie der psychischen Gesundheit und Arbeitslosigkeit der Eltern, aber auch anhand von aus verschiedenen Kontexten abgeleiteten Informationen über das soziale Verhalten der Eltern Familienprofile zu erstellen. Auf der Grundlage der erzielten Bewertung werden Familien für Kontrollen ausgewählt und als „gefährdet“ geltende Kinder werden aus ihren Familien genommen, unter anderem auch in Fällen geringfügiger Übertretungen seitens der Eltern, wie zB gelegentlich verpasste Arzttermine oder verhängte Verkehrsstrafen.
* Eine Regierung führt ein umfassendes KI-gestütztes System ein, das die Bürgerinnen und Bürger auf der Grundlage ihres Verhaltens in verschiedenen Lebensbereichen wie sozialen Interaktionen, Online-Aktivitäten, Kaufgewohnheiten und Pünktlichkeit bei der Begleichung von Rechnungen überwacht und einstuft. Menschen mit einer niedrigeren Bewertung müssen damit rechnen, dass sie eingeschränkten Zugang zu öffentlichen Dienstleistungen erhalten, höhere Zinsen auf Kredite zahlen und auf Reisen und bei der Suche nach einer Wohnung oder sogar einem Arbeitsplatz Schwierigkeiten haben.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 166 ff. </ref>
|
* KI-Systeme zur Bonitätsprüfung natürlicher Personen auf Basis persönlicher Merkmale wie dem Einkommen vor Vergabe eines Kredits.
* KI-basierte Erhebung von Geschwindigkeitsüberschreitungen oder hochriskantem Fahrverhalten, die zur Erhöhung der KFZ-Versicherungsprämien führen.
* KI-gestützte gezielte kommerzielle Werbung fällt nicht in den Anwendungsbereich, wenn sie auf relevanten Daten (z. B. Nutzerpräferenzen) beruht, im Einklang mit den Rechtsvorschriften der Union über Verbraucherschutz, Datenschutz und digitale Dienste erfolgt und nicht zu einer Schlechterstellung oder Benachteiligung führt, die in keinem angemessenen Verhältnis zur Tragweite des sozialen Verhaltens des Nutzers steht (z. B. ausbeuterische und unfaire differenzierte Preisgestaltung).<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 177.</ref>
|Art 5 Abs 1 lit c
|-
|'''Bewertung des Risikos, dass eine Person eine Straftat''' begeht (ausschließlich aufgrund von Profiling)
|Eine Polizeidienststelle verwendet KI-gestützte Risikobewertungsinstrumente, um das Risiko zu bewerten, dass kleine Kinder und Jugendliche an „künftigen Gewalttaten und Eigentumsdelikten“ beteiligt sein werden. Das System bewertet Kinder auf der Grundlage ihrer Beziehungen zu anderen Menschen und deren vermeintlichen Risikoniveaus, dh es wird eventuell davon ausgegangen, dass bei Kindern ein höheres Risiko für die Begehung von Straftaten besteht, einfach weil sie mit einer anderen Person wie einem Geschwisterkind oder einem Freund verbunden sind, bei der eine hohe Risikobewertung vorliegt. Das Risikoniveau der Eltern kann sich ebenfalls auf das Risikoniveau eines Kindes auswirken.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 202.</ref>
|
* Standortbezogene oder geodatenbasierte Vorhersagen oder ortsbezogene Verbrechensvorhersagen (zB KI-System zur Berechnung der Kriminalitätswahrscheinlichkeit in bestimmten Stadtgebieten oder von Schmuggelrouten)
* KI-Systeme zur Unterstützung der durch Menschen durchgeführten Bewertung, die sich auf objektive und überprüfbare Tatsachen stützt, die in Zusammenhang mit einer kriminellen Aktivität stehen (zB Profiling zur Vorhersage gefährlichen Verhaltens in einer Menschenmenge, KI-basiertes Profiling von Personen, gegen die bereits ein Verdacht besteht, der auf mehreren überprüfbaren, objektiven Tatsachen beruht).
* KI-basiertes Profiling in Bezug auf juristische Personen
* KI-Systeme zur individuellen Vorhersage von Ordnungswidrigkeiten (zB Bagatellverkehrsdelikte)<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 212 ff.</ref>
|Art 5 Abs 1 lit d
|-
|Erstellung/Erweiterung von '''Datenbanken''' zur Gesichtserkennung durch '''ungezieltes Auslesen von Gesichtsbildern'''
|Ein Unternehmen für Gesichtserkennungssoftware sammelt Bilder von Gesichtern, die mit einem „automatisierten Bildausleser“, der das Internet durchsucht und Bilder mit menschlichen Gesichtern erkennt, aus sozialen Medien (zB Facebook, X) ausgelesen wurden. Der Bildausleser sammelt diese Bilder mit allen damit verbundenen Informationen (wie der Quelle des Bildes (URL), der Geolokalisierung und manchmal den Namen der einzelnen Personen). Die Gesichtsmerkmale werden dann aus den Bildern extrahiert und in mathematische Darstellungen umgewandelt, die für die Indexierung und den künftigen Vergleich mit Hashtags versehen werden. Wenn ein Nutzer das Bild einer Person in das KI-System hochlädt, wird dieses System bestimmen, ob dieses Bild mit einem Gesicht in der Datenbank übereinstimmt.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 232.</ref>
|
* Das ungezielte Auslesen anderer biometrischer Daten als Gesichtsbilder (zB Stimmaufnahmen)
* Gesichtsbilddatenbanken, die nicht für die Erkennung von Personen verwendet werden
* KI-Systeme, die Gesichtsbilder aus dem Internet sammeln, um KI-Modelle zur Erzeugung neuer Bilder fiktiver Personen zu entwickeln
|Art 5 Abs 1 lit e
|-
|'''Emotionserkennungssysteme''' am Arbeitsplatz oder in Bildungseinrichtungen
|
* Ein KI-System, das beispielsweise aus Gesten, Stirnrunzeln oder fehlendem Lächeln ableitet, dass ein Mitarbeiter unglücklich, traurig oder gegenüber den Kunden wütend ist
* Systeme, die aus Stimmführung oder Körpersprache ableiten, dass ein Schüler zornig und im Begriff ist, gewalttätig zu werden
* Ein KI-System, das Emotionen aus Tastenanschlägen (Art des Tippens), Gesichtsausdrücken, Körperhaltungen oder Bewegungen ableitet, beruht auf biometrischen Daten und fällt in den Anwendungsbereich des Verbots
* KI-Systeme, die den emotionalen Ton in hybriden Arbeitsteams überwachen, indem sie Emotionen aus Stimm- und Bildaufnahmen hybrider Videokonferenzen erkennen und ableiten, was in Regel der Förderung des sozialen Bewusstseins, des Managements emotionaler Dynamik und der Konfliktverhütung dienen würde
* Die Nutzung eines KI-Systems bei Online-Prüfungen zur Erkennung von Emotionen wie Erregungs- und Angstzustände
* Emotionserkennung zur Bewertung des Wohlbefindens, des Motivationsniveaus und der Arbeits- oder Lernzufriedenheit von Studierenden oder Arbeitnehmern.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|
* Der Einsatz von KI-Erkennungssystemen, um auf die Ermüdung eines Berufspiloten oder -fahrers zu schließen, ihn zu warnen und ihm zu empfehlen, zur Vermeidung von Unfällen Pausen einzulegen, da Emotionserkennung keine physischen Zustände wie Schmerzen oder Ermüdung einschließt
* Ein KI-System, das aus schriftlichen Texten (Analysen von Inhalt und Stimmung) Emotionen ableitet, um den Stil oder den Ton eines bestimmten Artikels zu bestimmen, beruht nicht auf biometrischen Daten und fällt daher nicht in den Anwendungsbereich des Verbots
* Werden Emotionserkennungssysteme nur zu persönlichen Schulungszwecken eingesetzt, sind sie zulässig, sofern die Ergebnisse nicht Personen mit Personalverantwortung zur Verfügung gestellt werden und keine Auswirkungen auf das Arbeitsverhältnis haben
* Die durch eine Bildungseinrichtung erfolgende Verwendung einer KI-gestützten Software zur Verfolgung der Augenbewegungen bei Online-Prüfungen Studierender, um den Fixierungspunkt und die Bewegung der Augen zu verfolgen (um beispielsweise zu erkennen, ob unerlaubtes Material verwendet wird), ist nicht verboten, da das System Emotionen weder erkennt noch ableitet
* Emotionserkennung aus medizinischen Gründen zur Unterstützung von Arbeitnehmern oder Studierenden mit Autismus und zur Verbesserung der Barrierefreiheit für blinde oder gehörlose Menschen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 249 ff.</ref>
|Art 5 Abs 1 lit f
|-
|'''Biometrische Kategorisierung,''' Ableitung von sensiblen Daten (religiöse Weltanschauung, politische Einstellung)
|
* Ein KI-System, das Personen, die auf einer Plattform sozialer Medien aktiv sind, nach ihrer angenommenen politischen Ausrichtung kategorisiert, indem es die biometrischen Daten der von ihnen auf die Plattform hochgeladenen Fotos analysiert, um ihnen gezielte politische Nachrichten zu übermitteln
* ein System zur biometrischen Kategorisierung, das für sich in Anspruch nimmt, die religiöse Ausrichtung einer Person aus ihren Tätowierungen oder ihrem Gesicht ableiten zu können.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 280 ff.</ref>
|
* KI-Systeme, die mit der Kennzeichnung oder Filterung rechtmäßig erworbener biometrischer Datensätze, auch zu Strafverfolgungszwecken, befasst sind (zB bei Verdacht auf Darstellungen sexuellen Kindesmissbrauchs)
* die Kategorisierung von Patienten, bei der Bilder nach ihrer Haut- oder Augenfarbe verwendet werden, für medizinische Diagnosen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 284 ff.</ref>
|Art 5 Abs 1 lit g
|-
|'''Biometrische Echtzeit-Fernidentifizierungssysteme''' in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken (zahlreiche Ausnahmen)
|
* Die polizeiliche Verwendung von Systemen zur biometrischen Echtzeit-Fernidentifizierung zu dem Zweck, Ladendiebe zu identifizieren und ihre Gesichtsbilder mit Kriminaldatenbanken zu vergleichen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 328.</ref>
|
* Die Nutzung von Echtzeit-Gesichtserkennungstechniken durch die Polizei nach einem schweren Terroranschlag auf einen Weihnachtsmarkt mit zwölf Toten, um den Täter zu identifizieren und festzustellen, wohin er flieht. In diesem Zusammenhang nutzen sie auch die Echtzeit-Gesichtserkennungstechnik des nahe gelegenen Bahnhofs und der Zielbahnhöfe der Züge, die kurz nach dem Angriff von dort abgehen.<ref>Vgl Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz, Rz 354.</ref>
|Art 5 Abs 1 lit h
|}
*

 
Einige dieser Praktiken sind darüber hinaus bereits nach anderen Rechtsvorschriften verboten, so beispielsweise gewisse manipulative und täuschende Techniken als "dark patterns" nach dem [[Digital Services Act (DSA)|Digital Services Act]] (gilt nur für bestimmte Plattform-Anbieter) oder die Verarbeitung biometrischer Daten zur Identifizierung einer Person nach Art 9 Abs 1 DSGVO, sofern keine der in Abs 2 genannten Ausnahmen vorliegt. Gemäß der neuen Plattformarbeitsrichtlinie<ref>Richtlinie (EU) 2024/2831 des Europäischen Parlaments und des Rates vom 23. Oktober 2024 zur Verbesserung der Arbeitsbedingungen in der Plattformarbeit, ABl L 11. 11. 2024.</ref>, die bis Dezember 2026 in nationales Recht umzusetzen ist, ist überdies der Einsatz von automatisierten Überwachungs- und Entscheidungssystemen zur Erfassung personenbezogener Daten über den emotionalen oder psychischen Zustand einer Person (Emotionserkennung) verboten.<ref>MwN ''Wendehorst'' in ''Martini/Wendehorst,'' KI-VO. Künstliche Intelligenz-Verordnung (2024) Art 5 Rz 104.</ref>

=== Hochrisiko-KI-Systeme (Art 6 AI Act) ===

==== Einstufung ====
Der AI Act klassifiziert Hochrisiko-KI-Systeme in Art 6. Dabei kennt er zwei Varianten dieser Systeme, die in der Literatur - nicht aber im AI Act selbst - als "eingebettete" und "eigenständige" Hochrisiko-KI-Systeme bezeichnet werden. <ref>MwN ''Martini'', § 4. Hochrisiko-KI-Systeme: Risikobasierter Ansatz, in ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023) 51 (61 ff).</ref>

Darüber hinaus enthält Art 6 Abs 3 AI Act Ausnahmen von der Einstufung als Hochrisiko-KI-System.

Nach Art 6 Abs 5 AI Act hat die Kommission nach Konsultation des Europäischen Gremiums für Künstliche Intelligenz spätestens bis zum 2. Februar 2026 '''Leitlinien''' zur praktischen Umsetzung und eine umfassende Liste praktischer Beispiele für Anwendungsfälle für KI-Systeme, die hochriskant oder nicht hochriskant sind, bereitzustellen.

===== "Eingebettete" Hochrisiko-KI-Systeme (embedded high-risk AI systems) (Art 6 Abs 1 AI Act) =====
Nach Art 6 Abs 1 AI Act gilt zunächst ein KI-System als Hochrisiko-KI-System, wenn die zwei folgenden Bedingungen erfüllt sind:
* das KI-System soll als Sicherheitsbauteil eines unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fallenden Produkts verwendet werden oder stellt selbst ein solches Produkt dar
* das Produkt, dessen Sicherheitsbauteil das KI-System ist, oder das KI-System selbst als Produkt muss im Rahmen dieser Harmonisierungsrechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden

Anhang I, Abschnitt A nennt dabei zwölf solche Harmonisierungsrechtsvorschriften (bezogen auf Maschinen, Spielzeug, Sportboote und Wassermotorräder, Aufzüge, Geräte und Schutzsysteme in explosionsgefährdeten Bereichen, Funkanlagen, Druckgeräte, Seilbahnen, persönliche Schutzausrüstungen, Geräte zur Verbrennung gasförmiger Brennstoffe, Medizinprodukte, In-vitro-Diagnostika).

Um diese Einstufung als Hochrisiko-KI-System durch ein Beispiel zu illustrieren:
{| class="wikitable"
|+
!Beispiel
|-
|Software kann ein '''Medizinprodukt''' im Sinne der Medizinprodukteverordnung (MPVO) darstellen.<ref>MwN ''Schreitmüller'', Regulierung intelligenter Medizinprodukte. Eine Analyse unter besonderer Berücksichtigung der MPVO und DSGVO (2023).</ref>
Medizinprodukte ab Risikoklasse IIa, das heißt mittlerem Risiko (zB Diagnose oder Überwachung), unterliegen einer Konformitätsbewertung unter Einbeziehung einer "benannten Stelle", das heißt einer externen Konformitätsbewertungsstelle.
Software als Medizinprodukt erfüllt damit - sofern sie unter die KI-Definition subsumiert werden kann - häufig beide Bedingungen:

* einerseits kann sie ein Produkt bzw Sicherheitskomponente eines Produktes darstellen, das unter die MPVO fällt, die in Anhang I Abschnitt A genannt wird, und
* anderseits unterliegt sie im Rahmen der MPVO in fast allen Fällen einer Konformitätsbewertung unter Einbeziehung einer Konformitätsbewertungsstelle, das heißt "Dritter" (mit Ausnahme eines Medizinproduktes der Klasse I).
Software als Medizinprodukt fällt somit gleichzeitig als Medizinprodukt unter die MPVO und, sofern die Software den KI-Begriff erfüllt, als Hochrisiko-KI-System unter den AI Act.
|}

===== "Eigenständige" Hochrisiko-KI-Systeme (stand-alone high-risk AI systems) (Art 6 Abs 2 AI Act) =====
Die zweite Variante von "eigenständigen" Hochrisiko-KI-Systemen wird durch Art 6 Abs 2 AI Act definiert, der dabei auf Anhang III verwiest. Dieser enthält acht Bereiche, untergliedert in konkretere Anwendungsfelder, die ebenfalls als hochriskant gelten: bspw biometrische Identifizierung, kritische Infrastrukturen, grundlegende öffentliche und private Dienste/Leistungen, Strafverfolgung, Migration, Asyl und Grenzkontrolle, Justiz und demokratische Prozesse).

Diese Liste kann dabei mittels delegierter Rechtsakte der Kommission geändert werten (Art 7 AI Act).

===== Ausnahmen (Art 6 Abs 3 AI Act) =====
Art 6 Abs 3 AI Act enthält als Abweichung '''Ausnahmen''' von der Einstufung als "eigenständiges" Hochrisiko-KI-System. Die Ausnahmen greifen dann, wenn sich zeigt, dass ein in Anhang III genanntes System kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, indem es unter anderem nicht das Ergebnis einer Entscheidungsfindung, an der das System beteiligt ist, wesentlich beeinflusst.

Art 6 Abs 3 2. UAbs enthält dabei vier alternative Bedingungen, die die genannten Kriterien erfüllen. ErwGr 53 liefert konkretisierende Beispiele. Ein KI-System gilt somit als nicht hochriskant, wenn
# es dazu bestimmt ist, eine eng gefasste Verfahrensaufgabe durchzuführen (bspw ein KI-System, das unstrukturierte Daten in strukturierte Daten umwandelt)
# es dazu bestimmt ist, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern (bspw KI-Systeme, deren Ziel es ist, die in zuvor verfassten Dokumenten verwendete Sprache zu verbessern, etwa den professionellen Ton, den wissenschaftlichen Sprachstil oder um den Text an einen bestimmten mit einer Marke verbundenen Stil anzupassen
# es dazu bestimmt ist, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht ist, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen (bspw KI-Systeme, die in Bezug auf ein bestimmtes Benotungsmuster eines Lehrers dazu verwendet werden können, nachträglich zu prüfen, ob der Lehrer möglicherweise von dem Benotungsmuster abgewichen ist, um so auf mögliche Unstimmigkeiten oder Unregelmäßigkeiten aufmerksam zu machen)
# es dazu bestimmt ist, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die Zwecke der in Anhang III aufgeführten Anwendungsfälle relevant ist (bspw intelligente Lösungen für die Bearbeitung von Dossiers, wozu verschiedene Funktionen wie Indexierung, Suche, Text- und Sprachverarbeitung oder Verknüpfung von Daten mit anderen Datenquellen gehören)

Art 6 Abs 3 AI Act enthält dabei auch eine '''Rückausnahme''', die einen Bezug zur DSGVO herstellt. Ein KI-System nach Anhang III gilt "immer dann als hochriskant, wenn es ein Profiling natürlicher Personen vornimmt." Als Profiling gilt dabei iSd Art 4 Abs 4 DSGVO jede automatisierte Verarbeitung personenbezogener Daten, die darin besteht, bestimmte persönliche Aspekte einer Person zu bewerten, insbesondere um Aspekte bezüglich Arbeitsleistung, Gesundheit, persönliche Vorlieben, Zuverlässigkeit, Verhalten etc. zu analysieren oder vorherzusagen.

==== Anforderungen an Hochrisiko-KI-Systeme (Art 8-15 AI Act) ====
Die Europäische Kommission hat im Rahmen von Public Consultations unter anderem auch Rückmeldungen zu Anforderungen an Hochrisiko-KI-Systeme eingeholt, die eine Grundlage für Leitlinien bilden sollen, welche im Februar 2026 veröffentlicht werden sollen.<ref>European Commission, Commission launches public consultation on high-risk AI systems, https://digital-strategy.ec.europa.eu/en/news/commission-launches-public-consultation-high-risk-ai-systems (Stand 6.6.2025).</ref> Hochrisiko-KI-Systeme müssen einer Reihe von Anforderungen genügen, die in einem sog Konformitätsbewertungsverfahren geprüft werden, darunter:

===== Risikomanagementsystem (Art 9 AI Act) =====
Ein umfassendes Risikomanagementsystem muss eingerichtet, angewandt, dokumentiert und aufrechterhalten werden.

Dies umfasst die Ermittlung und Analyse von '''Risiken''', ihre Abschätzung und Bewertung sowie die Ergreifung von Risikomanagementmaßnahmen und die Abwägung der Maßnahmen mit dem Restrisiko.

Vorgesehen sind auch Testverfahren.

===== Daten und Daten-Governance (Art 10 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden, die gewissen '''Qualitätskriterien''' entsprechen.

So müssen die Datensätze neben Verfahren in Bezug auf konzeptionelle Entscheidungen, die Datenerhebung und Aufbereitung (hinreichend) '''relevant und so weit wie möglich repräsentativ, fehlerfrei und vollständig''' sein und Verzerrungen (Bias) müssen vermieden werden.

Merkmale/Elemente, die für '''besonderen geografischen, kontextuellen, verhaltensbezogenen oder funktionalen Rahmenbedingungen''' typisch sind, müssen berücksichtigt werden.

In Bezug auf '''Bias''' ist auch eine Regelung zur Verarbeitung von besonders sensiblen personenbezogenen Daten zur Erkennung und Korrektur enthalten, die mit der DSGVO interagiert (Art 10 Abs 5 AI Act).

===== Technische Dokumentation (Art 11 AI Act) =====
Als Basis der Konformitätsbewertung muss eine technische Dokumentation erstellt werden, bevor das Hochrisiko-KI-System in Verkehr gebracht oder in Betrieb genommen wird. Diese ist stets auf dem neuesten Stand zu halten.

Aus ihr muss der '''Nachweis''' hervorgehen, wie das Hochrisiko-KI-System die Anforderungen der Art 8 bis 15 AI Act erfüllt.

Durch die Dokumentation sollen den zuständigen nationalen Behörden und den notifizierten Stellen alle Informationen zur Verfügung stehen, die erforderlich sind, um zu beurteilen, ob das KI-System diese Anforderungen erfüllt.

KMUs können diese Dokumentation in '''vereinfachter Weise''' bereitstellen.

===== Aufzeichnungspflichten (Art 12 AI Act) =====
Hochrisiko-KI-Systeme müssen mit Funktionsmerkmalen konzipiert und entwickelt werden, die eine '''automatische Aufzeichnung''' von Vorgängen und Ereignissen („Protokollierung“) während des Betriebs der Hochrisiko-KI-Systeme ermöglichen.

Die Protokollierung (zB von Situationen, die dazu führen können, dass das System ein Risiko birgt oder dass es zu einer wesentlichen Änderung kommt) gewährleistet, dass das Funktionieren des KI-Systems während seines gesamten Lebenszyklus '''rückverfolgbar''' ist.

===== Transparenz und Bereitstellung von Informationen für die Betreiber (Art 13 AI Act) =====
Hochrisiko-KI-Systeme werden so konzipiert und entwickelt, dass ihr Betrieb hinreichend '''transparent''' ist, damit die Nutzer die Ergebnisse des Systems angemessen '''interpretieren''' und verwenden können.

Auch müssen den Nutzern/Betreibern entsprechende '''Betriebsanleitungen''' (zB zu Merkmalen, Fähigkeiten und Leistungsgrenzen des Hochrisiko-KI-Systems) zur Verfügung gestellt werden.

===== Menschliche Aufsicht (Art 14 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie während der Dauer der Verwendung des KI-Systems von natürlichen Personen '''wirksam beaufsichtigt''' werden können.

Dies dient der Verhinderung/Minimierung der Risiken für Gesundheit, Sicherheit oder Grundrechte und erfordert bspw die Möglichkeit die Fähigkeiten und Grenzen des KI-Systems angemessen und verstehen und seinen Betrieb zu überwachen, Maßnahmen gegen automation bias und die Option, das System nicht zu verwenden, seine Ausgabe außer Acht zu lassen oder in den Betrieb einzugreifen bzw ihn mit einer "Stopptaste" zu unterbrechen.

===== Genauigkeit, Robustheit und Cybersicherheit (Art 15 AI Act) =====
Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein '''angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit''' erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

Dies umfasst somit Maßnahmen in Hinblick auf '''innere Fehlerquellen''' (Performanzmetriken für Genauigkeit, Widerstandsfähigkeit gegenüber Fehlern, Störungen, Unstimmigkeiten für Robustheit; Maßnahmen gegen Rückkopplungsschleifen), als auch '''Angriffe von Außen''' (Cybersicherheit).

==== Pflichten für Anbieter von Hochrisiko-KI-Systemen (Art 16-21 AI Act) ====
Anbieter von Hochrisiko-KI-Systemen müssen als wichtigste Pflichten ua (Art 16 AI Act):

* sicherstellen, dass diese Systemen die Anforderungen der Art 8-15 AI Act erfüllen
* damit verbunden sicherstellen, dass sie einem Konformitätsbewertungsverfahren unterzogen werden (resultierend in einer Konformitätserklärung und einer CE-Kennzeichnung)
* über ein Qualitätsmanagementsystem (Art 17 AI Act) verfügen (ua Konzept zur Einhaltung der Regulierungsvorschriften, Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems; Untersuchungs-, Test- und Validierungsverfahren; Systeme und Verfahren für das Datenmanagement)
* Dokumentation (Art 18 AI Act) und Protokolle (Art 19 AI Act) aufbewahren
* einer Registrierungspflicht nachkommen (Art 49 AI Act) und
* erforderliche Korrekturmaßnahmen ergreifen und Informationen bereitstellen (Art 20 AI Act)

==== Konformitätsbewertungsverfahren (Art 43 AI Act) ====
Zentrale Anbieterpflicht ist die Durchführung eines sog Konformitätsbewertungsverfahrens. In diesem Verfahren wird überprüft, ob das Hochrisiko-KI-System die Anforderungen nach Art 8-15 AI Act erfüllt (Art 3 Z 20 AI Act).

Dabei existieren zwei verschiedene Varianten dieses Verfahrens (Art 43 AI Act).

Diese unterscheiden sich primär darin, ob eine notifizierte Stelle, das heißt eine Stelle, die Konformitätsbewertungstätigkeiten einschließlich Prüfungen, Zertifizierungen und Inspektionen durchführt und dabei als Dritte auftritt und die nach dem AI Act "notifiziert" wurde (Art 3 Z 21, 22 AI Act). Die notifizierten Stellen finden sich in einer entsprechenden [https://webgate.ec.europa.eu/single-market-compliance-space/notified-bodies/notified-body-list?filter=countryId:40,notificationStatusId:1 Datenbank].

* '''interne Kontrolle''' (Anhang VI): Eigenzertifizierung, ohne Beiziehung einer notifizierten Stelle (vorgesehen für eigenständige Hochrisiko-KI-Systeme mit Ausnahme des Bereiches Biometrie)
* '''Bewertung des Qualitätsmanagementsystems und der Bewertung der technischen Dokumentation''' unter Beteiligung einer notifizierten Stelle (Anhang VII) (primär vorgesehen für eingebettete Hochrisiko-KI-Systeme)

Bei eingebetteten Hochrisiko-KI-Systemen ist vorgesehen, dass die nach dem Harmonisierungsrechtsakt einschlägige Konformitätsbewertung (zB nach Medizinprodukteverordnung) durchgeführt wird und die Aspekte des AI Act in dieses Verfahren einbezogen werden (Art 43 Abs 3 AI Act). Ein solches "kombiniertes" Verfahren kann für einer notifizierten Stelle durchgeführt werden, sofern diese die notwendige Expertise, etc aufweist.

Bei wesentlichen Änderungen des Systems ist eine erneute Durchführung notwendig. Dies gilt für Systeme, die im Betrieb weiterlernen, nicht für vorab durch den Anbieter festgelegte Änderungen des Systems und seiner Leistung (Art 43 Abs 4 AI Act).

Der Anbieter hat daraufhin eine '''EU-Konformitätserklärung''' (Art 47 AI Act) auszustellen, eine '''CE-Kennzeichnung''' (Art 48 AI Act) anzubringen und das (selbständige) Hochrisiko-KI-System in einer Datenbank zu '''registrieren''' (Art 49 AI Act).

==== Pflichten für Betreiber von Hochrisiko-KI-Systemen ====

===== Betreiberpflichten nach Art 26 AI Act =====
Betreiber von Hochrisiko-KI-Systemen unterliegen im Vergleich zu Anbietern nur eingeschränkten Pflichten. Sie müssen ua

* geeignete technische und organisatorische Maßnahmen treffen, um sicherzustellen, dass sie KI-Systeme '''entsprechend den beigefügten Betriebsanleitungen verwenden'''
* die '''menschliche Aufsicht''' an natürliche Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis ([https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#KI-Kompetenz/AI_literacy_(Art_4_AI_Act) "KI-Kompetenz"] nach Art 4<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 40. </ref>) verfügen und ihnen die erforderliche Unterstützung zukommen lassen.
* soweit die '''Eingabedaten''' ihrer Kontrolle unterliegen dafür sorgen, dass diese der Zweckbestimmung des Hochrisiko-KI-Systems entsprechend und ausreichend repräsentativ sind
*den Betrieb des Hochrisiko-KI-Systems anhand der Betriebsanleitung '''überwachen''' und gegebenenfalls Anbieter iSv Art 72 AI Act '''informieren'''. Besteht Grund zur Annahme, dass die Verwendung gemäß der Betriebsanleitung dazu führen kann, dass dieses Hochrisiko-KI-System ein Risiko im Sinne des Art 79 Abs 1 AI Act birgt, so informieren Betreiber unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde und setzen die Verwendung dieses Systems aus. Ähnliches gilt bei Feststellung eines schwerwiegenden Vorfalls.
*Aufbewahrung von automatisiert erzeugten '''Protokollen''' für einen Zeitraum von zumindest 6 Monaten (wobei hier entgegenstehende datenschutzrechtliche Regelungen vorgehen würden<ref>Vgl ''Wendt'' in ''Wendt/Wendt,'' Das neue Recht der Künstlichen Intelligenz2 (2025) § 7 Pflichten bei Hochrisiko-KI-Systemen Rz 42.</ref>)
*'''Information der Arbeitnehmervertreter und betroffenen Arbeitnehmer''', vor Verwendung oder Inbetriebnahme des Hochrisiko-KI-Systems am Arbeitsplatz. Dies umfasst sowohl den Einsatz von "eingebetteten" als auch "eigenständigen" Hochrisiko-KI-Systemen. Weiters sind die Mitwirkungspflichten des Betriebsrats zu berücksichtigen (vgl §§ 96 f ArbVG). Nicht umfasst sind wahrscheinlich Informationspflichten gegenüber Bewerbern, da diese tendenziell nicht unter den von dieser Bestimmung geforderten "Arbeitnehmer-Begriff" fallen.
*'''Information an natürliche Personen''', dass sie der Verwendung eines Hochrisiko-KI-Systems unterliegen, wenn das Hochrisiko-KI-Systeme natürliche Personen betreffende Entscheidungen trifft oder bei solchen Entscheidungen Unterstützung leistet. Diese Bestimmung gilt lediglich für den Einsatz von "eigenständigen" Hochrisiko-KI-Systemen nach Art 6 Abs 2 iVm Anhang III.Die danach mitzuteilende Information sollte die Zweckbestimmung und die Art der getroffenen Entscheidung beinhalten (vgl ErwGr 93) sowie - nach einer hier vertretenen Auffassung - eine vorab Information über das Recht auf Erklärung nach Art 86 AI Act, welches von KI-Entscheidungen Betroffenen das Recht zugesteht, unter gewissen Voraussetzungen vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess sowie zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten.<ref>Siehe die entsprechende Argumentationslinie im Detail: ''Research Institute'', Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025) 100 ff, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf. </ref>

===== Grundrechte-Folgenabschätzung (Art 27 AI Act) =====
Als Gegenstück zum Risikomanagement (Art 9 AI Act), das Anbieter von Hochrisiko-KI-Systemen betrifft, müssen gewisse Betreiber<ref>Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäß Anhang III Nummer 5 Buchstaben b [Kreditwürdigkeitsprüfung und Bonitätsbewertung] und c [Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen]. Eine Ausnahme besteht wiederum im Bereich der kritischen Infrastruktur (Anhang III Nummer 2).</ref> von Hochrisiko-KI-Systemen vor der ersten Verwendung eine Abschätzung der Risiken auf Grundrechte durchführen (Art 27 Abs 1 AI Act).<ref>MwN ''Müller/Schneeberger'', Menschenrechtsfolgenabschätzungen im Artificial Intelligence Act, juridikum 2024, 265.</ref>

Die Abschätzung umfasst dabei

* eine Beschreibung der Verfahren, bei denen das Hochrisiko-KI-System verwendet wird
* eine Beschreibung des Zeitraums und der Häufigkeit der Verwendung
* die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung betroffen sein könnten
* die spezifischen Schadensrisiken, die sich auf die ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten
* eine Beschreibung der Umsetzung von Maßnahmen der menschlichen Aufsicht
* die Maßnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind.

Das Büro für KI wird dabei ein Muster für einen Fragebogen entwickeln, um dieser Pflicht in vereinfachter Weise nachkommen zu können (Art 27 Abs 5 AI Act).

Art 27 Abs 4 macht überdies die Verzahnung der Grundrechte-Folgenabschätzung (GRFA) mit anderen Folgenabschätzungen deutlich und schreibt bspw vor, dass bei Vorliegen einer Datenschutz-Folgenabschätzung nach Art 35 DSGVO die GRFA diese ergänzen bzw in diese integriert werden solle.<ref>Vgl ''Piltz/Zwerschke'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 27 Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme Rz 32.</ref>

Sowohl die Verpflichtungen nach Art 26 als auch die Durchführung einer GRFA nach Art 27 treffen den Betreiber unabhängig davon, ob jemand (bspw Betroffene) deren Einhaltung einfordern. Im Unterschied dazu enthält der AI Act in den Artt 85 ff sog "Betroffenenrechte", die aktiv von betroffenen Personen geltend zu machen sind. Dazu zählt insbesondere das [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Recht auf Erklärung nach Art 86], welches das einzige Betroffenenrecht darstellt, das direkt gegen den Betreiber durchsetzbar ist.

==== Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act) ====
[[Datei:KI-Servicestelle bei der RTR, Rollenverteilung Hochrisiko-KI-Systeme.svg|links|mini|Übersicht über die Rollenverteilung und mögliche Rollenwechsel von Betreiber zu Anbieter bei Hochrisiko-KI-Systemen. © RTR (CC BY 4.0), https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/akteure.de.html.]]

Die Einstufung als Betreiber oder Anbieter ist dabei nicht statistisch, wie Art 25 AI Act zeigt. Dieser normiert Fälle, in denen Betreiber (und Händler, Einführer oder sonstige Dritte) als Anbieter eines Hochrisiko-KI-Systems gelten und damit auch den Anbieterpflichten (Art 16 AI Act) unterliegen.

Ein solcher "Rollenwechsel" findet in folgenden Konstellationen statt (Art 25 Abs 1 AI Act):

* wenn die genannten Personen ein bereits in Verkehr gebrachtes oder in Betrieb genommenes Hochrisiko-KI-System '''mit ihrem Namen oder ihrer Handelsmarke versehen''', unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen;
* wenn sie eine '''wesentliche Veränderung''' eines Hochrisiko-KI-Systems, das bereits in Verkehr gebracht oder in Betrieb genommen wurde, so vornehmen, dass es weiterhin ein Hochrisiko-KI-System gemäß Art 6 AI Act bleibt;
* wenn sie die '''Zweckbestimmung eines KI-Systems''', das ''nicht'' als hochriskant eingestuft wurde und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so '''verändern''', dass das betreffende KI-System zu einem Hochrisiko-KI-System im Sinne von Art 6 AI Act wird.

In diesen Szenarien gilt der ursprüngliche Anbieter (Erstanbieter) nicht mehr als Anbieter dieses spezifischen KI-Systems (Art 25 Abs 2 AI Act). Der Erstanbieter hat jedoch mit dem neuen Anbieter zusammenzuarbeiten, insb Informationen zur Verfügung zu stellen, für technischen Zugang und sonstige Unterstützung zu sorgen.<ref>Diese Pflicht zur Übergabe der Dokumentation gilt nicht, wenn der Anbieter festgelegt hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.</ref>

{| class="wikitable"
|+
!Hinweis:
|-
|Aufgrund von Art 25 AI Act muss beachtet werden, dass die Rollenverteilung eine dynamische und nicht statische ist. So könnte zB ein Betreiber eines Large Language Models, der dieses zur Generierung von medizinischen Diagnosen verwendet, wenn diese Verwendung entgegen der Zweckbestimmung des (ursprünglichen) Anbieters erfolgt, durch diese Verwendung zum neuen Anbieter werden und auch dessen Pflichten übernehmen. Auch ein Zusammentreffen der Rolle von Anbieter und Betreiber in einem Akteur ist möglich.
|}
=== Transparenzpflichten (Art 50 AI Act) ===
Unabhängig von der Risikoeinstufung eines KI-Systems sieht Art 50 AI Act Transparenzpflichten für gewisse KI-Systeme vor. Die Informationen müssen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden sowie den Anforderungen an die Barrierefreiheit genügen.

* Anbieter haben bei KI-Systemen, die für die direkte '''Interaktion mit natürlichen Personen''' bestimmt sind (zB Chatbots, Sprachassistenten, Social Bots), sicherzustellen, dass diese so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen informiert werden, dass sie mit einem KI-System interagieren.<ref>Eine solche Kennzeichnung ist nicht notwendig, wenn es aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich ist, dass mit einem KI-System interagiert wird. Diese Pflicht gilt ebenfalls nicht für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme, wenn geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen, es sei denn, diese Systeme stehen der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung.</ref> Diese Pflicht kann entfallen, wenn die Interaktion mit dem KI-System aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person offensichtlich ist oder beim Einsatz von KI-Systemen, die für die Strafverfolgung zugelassen sind.<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 43.</ref>
{| class="wikitable"
|+
*
!Beispiele<ref>Vgl ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 40.</ref>
|-
|'''Chatbots''' können durch einen textlichen Hinweis zu Beginn des Gesprächs oder ein dauerhaft angezeigtes grafisches Symbol vorgestellt werden.
Bei '''Voicebots''' kommt eine der Interaktion vorausgehende Ansage, welche auf den KI-Einsatz hinweist, in Betracht.

'''Social Bots''' können eine Information vor und mit jeder Interaktion des Bots in sozialen Netzwerken erfordern, da das System stets mit einem neuen Personenkreis in Interaktion tritt (zB AI-Influencer).
|}
* Anbieter von KI-Systemen die '''synthetische Audio-, Bild-, Video- oder Textinhalte''' erzeugen, müssen sicherstellen, dass die Ausgaben des KI-Systems in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.<ref>Diese Pflicht gilt nicht, soweit die KI-Systeme eine unterstützende Funktion für die Standardbearbeitung ausführen oder die vom Betreiber bereitgestellten Eingabedaten oder deren Semantik nicht wesentlich verändern oder wenn sie zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen sind.</ref> <ref>Das KI-Büro hat am 5. November 2025 Arbeiten an einem Verhaltenskodex in Bezug auf die Kennzeichnung von KI-generierten Inhalten aufgenommen. Die entsprechenden Leitlinien werden in einem siebenmonatigen Prozess, der sich insbesondere durch die Einbindung von relevanten Stakeholdern und öffentliche Konsultationen auszeichnen soll, erarbeitet werden. Näheres unter: https://digital-strategy.ec.europa.eu/en/news/commission-launches-work-code-practice-marking-and-labelling-ai-generated-content</ref> Mögliche Methoden wären bspw Wasserzeichen, Metadatenidentifizierungen, Kryptografische Methoden (zB "Hashing"), Protokollierungsmethoden oder Fingerabdrücke.<ref>Vgl ErwGr 133 Satz 4 sowie mwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 84 ff.</ref>
* Betreiber eines '''Emotionserkennungssystems''' oder eines Systems zur '''biometrischen Kategorisierung''' müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten datenschutzkonform<ref>Dabei wird explizit auf die DSGVO, die VO (EU) 2018/1725 des Europäischen Parlaments und des Rates vom 23. Oktober 2018 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die Organe, Einrichtungen und sonstigen Stellen der Union, zum freien Datenverkehr und zur Aufhebung der Verordnung (EG) Nr. 45/2001 und des Beschlusses Nr. 1247/2002/EG und die RL (EU) 2016/680 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten durch die zuständigen Behörden zum Zwecke der Verhütung, Ermittlung, Aufdeckung oder Verfolgung von Straftaten oder der Strafvollstreckung sowie zum freien Datenverkehr und zur Aufhebung des Rahmenbeschlusses 2008/977/JI des Rates verwiesen.</ref> verarbeiten.<ref>Diese Pflicht gilt nicht für gesetzlich zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zugelassene KI-Systeme, die zur biometrischen Kategorisierung und Emotionserkennung im Einklang mit dem Unionsrecht verwendet werden, sofern geeignete Schutzvorkehrungen für die Rechte und Freiheiten Dritter bestehen.</ref>
* Betreiber eines KI-Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein '''Deepfake''' sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist. Ist der Inhalt Teil eines offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werks oder Programms, so beschränken sich die Transparenzpflichten darauf, das Vorhandensein solcher erzeugten oder manipulierten Inhalte in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.</ref> Denkbar ist bspw eine Umsetzung in Form eines sichtbaren Wasserzeichens, eines textlichen Hinweises, durch Hinzufügen von sog C2PA-Content Credentials<ref>Die C2PA („Coalition forContent Provenanceand Authenticity“) ist ein branchenübergreifendes Non-profit-Projekt, das die Entwicklung gemeinsamer technischer Standards zur Ermittlung der Herkunft von digitalen Inhalten zum Ziel hat. Siehe dazu https://c2pa.org/. So hat sich bspw LinkedIn bei der Erkennung KI-generierter Inhalte diesen Standards unterworfen: https://www.linkedin.com/help/linkedin/answer/a6282984. MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 150.</ref> oder bei Audioinhalten durch eine Ansage zu Beginn des Audioinhalts.<ref>''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 148 ff. </ref>
* Betreiber eines KI-Systems, das '''Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren''', müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde.<ref>Diese Pflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist oder wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.</ref> Diese Verpflichtung entfällt, wenn die betreffenden Inhalte vor ihrer Veröffentlichung einer menschlichen oder redaktionellen Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung dafür trägt. Da die Anforderungen an die menschliche bzw redaktionelle Kontrolle nicht konkretisiert werden, unterwerfen sich bspw im journalistischen Bereich zahlreiche Medien freiwilligen Leitlinien (so etwa die [https://www.blm.de/files/pdf2/ki-leitlinien.pdf Leitlinien des Medienrats der Bayerischen Landeszentrale für neue Medien (BLM) zum Einsatz von Künstlicher Intelligenz im Journalismus]).<ref>MwN ''Merkle'' in ''Bomhard/Pieper/Wende,'' KI-VO. Künstliche Intelligenz-Verordnung (2025) Art. 50 Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme Rz 163 f.</ref>

=== KI-Systeme mit minimalem Risiko ===
Für KI-Systeme, die sich nicht unter die aufgezählten Bestimmungen (verbotene Praktiken, Hochrisiko-KI-Systeme, Transparenzpflichten) einteilen lassen, teilweise als "KI-Systeme mit minimalem Risiko" bezeichnet, sieht der AI Act keine zusätzlichen Pflichten vor. Andere nationale oder unionsrechtliche Vorschriften wie die DSGVO können dennoch auf diese Systeme anwendbar sein. Auf freiwilliger Ebene ist jedoch auch bei Systemen, die kein hohes Risiko bergen, eine (teilweise) Unterwerfung unter den AI Act möglich. Dies soll durch die Aufstellung von sog "Verhaltenskodizes" gefördert werden (Art 95 AI Act).

=== GPAI-Modelle (Art 51 ff AI Act) ===
Als Reaktion auf den sprunghaften Durchbruch generativer KI-Modelle, die für viele verschiedene Zwecke eingesetzt werden können, in den Jahren 2022 und 2023 wurden unter Durchbrechung des bisherigen zweck- und risikoorientierten Regelungsansatzes im Entwurfsstadium des AI Act nachträglich Regeln für solche Modelle eingefügt. Ein GPAI-Modell (in früheren Entwurfsfassungen foundation model/Basismodell) ist dabei in Art 3 Z 63 AI Act definiert als ein KI-Modell, das

* das eine erhebliche allgemeine Verwendbarkeit aufweist,
* in der Lage ist, ein breites Spektrum unterschiedlicher Aufgaben kompetent zu erfüllen, und
* das in eine Vielzahl nachgelagerter Systeme oder Anwendungen integriert werden kann.

In den von der EU-Kommission im Juli 2025 veröffentlichten Leitlinien zu GPAI-Modellen werden eine kumulierte Menge der für das Training verwendeten Berechnungen von mehr als 1023 FLOPs und die Fähigkeit, geschriebene oder gesprochene Sprache (aber auch Bilder oder Videos aus Text) zu generieren, als Anhaltspunkte für das Vorliegen eines GPAI-Modells angegeben, es sei denn, das Modell erfüllt die oben angegebenen Kriterien der Allgemeinheit nicht (zB weil es spezifisch nur für die Transkription von Sprache in Text trainiert wurde).<ref>Leitlinien der Kommission zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, Rz 13ff.</ref> Somit ist davon auszugehen, dass die üblichen [https://de.wikipedia.org/wiki/Large_Language_Model LLM]s, wie die GPT-Serie von OpenAI, die Gemini-Serie von Google oder die Claude-Serie von Anthropic als GPAI-Modelle im Sinne dieser Definition einzustufen sind.

Die Befugnisse für die '''Aufsicht, Ermittlung, Durchsetzung und Überwachung''' in Bezug auf Anbieter von GPAI-Modellen werden (ausschließlich) der Kommission zugewiesen und in den Art 88-94 AI Act abweichend geregelt.

==== Abgrenzung der Rollen entlang der Wertschöpfungskette ====
In Bezug auf GPAI-Modelle können drei Rollen unterschieden werden:

# '''Anbieter (Provider):''' Entwickeln, trainieren und veröffentlichen Modelle. Sie tragen primär Verantwortung für Modellqualität, Sicherheit und Dokumentation.
# '''Nachgelagerte Anbieter (Downstream Provider):''' Feintunen, modifizieren oder integrieren Modelle in KI-Systeme.
# '''Betreiber (Deployer):''' Nutzen ein KI-System im praktischen Einsatz.

Ein wesentlicher Zweck der Regulierung von GPAI-Modellen ist, dass nachgelagerte Anbieter, ein GPAI-Modell in ihr KI-System integrieren, Informationen über dieses Modell erhalten und darauf basierend ihren eigenen Verpflichtungen (nach den allgemeinen Regeln des AI Act für KI-Systeme) nachkommen zu können.

==== Differenzierung: GPAI-Modelle ohne/mit systemischem Risiko (Art 51-52 AI Act) ====
Wie bereits in Bezug auf den Anwendungsbereich erläutert muss zwischen KI-Systemen und KI-Modellen unterschieden werden. Ein KI-Modell ist dabei nur ein Bestandteil eines KI-Systems, weitere Komponenten wie eine Nutzerschnittstelle sind erforderlich, damit ein Modell zu einem KI-System wird (ErwGr 97 AI Act). Bspw bietet ChatGPT eine Nutzerschnittstelle, um auf diverse dahinterstehende GPT-Modelle zurückzugreifen. Während KI-Systeme der Hauptgegenstand der Regulierung durch den AI Act sind (risikobasierten Ansatz), unterliegen auf Ebene der Modelle nur GPAI-Modelle einer direkten Regulierung (Art 51 ff AI Act).

Diese Regulierung unterscheidet zwischen GPAI-Modellen ohne und GPAI-Modellen mit systemischem Risiko. Ein solches '''systemisches Risiko''' liegt vor (Art 51 AI Act),

* wenn das Modell über "Fähigkeiten mit hohem Wirkungsgrad" verfügt, die mithilfe geeigneter technischer Instrumente und Methoden, einschließlich Indikatoren und Benchmarks, bewertet werden. Dies wird angenommen, wenn die kumulierte Menge der für sein Training verwendeten Berechnungen, gemessen in Gleitkommaoperationen (floating point operations [FLOPs]),<ref>Definiert als "jede Rechenoperation oder jede Zuweisung mit Gleitkommazahlen, bei denen es sich um eine Teilmenge der reellen Zahlen handelt, die auf Computern typischerweise durch das Produkt aus einer ganzen Zahl mit fester Genauigkeit und einer festen Basis mit ganzzahligem Exponenten dargestellt wird (Art 3 Z 67 AI Act). Grafisch dargestellt in ''RTR'', FLOPs und der AI Act, https://www.rtr.at/rtr/service/ki-servicestelle/ai-act/2024-07-19_FLOPs-AIA-DE.svg.</ref> mehr als 1025 beträgt. Liegen solche Fähigkeiten mit hohem Wirkungsgrad vor, hat der Anbieter die Kommission (unverzüglich) zu informieren (Art 52 AI Act). Oder
* wenn die Kommission in einer Entscheidung festgestellt hat, dass es über solche Fähigkeiten oder eine solche Wirkung verfügt (unter Einbeziehung der Kriterien in Anhang XIII bspw Anzahl der Parameter, Größe des Datensatzes, Multimodalität, etc).

==== Pflichten für Anbieter von GPAI-Modellen (Art 53 AI Act) ====
Anbieter von GPAI-Modellen (ohne systemisches Risiko) müssen (Art 53 AI Act):

* eine technische Dokumentation des Modells erstellen und aktualisieren (Mindestelemente in Anhang XI).<ref>Das heißt (soweit es anhand der Größe und des Risikoprofils des betreffenden Modells angemessen ist) erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; die Architektur und die Anzahl der Parameter; die Modalität [zum Beispiel Text, Bild] und das Format der Ein- und Ausgaben; die Lizenz) und zweitens eine '''ausführliche Beschreibung der Elemente des Modells''' und relevante Informationen zum Entwicklungsverfahren (bspw die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; die Entwurfsspezifikationen des Modells und des Trainingsverfahrens einschließlich Trainingsmethoden und -techniken, die wichtigsten Entwurfsentscheidungen mit den Gründen und getroffenen Annahmen; gegebenenfalls, was das Modell optimieren soll und welche Bedeutung den verschiedenen Parametern dabei zukommt; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden [zum Beispiel Bereinigung, Filterung usw.], der Zahl der Datenpunkte, ihres Umfangs und ihrer Hauptmerkmale; gegebenenfalls die Art und Weise, wie die Daten erlangt und ausgewählt wurden, sowie alle anderen Maßnahmen zur Feststellung, ob Datenquellen ungeeignet sind, und Methoden zur Erkennung ermittelbarer Verzerrungen; die für das Trainieren des Modells verwendeten Rechenressourcen [zum Beispiel Anzahl der Gleitkommaoperationen], die Trainingszeit und andere relevante Einzelheiten im Zusammenhang mit dem Trainieren; bekannter oder geschätzter Energieverbrauch des Modells).</ref> Diese muss auf Anfrage Behörden zur Verfügung gestellt werden.
* Informationen und die Dokumentation (Mindestelemente in Anhang XII)<ref>Das heißt erstens eine '''allgemeine Beschreibung des KI-Modells''' (bspw der Aufgaben, die das Modell erfüllen soll, sowie der Art und des Wesens der KI-Systeme, in die es integriert werden kann; die anwendbaren Regelungen der akzeptablen Nutzung; das Datum der Freigabe und die Vertriebsmethoden; gegebenenfalls wie das Modell mit Hardware oder Software interagiert, die nicht Teil des Modells selbst ist, oder wie es zu einer solchen Interaktion verwendet werden kann; gegebenenfalls die Versionen der einschlägigen Software im Zusammenhang mit der Verwendung des KI-Modells mit allgemeinem Verwendungszweck; die Architektur und die Anzahl der Parameter; die Modalität (zum Beispiel Text, Bild) und das Format der Ein- und Ausgaben; die Lizenz für das Modell) und zweitens eine '''Beschreibung der Bestandteile des Modells und seines Entwicklungsprozesses (bspw''' die technischen Mittel [zum Beispiel Betriebsanleitungen, Infrastruktur, Instrumente], die für die Integration des KI-Modells mit allgemeinem Verwendungszweck in KI-Systeme erforderlich sind; Modalität [zum Beispiel Text, Bild usw.] und Format der Ein- und Ausgaben und deren maximale Größe [zum Beispiel Länge des Kontextfensters usw.]; gegebenenfalls Informationen über die für das Trainieren, Testen und Validieren verwendeten Daten, einschließlich der Art und Herkunft der Daten und der Aufbereitungsmethoden.)</ref> erstellen und aktualisieren und sie Anbietern von KI-Systemen zur Verfügung stellen, die beabsichtigen, das KI-Modell mit allgemeinem Verwendungszweck in ihre KI-Systeme zu integrieren. Diese Informationen und die Dokumentation müssen die Anbieter von KI-Systemen in die Lage versetzen, die Fähigkeiten und Grenzen des KI-Modells mit allgemeinem Verwendungszweck gut zu verstehen und ihren Pflichten gemäß dem AI Act nachzukommen.
* eine Strategie zur Einhaltung des Urheberrechts der Union und damit zusammenhängender Rechte auch durch modernste Technologien, auf den Weg bringen
* eine hinreichend detaillierte Zusammenfassung der für das Training des GPAI-Modells verwendeten Inhalte erstellen und veröffentlichen

===== Pflichten für Anbieter von GPAI-Modellen mit systemischem Risiko (Art 55 AI Act) =====
Anbieter von GPAI-Modellen mit systemischem Risiko müssen (zusätzlich) (Art 55 AI Act):

* eine Modellbewertung mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen, durchführen (inklusive der Durchführung und Dokumentation von Angriffstests beim Modell gehören, um systemische Risiken zu ermitteln und zu mindern)
* mögliche systemische Risiken auf Unionsebene bewerten und mindern,
* einschlägige Informationen über schwerwiegende Vorfälle und mögliche Abhilfemaßnahmen erfassen und dokumentieren und die Behörden darüber unterrichten
* ein angemessenes Maß an Cybersicherheit für die Modelle und die physische Infrastruktur des Modells gewährleisten.

===== Praxisleitfäden (codes of practice) (Art 56 AI Act) =====
Die genannten Pflichten sollen dabei durch sog Praxisleitfäden auf Unionsebene konkretisiert werden, die unter Berücksichtigung internationaler Ansätze zur ordnungsgemäßen Anwendung des AI Act beitragen sollen.

Für die Ausarbeitung solcher Leitfäden können alle '''Anbieter''' von GPAI-Modellen sowie die einschlägigen zuständigen nationalen '''Behörden''' ersucht werden, sich an der Ausarbeitung von Praxisleitfäden zu beteiligen. Organisationen der '''Zivilgesellschaft''', die Industrie, die '''Wissenschaft''' und andere einschlägige '''Interessenträger''' wie nachgelagerte Anbieter und unabhängige Sachverständige können den Prozess ebenfalls unterstützen (Art 56 Abs 3 AI Act).

Am 10. Juli 2025 wurde der Praxisleitfaden "[https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai General-Purpose AI Code of Practice]" veröffentlicht und von der EU-Kommission und vom KI-Gremium am 1. August 2025 gem Art 56 Abs 6 AI Act als angemessen bewertet.<ref>Europäische Kommission, Erstellung eines allgemeinen KI-Verhaltenskodex, https://digital-strategy.ec.europa.eu/de/policies/ai-code-practice.</ref> Zu diesem wurde auch eine [https://digital-strategy.ec.europa.eu/de/faqs/questions-and-answers-code-practice-general-purpose-ai "FAQ-Sektion"] veröffentlicht. Zusätzlich hat die EU-Kommission am 18. Juli 2025 auch Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act veröffentlicht.

Für Anbieter von GPAI-Modellen, die den General-Purpose AI Code of Practice unterzeichnen und diesen einhalten, können dadurch nachweisen, dass sie den AI Act einhalten. Damit soll Rechtssicherheit geschaffen werden. Es handelt sich dabei aber um eine freiwillige Maßnahme und es ist auch nicht ausgeschlossen, die entsprechenden Bestimmungen des AI Act auf andere Weise umzusetzen.

Auf der oben verlinkten Website des General-Purpose AI Code of Practice ist angegeben, welche Anbieter von GPAI-Modellen diesen unterzeichnet haben. Darunter finden sich die meisten Anbieter der gängigen LLMs, wie Anthropic, Google, OpenAI und Mistral AI.

== Durchsetzung/Rechtsbehelfe (Art 85-87 AI Act) ==
Der AI Act normiert nur wenige Rechtsbehelfe für Betroffene.
{| class="wikitable"
|+
!Hinweis:
|-
|In Bezug auf mögliche Rechtsbehelfe muss der AI Act, der diesbezüglich nur eingeschränkte Möglichkeiten bereithält, im Zusammenhang mit der AILD und PLD gesehen werden.
|}

=== Recht auf Beschwerde bei der Marktüberwachungsbehörde (Art 85 AI Act) ===
Zunächst kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass gegen die Bestimmungen des AI Act verstoßen wurde, unbeschadet anderer Rechtsbehelfe, bei der betreffenden Marktüberwachungsbehörde Beschwerden einreichen. Diese Beschwerden werden für die Zwecke der Durchführung von Marktüberwachungstätigkeiten berücksichtigt.

Stand November 2025 wurde in Österreich noch keine Behörde als zuständige Marktüberwachungsbehörde eingerichtet oder benannt. Bereits mit 2. November 2024 sind jedoch einige Behörden und öffentliche Stellen im Grundrechtsbereich gemäß Art 77 Abs 2 mit Aufsichts- und Durchsetzungsbefugnissen für Grundrechte insb im Zusammenhang mit Hochrisiko-KI ausgestattet worden, darunter die Volksanwaltschaft, die Datenschutzbehörde, die Arbeiterkammer, die Gleichbehandlungskommission, die Behindertenanwaltschaft, die KommAustria uvm.<ref>Mehr dazu unter: https://www.digitalaustria.gv.at/themen/kuenstliche-intelligenz/behoerden-art77-ai-act.html.</ref> Dabei treffen auch die (künftig) zuständige Marktüberwachungsbehörde umfassende Kooperationspflichten, wie etwa die Meldung schwerwiegender Grundrechtsvorfälle in diesem Kontext an die genannten Einrichtungen (vgl Art 73 Abs 7 und Art 79 Abs 2 AI Act).<ref>Vgl ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 103, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Dazu hat die Kommission entsprechende Leitlinien zu veröffentlichen, die sich gerade in Ausarbeitung befinden.<ref>Nähere Informationen unter: https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks.</ref>

=== Recht auf Erläuterung der Entscheidungsfindung im Einzelfall (Art 86 AI Act) ===
Zweitens haben Personen,

* die von einer Entscheidung im Einzelfall betroffen sind,
* die der Betreiber auf der Grundlage der Ausgaben eines in Anhang III aufgeführten Hochrisiko-KI-Systems getroffen hat (somit nur eigenständige Hochrisiko-KI-Systeme;<ref>Eine Ausnahme besteht für Hochrisiko-KI-Systeme im Bereich kritische Infrastruktur.</ref> eingebettete Hochrisiko-KI-Systeme wie Medizinprodukte sind nicht erfasst)
* und die rechtliche Auswirkungen hat oder
* sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, ihre Sicherheit oder ihre Grundrechte beeinträchtigt,
das Recht, vom Betreiber eine klare und aussagekräftige '''Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess''' und zu den '''wichtigsten Elementen der getroffenen Entscheidung''' zu erhalten (Recht auf Erläuterung der Entscheidungsfindung im Einzelfall gemäß Art 86 Abs 1 AI Act oder auch gemeinhin als '''"Recht auf Erklärung"''' bezeichnet).<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; ''Müller/Scheichenbauer/Schneeberger'', Der Auskunftsanspruch im Zeitalter KI-gestützter Entscheidungsprozesse. Querverbindungen von Art 15 Abs 1 lit h iVm Art 22 DSGVO und Art 86 AI Act in der Praxis, in ''Jahnel'' (Hrsg), Jahrbuch Datenschutzrecht 2024 (2025) 157; ''Poindl/Müller,'' Das Recht auf Erklärung im AI Act. Betroffenenrecht mit Potenzial oder Papiertiger?, VbR 2025, 40. </ref> Dabei ist es unerheblich, ob das KI-System die Entscheidung gänzlich autonom getroffen hat oder unterstützend beteiligt war, es darf lediglich keine untergeordnete Rolle im Entscheidungsprozess gespielt haben. Steht das Recht auf Erklärung zu, hat die betroffene Person einerseits das Recht, eine Erklärung über die Rolle des KI-Systems im Entscheidungsprozess zu verlangen, worunter einerseits Informationen über die zentralen Aufgaben des Systems im Entscheidungsprozess fallen (zB Zielgruppenselektion, Datenanalyse, Vorgabe der Entscheidung usw.) und andererseits auch der Grad dessen Beteiligung (gering, mittel, hoch), was umgekehrt auch den Grad menschlicher Beteiligung an der Entscheidungsfindung erfordert. Weiters sind die wichtigsten Elemente der Entscheidung zu beauskunften, beispielsweise Eingabedaten, wesentliche Entscheidungsgründe, kontrafaktische Erklärungen (inwiefern hätten andere Parameter zu einer anderen Entscheidungen geführt), die Auswirkungen der Entscheidung, die Gewichtung der einzelnen Kriterien und die Verarbeitungslogik (Informationen über die grobe Funktionsweise des KI-Systems, keine komplette Offenlegung des algorithmischen Codes). Weiters muss die Erklärung präzise, korrekt, verständlich, nicht zu technisch (keine komplexen mathematischen Formeln), aber dennoch vollständig sein.<ref>MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf; </ref> Letzter Referenzpunkt ist stets, ob die betroffene Person auf Basis der erlangten Informationen weitere Rechte geltend machen kann, da das Recht auf Erklärung auch oft als "Türöffner" für die Geltendmachung weiterer Rechte dient (so wird bspw eine Klage wegen Diskriminierung in einem Entscheidungsprozess erst erhoben werden können, wenn die betroffene Person genügend Informationen hat, um die Diskriminierung darzulegen, bspw die Gewichtung von bestimmten persönlichen Merkmalen, die ausschlaggebend für die Entscheidung war).

Es handelt sich somit um ein nachgelagertes bzw ''ex post'' Recht, das nicht nur globale, abstrakte Systemerklärungen erfordert, sondern auch lokale, einzelfallbezogene Auskünfte umfasst, damit die betroffene Person die Informationen wirksam nutzbar machen kann . Das Recht auf Erklärung steht Betroffenen gegenüber Betreibern und nicht gegenüber Anbietern zu, wobei letztere wiederum Betreibern entsprechende Betriebsanleitungen bereitzustellen haben (Art 13 AI Act).

Das Recht auf Erklärung gilt nicht, sofern Ausnahmen nach Unionsrecht oder nationalem Recht bestehen (Art 86 Abs 2). Zu denken wäre hier etwa an Beschränkungen der Informationspflicht aufgrund geschützter Betriebs- oder Geschäftsgeheimnisse, wobei diese nicht zu einer pauschalen Auskunftsverweigerung führen dürfen. Art 86 Abs 1 gilt überdies nur insoweit, als dieses Recht nicht anderweitig im Unionsrecht festgelegt ist (Art 86 Abs 3 AI Act). In Hinblick auf diese [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung Subsidiarität] ist insbesondere an das Auskunftsrecht nach Art 15 DSGVO (iVm Art 22 DSGVO) zu denken.

Das Recht auf Erklärung ist immer dann relevant, wenn Unternehmen, Behörden etc. KI in Entscheidungsfindungsprozessen einsetzen, die Auswirkungen auf bestimmte Personen(-gruppen) haben. Zu denken ist etwa an KI-basierte Entscheidungen über die Vergabe von Krediten, über die Berücksichtigung einer Bewerbung, über die Höhe einer Versicherungsprämie oder personalisierte Werbeschaltungen auf Basis von Emotionserkennung.

Zum Umgang mit dem Recht auf Erklärung in der Praxis hat das ''Research Institute'' im Auftrag des Bundesministeriums für Arbeit, Soziales, Gesundheit, Pflege und Konsumentenschutz Leitlinien entwickelt:

* [https://www.sozialministerium.gv.at/dam/jcr:f1685e43-21b8-48f3-9fe5-2c61898960ae/Final_Aufkl%C3%A4rung%204.0_Unternehmensleitfaden_April2025.pdf Leitfaden für Unternehmen] im Umgang mit Art 86 AI Act
* [https://www.sozialministerium.gv.at/dam/jcr:40ba630c-39af-4b8d-8768-a69192427b09/Final_Aufkl%C3%A4rung%204.0_Konsumentinnenleitfaden_April2025.pdf Leitfaden für Konsument:innen und ihre Interessenvertretungen] zur Durchsetzung ihrer Rechte
* [https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf Theoretischer Grundlagenbericht] zur wissenschaftlichen Fundierung der ausgesprochenen Empfehlungen

=== Meldung von Verstößen und Schutz von Hinweisgebern (Art 87 AI Act) ===
Zusätzlich normiert Art 87 AI Act, dass für die Meldung von Verstößen und den Schutz von Personen, die solche Verstöße melden, die Richtlinie zum Schutz von Whistleblowern gilt.<ref>RL (EU) 2019/1937 des Europäischen Parlaments und des Rates vom 23. Oktober 2019 zum Schutz von Personen, die Verstöße gegen das Unionsrecht melden, ABl L 2019/305, 17.</ref>

== Bedeutung von Normen und Standards (Art 40-42 AI Act) ==
Die Kommission hat die Entwicklung von '''harmonisierten Normen''', die derzeit nicht existieren beauftragt.<ref>Commission Implementing Decision on a standardisation request to the European Committee for Standardisation and the European Committee for Electrotechnical Standardisation in support of Union policy on artificial intelligence, C(2023)3215, https://ec.europa.eu/transparency/documents-register/detail?ref=C(2023)3215&lang=en.</ref> Solche Normen werden im Amtsblatt der EU veröffentlicht.

Stimmen Hochrisiko-KI-Systeme oder GPAI-Modelle mit solchen harmonisierten Normen überein, wird eine Konformität mit den Anforderungen an Hochrisiko-KI-Systeme (Art 8 ff AI Act) oder gegebenenfalls mit den Pflichten für die Anbieter von GPAI-Modellen (Art 53 ff AI Act) vermutet ('''Konformitätsvermutung'''), soweit diese Anforderungen oder Verpflichtungen von den Normen abgedeckt sind (Art 40 AI Act). Diesen harmonisierten Normen kommt somit eine hohe Bedeutung zu, für Rechtssicherheit zu sorgen und die abstrakten Anforderungen des AI Act zu konkretisieren.<ref>MwN ''Ebers'', Standardisierung Künstlicher Intelligenz und KI-Verordnungsvorschlag, RDi 2021, 588.</ref>
{| class="wikitable"
|+
!Hinweis:
|-
|Derartige harmonisierte Normen befinden sich derzeit in Entwicklung und wurden noch nicht veröffentlicht (siehe unterhalb).
|}
Subsidiär kann die Kommission, wenn strenge Bedingungen erfüllt sind (harmonisierte Normen wurden nicht ausgearbeitet oder entsprechen nicht dem Auftrag), Durchführungsrechtsakte zur Festlegung '''gemeinsamer Spezifikationen''' erlassen, mit denen ebenfalls eine solche Konformitätsvermutung einhergeht (Art 41 AI Act).

Ein Kurzüberblick über die Bedeutung von harmonisierten Normen und in Entwicklung befindliche Normen wurde vom Joint Research Centre der Kommission publiziert.<ref>''Soler Garrido/de Nigris/Bassani/Sanchez/Evas/André/Boulangé'', Harmonised Standards for the European AI Act (2024), https://publications.jrc.ec.europa.eu/repository/handle/JRC139430.</ref>

Weitere Konformitätsvermutungen werden in Art 42 AI Act in Bezug auf die Daten-Governance (Art 10 AI Act) und die Cybersicherheit (Art 15 AI Act) für Hochrisiko-KI-Systeme normiert, die mit entsprechenden Daten trainiert und getestet wurden bzw die Cybersicherheitszertifizierungen durchlaufen sind, normiert.

= Synergien =

=== Grundlegende Überschneidungen zwischen dem AI Act und der Datenschutz-Grundverordnung (DSGVO) ===

* Da KI-Systeme bzw -Modelle häufig personenbezogene Daten verarbeiten - bspw im Rahmen des Trainings eines KI-Modells oder zur Entscheidungsunterstützung in Bezug auf konkrete Personen -, stellt sich unweigerlich die Frage nach dem Zusammenwirken des AI Act mit der DSGVO.<ref>Der Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA) des LfDI Baden-Württemberg enthält eine Auswahl von Orientierungshilfen verschiedener Aufsichtsbehörden und Gremien zu den Schnittstellen von DSGVO und KI: https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0. MwN ''Holtz/Ledendal,'' AI Data Governance - Overlaps Between the AI Act and the GDPR (iE, 2026): https://uu.diva-portal.org/smash/record.jsf?pid=diva2%3A1996843&dswid=-4177 sowie der [https://datenschutz-hamburg.de/fileadmin/user_upload/HmbBfDI/Datenschutz/Informationen/DE-Bridge-Blueprint-v.0.9.pdf "Bridge Blueprint"-Entwurf] zur einheitlichen Anwendung von Datenschutz- und KI-Regulierung des Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit (HmbBfDI). </ref> Letztere knüpft ihren Anwendungsbereich nämlich an die Verarbeitung personenbezogener Daten iSd Art 4 Abs 1 DSGVO, worunter alle Informationen zu verstehen sind, die sich auf eine identifizierte oder identifizierbare natürliche Person beziehen. Die DSGVO ist seit 2018 in Anwendung und verfolgt den Grundsatz, dass jegliche Verarbeitung personenbezogener Daten verboten ist, es sei denn, es liegt ein Erlaubnistatbestand nach Art 6 Abs 1 DSGVO vor. Für die Verarbeitung sog "sensibler Daten" nach Art 9 DSGVO (zB Gesundheitsdaten, die ethnische Herkunft, die religiöse Weltanschauung etc.) legt sie noch strengere Maßstäbe an. Damit verfolgt die DSGVO einen horizontalen sowie prinzipienbasierten Ansatz, wonach bei der Verarbeitung personenbezogener Daten bestimmte Anforderungen und Grundsätze einzuhalten sind, ungeachtet der verwendeten Technologie, des Sektors oder des Einsatzgebiets.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 32, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref> Darüber hinaus orientiert sich die Verordnung daran, inwieweit eine bestimmte Datenverarbeitung ein Risiko für die Rechte und Freiheiten natürlicher Personen darstellt ("risikobasierter Ansatz"), wonach sich letztendlich die Strenge der von ihr vorgeschriebenen Verpflichtungen bemisst.
* Der AI Act erkennt das Primat der DSGVO in Art 2 Abs 7 an und statuiert, dass er deren Anwendungsbereich unberührt lässt. Somit gehen im Falle der Verarbeitung personenbezogener Daten durch eine KI-Anwendung die Regelungen der DSGVO grundsätzlich vor, während der AI Act dem ergänzend eine produktsicherheitsrechtliche Komponente beifügt, die während der Entwicklung und des Einsatzes von KI zu beachten ist.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 33, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.</ref>
* Überschneidungen beider Rechtsakte ergeben sich bspw, sobald ein KI-Modell mit personenbezogenen Daten '''trainiert''' werden soll. In diesem Fall braucht es eine Rechtsgrundlage nach Art 6 Abs 1 DSGVO (und ggf Art 9 DSGVO), wobei hier am ehesten die berechtigten Interessen des Verantwortlichen nach lit f leg cit infrage kommen. So hat sich bspw der Facebook-Mutterkonzern Meta auf berechtigte Interessen berufen, um sein Sprachmodell "LLaMA" hinter seiner "Meta AI" mit Nutzerdaten zu trainieren. Dagegen erhob die Verbraucherschutzzentrale NRW Antrag auf Erlass einer einstweiligen Verfügung, letztendlich entschied jedoch das OLG Köln in seinem Beschluss vom 23.05.2025 (15 UKl 2/25), dass sich Meta für das KI-Training mit Nutzerdaten auf berechtigte Interessen stützen könne.<ref>Nähere Informationen unter: https://www.verbraucherzentrale.nrw/urteilsdatenbank/digitale-welt/olg-koeln-weist-eilantrag-der-verbraucherzentrale-nrw-gegen-meta-wegen-kitraining-zurueck-108065.</ref>

=== Folgenabschätzungen: Datenschutz- und Grundrechte-Folgenabschätzung ===
* Der Anwendungsbereich einer Datenschutz-Folgenabschätzung (Art 35 DSGVO) kann sich mit einer Grundrechte-Folgenabschätzung (Art 27 AI Act) überschneiden, wobei eine integrierte Folgenabschätzung durchgeführt werden kann.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 23 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Umgekehrt ist laut Art 35 DSGVO immer dann eine Datenschutz-Folgenabschätzung durchzuführen, wenn eine Datenverarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat, insbesondere bei Verwendung neuer Technologien. Darunter fallen gemäß §2 Abs 2 Z 4 DSFA-V<ref>Verordnung der Datenschutzbehörde über Verarbeitungsvorgänge, für die eine Datenschutz-Folgenabschätzung durchzuführen ist (DSFA-V), BGBl. II Nr. 278/2018.</ref> insbesondere Datenverarbeitung unter Einsatz von künstlicher Intelligenz, welcher jedenfalls die Verpflichtung zur Durchführung einer Datenschutz-Folgenabschätzung nach sich zieht. Somit löst auch der Einsatz von KI unter gewissen Voraussetzungen datenschutzrechtliche Pflichten aus.

=== Verarbeitung von sensiblen Kategorien personenbezogener Daten (Art 9 DSGVO) ===
* Um Verzerrungen (Bias) zu zu erkennen und zu korrigieren, dürfen Anbieter, wenn es unbedingt erforderlich ist, unter strengen Auflagen sensible Kategorien von personenbezogenen Daten (Art 9 DSGVO) verarbeiten (Art 10 Abs 5 AI Act).<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>
* Bei der Entwicklung/Training leistungsfähigerer KI-Modelle kann es zu Friktionen zwischen Art 15 AI Act, der angemessene Genauigkeit iSv Performanz fordert, und Art 9 DSGVO, der die Verarbeitung sensibler personenbezogener Daten prinzipiell verbietet, kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 25 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Zwar gab der Europäische Datenschutzausschuss Ende 2024 eine Stellungnahme zum Training von KI-Modellen heraus, diese behandelt die potentielle Friktion mit Art 9 DSGVO jedoch nur am Rande.<ref>''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en.</ref>

=== Unterschiedliche Verantwortlichkeiten ===

* Die DSGVO stellt primär auf den Verantwortlichen ab. Diese Rolle wird häufig der Betreiber iSd AI Act einnehmen. Die meisten Pflichten nach dem AI Act sind aber primär an Anbieter adressiert. Daher kann es zu einem Auseinanderfallen der Verantwortlichkeiten kommen.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 24, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref>

=== Risikoanalyse: Digital Services Act (DSA) vs AI Act ===
* Der DSA legt einheitliche Regeln für Vermittlungsdienste mit dem Ziel fest, ein vertrauenswürdiges, (rechts-)sicheres und vorhersehbares Online-Umfeld für Verbraucher und Unternehmen durch eine harmonisierte Plattformregulierung zu gewährleisten. Ebenso zielt das Regelwerk auf den Schutz sowie die Gewährleistung einer effektiven Grundrechtsausübung und normiert umfassende Verpflichtungen für Anbieter von Online-Diensten in Form eines abgestuften Regelungsansatzes, der die unterschiedlichen Compliance-Pflichten an die Art und Größe der jeweiligen Online-Dienste knüpft. Dabei kennt der DSA folgende Anbieterkategorien: Anbieter von allgemeinen Vermittlungsdiensten, Hostingdiensten, Online- sowie Transaktionsplattformen und sehr großen Online-Plattformen (VLOPs) und -Suchmaschinen (VLOSEs). Überschneidungen mit dem AI Act können sich auf zweierlei Weise ergeben: Einerseits können KI-Anwendungen zur Generierung oder Manipulation von Inhalten verwendet werden, die dann über Vermittlungsdienste geteilt werden. Andererseits können KI-Systeme das Kernangebot des Diensteanbieters ausmachen, in der Inhaltsmoderation eingesetzt werden oder Produkt- bzw Service-Empfehlungen auf Basis von Nutzerverhalten ("Empfehlungsalgorithmen") schalten.<ref>Vgl ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 48, https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf. </ref> Allgemeine Synergien sind dem [[Digital Services Act (DSA)|Eintrag über den DSA]] zu entnehmen.
* Weiters kann es bei VLOPs und VLOSEs, die generative KI, bspw GPAI-Modelle, integrieren, zu einer Überschneidung zwischen [[Digital Services Act (DSA)|DSA]] und AI Act in Bezug auf die notwendige Risikoanalyse kommen. So fordern die Artikel 34 und 35 DSA die Analyse jener potenzieller systemischer Risiken, die sich durch das Design, die Funktion oder die Nutzung ihrer Services ergeben, insbesondere im Zusammenhang mit algorithmischen Systemen oder Systemen zur Inhaltsmoderation. Demgegenüber legt der AI Act in Art 17 die Verpflichtung für Anbieter von Hochrisiko-KI-Systemen zur Etablierung eines Risikomanagementsystems gemäß Art 9 AI Act fest und sieht spezielle Anforderungen für Anbieter von GPAI-Modellen mit systemischem Risiko vor (Art 55 Abs 1 lit b AI Act). Daher wird teilweise für eine konsolidierte und technologieübergreifende Risikoanalyse plädiert, wobei dem Umstand, dass mehrere Technologien verknüpft sind, entsprechend Rechnung getragen werden muss.<ref>''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024) 19 f, https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.</ref> Im Fall von Anbietern von Hochrisiko-KI-Systemen sieht der AI Act sogar explizit die Möglichkeit vor, Risikomanagementprozesse nach anderen unionsrechtlichen Bestimmungen mit jenen nach dem AI Act zu kombinieren (vgl Art 9 Abs 10 AI Act).<ref>MwN ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), 49, <nowiki>https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf</nowiki>.</ref>

=== Überlappende Anforderungen mit anderem Produktsicherheitsrecht ===

* Art 8 Abs 2 AI Act betont für Produkte, die bereits untere andere Produktsicherheitsvorschriften fallen (Anhang I Abschnitt A), "im Hinblick auf die Gewährleistung der Kohärenz, der Vermeidung von Doppelarbeit und der Minimierung zusätzlicher Belastungen" die Anbieter die Wahl haben, die erforderlichen Test- und Berichterstattungsverfahren, Informationen und Dokumentationen gegebenenfalls in existierende Dokumentationen und Verfahren zu integrieren.

=== Integriertes/kombiniertes Risikomangement ===

* Anbieter von Hochrisiko-KI-Systemen, die den Anforderungen an interne Risikomanagementprozesse gemäß anderen einschlägigen Bestimmungen des Unionsrechts unterliegen, können die in Art 9 AI Act enthaltenen Aspekte als Bestandteil der nach diesem Recht festgelegten Risikomanagementverfahren integrieren bzw die Verfahren kombinieren (Art 9 Abs 10 AI Act).

=== Cybersicherheitsanforderungen ===

* Art 15 Abs 1 AI Act normiert, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden müssen, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen. Neben den in Art 15 Abs 5 AI Act konkretisierten speziellen Maßnahmen an die Cybersicherheit von KI-Systemen bleiben auch andere Anforderungen, bspw nach [[Network and Information Security Directive (NIS II-RL)|NIS2-RL]] anwendbar.

=== Recht auf Erläuterung ===

* In Bezug auf das in [https://wiki.atlaws.eu/index.php/Artificial_Intelligence_Act_(AIA)#Recht_auf_Erl%C3%A4uterung_der_Entscheidungsfindung_im_Einzelfall_(Art_86_AI_Act) Art 86 AI Act normierte Recht auf Erläuterung] besteht potentiell eine Subsidiarität gegenüber anderen Auskunftsansprüchen, insb der Auskunftspflicht nach Art 15 Abs 1 lit h DSGVO iVm Art 22 DSGVO. Demnach steht Personen, die von einer automatisierten Entscheidungsfindung im Einzelfall einschließlich Profiling betroffen sind, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt, das Recht zu, neben allgemeinen Informationen über die Verarbeitung ihrer personenbezogenen Daten aussagekräftige Informationen über die involvierte Logik sowie die Tragweite und Auswirkungen einer derartigen Verarbeitung zu verlangen. Inhaltlich richtet sich der Auskunftsanspruch nach Art 15 Abs 1 lit h DSGVO gemäß rezenter EuGH-Judikatur insb auf die Erläuterung des Verfahrens und der Grundsätze, die bei der automatisierten Verarbeitung der personenbezogenen Daten der betroffenen Person zur Anwendung kamen und zu dem bestimmten Ergebnis geführt haben.<ref>Vgl EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117, Rz 58. </ref> Die Frage nach einer potenziellen Subsidiarität von Art 86 AI Act gegenüber den entsprechenden datenschutzrechtlichen Vorschriften hängt von unterschiedlichen Fallszenarien ab, in denen die jeweils verwendeten Technologien und verarbeiteten Datenkategorien zu unterschiedlichen Ergebnissen führen können:
{| class="wikitable"
|+
!
!Art 86 AI Act
!Art 15 Abs 1 lit h iVm Art 22 DSGVO
!Rechtsfolge
|-
|Hochrisiko-KI-Einsatz in Entscheidungsfindungsprozessen, in denen entweder keine personenbezogenen Daten gemäß Art 4 Z 1 DSGVO verarbeitet werden (zB Verarbeitung lediglich aggregierter Daten) oder keine vollautomatisierte Entscheidung iSd Art 22 DSGVO getroffen wird (etwa weil ein Mensch maßgeblich an der Entscheidungsfindung beteiligt ist)
|Anwendbar
|Nicht anwendbar
|Das Recht auf Erklärung steht vollumfänglich wie in Art 86 Abs 1 dargelegt zu (bei Vorliegen der übrigen Voraussetzungen). Der betroffenen Person sind somit klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu übermitteln, wobei die Erklärung einzelfallbezogen und auf das konkrete Ergebnis gerichtet sein muss. Der Anwendungsbereich von Art 15 (Abs 1 lit h iVm Art 22) DSGVO ist hingegen nicht eröffnet. Das Recht, die Entscheidung anzufechten, steht - zumindest gemäß AI Act - nicht zu.
|-
|Es findet eine vollautomatisierte Entscheidungsfindung auf Basis der Verarbeitung personenbezogener Daten statt, allerdings ohne Beteiligung eines Hochrisiko-KI-Systems iSd Art 6 Abs 2 iVm Anhang III AI Act (bspw wird die Entscheidung durch einen herkömmlichen Algorithmus getroffen, der Anforderungen an ein KI-System nach Art 3 Z 1 AI Act nicht erfüllt oder das KI-System fällt nicht in den Hochrisiko-KI-Bereich)
|Nicht anwendbar
|Anwendbar
|Der Auskunftsanspruch gemäß Art 15 (Abs 1 lit h iVm Art 22) DSGVO steht bei Vorliegen der übrigen Voraussetzungen zu, während das Recht auf Erklärung nach Art 86 AI Act keine Anwendung findet. Es sind der betroffenen Person somit Informationen über die involvierte Logik, Tragweite und Auswirkungen der Entscheidung zu übermitteln, wobei Informationen über die Rolle des eingesetzten Systems nicht darunter fallen. Im Unterschied zu Art 86 AI Act ist in Bezug auf Art 15 Abs 1 lit h DSGVO jedoch noch unklar, ob auch eine Verpflichtung zu einer einzelfallbezogenen Begründung der konkret erzielten Ergebnisse besteht, die über eine abstrakte/allgemeine Erklärung hinausgeht.<ref>Vgl etwa das EuGH-Urteil in der RS Dun & Bradstreet, welches stärker auf das lokale Element, dh die Einzelentscheidung, abzustellen scheint (EuGH 27. 2. 2025, C‑203/22, Dun & Bradstreet Austria, ECLI:EU:C:2025:117). MwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 71, https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.</ref> Art 22 Abs 3 DSGVO enthält jedoch im Gegensatz zum AI Act das Recht, die Entscheidung anzufechten.
|-
|Verarbeitung personenbezogener Daten im Rahmen der Entscheidungsfindung, Einsatz eines Hochrisiko-KI-Systems, vollautomatisierte Entscheidungsfindung
|Anwendbar
|Anwendbar
|Der Anspruch nach Art 86 AI Act tritt ergänzend zu jenem nach der DSGVO hinzu und richtet sich auf jene Informationen, die nach Art 15 DSGVO nicht zu beauskunften sind (bspw die Rolle des KI-Systems im Entscheidungsprozess sowie jedenfalls einzelfallbezogene, lokale Erklärungen). Es handelt sich somit um eine sog "Lückenfüller-Position" von Art 86 AI Act.<ref>Dieser Ansicht folgend und mwN ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), 96 ff, <nowiki>https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf</nowiki>.</ref>
|}
In der Regel werden Betroffene in der Praxis wohl beide Ansprüche gleichzeitig geltend machen. Dies ist allerdings nur möglich, sofern beide Ansprüche auch gegenüber der selben Person bzw Einrichtung geltend zu machen sind. Denn während das Recht auf Erklärung nach Art 86 AI Act gegen den Betreiber des KI-Systems zusteht, ist der Auskunftsanspruch gemäß Art 15 Abs 1 lit h DSGVO gegen jene Person oder Stelle zu richten, welche die Entscheidung getroffen hat (welche zwar meist aber nicht zwangsläufig mit der Person des datenschutzrechtlich Verantwortlichen iSd Art 4 Z 7 DSGVO ident sein wird<ref>Dieser Argumentation folgend: ''Ziegenhorn,'' Wer ist Adressat des Art. 22 DSGVO? Zur Abgrenzung des Entscheiders vom Verantwortlichen, CR 2024, 586.</ref>). Die unterschiedlichen Rollen nach AI Act und DSGVO können somit zusammenfallen, müssen dies allerdings nicht, wodurch sich unterschiedliche Verpflichtungen für die beteiligten Akteure ergeben können.

=== Produkthaftungsrichtlinie neu und Vorschlag für eine AI Liability Directive [zurückgezogen] ===

* Die Produkthaftungsrichtlinie neu (PHRL neu) und insbesondere der (zurückgezogene)<ref>Annexes to the Communication from the Commission to the European Parliament, the Council, the European Economic and Social Committee and the Committee of the Regions. Commission work programme 2025, (11.2.2025) COM(2025) 45 final, 26.</ref> Vorschlag für eine AI Liability Directive (AILD) nehmen direkt auf den AI Act Bezug und verweisen bei der Begriffsverwendung häufig auf diesen. Die AILD kann somit nicht ohne den Kontext des AI Act verstanden werden. So sollten die Pflichten in Bezug auf Hochrisiko-KI-Systeme (Art 8-15 AI Act) wichtige Sorgfaltspflichten in der AILD bilden ([[KI-Haftungsregelungen#AI Act und AILD|siehe ausführlicher im Rahmen der Haftungsregeln]]).

= Sanktionen/sonstige Konsequenzen =

=== Sanktionen (Art 99 AI Act) ===
Art 99 Abs 1 AI Act überträgt die Festsetzung von Sanktionen primär den MS und normiert nur grobe '''Richtlinien''' dafür. Die Kommission hat jedoch Leitlinien (Art 96 AI Act) zu veröffentlichen, die zu berücksichtigen sind.
{| class="wikitable"
|+
!Hinweis
|-
|Zum derzeitigen Stand gibt es noch kein nationales Begleit- bzw Durchführungsgesetz, das die Sanktionen konkretisiert. Auch die notifizierende(n) Behörde(n) und die Marktüberwachungsbehörde(n) (Art 70 AI Act) wurden in Österreich noch nicht benannt.
|}
Somit sind nach dieser Bestimmung Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, zu denen auch Verwarnungen und nicht monetäre Maßnahmen gehören können, von den MS zu erlassen. MS müssen alle Maßnahmen ergreifen, die für deren ordnungsgemäße und wirksame Durchsetzung notwendig sind.

Die vorgesehenen Sanktionen müssen '''wirksam, verhältnismäßig''' und '''abschreckend''' sein und die '''Interessen von KMU''' sowie deren wirtschaftliches Überleben berücksichtigen.

Jeder MS erlässt auch Vorschriften darüber, in welchem Umfang '''gegen Behörden und öffentliche Stellen''' im MS Geldbußen verhängt werden können (Art 99 Abs 8 AI Act).

Die höchsten Geldstrafen drohen für eine Verletzung gegen die verbotenen Praktiken (Art 5 AI Act). Bei Missachtung des Verbots werden '''Geldbußen von bis zu 35 000 000''' Euro oder — im Falle von Unternehmen — von bis zu '''7% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 3 AI Act).

Für Verstöße gegen andere Bestimmungen werden '''Geldbußen von bis zu 15 000 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''3 % des gesamten weltweiten Jahresumsatze'''s des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 4 AI Act):

* Verstöße gegen Pflichten der Anbieter (Art 16 AI Act)
* Verstöße gegen Pflichten der Bevollmächtigten (Art 22 AI Act)
* Verstöße gegen Pflichten der Einführer (Art 23 AI Act)
* Verstöße gegen Pflichten der Händler (Art 24 AI Act)
* Verstöße gegen Pflichten der Betreiber (Art 26 AI Act)
* Verstöße gegen für notifizierte Stellen geltende Anforderungen und Pflichten (Art 31, Art 33 Abs 1, 3, 4, Art 34 AI Act)
* Verstöße gegen Transparenzpflichten für Anbieter und Betreiber (Art 50)
Für die Bereitstellung von '''falschen, unvollständigen''' oder '''irreführenden Informationen''' an notifizierte Stellen oder zuständige nationalen Behörden werden '''Geldbußen von bis zu 7 500 000 Euro''' oder — im Falle von Unternehmen — von bis zu '''1% des gesamten weltweiten Jahresumsatzes''' des vorangegangenen Geschäftsjahres verhängt, je nachdem, welcher Betrag höher ist (Art 99 Abs 5 AI Act).

Um nicht die Wirtschaft zugunsten von größeren Unternehmen zu verzerren sieht Art 99 Abs 6 AI Act '''Sondervorschriften für KMUs''' vor. Diesbezüglich gilt für jede genannte Geldbuße der jeweils niedrigere Betrag aus den genannten Prozentsätzen oder Summen.

Art 99 Abs 7 AI Act präzisiert, welche '''Kriterien''' bei der Entscheidung, ob eine Geldbuße verhängt wird, und bei der Festsetzung der Höhe der Geldbuße zu berücksichtigen sind.<ref>In jedem Einzelfall sind alle relevanten Umstände der konkreten Situation zu berücksichtigen. Darüber hinaus sind bspw die Art, Schwere und Dauer des Verstoßes und seiner Folgen; Größe, Jahresumsatz und Marktanteil des Akteurs; jegliche anderen erschwerenden oder mildernden Umstände etc.</ref>

=== Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union (Art 100 AI Act) ===
Parallel dazu gibt Art 100 AI Act Kriterien für die Verhängung von '''Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union''' durch den Europäischen Datenschutzbeauftragen vor.

Diesbezüglich drohen bei Missachtung der Verbotenen Praktiken (Art 5 AI Act) Geldbußen von bis zu 1 500 000 EUR und bei bei Nichtkonformität des KI-Systems anderen Anforderungen oder Pflichten Geldbußen von bis zu 750 000 EUR (Art 100 Abs 2, 3 AI Act).

=== Geldbußen für Anbieter GPAI-Modellen (Art 101 AI Act) ===
Art 101 AI Act wiederum normiert Sonderbestimmungen für Geldbußen für Anbieter von [[Artificial Intelligence Act (AIA)#GPAI-Modelle (Art 51 ff AI Act)|GPAI-Modellen]], die sich somit nur an einen eingeschränkteren Personen- bzw Unternehmenskreis richten als die "allgemeinen" Sanktionsbestimmungen des Art 99 AI Act.

Diesbezüglich liegt die Zuständigkeit, anders als bei den allgemeinen Sanktionen, bei der Europäischen Kommission. Diese kann gegen Anbieter von GPAI-Modellen '''Geldbußen von bis zu 3% ihres gesamten weltweiten Jahresumsatzes''' im vorangegangenen Geschäftsjahr oder '''15 000 000 Euro''' verhängen, je nachdem, welcher Betrag höher ist.

Dazu muss sie feststellen, dass der Anbieter vorsätzlich oder fahrlässig

* gegen die einschlägigen Bestimmungen des AI Act verstoßen hat (diese Blankettstrafnorm erfasst somit undefiniert alle relevanten Bestimmungen für GPAI-Modelle)
* der Anforderung eines Dokuments oder von Informationen durch die Kommission (Art 91 AI Act) nicht nachgekommen ist oder falsche, unvollständige oder irreführende Informationen bereitgestellt hat
* einer geforderten Maßnahme nicht nachgekommen ist (Art 93 AI Act, bspw Maßnahmen, um die Verpflichtungen gem Art 53, 54 AI Act einzuhalten oder Risikominderungsmaßnahmen)
* der Kommission keinen Zugang zu dem GPAI-Modell oder dem GPAI-Modell mit systemischem Risiko gewährt hat, um eine Bewertung durchführen (Art 92 AI Act, bspw um die Einhaltung der Pflichten aus dieser Verordnung durch den Anbieter zu beurteilen oder systemische Risiken auf Unionsebene zu ermitteln)
Bei der Festsetzung der Höhe der Geldbuße oder des Zwangsgelds muss der '''Art, der Schwere und der Dauer des Verstoßes''' sowie den Grundsätzen der Verhältnismäßigkeit und der Angemessenheit gebührend Rechnung getragen werden.

Geldbußen müssen wiederum wirksam, verhältnismäßig und abschreckend sein (Art 101 Abs 3 AI Act).

== Fallbeispiele ==

=== Beispiel 1: KI-gestütztes Kreditscoring ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System, das bestimmungsgemäß für Kreditscoring eingesetzt wird, führt zur Verweigerung eines Kredits bzw günstigerer Kreditkonditionen für eine Interessentin.
Durch die Trainingsdaten des Systems wurde suggeriert, dass Frauen aufgrund eines niedrigeren Durchschnittseinkommens weniger kreditwürdig wären.
|-
!Einordnung AI Act
|Es liegt ein Hochrisiko-KI-System gemäß Artikel 6 Absatz 2 in Verbindung mit Anhang III Z 5 lit b vor (siehe im Detail [[Artificial Intelligence Act (AIA)#Hochrisiko-KI-Systeme (Art 6 AI Act)|Hochrisiko-KI-Systeme im AI Act]]).
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 1: KI-gestütztes Kreditscoring|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Chatbotassistenz wird von einer Bank im Überweisungsprozess eingesetzt, um Kund*innen die Dateneingabe zu erleichtern.
Bei einem Kunden kommt es in der Folge (ohne sein Verschulden) dadurch zu einer fehlerhaften Überweisung, wobei der zehnfache Betrag überwiesen wird, weil das KI-System bei der Überweisungssumme eine Kommastelle falsch übernommen hat.<ref>Eventuelle sektorale bankenrechtliche Sonderbestimmungen, die auf dieses Beispiel Anwendung finden könnten, werden in diesem Kontext nicht behandelt und einbezogen.</ref>
|-
!Einordnung AI Act
|Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen.
Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein, wobei auf die Interaktion mit einem Chatbot hingewiesen werden muss (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|Transparenzpflichten]]). Je nach Ausgestaltung könnte die Bank die Rolle des Anbieters, des Betreibers des KI-Systems oder beide Rollen zugleich einnehmen.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 2: KI-Chatbot-Assistent für Bankkund*innen|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer ===
{| class="wikitable"
!Sachverhalt
|Ein KI-Assistenzsystem, das standardmäßig auf Betriebssysstemebene bei einer bestimmten Marke privater Computer impementiert ist, wird durch eine Nutzerin des Computers aufgefordert, eine bestimmte Dateien (Scans von wichtigen, privaten Dokumenten) zu suchen.
Aufgrund einer Cybersicherheits-Schwachstelle ist es einem Angreifer allerdings zuvor gelungen, in das System einzudringen, sodass das Assistenzsystem die Dateien an den Angreifer schickt und anschließend auf dem Computer der Nutzerin löscht.

'''Variante:''' Es liegt kein Cyberangriff vor. Bei den von der Nutzerin gesuchten Dateien handelt es sich um Scans von einem Beschluss eines Grundbuchsgerichts zur Löschung eines Pfandrechts. Für die Nutzerin ist weiters nicht erkennbar, dass bei der Eingabe ihrer Suche ein KI-Assistenzsystem aktiv wird. Dieses interpretiert das Wort „''Löschung''“ im Suchbefehl als Anweisung, die entsprechenden Dateien direkt zu löschen, was daraufhin auch passiert.
|-
!Einordnung AI Act
|Für die Nutzerin als Betreiberin liegt vermutlich die "Haushaltsausnahme" vor, wodurch der AI Act nicht zur Anwendung kommt (Art 2 Abs 10 AI Act).
Für den Anbieter: Auch wenn grundsätzlich ein KI-System im Sinne des AI Act vorliegt, würde hierbei grundsätzlich weder eine prinzipiell verbotene Praxis gemäß Art 5 AI Act, noch ein Hochrisiko-KI-System gemäß Art 6 AI Act vorliegen. Selbst wenn das Assistenzsystem in einem Hochrisikobereich iSv Anhang III (zB durch Justizbehörden) Verwendung finden würde, könnte eine Ausnahme nach Art 6 Abs 3 AI Act vorliegen, wenn es kein erhebliches Risiko birgt. Es könnte allerdings, insbesondere je nach den Umständen des Kontextes, die Informationspflicht des Anbieters gemäß Art 50 Abs 1 AI Act einschlägig sein (siehe im Detail [[Artificial Intelligence Act (AIA)#Transparenzpflichten (Art 50 AI Act)|'''Transparenzpflichten''']]). Dies ist primär davon abhängig, ob man das Assistenzsystem als ein System klassifiziert, das "für die direkte Interaktion mit natürlichen Personen bestimmt" ist.
|-
!EInordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 3: KI-Assistenzsystem auf Betriebssystemebene für private Computer|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung ===
{| class="wikitable"
!Sachverhalt
|Ein KI-System wird in einer Klinik zur Erkennung von Hautkrebs eingesetzt, wobei Bildaufnahmen der entsprechenden Hautstellen analysiert werden. Daraufhin erstellt das System eine vorläufige Diagnose und eine Empfehlung für eine Therapie.
Die Trainingsdaten des Systems bezogen sich jedoch überwiegend auf Personen mit hellerer Hautfabe, weshalb das System Hautkrebs bei Personen mit dünklerer Hautfarbe seltener erkennt bzw häufiger fehlerhafte Diagnosen und Therapievorschläge erstellt.

Im Fall eines Patienten folgt die behandelnde Ärztin den fehlerhaften Empfehlungen ohne ausreichende Prüfung, wodurch der Patient einen körperlichen Schaden erleidet.
|-
!Einordnung AI Act
|Da das KI-System ein entsprechendes Medizinprodukt nach der Medizinprodukteverordnung darstellt, die in Anhang I Abschnitt A genannt wird, und ein Konformitätsbewertungsverfahren unter Einbindung Dritter durchlaufen muss, handelt es sich um ein Hochrisiko-KI-System im Sinne des Art 6 Abs 1 AI Act.
Auf Seiten des Anbieters wurden insbesondere die Anforderungen an Trainingsdaten gemäß Art 10 AI Act verletzt.

Grundsätzlich würde die im Sachverhalt genannte Klinik wohl den Betreiber im Sinne des AI Acts darstellen (vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]]). Diesbezüglich könnte eine Verletzung gegen die Pflicht zur menschlichen Aufsicht (Art 14 AI Act) vorliegen, wenn der Betrieb des Systems nicht entsprechend überwacht wird.
|-
!Einordnung AILD/PLD
|[[KI-Haftungsregelungen#Beispiel 4: KI-System zur Hautkrebserkennung, Diagnoseerstellung und Therapieempfehlung|Siehe die Analyse im Rahmen der KI-Haftungsregelungen.]]
|}

=== Beispiel 5: Transkriptionstool im Rahmen der Rechtspflege ===
{| class="wikitable"
!Sachverhalt
|Im Rahmen des Verfassens von Urteilen oder Protokollen wird das gesprochene Wort (Diktat des Entscheidungsorgans) digital aufgezeichnet und anschließend transkribiert. Das System ist in der Lage, mithilfe KI-gestützter Spracherkennung die jeweils Sprechenden (Speaker Diarisation) sowie juristische Begriffe und Redewendungen zu erkennen.
|-
!Einordnung AI Act
|Der Transkriptionssoftware liegt ein Sprachmodell (LLM) zugrunde, das auf maschinellem Lernen basiert. Dieses wird durch ein User-Interface praktisch nutzbar gemacht und stellt somit ein KI-System iSd AI Act dar.
Der Einsatz von KI in der Rechtspflege zu gewissen Zwecken kann in den Hochrisiko-KI-Bereich gemäß Art 6 Abs 2 iVm Anhang III Nr 8 lit a AI Act fallen. Solche Systeme sind jedoch nicht als hochriskant einzustufen, sofern sie für rein begleitende administrative Tätigkeiten bestimmt sind, worunter jedenfalls Spracherkennungsprogramme für das Diktieren von Entscheidungen fallen können (ErwGr 61). In einem nächsten Schritt ist die Ausnahmeregelung des Art 6 Abs 3 AI Act zu prüfen, wonach das System höchstwahrscheinlich gemäß lit a leg cit aus dem Hochrisiko-KI-Bereich ausgenommen ist, da es rein für Protokollierungszwecke eingesetzt wird und damit nur eine eng gefasste Verfahrensaufgabe übernimmt. Ebenso ist denkbar, gemäß lit d leg cit aus dem Hochrisiko-KI-Bereich ausgenommen zu sein, sofern das System lediglich eine vorbereitende Aufgabe für die Urteilserstellung übernimmt.

Bejaht man hingegen das Vorliegen von Hochrisiko-KI, so treffen deren Anbieter die Pflichten der Art 8 ff AI Act und den Betreiber insbesondere die Pflichten nach Art 26 und 27 AI Act.
Sofern es sich um ein KI-Modell mit allgemeinem Verwendungszweck (mit systemischem Risiko) handelt, treffen den Anbieter diesbezüglich Verpflichtungen.
Unabhängig von der Risikoeinstufung des Modells bzw Systems sind darüber hinaus die Transparenzpflichten nach Art 50 AI Act zu beachten sowie ein ausreichendes Maß an KI-Kompetenz unter den Beschäftigten, die mit dem Transkriptionstool arbeiten, herzustellen.
|}

=== Beispiel 6: KI-System zur Filterung und Priorisierung von Bewerbungen ===
{| class="wikitable"
!Sachverhalt
|Ein Unternehmen möchte eine neue Stelle besetzen und erhält unzählige Bewerbungen. Daher entschließt es sich, ein KI-basiertes System einzusetzen, das Bewerbungen filtert und mit einem Einstufungswert versieht, wodurch die Bewerbungen priorisiert werden. Die zuständigen HR-Mitarbeiter*innen weichen nicht mehr von dem Wert ab und vergeben die Stelle schließlich an jene Person, die den höchsten Einstufungswert erhalten hat.
|-
!Einordnung AI Act
|Sofern es sich bei der Anwendung um ein KI-System nach Art 3 Z 1 AI Act handelt, ist der Anwendungsbereich des AI Act grundsätzlich eröffnet. Das Unternehmen ist jedenfalls als dessen Betreiber zu qualifizieren, da es das System in eigener Verantwortung zu beruflichen Zwecken einsetzt. Sofern es das KI-System auch selbst entwickelt / entwickeln lässt und es unter eigener Marke bzw eigenem Namen in Betrieb nimmt, ist es sogar Anbieter.<ref>Vgl jedoch die [[Artificial Intelligence Act (AIA)#Änderung der Rolle des Akteurs/Verantwortlichkeit entlang der Wertschöpfungskette (Art 25 AI Act)|Möglichkeit der Änderung der Rolle]].</ref>
Darüber hinaus stellt das System ein "eigenständiges" Hochrisiko-KI-System nach Art 6 Abs 2 iVm Anhang III Punkt 4a AI Act dar, da es bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet wird, um Bewerbungen zu filtern und Bewerber zu bewerten. Eine Ausnahme nach Art 6 Abs 3 AI Act vom Hochrisiko-KI-Bereich liegt nicht vor, da das KI-System das Ergebnis der Entscheidungsfindung wesentlich beeinflusst (von dem KI-generierten Eignungswert wird nicht mehr abgewichen). Je nach Rolle treffen das Unternehmen nun weitereichende Verpflichtungen. In den meisten Fällen wird das Unternehmen wohl als Betreiber zu klassifizieren sein, weshalb es unter anderem die Betreiberpflichten nach Art 26 AI Act zu erfüllen und unter gewissen Voraussetzungen eine Grundrechte-Folgenabschätzung nach Art 27 AI Act durchzuführen hat. Art 26 Abs 7 sieht grundsätzlich auch die spezielle Betreiberpflicht vor, vor Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertreter und betroffenen Arbeitnehmer über den KI-Einsatz zu informieren. Inwieweit diese Verpflichtung auch gegenüber Bewerbern gilt, die streng genommen (noch) keine Arbeitnehmer sind, ist fraglich und wird wohl zu verneinen sind. Diese vermeintliche Rechtsschutzlücke wird jedoch ohnehin wieder durch die Verpflichtung gemäß Art 26 Abs 11 AI Act ausgeglichen, von Hochrisiko-KI-Entscheidungen betroffene Personen über diesen KI-Einsatz zu informieren.
|}

= Digitaler Omnibus =
Am 19. November 2025 stellte die Europäische Kommission das sogenannte '''„Digital Omnibus Package“''' vor, ein Legislativpaket mit dem Ziel, den digitalen Rechtsrahmen der EU zu vereinfachen.<ref name=":2">Vgl https://ec.europa.eu/commission/presscorner/detail/de/ip_25_2718. </ref> Ziel der Maßnahme ist, Verwaltungs- und Umsetzungskosten zu senken, Rechtsklarheit zu erhöhen und insbesondere kleine und mittlere Unternehmen (KMU) zu entlasten, da Unternehmen zunehmend Schwierigkeiten bei der Umsetzung und Koordination von Vorgaben wie etwa dem AI Act sehen. Das Paket umfasst Änderungen und Anpassungen unterschiedlicher Rechtsrahmen, so auch einige Bestimmungen des AI Act.<ref>Vgl https://ec.europa.eu/newsroom/dae/redirection/document/121744.</ref> Inhaltliche Änderungen betreffen einerseits die Verpflichtung zur Sicherstellung von KI-Kompetenz (Art 4), welche nunmehr nicht Unternehmen bzw. Einrichtungen selbst treffen soll, sondern die Kommission und die Mitgliedstaaten sind dazu angehalten, Anbieter und Betreiber zur Sicherstellung eines angemessenen Maßes an KI-Kompetenz zu unterstützen. Ebenso stellt die Kommission eine Verzögerung der Anwendbarkeit der Hochrisiko-KI-Bestimmungen in Aussicht, welche mit 2. August 2026 bzw 2. August 2027 Anwendung erlangen sollten. Grund ist das Fehlen von entsprechenden Standards, die eigentlich bis August 2025 zu setzen waren und ohne die laut Kommission die Einhaltung der entsprechenden AI Act-Bestimmungen nicht möglich sei. Die Anwendbarkeit der Hochrisiko-KI-Bestimmungen soll sich um bis zu maximal 16 Monate verzögern, wobei die Vorschriften Geltung erlangen, sobald die Kommission die Verfügbarkeit der erforderlichen Standards und Unterstützungsinstrumente bestätigt.<ref name=":2" /> Darüber hinaus enthält der Vorschlag einen neuen Art 4a, der die Verarbeitung sensibler personenbezogener Daten zur Erkennung und Minderung von Bias unter gewissen Voraussetzungen ermöglicht.

= Weiterführende Literatur =

== Kommissionsleitlinien und sonstige Materialen/Verhaltenskodizes ==

* Leitlinien der Kommission zur Definition eines Systems der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 6. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118628
* Leitlinien der Kommission zu verbotenen Praktiken der künstlichen Intelligenz gemäß der Verordnung (EU) 2024/1689 (KI-Verordnung) vom 4. Februar 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118661
* Living Repository zur Förderung des Lernens und des Austausches über KI-Kompetenz vom 04. Februar 2025 (mit Update von April 2025): https://ec.europa.eu/newsroom/dae/redirection/document/112203
* Praxisleitfaden für KI-Modelle mit allgemeinem Verwendungszweck (General-Purpose AI Code of Practice) vom 10. Juli 2025: https://digital-strategy.ec.europa.eu/en/policies/contents-code-gpai
*# Kapitel zu Transparenz: https://ec.europa.eu/newsroom/dae/redirection/document/118120
*# Kapitel zu Urheberrecht: https://ec.europa.eu/newsroom/dae/redirection/document/118115
*# Kapitel zu Sicherheit: https://ec.europa.eu/newsroom/dae/redirection/document/118119
*Leitlinien zum Umfang der Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nach dem AI Act vom 18. Juli 2025: https://ec.europa.eu/newsroom/dae/redirection/document/118340
*Leitlinien und Meldevorlagen zur Meldung schwerwiegender KI-Vorfälle gemäß Art 73 AI Act (''Entwurf, noch in Ausarbeitung''): https://digital-strategy.ec.europa.eu/de/consultations/ai-act-commission-issues-draft-guidance-and-reporting-template-serious-ai-incidents-and-seeks
*''Europäische Kommission,'' AI Act Service Desk. Frequently Asked Questions (FAQs): https://ai-act-service-desk.ec.europa.eu/en/faq.

== Einführungsbücher ==
* ''Hense/Mustac'', AI Act kompakt. Compliance Management- & Use Cases in der Unternehmenspraxis (2024)
* ''Hilgendorf/Roth-Isigkeit'' (Hrsg), Die neue Verordnung der EU zur Künstlichen Intelligenz (2023)
* ''Ulbricht/Brajovic/Duhme'', Praxishandbuch KI und Recht (2024)
* ''Schwartmann/Keber/Zenner'' (Hrsg), KI-Verordnung. Leitfaden für die Praxis² (2024)
* ''Voigt/Hullen'', Handbuch KI-Verordnung. FAQ zum EU AI Act (2024)
* ''Wendt/Wendt'', Das neue Recht der Künstlichen Intelligenz. Artificial Intelligence Act (AI Act)2 (2025)
* ''Windholz'', Praxishandbuch KI-VO (2024)

== Kommentare ==
* ''Bomhard/Pieper/Wende'', KI-VO. Künstliche Intelligenz-Verordnung (2025)
* ''Ebers/Zou'', Artificial Intelligence Act. A Commentary (2025, iE)
* ''Feiler/Forgó'', KI-VO. EU-Verordnung über Künstliche Intelligenz (2024)
* ''Heinze/Steinrötter/Zerdick'', KI-Verordnung. Gesetz über künstliche Intelligenz (2025)
* ''Martini/Wendehorst'', KI-VO. Künstliche Intelligenz-Verordnung (2024) (2. Auflage 2026, iE)
* ''Pehlivan/Forgó/Valcke'', The EU Artificial Intelligence (AI) Act. A Commentary (2024)
* ''Reusch/Chibanguza'', KI-VO. Künstliche Intelligenz-Verordnung (2026, iE)
* ''Schefzig/Kilian,'' BeckOK KI-Recht3 (2025)
* ''Schwartmann/Keber/Zenner'', KI-VO (2024)
* ''Wendt/Wendt'', Artificial Intelligence Act. Article-by-Article Commentary (2026, iE)
* ''Wendt/Wendt'', Artificial Intelligence Act. Gesetz über Künstliche Intelligenz (2025)
* ''Zankl'', KI-Verordnung. Verordnung über künstliche Intelligenz (Artificial Intelligence Act) (2025)

== Weiterführende Materialien/Links ==
* ''BITKOM'', Get Started Guide. AI Act (Stand April 2024), https://www.bitkom.org/sites/main/files/2024-04/bitkom-get-started-guide-ai-act.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Compliance in der Praxis – Schritt für Schritt (Version 1.0 - Stand 29.10.2024), https://www.bitkom.org/sites/main/files/2024-10/241028-bitkom-umsetzungsleitfaden-ki.pdf
* ''BITKOM'', Umsetzungsleitfaden zur KI-Verordnung. Click-Through-Tool, https://www.bitkom.org/Klick-Tool-Umsetzungsleitfaden-KI-Verordnung
* ''CNIL'', Self-assessment guide for artificial intelligence (AI) systems, https://www.cnil.fr/en/self-assessment-guide-artificial-intelligence-ai-systems
* ''EDPB'', Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models (2024), https://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en
* ''European Parliament'', Legislative train: the AI Act, https://www.europarl.europa.eu/legislative-train/theme-a-europe-fit-for-the-digital-age/file-regulation-on-artificial-intelligence
* ''Future of Life Institute (FLI)'', AI Act Explorer, https://artificialintelligenceact.eu/ai-act-explorer/
* ''Future of Life Institute (FLI)'', EU AI Act Compliance Checker, https://artificialintelligenceact.eu/assessment/eu-ai-act-compliance-checker/
* ''Gesellschaft für Datenschutz und Datensicherheit (GDD)'', GDD-Praxishilfe Europäische Datenstrategie: KI-VO, Data Act etc. - Adressaten und Regelungsschwerpunkte der neuen Digitalakte (Stand Juli 2024), https://www.gdd.de/wp-content/uploads/2024/07/GDD-Praxishilfe-Europaeische-Datenstrategie-KI-VO-Data-Act-etc-1.pdf
* ''Graux/Garstka/Murali/Cave/Botterman,'' Interplay between the AI Act and the EU digital legislative framework (2025), https://www.europarl.europa.eu/RegData/etudes/ATAG/2025/778577/ECTI_ATA(2025)778577_EN.pdf.
* ''Hacker'', Der AI Act im Spannungsfeld von digitaler und sektoraler Regulierung (2024), https://www.bertelsmann-stiftung.de/en/publications/publication/did/der-ai-act-im-spannungsfeld-von-digitaler-und-sektoraler-regulierung.
* ''Hochrangige Expertengruppe für Künstliche Intelligenz,'' Ethik-Leitlinien für eine vertrauenswürdige KI (2019), https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60425
* [https://www.baden-wuerttemberg.datenschutz.de/onkida/?v=2.0 Orientierungshilfen-Navigator KI & Datenschutz (ONKIDA)]
* ''Österreichische Datenschutzbehörde'', FAQ zum Thema KI und Datenschutz (Stand: 2. Juli 2024), https://www.dsb.gv.at/download-links/FAQ-zum-Thema-KI-und-Datenschutz.html
* ''Plattform Lernende Systeme'', AI Act der Europäischen Union. Regeln für vertrauenswürdige KI (Juni 2024), https://www.plattform-lernende-systeme.de/files/Downloads/Publikationen/KI_Kompakt/KI_Kompakt_AI_Act_Plattform_Lernende_Systeme_2024.pdf
* ''Research Institute,'' Aufklärung 4.0 - Entscheidungen der KI als Mensch verstehen. Bericht über die theoretischen Grundlagen des Rechts auf Erläuterung der Entscheidungsfindung im Einzelfall nach Artikel 86 AI Act (2025), https://www.sozialministerium.gv.at/dam/jcr:3d0ab567-4d81-40c9-ace8-471a5819178a/Final_Aufkl%C3%A4rung%204.0_Grundlagenbericht_April2025.pdf.
* ''WKO'', KI-Guidelines für KMU. Empfehlungen zum positiven Umgang mit künstlicher Intelligenz (Stand 11.03.2024), https://www.wko.at/digitalisierung/ki-guidelines-fuer-kmu

== Einzelnachweise ==