Die europäische KI-Verordnung und Menschen mit Behinderungen – Was jetzt wichtig ist

Die KI-VO gilt unmittelbar in allen EU-Mitgliedstaaten, aber die einzelnen Pflichten und Anforderungen finden schrittweise Anwendung: Erste Anforderungen gelten bereits seit dem 2. Februar 2025. Stand Juni 2025 müssen die meisten weiteren Anforderungen bis zum 2. August 2026 umgesetzt sein. (Sollte sich an diesem Zeitplan etwas ändern, werden wir diesen Beitrag entsprechend aktualisieren.)

Zu den bereits umzusetzenden Anforderungen zählen beispielsweise:

Das Verbot von KI-Systemen, die inakzeptable Risiken bergen.
Die Pflicht zur KI-Kompetenz: Anbieter und Betreiber von KI-Systemen müssen Maßnahmen zur KI-Kompetenz bei Nutzer*innen ergreifen.
Die Vorschrift für allgemeine KI-Systeme, die Transparenzanforderungen zu erfüllen.

Vor allem für Menschen mit Behinderungen ist die KI-VO relevant: Einerseits bietet KI große Chancen für mehr Teilhabe und Selbstbestimmung, andererseits birgt sie auch erhebliche Risiken, etwa durch Diskriminierung oder fehlende Barrierefreiheit.

Was ist die europäische KI-Verordnung?

Die KI-VO ist eine Verordnung der EU und soll Künstliche Intelligenz in verschiedenen Bereichen umfassend regulieren. Dabei verfolgt die EU einen sogenannten risikobasierten Ansatz: Je höher das Risiko eines KI-Systems für Grundrechte, Sicherheit oder die gesellschaftliche Ordnung eingeschätzt wird, desto strengere Auflagen gelten. Die KI-Systeme werden bei der Einstufung wie folgt unterteilt:

Verbotene KI-Systeme: KI-Anwendungen, die manipulativ wirken oder Menschen diskriminieren, sind verboten. Dazu gehören beispielsweise Systeme zur Profilbildung, also KI-Anwendungen, die automatisch Profile von Personen erstellen, indem sie umfassend Daten zum Verhalten, zu Vorlieben, Interessen oder zu anderen persönlichen Merkmalen einer Person sammeln und verwenden.
Hochrisiko-KI-Systeme: Systeme, die etwa im Bildungsbereich, in der Arbeitswelt oder bei Behörden eingesetzt werden, unterliegen strengen Anforderungen hinsichtlich Transparenz und Nachvollziehbarkeit und müssen für alle Nutzer*innen zugänglich sein, einschließlich derjenigen mit unterschiedlichen Bedürfnissen und Fähigkeiten (z. B. Menschen mit Behinderungen).
Systeme mit geringem Risiko: Systeme mit geringem Risiko, wie Chatbots sowie Deepfakes, also mit KI veränderte oder erstellte Medieninhalte wie Bilder und Videos, müssen klar und eindeutig gekennzeichnet werden: Nutzer*innen müssen nicht nur verstehen, wie das System funktioniert, sondern auch wissen, dass sie mit einer KI und nicht mit einem Mensch interagieren. Ziel dieser Kennzeichnung ist es, den Nutzer*innen zu ermöglichen, informierte Entscheidungen zu treffen und das Vertrauen in den Umgang mit KI-Systemen zu stärken.

Warum ist die KI-VO relevant für Inklusion und Barrierefreiheit?

KI-Systeme bieten für Menschen mit Behinderungen ein erhebliches Potenzial und können als assistive Technologien, wie Spracherkennung oder intelligente Hilfsmittel, das berufliche wie das alltägliche Leben erleichtern und die Teilhabe an der Gesellschaft verbessern. Beispiele für solche KI-gestützten Assistenztechnologien sind im Technologie-Monitor zu finden und werden in Schulungen, Informationsveranstaltungen und Technologie-Demonstrationen durch Teams des Projektes KI-Kompass Inklusiv gezeigt. Dennoch gibt es auch Risiken. KI-Systeme können Diskriminierung verstärken, wenn sie auf voreingenommenen Daten basieren oder wenn die Bedürfnisse von Menschen mit Behinderungen nicht von Anfang an berücksichtigt werden.

Ein Beispiel für solche Risiken wäre, wenn KI-Systeme bei der Personalauswahl eingesetzt werden, ohne dass sie für Menschen mit Behinderungen barrierefrei zugänglich sind oder ihre speziellen Bedürfnisse ausreichend berücksichtigt werden. Hier können zudem Benachteiligungen auftreten, wenn die verwendeten Daten fehlerhaft oder verzerrt sind und Personen mit Behinderungen bereits vor dem eigentlichen Auswahlprozess ausgeschlossen oder systematisch schlechter bewertet werden.

Die KI-VO spricht diese Risiken an und fordert Transparenz, Rechenschaftspflicht und Barrierefreiheit, um sicherzustellen, dass KI-Systeme den Bedürfnissen aller Menschen gerecht werden. In den Leitlinien des European Disability Forum (EDF) werden dabei unter anderem folgende Aspekte betont: digitale Barrierefreiheit als Standard, barrierefreie Nutzeroberflächen, die Einbindung von Menschen mit Behinderungen in Entwicklungsprozesse sowie Schulungen zu Barrierefreiheit für Entwickler*innen und Entscheidungsträger*innen.

Die Perspektive des European Disability Forum (EDF)

Das European Disability Forum (EDF) hat in einem eigenen Leitfaden wichtige Punkte hervorgehoben, um sicherzustellen, dass die KI-VO inklusiv und gerecht für alle gestaltet wird. Der Leitfaden zur Umsetzung der KI-VO hat eine klare Botschaft: Menschen mit Behinderungen müssen von Anfang an aktiv in die Gestaltung und Kontrolle von KI-Systemen eingebunden werden. Barrierefreiheit muss demnach bereits in der Entwicklung von KI berücksichtigt und diese nicht erst nachträglich angepasst werden.

Ein zentraler Punkt des Leitfadens sind zudem barrierefreie Beschwerdemechanismen und Monitoring-Systeme. Betroffene sollen die Möglichkeit haben, Missstände zu melden und auf ihre Rechte hinzuweisen. Diese Forderung ist besonders wichtig, weil die KI-VO zwar hohe Anforderungen an Transparenz und Nachvollziehbarkeit stellt, aber die Überprüfung der Einhaltung ihrer Regeln durch unabhängige Prüfstellen (noch) nicht umgesetzt ist. Entsprechend sind die Nutzer*innen mit Behinderungen sowie Prüfstellen für Barrierefreiheit die einzigen Quellen für Anbieter und Betreiber, um fehlende Barrierefreiheit zu identifizieren.

Um die Umsetzung des Gesetzes in den EU-Mitgliedsstaaten zu unterstützen, stellt das EDF ein Toolkit zur Verfügung. Es richtet sich an zivilgesellschaftliche Organisationen, politische Entscheidungsträger*innen und Aufsichtsbehörden und bietet praxisnahe Empfehlungen, wie die KI-VO aus der Perspektive von Menschen mit Behinderungen begleitet und optimiert werden kann.

Reaktionen aus Zivilgesellschaft und Politik

Zahlreiche Organisationen der Zivilgesellschaft (z. B. European Digital Rights (EDRi) und European Disability Forum (EDF)) fordern eine stärkere Berücksichtigung von Inklusion und Barrierefreiheit in der KI-VO. Kritisiert wird insbesondere die Tatsache, dass Barrierefreiheit nicht als verpflichtendes Kriterium für alle KI-Anwendungen festgelegt wurde. Besonders Datenschutz- und Grundrechtsorganisationen sehen darin Lücken im Schutz vulnerabler Gruppen, darunter Menschen mit Behinderungen.

Einige EU-Abgeordnete haben öffentlich ihre Unterstützung für die Forderungen des EDF bekundet. Gleichzeitig gibt es jedoch auch Stimmen, die auf die Komplexität der Umsetzung und die Herausforderungen hinweisen, vor denen die Mitgliedsstaaten stehen. Diese Debatte zeigt die Spannungen zwischen Innovation und Inklusion und unterstreicht die Notwendigkeit, Fortschritt so zu gestalten, dass er allen zugutekommt.

Was bedeutet die KI-Verordnung konkret für Deutschland?

Deutschland steht vor der Aufgabe, die KI-VO in nationales Recht umzusetzen und sicherzustellen, dass Inklusion und Barrierefreiheit nicht nur als Nebenthema behandelt werden. Entscheidend ist dabei, dass Menschen mit Behinderungen aktiv in den Umsetzungsprozess einbezogen werden.

Wichtig ist zudem, dass die KI-VO mit bestehenden Gesetzen wie dem Behindertengleichstellungsgesetz (BGG) verknüpft wird. Das BGG hat zum Ziel, Benachteiligungen von Menschen mit Behinderungen zu verhindern und ihre gleichberechtigte Teilhabe am gesellschaftlichen Leben zu fördern. Hierbei können Projekte wie KI-Kompass Inklusiv eine wichtige Rolle spielen, indem sie den Dialog zwischen politischen Entscheidungsträgern und zivilgesellschaftlichen Organisationen fördern und Wissen über inklusive KI-Anwendungen bereitstellen.

Fazit – Was jetzt zählt

Die KI-VO stellt einen bedeutenden Schritt hin zu einer inklusiveren digitalen Zukunft. Damit diese jedoch erfolgreich umgesetzt wird, ist die aktive Beteiligung aller relevanten Akteur*innen erforderlich.

Projekte wie KI-Kompass Inklusiv spielen hierbei eine zentrale Rolle, indem sie Wissen über inklusive KI-Anwendungen bereitstellen, den Dialog zwischen Entscheidungsträger*innen und zivilgesellschaftlichen Organisationen fördern und konkrete Beispiele für barrierefreie KI-Systeme aufzeigen. KI-Kompass Inklusiv bietet neben einem stetig wachsenden Wissenspool auch Schulungen und Informationsveranstaltungen an, die KI-Kompetenzen gezielt auf- und ausbauen, um Fachkräfte und andere Interessierte auf die Entwicklung und den Einsatz von inklusiven KI-Systemen vorzubereiten. So sorgt KI-Kompass Inklusiv dafür, dass Inklusion und Barrierefreiheit von Anfang an berücksichtigt werden, um eine gerechte digitale Zukunft für alle zu ermöglichen.

Quellen:

Inhalte der KI-Verordnung

Zivilgesellschaftliche Perspektiven auf die KI-Verordnung

Leitfäden zur Umsetzung der KI-Verordnung