- Die Nutzung von KI-Systemen, die in der EU als „inakzeptables Risiko“ eingestuft werden, ist vollständig verboten
- Der 2. Februar ist die erste Frist zur Einhaltung des EU AI Act; die Verordnung gilt für alle KI-Technologien, die innerhalb der EU angeboten oder genutzt werden
- Bei Verstößen können Geldbußen in Höhe von 7 % des Jahresumsatzes oder bis zu 35 Millionen Euro (rund 36 Millionen US-Dollar) verhängt werden – je nachdem, welcher Betrag höher ist
Überblick über den EU AI Act
- KI-Risiken werden in vier Stufen eingeteilt und entsprechend reguliert
- Minimales Risiko: z. B. Spam-Filter
- Begrenztes Risiko: z. B. Chatbots für den Kundensupport
- Hohes Risiko: z. B. Systeme zur Unterstützung medizinischer Entscheidungen
- Inakzeptables Risiko: KI, bei der ein hohes Risiko besteht, Menschen körperlich oder psychisch zu schädigen oder zu diskriminieren
- KI, die als inakzeptables Risiko eingestuft wird, ist vollständig von der Nutzung ausgeschlossen
- Typische Beispiele
- Social Scoring: KI, die auf Grundlage des Verhaltens einer Person Risikoprofile erstellt
- Unbewusste Manipulation: KI, die Entscheidungen von Menschen verdeckt oder täuschend beeinflusst
- Ausnutzung schutzbedürftiger Gruppen: KI, die Alter, Behinderung, wirtschaftlichen Status usw. ausnutzt
- Kriminalitätsprognosen auf Basis des Aussehens: KI, die die Wahrscheinlichkeit von Straftaten anhand des Aussehens einer Person vorhersagt
- Biometriegestützte Merkmalsanalyse: KI, die persönliche Merkmale wie etwa die sexuelle Orientierung ableitet
- Echtzeit-Erfassung biometrischer Daten im öffentlichen Raum: KI zur Echtzeit-Erfassung biometrischer Daten für Zwecke der Strafverfolgung
- KI zur Emotionserkennung: KI, die Emotionen von Menschen am Arbeitsplatz oder in der Schule analysiert
- Aufbau von Gesichtserkennungsdatenbanken: KI, die Bilder aus dem Internet oder von Sicherheitskameras sammelt, um Datenbanken für Gesichtserkennung zu erstellen oder zu erweitern
Vorab-Selbstverpflichtung
- Vor der Frist am 2. Februar unterzeichneten um September 2024 herum etwa 100 Unternehmen den „EU AI Pact“ und versprachen, die Regeln schon vor Inkrafttreten des AI Act freiwillig einzuhalten
- Amazon, Google und OpenAI beteiligten sich, Meta, Apple und Mistral unterzeichneten jedoch nicht
- Auch für Unternehmen, die nicht am Pact teilnehmen, gilt grundsätzlich, dass der Einsatz von KI mit unzulässigem Risiko verboten ist
Mögliche Ausnahmeregelungen
- Für Strafverfolgungsbehörden gibt es begrenzte Ausnahmen, damit sie in bestimmten Situationen (z. B. bei der Suche nach Entführungsopfern oder bei akuten Bedrohungen) biometrische Informationen verwenden können
- Auch in diesen Fällen ist festgelegt, dass auf Grundlage des Ergebnisses eines einzelnen KI-Systems keine für eine Person nachteilige Entscheidung getroffen werden darf
- KI zur Emotionserkennung in Schulen oder am Arbeitsplatz kann ebenfalls in begrenztem Umfang zulässig sein, wenn ein berechtigter Grund wie ein medizinischer Zweck oder die Gewährleistung von Sicherheit vorliegt
- Zusätzliche Leitlinien sollen Anfang 2025 veröffentlicht werden, konkrete Inhalte wurden bislang jedoch noch nicht bekanntgegeben
Künftige Aufgaben
- Mit tatsächlichen Sanktionen und der umfassenden Durchsetzung wird voraussichtlich erst nach August gerechnet
- Dann sollen in den einzelnen Ländern die „zuständigen Behörden (competent authorities)“ festgelegt werden, und Geldbußen sowie Durchsetzungsmaßnahmen dürften wirksam werden
- Es besteht die Möglichkeit einer Überschneidung mit anderen Regulierungen (GDPR, NIS2, DORA usw.), was bei Unternehmen für Verwirrung sorgen könnte
- Es ist darauf zu achten, dass Meldepflichten oder Verfahren zum Datenmanagement, die mehrere Regulierungen gleichzeitig verlangen, nicht miteinander in Konflikt geraten
- Unternehmen müssen sich systematisch vorbereiten und dabei künftige Standards, Leitlinien und Verhaltenskodizes berücksichtigen, die noch veröffentlicht werden
2 Kommentare
In letzter Zeit bin ich häufig auf Beiträge gestoßen, in denen es heißt, dass Regulierung das Wachstum der EU ausbremst, und auch diesmal wirkt es so, als käme erst einmal Regulierung, obwohl noch keine klaren Ergebnisse zu sehen sind.
So weit könnte eine gesetzliche Einschränkung vielleicht durchaus sinnvoll sein.
Ich finde, das steht in einem ziemlichen Kontrast zu dieser Nachricht.
In letzter Zeit gibt es wirklich vieles, worüber man nachdenken muss.