Der EU AI Act – Das Wichtigste zusammengefasst
Der Rat der EU-Mitgliedsstaaten hat am 21.05.2024 das weltweit erste Gesetz zur Regulierung von künstlicher Intelligenz und damit einen einheitlichen Rahmen für den Einsatz von KI in der Europäischen Union verabschiedet. Nun muss der EU AI Act national umgesetzt werden. Die EU-AI-Akte wurde am 12.07.2024 im Amtsblatt der Europäischen Union (ABI.) veröffentlicht mit einem Umfang von mehreren hundert Seiten. Eine Zusammenfassung gibt es in diesem Artikel.
Der EU AI Act
Der EU AI Act soll für klarere Vorgaben im Einsatz von KI im Alltag und für zuhause sorgen und muss nun in nationales Recht umgesetzt werden. Die Bundesregierung möchte dabei Innovation und Risikoschutz vereinen. Fest steht: KI-Anwendungen dürfen nicht missbraucht werden und der Schutz der Grundrechte muss gewährleistet sein. Gleichzeitig brauchen Wissenschaft und Wirtschaft Raum für Innovationen.
Um diese Kriterien zu erfüllen, verfolgt der EU AI Act einen sogenannten risikobasierten Ansatz. Das heißt, je höher das Risiko der Anwendung eingeschätzt wird, desto strenger sind auch die Vorgaben. Außerdem herrscht für jede KI-Anwendung Transparenzpflicht: Zum einen müssen künstlich erzeugte oder bearbeitete Inhalte eindeutig als solche gekennzeichnet werden. Zum anderen muss Verbrauchern zu jeder Zeit transparent gemacht werden, wenn sie mit einer KI interagieren.
Sogenannte hochriskante KI-Systeme müssen außerdem eine Reihe von Anforderungen erfüllen, um für den EU-Markt zugelassen zu werden.
Hochriskante KI-Systeme sind
- Sicherheitsbauteile oder Produkte, die unter die EU-Rechtsvorschriften in Anhang I fallen und einer Konformitätsbewertung durch einen Dritten gemäß diesen Anhang I-Rechtsvorschriften unterzogen werden müssen
- Solche, die unter Anhang III fallen,
außer wenn:
– Das KI-System enge prozedurale Aufgaben ausführt; oder
– Es das Ergebnis einer zuvor menschlich durchgeführten Tätigkeit verbessert; oder
– Die KI Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern aufdeckt und nicht dazu gedacht ist, die, zuvor durchgeführte, menschliche Bewertung, ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen; oder
– Es eine vorbereitende Aufgabe für eine Bewertung durchführt, die für die in Anhang III aufgeführten Anwendungsfälle relevant ist.
KI-Systeme gelten immer dann als risikoreich, wenn sie personenbezogene Daten automatisch verarbeiten, um Aspekte des Lebens von Personen zu bewerten, wie zum Beispiel die Arbeitsleistung, die wirtschaftliche Lage, die Gesundheit etc.
Für KI-Systeme mit einem geringen Risiko gelten lediglich eingegrenzte Transparenz- und Informationspflichten. Der Schutz der Grundrechte muss allerdings immer gewährleistet sein.
Welchen Zweck hat der EU AI Act?
Laut dem deutschen Bundesdigitalminister Volker Wissing soll bei der nationalen Umsetzung des EU AI Acts darauf geachtet werden, dass die maximalen Spielräume für Innovationen genutzt werden, damit KI-Unternehmen in Deutschland und Europa eine Zukunft haben. Gleichzeitig soll damit die Grundlage für einen breiten und sicheren Einsatz von KI gelegt werden: „Wir brauchen KI in allen Bereichen, wenn wir unsere Gesellschaft fit für die Zukunft machen und unsere Wirtschaft wettbewerbsfähig halten wollen.“
Bei der Umsetzung des EU AI Acts in Deutschland soll es vor allem darum gehen, wie Innovationen durch KI besser gefördert werden können und wie sichergestellt werden kann, dass möglichst viele Menschen von den neuen technologischen Möglichkeiten profitieren.
Die wichtigsten Inhalte des EU AI Acts
Hier finden Sie die wichtigsten Regelungen des EU AI Acts:
Der EU AI Act stuft künstliche Intelligenz nach ihrem Risiko ein
- Unannehmbare Risiken sind verboten (beispielsweise soziale Bewertungssysteme und manipulative KI).
- KI-Systeme mit hohem Risiko sollen reguliert werden.
- Die meisten Verpflichtungen treffen die Anbieter beziehungsweise Entwickler der risikoreichen Systeme.
Allzweck-KI (GPAI)
GPAI-Modelle sind KIs, die eine große Allgemeinheit aufweisen und viele unterschiedliche Aufgaben ausführen können.
- Alle Anbieter von GPAI-Modellen müssen technische Unterlagen und Gebrauchsanweisungen bereitstellen, die Urheberrechtslinien einhalten und eine Zusammenfassung der für die Ausbildung verwendeten Inhalte veröffentlichen.
- GPAI-Modelle mit freien und offenen Lizenzen müssen das Urheberrecht einhalten und die Zusammenfassung der Ausbildungsdaten veröffentlichen, außer sie stellen ein systemisches Risiko dar.
- Alle GPAI-Modelle, die ein systemisches Risiko darstellen, müssen Modellbewertungen und Gegentests durchführen, schwerwiegende Vorfälle verfolgen und melden sowie Cybersicherheitsschutzmaßnahmen gewährleisten.
Die Richtlinien gelten nicht für Modelle, die vor ihrer Veröffentlichung auf dem Markt für Forschungs-, Entwicklungs- und Prototyping-Aktivitäten verwendet werden.
Verbotene KI-Systeme nach Kapitel II, Art, 5
- Täuschende oder manipulative Techniken
- Das Ausnutzen von Schwachstellen im Zusammenhang mit Alter, Behinderung oder sozioökonomischen Verhältnissen
- Biometrische Kategorisierungssysteme
- Bewertung oder Klassifizierung von Personen oder Gruppen aufgrund ihres Sozialverhaltens oder ihrer persönlichen Eigenschaften
- Die Bewertung des Risikos, dass eine Person Straftaten begeht
- Der Aufbau von Gesichtserkennungsdatenbanken
- Das Ableiten von Emotionen am Arbeitsplatz oder in Bildungseinrichtungen
- Biometrische Fernidentifizierung (RBI) in Echtzeit in öffentlich zugänglichen Räumen für die Strafverfolgung, außer, wenn mithilfe der Technik Straftaten verhindert werden können oder bei der Suche nach Vermissten unterstützt werden kann
Fazit
Diese Zusammenfassung zeigt zwar die wichtigsten Aussagen des EU AI Acts auf, dennoch würde ich Ihnen empfehlen, den Act einmal ganz durchzuarbeiten. Sie finden ihn hier. Fest steht, dass mit dem KI-Gesetz nun strengere Richtlinien im Umgang mit KI bestehen, damit der Missbrauch von Daten eigeschränkt sowie ein breiterer und sichererer Einsatz von KI gewährleistet werden kann.
Kostenlose Websession
Wenn Sie IT-Unterstützung bei der Optimierung Ihrer Vertriebsprozesse benötigen, dann kontaktieren Sie uns gerne. Wir haben das entsprechende Prozessknowhow und die Erfahrung in unterschiedlichsten Branchen. In einer kostenlosen Websession können wir über Ihre Herausforderungen und Anforderungen sprechen.
FAQ
Was ist der EU AI Act?
Der EU AI Act soll für klarere Vorgaben im Einsatz von KI im Alltag und für Zuhause sorgen. Dabei sollen Innovation und Risikoschutz vereint werden. Einerseits sollen mit dem EU AI Act klarere Vorgaben zur Nutzung von KI gewährleistet und andererseits Wissenschaft und Wirtschaft mehr Raum für Innovationen eingeräumt werden. Je höher das Risiko bei KI-Anwendungen geschätzt wird, desto strenger sind die Vorgaben.
Welchen Zweck hat der EU AI Act?
Bei der nationalen Umsetzung des EU AI Acts soll darauf geachtet werden, dass die maximalen Spielräume für Innovationen genutzt werden, damit KI-Unternehmen in Deutschland und Europa eine Zukunft haben.
Was sind die wichtigsten Inhalte des EU AI Acts?
Der EU AI Act stuft KI nach ihrem Risiko ein und reguliert Systeme mit hohem Risiko. Außerdem gibt es neue Vorgaben für Allzweck-KI (GPAI) und Regeln, die spezielle KI-Systeme als verboten einstufen.
