Brüssel – Die Europäische Union geht als weltweit erste Instanz gegen den Missbrauch von Künstlicher Intelligenz (KI) vor. Am 2. Februar 2025 treten die ersten Regelungen des neuen EU-KI-Gesetzes („AI Act“) in Kraft. Damit sollen Verbraucherinnen und Verbraucher vor manipulativen und diskriminierenden KI-Praktiken geschützt werden.
Bereits seit 2018 schützt die Datenschutz-Grundverordnung (DSGVO) die Privatsphäre von Menschen in der EU. Doch mit dem rasanten Fortschritt der Künstlichen Intelligenz sind neue Risiken entstanden. KI-Systeme analysieren mittlerweile in Echtzeit Suchverhalten, Kaufentscheidungen und persönliche Daten – oft unbemerkt von den Betroffenen. Besonders in Wahljahren warnen Experten vor KI-generierten Desinformationskampagnen, etwa in Form von Deepfake-Videos, in denen Politiker Aussagen tätigen, die sie nie gemacht haben.
Mit dem im Jahr 2024 verabschiedeten „AI Act“ hat die EU nun ein umfassendes Gesetz geschaffen, das weltweit Unternehmen betrifft, die KI in der EU entwickeln, verkaufen oder nutzen. Die schrittweise Umsetzung des Gesetzes erfolgt bis 2026.
Welche KI-Anwendungen sind ab dem 2. Februar verboten?
Besonders brisant ist das Verbot des sogenannten „Social Scoring“, also der sozialen Bewertung von Menschen durch KI. Ein Beispiel: Wer eine Ferienwohnung mieten möchte, könnte basierend auf seinem Social-Media-Verhalten als „unzuverlässig“ eingestuft und abgelehnt werden. Unternehmen dürfen Verbraucher nicht aufgrund ihres sozialen oder wirtschaftlichen Verhaltens benachteiligen.
Darüber hinaus sind folgende missbräuchliche KI-Praktiken ab sofort untersagt:
- Manipulative KI-Systeme, die Nutzer gezielt beeinflussen, um sie zu riskanten finanziellen Entscheidungen zu verleiten (etwa gefälschte KI-generierte Videos, die zum Kauf von fragwürdigen Investments anregen).
- KI-Technologien, die gezielt Kinder oder schutzbedürftige Gruppen ausnutzen, etwa durch psychologische Tricks, um In-App-Käufe in Spielen zu fördern.
Alexander Wahl, Jurist des Europäischen Verbraucherzentrums Deutschland (EVZ), begrüßt das Gesetz: „Der AI Act der EU schützt Verbraucher vor missbräuchlicher Nutzung von KI, indem er manipulative und diskriminierende Praktiken verbietet. Verbraucher müssen künstlicher Intelligenz vertrauen können. Es braucht aber nicht nur klare Regeln, sondern auch eine starke Kontrolle. Nur so kann KI sicher und fair für alle sein.“
Kennzeichnungspflicht für KI-Inhalte ab 2026
In einem weiteren Schritt wird ab dem 2. August 2026 eine Kennzeichnungspflicht für KI-generierte Inhalte eingeführt. Ob Video, Bild, Audio oder Text – Nutzer müssen künftig eindeutig erkennen können, wenn Inhalte durch KI erstellt oder manipuliert wurden. Dies könnte beispielsweise durch Wasserzeichen auf Videos oder spezielle Hinweise in digitalen Medien erfolgen.
Unternehmen, die gegen das neue Gesetz verstoßen, drohen empfindliche Strafen: Sie müssen mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent ihres weltweiten Jahresumsatzes rechnen.
Mit dem „AI Act“ will die EU eine Balance zwischen technischem Fortschritt und Verbraucherschutz schaffen. Während KI große wirtschaftliche Chancen bietet, soll sichergestellt werden, dass die Technologie ethisch vertretbar und transparent bleibt.
