EU AI Act

Der „EU AI Act“ (Gesetz über künstliche Intelligenz) ist der weltweit erste umfassende Rechtsrahmen zur Regulierung von künstlicher Intelligenz. Er wurde von der Europäischen Union ins Leben gerufen, um sicherzustellen, dass in Europa eingesetzte KI-Systeme sicher, transparent und im Einklang mit den Grundrechten stehen. Die Verordnung folgt einem risikobasierten Ansatz: Je höher das potenzielle Risiko einer KI-Anwendung für die Gesellschaft ist, desto strenger sind die gesetzlichen Anforderungen.

Im Zentrum des AI Acts stehen verschiedene Risikostufen und regulatorische Konzepte:

• Inakzeptables Risiko (Verbotene KI): Anwendungen, die eine klare Bedrohung für die Sicherheit oder die Rechte von Menschen darstellen, sind seit Anfang 2025 strikt untersagt. Dazu gehören beispielsweise Systeme zum staatlichen „Social Scoring“, manipulative Techniken zur Verhaltensbeeinflussung oder die biometrische Echtzeit-Identifizierung im öffentlichen Raum (mit engen Ausnahmen).

• Hohes Risiko (Hochrisiko-KI): Diese Systeme sind in sensiblen Bereichen wie dem Gesundheitswesen, der kritischen Infrastruktur, der Strafverfolgung oder dem Personalwesen (z. B. KI-gestützte Bewerberauswahl) im Einsatz. Sie unterliegen seit August 2026 strengen Auflagen hinsichtlich des Risikomanagements, der Datenqualität, der technischen Dokumentation und der menschlichen Aufsicht.

• KI mit allgemeinem Verwendungszweck (General Purpose AI / GPAI): Hierunter fallen mächtige Basismodelle (wie die Technologien hinter ChatGPT), die für viele verschiedene Aufgaben eingesetzt werden können. Für diese Modelle gelten bereits seit 2025 spezifische Transparenzregeln und Anforderungen an das Urheberrecht, um eine faire Nutzung von Trainingsdaten zu gewährleisten.

• Begrenztes und minimales Risiko: Die Mehrheit der heute genutzten KI-Anwendungen (z. B. Spam-Filter oder KI-gestützte Spiele) fällt in diese Kategorie. Hier bestehen kaum gesetzliche Pflichten, außer bestimmten Transparenzregeln – so müssen Nutzer beispielsweise informiert werden, wenn sie mit einem Chatbot interagieren oder wenn Inhalte (wie Deepfakes) KI-generiert sind.

Das primäre Ziel des EU AI Acts ist es, das Vertrauen der Bürger und Unternehmen in die Technologie zu stärken und gleichzeitig Innovationen zu fördern. Durch die Schaffung einheitlicher Regeln für den gesamten EU-Binnenmarkt bietet das Gesetz dem Mittelstand Rechtssicherheit und etabliert einen weltweiten Standard für ethische und verantwortungsbewusste künstliche Intelligenz. Seit der vollständigen Anwendung im August 2026 müssen Unternehmen zudem nachweisen, dass ihre Mitarbeiter über eine ausreichende KI-Kompetenz (AI Literacy) verfügen, um die Systeme sicher bedienen zu können.