Vorläufige Einigung in den Trilogverhandlungen zum AI-Act erzielt

Die neuen Vorgaben sollen die biometrische Kategorisierung auf der Grundlage sensibler Merkmale, das wahllose Auslesen von Gesichtsbildern, die soziale Bewertung (Scoring), die Erkennung von Emotionen in der Bildung und am Arbeitsplatz sowie manipulative und ausbeuterische Praktiken durch KI verbieten. Gesichtserkennungssysteme sollen nicht vollständig verboten werden; es sollen zusätzliche Sicherheitsvorgaben vorgegeben werden, die vor einem Missbrauch von Gesichtserkennungssystemen schützen sollen. Für sogenannte Hochrisiko KI-Systeme soll unter anderem eine obligatorische Grundrechtsfolgenabschätzung eingeführt werden, die auch für den Versicherungs- und Bankensektor gelten soll. Des Weiteren wurde sich darauf geeinigt, dass sogenannte General-Purpose AI und Foundationmodelle in Zukunft bestimmten Transparenzvorgaben unterliegen soll. General-Purpose AI mit systemischen Risiken sollen als eigene Kategorie strengeren Anforderungen unterliegen. Die Nichteinhaltung der Vorschriften soll zu Geldbußen führen; diese sollen je nach Verstoß und Größe des Unternehmens zwischen 35 Millionen Euro oder 7 % des weltweiten Umsatzes und 7,5 Millionen oder 1,5 % des Umsatzes liegen.

Nach der erzielten vorläufigen Einigung wird die Arbeit an dem finalen Text auf technischer Ebene in den kommenden Wochen fortgesetzt; bestimmte Einzelheiten der neuen Verordnung sollen dementsprechend noch fertig gestellt werden. Sobald dies abgeschlossen ist, muss der gesamte Text von EU-Parlament und Rat bestätigt und förmlich angenommen werden.

Mehr Informationen finden Sie hier: https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473 https://www.consilium.europa.eu/en/press/press-releases/2023/12/09/artificial-intelligence-act-council-and-parliament-strike-a-deal-on-the-first-worldwide-rules-for-ai/  https://www.europarl.europa.eu/news/de/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai