Die EU-KI-Gesetze der Abgeordneten konzentrieren sich auf „Stiftungsmodelle“

Mit ihren Vorschlägen wollen die beiden Ausschüsse des Europäischen Parlaments konkrete weitere Pflichten für Stiftungsmodelle ergänzen. Im Allgemeinen werden grundlegende Modelle nicht als KI-Systeme mit „hohem Risiko“ eingestuft – es sei denn, sie sind „direkt in“ integriert [a] Hochrisiko-KI-System“.

Neben Änderungsvorschlägen zu Stiftungsmodellen schlugen die Abgeordneten vor, die Liste der nach dem KI-Gesetz verbotenen KI-Anwendungen zu erweitern. Sie schlugen außerdem Änderungen der Kriterien für KI-Systeme mit „hohem Risiko“ vor – die Systeme müssten ein erhebliches Risiko darstellen, die Gesundheit, Sicherheit oder Grundrechte der Menschen zu beeinträchtigen, um gemäß ihren Vorschlägen auf diese Weise kategorisiert zu werden.

Anbieter müssen die Regulierungsbehörden benachrichtigen, wenn sie nicht der Meinung sind, dass ihre Systeme ein „erhebliches Risiko“ darstellen, wobei die Gefahr von Geldstrafen besteht, wenn Systeme in Betrieb genommen werden, sich aber später herausstellt, dass sie falsch klassifiziert sind.

Die Parlamentarier schlugen außerdem vor, die Pflichten für Hochrisiko-KI-Anbieter deutlich strenger zu gestalten, insbesondere in Bezug auf Risikomanagement, Datenmanagement, technische Dokumentation und Aufzeichnungen. Darüber hinaus wurde eine völlig neue Anforderung an Nutzer von Hochrisiko-KI-Lösungen vorgeschlagen, eine Grundrechtsfolgenabschätzung durchzuführen, die Aspekte wie die möglichen negativen Auswirkungen auf Randgruppen und die Umwelt berücksichtigt.

Das Konzept der Gremien sieht zudem übergeordnete Grundsätze vor, die für alle KI-Systeme gelten. Diese Prinzipien sind menschliche Entscheidungsfreiheit und Aufsicht; technische Robustheit und Sicherheit; Datenschutz und Datenmanagement; Transparenz; Vielfalt, Nichtdiskriminierung und Fairness; und soziales und ökologisches Wohlbefinden.

Die Technologierechtsexpertin Sarah Cameron von Pinsent Masons sagte, die Einbeziehung der übergreifenden Grundsätze zeige, dass die EU-Gesetzgeber den Ansatz zur Kenntnis nehmen, den andere politische Entscheidungsträger weltweit in der Frage der KI-Regulierung verfolgen.

„Viele in der Technologiebranche und darüber hinaus bevorzugen den prinzipienbasierten Ansatz des Vereinigten Königreichs, bei dem die Interpretation und Umsetzung den vertikalen Regulierungsbehörden überlassen wird, die sich auf den Kontext und die Verwendung konzentrieren, statt der horizontalen, sektorübergreifenden Regeln der EU, die sich auf das Risikoniveau in bestimmten Systemen konzentrieren – Dies ist ein eher technologieorientierter Ansatz“, sagte Cameron.

„Einige der im jüngsten Entwurf des Europäischen Parlaments vorgeschlagenen Änderungen signalisieren möglicherweise nur eine Abschwächung des Ansatzes oder eine Anspielung auf die anderen, weniger strengen, prinzipienbasierten Ansätze, die in anderen Ländern wie dem Vereinigten Königreich, den USA, Singapur und Japan verfolgt werden.“ „Es entstehen neue Herausforderungen und die Notwendigkeit von Zusammenarbeit und Interoperabilität“, sagte sie.

„Bemerkenswert ist zum Beispiel die neue Präambel, dass die OECD-basierte Definition eng mit der Arbeit internationaler Gremien, die sich mit KI befassen, abgestimmt werden sollte, um Rechtssicherheit, Harmonisierung und breite Akzeptanz zu gewährleisten, ebenso wie die Annahme übergreifender Grundsätze, die für die gesamte KI gelten.“ Systeme gelten. , und die Messlatte für das, was als Hochrisikosystem gilt, höher legen. Es ist wichtig, dass wir eine effektive und produktive Zusammenarbeit auf internationaler Ebene sehen, wenn wir einen innovationsfördernden und vertrauensbildenden Ansatz verfolgen wollen „Können von KI-Entwicklern und -Nutzern bewältigt werden, zumal die EU möglicherweise feststellt, dass sie nicht den globalen Standard für die KI-Regulierung festlegt, wie sie es mit der DSGVO getan hat“, sagte Cameron.

Die Vorschläge der beiden parlamentarischen Ausschüsse werden voraussichtlich vom gesamten Europäischen Parlament in einer Abstimmung angenommen, die zwischen dem 12. und 15. Juni stattfinden soll. Sobald das Parlament seinen Standpunkt festgelegt hat, wird es bereit sein, sogenannte Trilogverhandlungen über die Fertigstellung des Textes mit der Kommission und dem Ministerrat zu eröffnen verabschiedete Ende 2022 einen eigenen Textentwurf.