Algorithmic systems are getting higher and higher in all Lebensbereichen eingesetzt – die Umstände bleiben aber im Dunklen. There are several automation mechanisms that put Leben auf den Kopf: when an algorithmic system merges the Missbrauch of Sozialleistungen and prevents Menschen from schickt in the finanziellen Ruin, when Studienplätze roads an opaque and discriminatory algorithmic Bewertungssystems were zurückgezugen or wenn Arbeitgeber ihre Mitnenar* penal , weil a Fehler im System sagt, dass Geld in der Kasse fehlt.
Die Antwort der Europäischen Union auf solche Auswirkungen von Künstlicher Intelligenz ist der Artificial Intelligence Act (AI Act). It is the first Gesetz Weltweit, mit dem KI in all Lebensbereichen regularity were soll. Dieser Prozess was weltweit geobachtet, das Gesetz over the EU hinaus Wirkung zeigen wird. Gegenwärtig traded by the EU Parliament and der EU-Rat jewelery internally by the EU-Kommission verasten Gesetzentwurf. Anschließend, those three Institutions became Trilog-Verhandlungen aufnehmen.
Here’s an explanation for the new regulations and the political litigation going on in their heads.
Wer ist von dem neuen Gesetz affected?
Erstens alle Menschen, die in der EU leben, and die Gesellschaft als Ganzes, die meisten auf die some kind of art with the Regelungen für KI-basierte Systeme in Berührung kommen. Zweitens get from the introduction of the AI law on the EU countries, the EU governments of new technology for the Grenzcontrolle nuts, indem and the Drittstaatsangehörige überwachen, for all migrants *collect.
Drittens sind Unternehmen, die KI-Systeme innerhalb der EU bereitstellen or zum Einsatz bringen (im Wortlaut des Gesetzes die “Anbieter und Nutzer”), and die Bestimmungen des AI Act bunden. Either when the AI system became trusted in the EU – unabhängig vom Ort, von hen aus die Systeme betrieben zijn – or as der Betrieb der Systeme in der EU Folgen hat – unabhängig davon, wo diese betrieben zijn.
Geht es nur um Maschinelles Lernen? Geltungs- and Anwendungsbereich
Was it an AI-based system? Durch diese Definition wird bereits zu onem großen Teil bestimmt, welche Systeme in den Geltungsbereich des Gesetzes have fallen. Im Entwurf der EU-Kommission zum AI Act wurde der Begriff eher weit gefassst final. Der EU-Rat en die vertretenen Mitgliedsstaaten put sich für eine engere Definition ein, etwa indem sie den Begriff auf Maschinelles Lernen belimiting möchten. A certain system, which consists of a technical perspective and is a complex system, which emerges from the Maschinellem Lernen beruhen, die father of Geltungsbereich des AI Acts ausgesschlossen. Der Einfluss Solcher Systeme kan nichtsdestotrotz ebenso schädlich sein who der complexer Systeme, die etliche Fall.
Außerdem leg der Entwurf zum AI Act fest, dass der Einsatz von KI-Systemen zu militärischen Zwecken außerhalb des Anwendungsbereichs des Gesetzes liegt. Der EU-Rat and a single Mitglieder of the EU Parliaments have this Einschränkung auf Belange der nationale Sicherheit ausweiten. Dies würde (etwa auch autokratischen) Regierungen ermöglichen, biometric massenüberwachung einzuführen or auch eine totalitäre Kontrolle durch die Vergabe von Punkten für erwünschtes Verhalten (“Social Scoring”) auszuüben: Solche Maßnahmen sind black unter dem AI Act verboten, aber sie im Name könnten nationalen Sicherheit durch die Hintertür but möglich bleiben.
Was ist vom AI Act zu erwarten?
Der AI Act followed a risk-based Ansatz, um zu gewährleisten, dass der Einsatz KI-basierter Systemen keine negatives Auswirkungen auf die Sicherheit, Gesundheit en Grundrechte von Menschen hat. Die jeweiligen gesetzlichen Auflagen hängen von dem jeweiligen Risikopotenzial ab: Inakzeptabel risikoreiche Systeme sind verboten, Hochrisiko-Systeme unterliegen bestimmten Regeln and low-risk KI-Systeme sind keinen Auflagen unterworfen.
Provided beneficent protection schädliche Auswirkungen von KI-based systems are implemented, the regulierungsrahmen of the AI Act will abhängen. If persons who have law and law enforcement authorities that can unite fall into their fundamental right by Voraussagen and Entscheidungen dieser Systeme verletzt wurden, en welche genau dies sind.
Mit Social Scoring will make the Vertrauenswürdigkeit a person in turn. Im Entwurf zum AI Act wird dies Verfahren verboten, that is if unvereinbar mit den Werten der EU gilt. Most doubts about Social Scoring von Regierungen and umfasst nicht ein Social Scoring during Privatunternehmen. Vorausschauende Polizeiarbeit soll nach den Angaben von Dragoş Tudorache und Brando Benifei, für den Act Zuständige Rapportersstatter im EU-Parlament, auch verboten, da sie “die menschliche Würde verletzt, gegen die Unfoutsvermutung verstößt und einondersonderesgt in Diskrimini sichungsrisbiriko. Der Entwurf schränkt den Einsatz von Gesichtserkennung durch Strafverfolgungsbehörden and öffentlichen Orten ein.Allerdingen without the risk, that Raum für den Einsatz of biometric mass measurements. Deutschland is one of the few MitgliedsStaten, der ein stricter Verbot unterstützen en Gesichtserkennung and öffentlich zugänglichen Orten gänzlich untersagen. Those one-sided translations that can be used to be used, when an Ausnahmeklausel für nationale Sicherheit eingeführt and the KI system in an irgendeiner Form unter Berufung darauf eingesetzt became.
Hochrisiko-KI-Systeme, die in Bereichen wie der vorausschauenden Polizeiarbeit, Einstellungsverfahren or der Grenzkontrolle zum Einsatz kommen, müssen einer Konformitätsprüfung durch den Anbieter unterzogen zijn. If you want the best options of your choice available.
Transparency and Rechenschaftspflicht
Der AI Act has an EU-Datenbank for, in der Hochrisiko-KI-Systeme registriert. In that database where the internal hall of the EU is located and the security system has been expanded, it is important that information is available, which we can find or which have been eingesetzt. A number of parlamentsmitglieders and der Rapporteurstatter Brando Benifei sprechen sich dafür aus, dass auch diese Anwendung from Hochrisiko-Systemen registriert were muss, wenn der Nutzer one oftliche Behörde or der one person ist, die im Namen der Behörde trades.
Die im Raum stehenden Bußgelder, die im Fall are one of the sentences that the AI Act fällig wären, sind beträchtlich. Ein Schadensersatz für Betroffene ist im Entwurf der Kommission jedoch nicht vorgesehen. Zum gegenwärtigen Zeitpunkt gesteht die Verordnung Betroffenen keine direkten individualn Rechte zu. Ausserdem sieht sie wether individual bzw. kollektieve Schadensersatzleistungen vor noch Untersuchungsverfahren zum Einsatz von Hochrisiko-Systemen, die für Personen or zivilgesellschaftliche Organizations zugänglich wären. Manche Parlamentsmitgliieder setzen sich gerade dafür ein, das Involved Rechte zugesprochen en Rechtsbehelfsverfahren en die Hand gegeben, etwa: das Recht, keinen nicht conform KI-Systemen ausgesetzt zu sein; as Right to a Erklärung, aus welchen Gründen die Entscheidungen eines Hochrisiko-Systems Zustande komkom sind; Whether it is Lawful, whether it is an Aufsichtsbehörde or a Beschwerde einzureichen.
Das Gesetzgebungsverfahren
The EU Commission approved the law on artificial intelligence in April 2021. The EU Parliament and the EU Rat have started the treaties. Anders als sonst üblich führen zwei Ausschüsse die Verhandlungen im EU-Parliament: der Ausschuss für Binnenmarkt und Verbraucherschutz (Committee on the Internal Market and Consumer ProtectionIMCO) with the Messagersstatter Brando Benifei und der Ausschuss für bürgerliche Freiheiten, Justiz und Inneres (Committee on Civil Liberties, Justice and Home Affairs; LIBE) with the Messagersstatter Dragoş Tudorache. In April 2022, the two message messages in the AI’s message explained for – either they thought it was Teile, or they were constantly around. Die Mitglied des Europäischen Parlaments haben tabellarisch über 3000 Änderungen zum Entwurfsbericht sisterammengetragen. Those different options were brought together by one of the following collaborations, the inner hall of the Ausschüsse in October was automatically solved. At the plenary session, which is set for November 2022, all members of the EU parliaments promote the version of the Gesetzentwurfs ab. The fact is that you think that the process that will be carried out in 2023 will expire. Der EU-Rat will have an Einigung in December 2022. If both institutes are internal and one of them could find that the Trilog-Verhandlungen and the three Organe abschließend are einigen müssen.
In Germany since the Justizministerium and the Bundesministerium for Umwelt, Naturschutz, nukleare Sicherheit and Verbraucherschutz für den Gesetzentwurf federführend sistertändig. You can control the positions of other ministries who take the EU rats.
Read more about policy and advocacy Arbeit zum Artificial Intelligence Act.