Diskriminierungen oder Falschmeldungen: Künstliche Intelligenz (KI) birgt trotz aller Vorteile auch Risiken. Um diese zu mindern, hat das EU-Parlament an diesem Mittwoch in Straßburg den Weg für ein KI-Gesetz frei gemacht.
Entwickler, Betreiber und Anbieter von gewissen KI-Systemen müssen damit neuen Vorgaben folgen. Doch was heißt das genau?
– Worum geht es bei dem Gesetzesvorschlag? Das Gesetz zielt darauf ab, die Nutzung von Künstlicher Intelligenz (KI) in der Europäischen Union sicherer zu machen. Es soll sicherstellen, dass KI-Systeme transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Ein wichtiger Aspekt ist, dass die KI-Systeme von Menschen überwacht werden und nicht nur von anderen Technologien.
13.03.2024, Frankreich, Straßburg: Die Gesetzgeber der Europäischen Union stimmen über ein Gesetz zur Künstlichen Intelligenz ab. Das EU-Parlament gibt grünes Licht für schärfere Regeln für KI in der Europäischen Union. Foto: Jean-Francois Badias/AP/dpa
Die Pläne gehen auf einen Vorschlag der EU-Kommission von 2021 zurück. Demnach solle KI-Systeme künftig in verschiedene Risikogruppen eingeteilt werden. Je höher die potenziellen Gefahren einer Anwendung sind, desto höher sollen die Anforderungen sein. KI, die zur Manipulation des menschlichen Verhaltens eingesetzt wird, soll demnach in Europa verboten werden.
Künstliche Intelligenz bezeichnet meist Anwendungen auf Basis maschinellen Lernens, bei denen eine Software große Datenmengen nach Übereinstimmungen durchforstet und daraus Schlussfolgerungen zieht.
– Warum sind Regeln wichtig? Die Verwendung von KI ist weitverbreitet und nimmt ständig zu. Obwohl Künstliche Intelligenz oft nützlich ist, birgt sie auch potenzielle Gefahren. So wird Künstliche Intelligenz beispielsweise in sozialen Medien, zur Optimierung von Werbung oder in Einstellungsprozessen verwendet.
Die Europäische Kommission betont, dass, obwohl die meisten KI-Systeme keine großen Risiken darstellen, es wichtig ist, Regulierungen zu schaffen, um alle möglichen Gefahren einzudämmen. Besondere Risiken sieht die Kommission bei biometrischen Überwachungen und bei persönlichen Entscheidungen, die von KI-Systemen unterstützt werden, beispielsweise im Bereich der Strafverfolgung, Bildung und Erziehung.
Foto: Shutterstock
– Auf wen wird sich die Entscheidung auswirken? Das Gesetz gilt für alle, die KI-Systeme innerhalb der EU entwickeln, anbieten oder nutzen. Dies betrifft öffentliche und private Akteure sowohl innerhalb als auch außerhalb der EU, teilte die Kommission weiter mit.
– Wie geht es jetzt weiter? Sechs Monate nach Inkrafttreten des Gesetzes müssen die Mitgliedsstaaten zuerst verbotene Systeme schrittweise außer Betrieb nehmen. Nach zwei Jahren werden dann alle Punkte des Gesetzes vollständig umgesetzt sein.
– Was passiert, wenn sich jemand nicht an das neue Gesetz hält? Die Mitgliedstaaten müssen Sanktionen beschließen, wenn Unternehmen die Vorschriften nicht einhalten. Dies können Geldstrafen sein. Privatpersonen, die Verstöße gegen die Vorschriften entdecken, können sich bei nationalen Behörden beschweren. Diese können dann Überwachungsverfahren einleiten und gegebenenfalls Strafen verhängen.
Arimont zu KI: „Keine Angst haben, aber Risiken regulieren“
„Als erster Kontinent setzen wir Europäer der KI einen spezifischen gesetzlichen Rahmen“, erklärt der ostbelgische EU-Abgeordnete Pascal Arimont (CSP-EVP), der im Rechtssauschuss mit an der Gesetzgebung gearbeitet hat.
„Wir dürfen keine Angst vor KI haben, müssen aber ihre Risiken regulieren. Wir haben als Parlament klar gemacht, dass der Mensch immer im Mittelpunkt der Innovation stehen muss. Dafür haben wir Standards definiert, die auf unseren europäischen ethischen und demokratischen Werten beruhen. Wir müssen Leitplanken haben, um sicherzustellen, dass KI-Systeme wie ChatGPT verantwortungsbewusst entwickelt und eingesetzt werden“, so Arimont.
Pascal Arimont (l.) mit dem Verhandlungsführer des Rechtsausschusses für das KI-Gesetz, Axel Voss (CDU). Foto: Europäisches Parlament
„Denn wir wollen keine chinesischen oder russischen Verhältnisse bei uns in Europa. Das garantiert zwar schon die Charta der Grundrechte, die alle EU-Mitgliedstaaten unterschrieben haben, aber diese muss immer wieder ganz konkret in Gesetze gegossen werden. So verbietet dieses Gesetz in Zukunft u.a. KI-Anwendungen zur biometrischen Kategorisierung, das Auslesen von Gesichtsbildern aus dem Internet oder KI-Anwendungen, die menschliche Emotionen analysieren oder Verhalten manipulieren. KI-Systeme zum ‚social scoring‘, wie es in China zum Einsatz kommt, um eine Bewertung des sozialen Verhaltens seiner Bürger vorzunehmen, werden in Europa klar verboten sein. Da es immer schwieriger wird, künstliche oder manipulierte audiovisuelle Medien – so genannte Deepfakes – online zu erkennen, müssen auch solche Inhalte künftig eindeutig gekennzeichnet werden“, verdeutlicht der ostbelgische EU-Abgeordnete.
In sehr spezifischen Fällen kann KI aber auch sinnvoll eingesetzt werden, z.B. in der Kriminalitäts- oder Terrorismusbekämpfung. „Darum haben wir uns beispielsweise dafür ausgesprochen, dass die Polizei in ganz bestimmten und klar definierten Ausnahmesituationen KI zur Gesichtserkennung einsetzen darf, etwa bei der Suche nach vermissten Kindern oder bei der Verhinderung eines drohenden Terroranschlags. Jede derartige Verwendung unterliegt dann aber einer klaren zeitlichen Eingrenzung und der strikten Einhaltung rechtsstaatlicher Prinzipien wie einer vorherigen gerichtlichen Genehmigung“, erklärt Arimont.
Das Thema KI wird am 2. April ab 20.00 Uhr auch bei dem CSP-Themenabend „Künstliche Intelligenz im Klassenzimmer: Zwischen Herausforderung und Chance“ im Mittelpunkt stehen. Dort wird u.a. der EU-Abgeordnete Axel Voss (CDU-EVP), Verhandlungsführer des Rechtsausschusses für das KI-Gesetz, auf den Einsatz von KI im Bildungswesen und den neuen gesetzlichen Rahmen auf europäischer Ebene eingehen. (dpa/cre)
Ob @Anoroc am 2. April auch bei dem CSP-Themenabend „Künstliche Intelligenz im Klassenzimmer: Zwischen Herausforderung und Chance“ eingeladen ist? Solch eine Koryphäe darf bei so einem Treffen schließlich nicht fehlen.
Europaparlament gibt grünes Licht für Ki-Gesetz.
was bedeutet das konkret ?
Es bedeutet konkret :
Dass man uns belogen hat , belügt und belügen wird.
Es wird viel gebröselt , aber für die wirklichen Probleme die durch die KI entstehen , wie z.B die Arbeitslosigkeit , ist das Europaparlament wie so oft , unfähig ! dagegen etwas zu unternehmen.
Es ist natürlich nicht das erste Problem , bei dem die zwei Gesindel-Häuser ihre Unfähigkeit beweisen werden und es wird auch nicht das letzte sein.
KI wird eine Katastrophe
George Orwell hat uns alle gewarnt und das sehr eindringlich, aber er ahnte es schon in den 1940ziger Jahren, sie machen es trotzdem und führen die Menschheit auch mit den Möglichkeiten der KI in die totale Kontrolle einiger weniger und besonders gewissenloser Staatsoligarchen.
Wenn K1 unsere Politiker in der DG ersetzen würde,, wäre das doch schon ein Fortschritt.
… dann werde ich mit Bud vorbeikommen und dann gibt´s was auf die Nuss!
„KI“ ist gefährlich, aber nicht weil die Roboter die Herrschaft übernehmen sondern weil die „Herrschaft“ KI instrumentalisiert um Entscheidungen zu begründen die Freiheitsrechte einschränken. Die Herrscher verkauften schon immer Zumutungen oder eigenes Versagen als den „Willen der Götter“ und der neue „Gott“ heisst dann „KI“. Wenn der neue Gott „KI“ uns mitteilt dass wir wegen der „Klimakrise“ nicht mehr Auto fahren dürfen, nicht mehr Heizen wie wir wollen, und dass es 69 Geschlechter gibt, dann begeht jeder der dagegen spricht Gotteslästerung. „KI“ als Herrschaftsinstrument ist viel bedrohlicher als die Rechenleistung der Computer….
@ Dax
Es ist viel einfacher als das. Jeder der nicht am menschengemachten Klimawandel glaubt, jeder der unbegrenzte Zuwanderung nicht befürwortet und jeder der den Genderwahn ablehnt ist rääächts und Nazi. So einfach ist das.
Und wenn die „KI“ das bestätigt ist es auch noch „alternativlos“…. 😁
Dax, genau. Früher sagte man „steht im Computer“, noch früher „steht in der Zeitung“.
Was es bedeutet? Der Staat (EU) wird sich dieses Instrument zu Nutzen machen. Zusammen mit dem digitalen Euro wird die Bevölkerung total versklavt. Ja,ich sage bewusst versklavt;da dies ein perfektes Instrument darstellt,um die Massen zu Kontrollieren und Koordinieren. Schon selbstredend, wenn jetzt schon beschlossen wurde, daß die KI für die Polizei und Behörden uneingeschränkt genutzt werden darf. Private aber nicht. Dabei wird man uns die heile Welt erzählen.
Ich ,für meinen Teil werde diese „Demokraten“ aus Brüssel nicht „Wählen“.
Tetdros, Chef der WHO, hat den verschiedenen Länder (der Welt) mitgeteilt dass sie Gesetzte machen sollen, damit die Menschen nur das glauben was die Medien sagen. Die EU war schnell dabei. Nun kann die Krankheit X kommen.
@ANOROC Sie haben Recht die Lügen werden weiter gehen.
Wenn KI umweltfreundlich sein muss, dann darf sie erst garnicht in Aktion treten, egal von wem und egal wann und wo oder warum! Denn alles was Internet benötigt (da ja bekanntermassen : unnötige Stromfresser) ist nicht ‚umweltfreundlich‘ ! Und dann noch : der Mensch selbst ist ja diese ‚Umwelt‘ !!!
OMG, könnten wir mal aufhören, so zu tun, als wäre künstliche Intelligenz das nächste große Ding? Ich meine, ja, cool, Roboter und so, aber Leute, wir ignorieren hier gerade die gigantischen Gefahren, die das mit sich bringt! Arbeitsplätze werden wegautomatisiert, Algorithmen sind voll mit unserem Kram an Vorurteilen und Überwachung? Vergesst es, wir sind quasi nackt vor diesen KI-Überwachungsmonstern! Und wer zum Teufel kümmert sich um Ethik und Regulierung, wenn die Tech-Bros nur auf Profit aus sind?! Wacht auf, Leute, bevor wir alle von unseren eigenen Erfindungen versklavt werden!
Wenn ich bei KI eine Frage eintippe, also bei ChatGPT 3.5, und es bezieht sich auf aktuelle Geschehnisse, bekomme ich meist als Standard-Antwort folgendes oder so ähnlich:
„Als KI-Modell habe ich keinen Zugang zu aktuellen Ereignissen oder Entwicklungen nach Januar 2022.
Mit anderen Worten, das meiste muss 2 Jahre her sein, dann ist Zugriff auf Daten möglich.(über die Qualität der gelieferten Daten will ich hier besser nix schreiben, oft nur Müll)
Wenn ich aber die Überschrift dieser OD-Meldung hier oben eintippe:
„Europaparlament gibt grünes Licht für KI-Gesetz – Was bedeutet das konkret?“
dann bekomme ich eine aktuelle Antwort:
„Das Europaparlament, das Gesetzgebungsgremium der Europäischen Union, hat grünes Licht für ein KI-Gesetz gegeben. Dies bedeutet, dass das Parlament einen Gesetzesvorschlag angenommen hat, der spezifische Regeln und Vorschriften für künstliche Intelligenz (KI) in der EU einführt. Konkret bedeutet dies, dass die EU-Mitgliedstaaten nun verpflichtet sind, die Bestimmungen dieses Gesetzes umzusetzen und durchzusetzen.
Die genauen Auswirkungen und Bestimmungen des KI-Gesetzes können je nach spezifischem Inhalt des Gesetzes variieren. Im Allgemeinen zielen solche Gesetze darauf ab, die Entwicklung, Nutzung und Regulierung von KI-Technologien zu steuern, um sicherzustellen, dass sie ethisch vertretbar, sicher und transparent sind. Dies kann beispielsweise Regeln für den Datenschutz, die Transparenz von Entscheidungen, die Haftung im Falle von Schäden durch KI-Systeme und die Einhaltung ethischer Standards umfassen.
Insgesamt soll das KI-Gesetz dazu beitragen, einen ausgewogenen Ansatz für die Nutzung von KI in der EU zu fördern, der Innovation fördert, aber auch die Rechte und Interessen der Bürger schützt.“
Und schon ist bestätigt, was ich vermutete: diese KI ist politisch korrekt und das sogar zu aktuellen Themen,… oder ansonsten wird die abgeschaltet.