Der Entwurf des KI-Gesetzes sieht Verpflichtungen f\u00fcr KI-Anbieter und -Nutzer vor, die sich nach dem Grad des von der KI ausgehenden Risikos richten. Dabei wird zwischen vier Hauptrisikostufen unterschieden: inakzeptabel, hoch, Risiko im Zusammenhang mit generativer KI, begrenztes Risiko.<\/p>\n\n
\n\n
[1]<\/a> Die slowakische Fassung dieses ersten Entwurfs ist zusammen mit der Begr\u00fcndung hier \u00f6ffentlich zug\u00e4nglich: KI-Systeme mit inakzeptablem Risiko sind Systeme, die als Bedrohung f\u00fcr den Menschen angesehen werden und in der EU verboten werden sollen. Dazu geh\u00f6ren: <\/p>\n\n Ausnahmen, wie z.B. ’nachgelagerte‘ biometrische Fernidentifizierungssysteme, bei denen die Identifizierung mit einer erheblichen Verz\u00f6gerung erfolgt, werden f\u00fcr die Verfolgung schwerer Straftaten und nur mit Genehmigung des Gerichts zugelassen.<\/p>\n\n KI-Systeme, die sich negativ auf die Sicherheit oder die Grundrechte auswirken, werden als hohes Risiko eingestuft und in zwei Kategorien eingeteilt: (i) KI-Systeme, die in Produkten verwendet werden, die unter die EU-Rechtsvorschriften zur Produktsicherheit fallen. Dazu geh\u00f6ren Spielzeug, Luftfahrt, Autos, medizinische Ger\u00e4te und Aufz\u00fcge. (ii) KI-Systeme, die in acht spezifische Bereiche fallen, die in einer EU-Datenbank registriert werden m\u00fcssen: <\/p>\n\n Alle KI-Systeme mit hohem Risiko werden bewertet, bevor sie auf den Markt kommen und w\u00e4hrend ihres gesamten Lebenszyklus.<\/p>\n\n Generative k\u00fcnstliche Intelligenz, wie z.B. ChatGPT, muss die Anforderungen an die Transparenz erf\u00fcllen, d.h:<\/p>\n\n Risikobeschr\u00e4nkte KI-Systeme sollten Mindestanforderungen an die Transparenz erf\u00fcllen, damit die Nutzer fundierte Entscheidungen treffen k\u00f6nnen. Nach der Interaktion mit den Anwendungen kann der Nutzer entscheiden, ob er sie weiter nutzen m\u00f6chte. Die Nutzer sollten dar\u00fcber informiert werden, dass sie mit KI interagieren. Dies gilt auch f\u00fcr KI-Systeme, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren (z. B. Deepfakes). <\/p>\n\n Im Juni 2023 unterzeichneten mehr als 150 gro\u00dfe europ\u00e4ische Unternehmen, darunter Renault, Heineken, Airbus und Siemens, einen kritischen offenen Brief[5]<\/a>. Ihnen zufolge k\u00f6nnte der Entwurf des KI-Gesetzes in seiner jetzigen Form die Chance zunichte machen, die die KI-Technologie f\u00fcr Europa bietet, um „wieder an die technologische Spitze zu gelangen“. Die Unterzeichner argumentieren, dass die Regulierungsvorschriften zu extrem sind und die Gefahr besteht, dass sie die technologischen Ambitionen der EU untergraben, anstatt – wie beabsichtigt – ein g\u00fcnstiges Umfeld f\u00fcr KI-Innovationen zu schaffen. Eine der gr\u00f6\u00dften Sorgen, die sie \u00e4u\u00dfern, betrifft die strengen Regeln, die f\u00fcr generative KI-Systeme gelten, eine Untergruppe von KI-Modellen, die in der Regel unter die Bezeichnung „Basismodell“ fallen. Nach dem Entwurf des KI-Gesetzes m\u00fcssen Anbieter von KI-Basismodellen – unabh\u00e4ngig von ihrem Verwendungszweck – ihr Produkt in der EU registrieren lassen, sich einer Risikobewertung unterziehen und Transparenzanforderungen erf\u00fcllen, wie etwa die Offenlegung aller urheberrechtlich gesch\u00fctzten Daten, die zum Trainieren ihrer Modelle verwendet werden. In dem offenen Brief hei\u00dft es, dass Unternehmen, die diese zentralen KI-Systeme entwickeln, unverh\u00e4ltnism\u00e4\u00dfig hohen Kosten f\u00fcr die Einhaltung der Vorschriften und Haftungsrisiken ausgesetzt w\u00e4ren, was KI-Anbieter dazu veranlassen k\u00f6nnte, sich ganz vom europ\u00e4ischen Markt zur\u00fcckzuziehen. „Europa kann es sich nicht leisten, an der Seitenlinie zu stehen“, hei\u00dft es in dem Brief, der die EU-Gesetzgeber auffordert, von strengen Compliance-Verpflichtungen f\u00fcr generative KI-Modelle abzur\u00fccken und sich stattdessen auf diejenigen zu konzentrieren, die „weitreichende Prinzipien im Rahmen eines risikobasierten Ansatzes“ erf\u00fcllen k\u00f6nnen. <\/p>\n\n [5]<\/a> Siehe: https:\/\/www.igizmo.it\/wp-content\/uploads\/2023\/06\/Open-Letter-EU-AI-Act-and-Signatories.pdf<\/a><\/p>\n\n Diese Kritik scheint – zumindest teilweise – eine sachliche Grundlage zu haben, wie andere Ereignisse im Gesetzgebungsverfahren best\u00e4tigen[6]<\/a>. W\u00e4hrend der sogenannte Trilog Ende Oktober 2023 wie ein politischer Konsens auch zu den Grundmodellen der generativen KI aussah, lehnten Anfang November 2023 mehrere EU-Mitgliedstaaten, darunter Frankreich, Deutschland und Italien, bei einem Treffen der Arbeitsgruppe „Telekom“ jegliche Regulierung f\u00fcr die Grundmodelle der KI ab. Es sieht sogar so aus, als g\u00e4be es ein politisches Problem der „\u00dcberregulierung“. <\/p>\n\n Das letzte Mal trafen sich die europ\u00e4ischen Gesetzgeber, d.h. Vertreter des Europ\u00e4ischen Parlaments, des Rates und der Kommission, vom 6. bis 9. Dezember 2023 zu einem Trilog. Nach ver\u00f6ffentlichten Informationen[7]<\/a>scheint am Ende ein vorl\u00e4ufiger Konsens erzielt worden zu sein. Die Liste der verbotenen Anwendungen von KI wird um die biometrische Fernidentifizierung im \u00f6ffentlichen Raum erweitert, allerdings mit einer Ausnahme f\u00fcr die Strafverfolgung. Der endg\u00fcltige Text ist noch nicht bekannt und weitere Arbeiten und \u00dcbersetzungen zu diesem Zweck werden noch andauern. Es ist zu erwarten, dass starker politischer Druck ausge\u00fcbt wird, um das gesamte Gesetzgebungsverfahren zum Entwurf des KI-Gesetzes fr\u00fchzeitig abzuschlie\u00dfen, auch im Hinblick auf den Wechsel der Ratspr\u00e4sidentschaft ab Januar 2024, wenn Belgien die Pr\u00e4sidentschaft von Spanien \u00fcbernimmt, und auch im Hinblick auf die bevorstehenden Wahlen zum Europ\u00e4ischen Parlament im Juni 2024. <\/p>\n\n [6]<\/a> z.B. https:\/\/www.euractiv.com\/section\/artificial-intelligence\/news\/eus-ai-act-negotiations-hit-the-brakes-over-foundation-models\/ Heute gibt es in den USA keine spezifische KI-Regulierung, aber intensive Vorbereitungsarbeiten sind im Gange[8]<\/a>. Das wahrscheinlichste Ergebnis f\u00fcr die Vereinigten Staaten wird ein Flickenteppich von Exekutivma\u00dfnahmen von unten nach oben sein. Im Gegensatz zu Europa ist es unwahrscheinlich, dass die Vereinigten Staaten in den n\u00e4chsten Jahren ein umfassendes nationales KI-Gesetz verabschieden werden. Die Untergesetzgebung wird sich wahrscheinlich auf weniger kontroverse und gezielte Ma\u00dfnahmen konzentrieren – wie die Finanzierung der KI-Forschung oder die Sicherheit von Kindern. Dies wird die Bef\u00fcrworter einer starken nationalen KI-Regulierung wahrscheinlich entt\u00e4uschen. Dieses Ergebnis wird wahrscheinlich nicht so systematisch sein und sicherlich Gesetzesl\u00fccken aufweisen, aber das bedeutet nicht, dass es nicht effektiv sein k\u00f6nnte. Wir werden in den USA wahrscheinlich eine Vielzahl von Ma\u00dfnahmen von Beh\u00f6rden sehen, die in den verschiedenen betroffenen Bereichen t\u00e4tig sind, insbesondere in den Bereichen Gesundheitswesen, Finanzdienstleistungen, Wohnungsbau, Arbeitskr\u00e4fte und Kindersicherheit, sowie weitere staatliche Regulierungen. Dieser Flickenteppich von Vorschriften k\u00f6nnte, wenn er gut umgesetzt wird, durch das Fachwissen bestimmter Beh\u00f6rden untermauert und st\u00e4rker auf Innovationen zugeschnitten werden. Die US-Bundesregierung wird wahrscheinlich die Ausgaben f\u00fcr k\u00fcnstliche Intelligenz und deren Forschung erh\u00f6hen, insbesondere in den Bereichen Verteidigung und Nachrichtendienste, und ihre Kaufkraft nutzen, um den Markt zu gestalten. Es wird wahrscheinlich zu Kollisionen im KI-Handel mit Europa kommen, und private Unternehmen werden ihre eigenen ‚verantwortungsvollen KI-Initiativen‘ verfolgen und sich mit einem fragmentierten globalen KI-Regulierungsumfeld auseinandersetzen. Die sich abzeichnende Konkurrenz aus China versch\u00e4rft die Debatte dar\u00fcber, wie man nicht „abgeh\u00e4ngt“ wird. Die Federal Trade Commission (FTC) und das Department of Justice (DOJ) werden wahrscheinlich proaktiv vorgehen, um eine \u00fcberm\u00e4\u00dfige Konzentration von KI auf die am weitesten verbreiteten Technologien zu verhindern. Es besteht auch die reale, wenn auch weniger wahrscheinliche Chance, dass ein wichtiger US-Bundesstaat (z.B. Kalifornien) bedeutende KI-bezogene Gesetze erl\u00e4sst oder dass sich eine gr\u00f6\u00dfere KI-bezogene Katastrophe ereignet[9]<\/a>. Au\u00dferdem finden in den USA im Jahr 2024 Pr\u00e4sidentschaftswahlen statt und eine strengere Regulierung von KI k\u00f6nnte im Zusammenhang mit den Entwicklungen in China ebenfalls ein Thema sein. <\/p>\n\n [8]<\/a> Siehe https:\/\/ai.gov\/<\/a> Mitte August 2023 trat ein neues chinesisches Gesetz in Kraft, das die generative k\u00fcnstliche Intelligenz regeln soll. Dieses Gesetz ist das letzte in einer Reihe von Verordnungen, die sich mit verschiedenen Aspekten der KI befassen. Es ist international bahnbrechend, da es das erste Gesetz ist, das speziell auf generative KI abzielt. Es erlegt Unternehmen, die diese Dienste f\u00fcr Verbraucher anbieten, neue Beschr\u00e4nkungen auf, sowohl in Bezug auf die verwendeten Trainingsdaten als auch auf die erzeugten Ergebnisse. Im Vergleich zu verschiedenen Versionen des Gesetzesvorschlags ist der verabschiedete Text des Gesetzes \u00fcber generative k\u00fcnstliche Intelligenz erheblich abgeschw\u00e4cht. Die Anforderungen, innerhalb einer dreimonatigen Frist illegale Inhalte zu korrigieren und sicherzustellen, dass alle Trainingsdaten und Ergebnisse „wahrheitsgem\u00e4\u00df und genau“ sind, wurden gestrichen. Es wurde auch klargestellt, dass diese Regeln nur f\u00fcr \u00f6ffentlich zug\u00e4ngliche generative KI-Systeme gelten. Es wurde auch eine neue Bestimmung hinzugef\u00fcgt, die besagt, dass Entwicklung und Innovation gleiches Gewicht haben sollten wie die Sicherheit und die Kontrolle der Systeme. Eine Verpflichtung zur Kennzeichnung von KI-generierten Inhalten mit Wasserzeichen wurde ebenfalls als notwendiges Instrument zur Bek\u00e4mpfung von Fehlinformationen eingef\u00fchrt. <\/p>\n\n G7-Nationen verabschieden Bericht \u00fcber generative k\u00fcnstliche Intelligenz im September 2023[10]<\/a>. Er enth\u00e4lt keine Versprechen oder Hinweise auf eine globale Harmonisierung in diesem Bereich. Vielmehr sollte der Schwerpunkt auf freiwilligen Verhaltenskodizes liegen, wobei sich die nationale Regulierung auf die Bereiche beschr\u00e4nken sollte, in denen das \u00f6ffentliche Interesse am gr\u00f6\u00dften ist, wie z.B. Menschenrechte, Gesundheitsschutz, Kampf gegen Fehlinformationen, Datenschutz, Schutz der Privatsph\u00e4re und Schutz des geistigen Eigentums. <\/p>\n\n [10]<\/a> Siehe: https:\/\/www.oecd-ilibrary.org\/science-and-technology\/g7-hiroshima-process-on-generative-artificial-intelligence-ai_bf3c0c60-en<\/a><\/p>\n\n Die Regulierung generativer KI (wie z.B. ChatGPT), d.h. die Frage, ob und inwieweit sie \u00fcberhaupt reguliert werden soll, wird eine Bruchlinie in der zuk\u00fcnftigen Entwicklung der Gesetzgebung in allen relevanten L\u00e4ndern sein, einschlie\u00dflich der EU und der USA. Mehrere Einzelaspekte der Entwicklung, Nutzung und des Einsatzes von KI sind bereits mehr oder weniger reguliert, z.B. der Datenschutz, der Schutz der Privatsph\u00e4re oder der Schutz des geistigen Eigentums. Vielmehr k\u00f6nnte hier eine angemessene Auslegungs- und Methodikarbeit der zust\u00e4ndigen Regulierungsbeh\u00f6rden und mit der Zeit auch eine Rechtsprechung ausreichen. Die roten Linien f\u00fcr KI sollten jedoch auf jeden Fall durch eine gesetzliche Regelung festgelegt werden. Die nahe Zukunft wird zeigen, ob sich der bisherige umfassende, proaktive Ansatz der EU (das KI-Gesetz) oder der eher zur\u00fcckhaltende, laissez-faire Ansatz der USA durchsetzen wird. <\/p>\n","protected":false},"excerpt":{"rendered":" Im Juni 2023 haben mehr als 150 gro\u00dfe europ\u00e4ische Unternehmen, darunter Renault, Heineken, Airbus und Siemens, einen kritischen offenen Brief an die Europ\u00e4ische Union unterzeichnet. Ihnen zufolge k\u00f6nnte der Entwurf des Gesetzes \u00fcber k\u00fcnstliche Intelligenz in seiner jetzigen Form die Chance zunichte machen, die die KI-Technologie f\u00fcr Europa bietet, um „wieder an die technologische Spitze zu gelangen“. <\/p>\n","protected":false},"author":35,"featured_media":5577,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[63],"tags":[],"cislo-magazinu":[40],"class_list":["post-5574","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-it-nachrichten-fur-unternehmen","cislo-magazinu-40"],"yoast_head":"\nInakzeptables Risiko<\/h5>\n\n
\n
Hohes Risiko<\/h5>\n\n
\n
Generative k\u00fcnstliche Intelligenz<\/h5>\n\n
\n
Begrenztes Risiko<\/h5>\n\n
Kritik am EU-Ansatz und das fragw\u00fcrdige Schicksal des AI-Gesetzes<\/h5>\n\n
\n\n![\"\"](\"https:\/\/www.platformofinvention.sk\/wp-content\/uploads\/2023\/12\/015_Signum-Legal_pravnici-1024x703.jpg\")
<\/figure>\n\nEin vorzeitiges Ende des AI-Gesetzes?<\/h5>\n\n
\n\nDer amerikanische Ansatz<\/h5>\n\n
\n\nChina<\/h5>\n\n
Globale Harmonisierung in Sicht<\/h5>\n\n
\n\nAbschlie\u00dfende Bemerkungen<\/h5>\n\n