| Sicherheit im Umgang mit digitalen Daten |
|
 |
Europäische Union Cyberstrategie, Datenschutz & Medienrecht |
|
Umgang mit digitalen Daten im Internet |
|
ICT Informationen |
|
|
| Kommission beginnt am 2. August 2026 mit der Durchsetzung der Vorschriften des KI-Gesetzes und neuer Transparenzanforderungen |
| Transparenzpflichten für KI-Anbieter und KI-Betreiber |
 |
|
Ab dem 2. August 2026 wird das Amt für künstliche Intelligenz der Europäischen Kommission zusammen mit den nationalen Behörden mit der Durchsetzung des Gesetzes über künstliche Intelligenz (KI) beginnen. Am selben Tag werden neue Transparenzvorschriften gelten, nach denen bestimmte KI-Systeme den Nutzern mitteilen müssen, wann sie mit KI interagieren und wann Inhalte durch sie generiert oder verändert wurden.
Nach den neuen Regeln müssen Chatbots und andere interaktive KI-Systeme den Nutzern mitteilen, dass sie es mit KI zu tun haben, nicht mit einem Menschen. Deepfakes (Bilder, Videos oder Audiodateien, die mithilfe von KI bearbeitet oder generiert wurden) müssen gekennzeichnet werden. KI-generierte oder veränderte Inhalte müssen auch maschinenlesbare Markierungen tragen, damit sie leichter erkannt werden können.
|
 |
Die Massnahmen sollen Täuschung und Manipulation reduzieren und den Menschen helfen, fundierte Entscheidungen zu treffen. Sie geben Unternehmen auch klarere Verpflichtungen und eine praktische Möglichkeit, die Einhaltung der Vorschriften nachzuweisen. Die Kommission hat heute eine erste Liste von mehr als 180 Organisationen veröffentlicht, die den Verhaltenskodex für die Transparenz von KI-generierten Inhalten unterzeichnet haben, mit dem die Vorschriften über die Transparenz von KI-generierten Inhalten operationalisiert werden.
Da KI immer leistungsfähiger und in den Alltag integriert wird, trägt das KI-Gesetz dazu bei, dass KI sicher entwickelt, eingesetzt und genutzt wird, und gibt Menschen und Unternehmen in der gesamten EU mehr Vertrauen in die Technologie.
Durchsetzung des KI-Gesetzes
Das Amt für künstliche Intelligenz kann nun die Vorschriften des KI-Gesetzes für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) durchsetzen. Diese Modelle können viele verschiedene Aufgaben erfüllen und in einer Vielzahl von Tools und Diensten, einschliesslich KI-Agenten, verwendet werden.
Die Regeln decken auch die fortschrittlichsten GPAI-Modelle ab, die systemische Risiken darstellen können. Ihre Anbieter müssen zusätzliche Verpflichtungen erfüllen, um den Risiken grosser Schäden wie Risiken im Zusammenhang mit chemischen, biologischen, radiologischen und nuklearen Vorfällen, Kontrollverlusten, Cyberdelikten, schädlichen Manipulationen und Bedrohungen der Grundrechte zu begegnen. Sie befassen sich auchmit Risiken, die in jüngster Zeit die Aufmerksamkeit der Öffentlichkeit auf sich gezogen haben, einschliesslich Risiken für die europäische Cybersicherheit und für KI, die ausserhalb menschlicher Kontrolle handeln.
Alle Anbieter von GPAI-Modellen müssen bestimmte Informationen dokumentieren und den zuständigen Behörden oder nachgeschalteten Anbietern zur Verfügung stellen. Sie müssen auch eine Urheberrechtspolitik einführen und eine hinreichend detaillierte Zusammenfassung der Inhalte veröffentlichen, die für die Schulung ihrer Modelle verwendet werden.
Die Durchsetzung beginnt auch bei Transparenzverpflichtungen und verbotenen KI-Praktiken. Diese verbieten besonders schädliche Systeme, einschliesslich Systeme, die Menschen manipulieren, Schwachstellen auf schädliche Weise ausnutzen oder Menschen auf eine Weise unfair bewerten, die ihre Rechte bedroht.
Die Verantwortung für die Durchsetzung der Transparenzvorschriften und der verbotenen Praktiken wird von drei Stellen geteilt. Das Amt für künstliche Intelligenz setzt die Regeln für KI-Systeme durch, die vom gleichen Anbieter wie das zugrunde liegende KI-Modell mit allgemeinem Verwendungszweck angeboten werden. Sie umfasst auch Systeme, die in sehr grosse Online-Plattformen oder sehr grosse Online-Suchmaschinen integriert sind, die gemäss dem Gesetz über digitale Dienste benannt wurden.
Die zuständigen nationalen Behörden setzen die Vorschriften für andere KI-Systeme durch. Der Europäische Datenschutzbeauftragte setzt die Vorschriften für KI-Systeme durch, die von den Organen, Einrichtungen und sonstigen Stellen der Europäischen Union verwendet werden.
Eine wirksame Durchsetzung wird auch davon abhängen, ob die Mitgliedstaaten sicherstellen, dass die zuständigen nationalen Behörden ordnungsgemäss benannt und mit angemessenen Mitteln ausgestattet werden.
Wissenschaftliche Unterstützung
Das Amt für künstliche Intelligenz und die zuständigen nationalen Behörden werden bei ihrer Durchsetzungsarbeit vom Wissenschaftlichen Gremium unterstützt, einem Expertengremium, das sich aus 60 unabhängigen KI-Experten zusammensetzt. Das Gremium hat kürzlich seine erste Sitzung abgehalten.
Das AI Office hat auch Professor Alessandro Abate vom Department of Computer Science der Universität Oxford zum leitenden wissenschaftlichen Berater ernannt. Er wird die wissenschaftliche Arbeit des Amtes zu KI-Modellen mit allgemeinem Verwendungszweck unterstützen, einschliesslich Innovation und Übernahme, sowie Modelltests und -bewertungen.
Überwachungsinstrumente
Um die Durchsetzung zu unterstützen, hat das Amt für künstliche Intelligenz mehrere Instrumente für Einzelpersonen und Unternehmen auf den Weg gebracht. Natürliche und juristische Personen können das Beschwerdetool nutzen, um mutmassliche Verstösse gegen das KI-Gesetz durch Anbieter von KI-Systemen, die vom Amt für künstliche Intelligenz beaufsichtigt werden, zu melden. Personen, die mit Anbietern von KI-Systemen oder KI-Modellen mit allgemeinem Verwendungszweck zusammenarbeiten, können das Hinweisgeber-Tool verwenden, um mögliche Verstösse gegen das Gesetz sicher zu melden. Ein spezieller Kanal steht auch nachgelagerten Anbietern zur Verfügung, die KI-Systeme auf Modellen mit allgemeinem Verwendungszweck aufbauen und mutmassliche Verstösse der Anbieter dieser Modelle melden möchten.
Das Amt für künstliche Intelligenz wird die über diese Instrumente erhaltenen Informationen vertraulich behandeln.
Hintergrund
Professor Abate kommt vom Department of Computer Science der Universität Oxford zum AI Office. Zuvor forschte er an der Stanford University und SRI International, einem führenden US-Forschungsinstitut, und war Assistant Professor an der TU Delft. Er ist international anerkannt für seine Arbeit zur Sicherheit, Verifizierung und Kontrolle von KI-gestützten Systemen, Bereichen, die im Mittelpunkt des Mandats des KI-Büros stehen. Professor Abate hat einen MS (2004) und einen PhD (2007) in Elektrotechnik und Informatik von der University of California, Berkeley.
Nächste Schritte
Der KI-Omnibus verschob die Anwendung der Vorschriften für Hochrisiko-KI-Systeme auf den 2. Dezember 2027. Ausserdem wurden die Vorschriften für Hochrisiko-KI-Systeme, die in regulierte Produkte integriert sind, auf den 2. August 2028 verschoben.
Der AI Omnibus führt neue Verbote für KI-Systeme ein, die nicht einvernehmliche sexuell explizite Inhalte und Material über sexuellen Kindesmissbrauch generieren. Diese Vorschriften gelten ab dem 2. Dezember 2026.
Für weitere Informationen
- Durchsetzung nach dem KI-Gesetz
- AI Act Service Desk
- Leitlinien zu verbotenen KI-Praktiken
- Allgemeiner KI-Verhaltenskodex
- Vorlage für die öffentliche Zusammenfassung der Schulungsinhalte für GPAI-Modelle
- Richtlinien für Anbieter von GPAI-Modellen
- Verhaltenskodex zur Transparenz von KI-generierten Inhalten
- Entwurf von Leitlinien zu den Transparenzpflichten für bestimmte KI-Systeme
- Entwurf von Leitlinien für die Einstufung von Hochrisiko-KI-Systemen
Zitate
"KI ist eine transformative Technologie, die unseren Mitarbeitern und Unternehmen aussergewöhnliche Vorteile bringen kann. Aber wir sehen auch, dass Schäden entstehen können, wenn KI nicht richtig konzipiert und verwendet wird und die fortschrittlichsten Modelle Risiken in einem völlig neuen Massstab schaffen. Europa hat diese Entwicklung vorausgesehen. Mit dem KI-Gesetz haben wir einen klaren, risikobasierten und dauerhaften Rahmen für vertrauenswürdige KI geschaffen, der Innovatoren Rechtssicherheit bietet und gleichzeitig das öffentliche Interesse schützt. Mit Beginn der Durchsetzung unternehmen wir einen wichtigen Schritt in Richtung KI, die Menschen und Unternehmen verstehen und vertrauen können und deren Vorteile in unserer Gesellschaft weit verbreitet sind. "
Henna Virkkunen, Exekutiv-Vizepräsidentin für technologische Souveränität, Sicherheit und Demokraties
Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme
Die Leitlinien helfen Anbietern und Betreibern von KI-Systemen und zuständigen Behörden, die Einhaltung der Transparenzpflichten nach Artikel 50 des KI-Gesetzes sicherzustellen.
In den Leitlinien werden diese Verpflichtungen präzisiert, wodurch Rechtssicherheit in Bezug auf den Anwendungsbereich geschaffen wird und der Verhaltenskodex für die Transparenz von KI-generierten Inhalten ergänzt wird. Die Leitlinien wurden mit Beiträgen der Mitgliedstaaten, des KI-Ausschusses und anderer Interessenträger im Rahmen einer öffentlichen Konsultation entwickelt.
Transparenzpflichten für KI-Anbieter und KI-Betreiber
Die rasante Entwicklung generativer und interaktiver KI-Systeme erschwert es zunehmend, KI-Interaktionen und KI-generierte Inhalte von von von Menschen erstellten und authentischen Inhalten zu unterscheiden. Menschen werden zunehmend auch ohne ihr Wissen der Emotionserkennung und biometrischen Kategorisierung ausgesetzt. Dies birgt neue Risiken wie Fehlinformationen und Manipulation in grossem Massstab, Betrug, Nachahmung und Täuschung der Verbraucher.
Artikel 50 des KI-Gesetzes gilt ab dem 2. August 2026. Darin werden Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme, einschliesslich generativer und interaktiver KI-Systeme und Deepfakes, festgeleg.
Anbieter müssen:
 |
Gestaltung von KI-Systemen in einer Weise, die sicherstellt, dass Einzelpersonen explizit informiert werden, wenn sie direkt mit einem KI-System interagieren . |
|
Fügen Sie maschinenlesbare Markierungen hinzu, um KI-generierte oder manipulierte Inhalte zu erkennen . |
|
Die Betreiber von KI-Systemen müssen Einzelpersonen informieren, wenn sie folgenden Situationen ausgesetzt sind:
|
Tools zur Emotionserkennung und biometrischen Kategorisierung |
|
Deepfakes |
|
Textpublikationen zu Angelegenheiten von öffentlichem Interesse ohne menschliche Überprüfung oder redaktionelle Kontrolle
Diese Verpflichtungen sollen Vertrauen und Integrität im Informationsökosystem fördern. Die Menschen sollten wissen, wann sie mit KI interagieren oder KI-generierten Inhalten ausgesetzt sind. Dies wird ihnen helfen, fundierte Entscheidungen zu treffen, ihr Vertrauen und ihre Abhängigkeit von KI zu kalibrieren und Fehlinformationen oder Täuschungen zu vermeiden.
Für die Durchsetzung dieser Vorschriften sind die nationalen Marktüberwachungsbehörden, das Amt für künstliche Intelligenz (für Systeme unter seiner Aufsicht) und der Europäische Datenschutzbeauftragte (wenn es sich bei den EU.Institutionen um Anbieter/Arbeitgeber handelt) zuständig.
Inhalt der Leitlinien
In den Leitlinien wird der Begriff "Anbieter und Betreiber von KI-Systemen“ präzisiert, in dem klare Erwartungen hinsichtlich der Transparenzpflichten festgelegt werden, die für jeden Interessenträger entlang der Wertschöpfungskette gelten. Sie enthalten Definitionen bestimmter Konzepte und skizzieren Ausnahmen sowie vielfältige, praktische Beispiele dafür, was in den Anwendungsbereich fällt und was nicht. Dazu gehören Definitionen von direkt interaktiven KI-Systemen, synthetischen Inhalten, Deepfakes, KI-generierten Texten zu Angelegenheiten von öffentlichem Interesse und Beispiele für Ausnahmen wie die Standardbearbeitung.
In den Leitlinien wird auch erläutert, wie die Einhaltung der Transparenzpflichten des KI-Gesetzes nachgewiesen werden kann, unter anderem durch die Einhaltung des Verhaltenskodex für die Transparenz von KI-generierten Inhalten. Anbieter und Betreiber generativer KI-Systeme, die sich gegen die Einhaltung des Kodex entscheiden, müssen die Einhaltung der Verpflichtungen zur Kennzeichnung und Kennzeichnung von KI-generierten Inhalten mit alternativen, gleichwertig angemessenen Mitteln nachweisen. Für die anderen Transparenzverpflichtungen (z. B. in Bezug auf KI-Systeme, die mit Einzelpersonen interagieren) können Anbieter und Betreiber unter Berücksichtigung der Leitlinien selbst angemessene Massnahmen festlegen.
nach
oben
| Europäische Union: Cyberstrategie, Datenschutz & Medienrecht |
|
| Links |
|
 |
|
Externe Links |
|
