Europa möchte, dass Plattformen KI kennzeichnen

Die Europäische Union fordert die Unterzeichner ihres Verhaltenskodex zur Online-Desinformation auf, Deepfakes und andere KI-generierte Inhalte zu kennzeichnen.

In einer Stellungnahme gestern im Anschluss an ein Treffen mit den über 40 Unterzeichnern des Kodex sagte die EU-Kommissarin für Werte und Transparenz, Vera Jourova, dass diejenigen, die sich zur Bekämpfung von Desinformation verpflichtet haben, Technologien einführen sollten, um KI-Inhalte zu erkennen und sie den Nutzern klar zu kennzeichnen.

„Die neuen KI-Technologien können eine Kraft zum Guten sein und neue Wege für mehr Effizienz und kreativen Ausdruck bieten. Aber wie immer müssen wir die Schattenseiten dieser Angelegenheit erwähnen und sie bergen auch neue Risiken und das Potenzial für negative Folgen.“ Gesellschaft“, warnte sie. „Auch wenn es um die Erstellung und Verbreitung von Desinformation geht.

„Fortschrittliche Chatbots wie ChatGPT sind in der Lage, in Sekundenschnelle komplexe, scheinbar fundierte Inhalte und Bilder zu erstellen. Bildgeneratoren können authentisch aussehende Bilder von Ereignissen erstellen, die nie stattgefunden haben. Sprachgenerierungssoftware kann die Stimme einer Person anhand einer Probe imitieren.“ von wenigen Sekunden. Die neuen Technologien stellen auch den Kampf gegen Desinformation vor neue Herausforderungen. Deshalb habe ich die Unterzeichner heute gebeten, einen eigenen und separaten Abschnitt innerhalb des Kodex einzurichten, um darüber zu diskutieren.“

„Wenn es um die KI-Produktion geht, sehe ich keinen Anspruch auf Meinungsfreiheit der Maschinen.“

Unterzeichner des EU-Verhaltenskodex gegen Desinformation sollten Technologien einführen, um KI-Inhalte zu erkennen und sie den Nutzern klar zu kennzeichnen.“

– Vizepräsidentin @VeraJourova pic.twitter.com/yLVp79bqEH

– Europäische Kommission (@EU_Commission), 5. Juni 2023

Die aktuelle Version des Kodex, die die EU im vergangenen Sommer verschärft hat – als sie auch bestätigte, dass sie beabsichtigt, das freiwillige Instrument zu einer Abhilfemaßnahme zu machen, die auf die Einhaltung des (rechtsverbindlichen) Digital Services Act (DSA) angerechnet wird – verpflichtet derzeit nicht zur Identifizierung und Kennzeichnung von Deepfakes. Aber die Kommission hofft, das zu ändern.

Der EU-Kommissar sagte, er sehe zwei Hauptdiskussionspunkte für die Aufnahme von Abhilfemaßnahmen für KI-generierte Inhalte in den Kodex: Der eine würde sich auf Dienste konzentrieren, die generative KI integrieren, wie Microsofts New Bing oder Googles Bard AI-erweiterte Suchdienste – die sollten sich dazu verpflichten, „notwendige Sicherheitsvorkehrungen zu treffen, damit diese Dienste nicht von böswilligen Akteuren zur Generierung von Desinformation genutzt werden können“.

Ein zweiter Schritt würde Unterzeichner, die über Dienste verfügen, die das Potenzial zur Verbreitung KI-generierter Desinformationen haben, dazu verpflichten, „Technologien einzuführen, um solche Inhalte zu erkennen und sie den Nutzern klar zu kennzeichnen“.

Jourova sagte, sie habe mit Sundar Pichai von Google gesprochen und erfahren, dass Google über eine Technologie verfüge, die KI-generierte Textinhalte erkennen könne, aber auch, dass das Unternehmen die Technologie weiterentwickelt, um seine Fähigkeiten zu verbessern.

In weiteren Bemerkungen während einer Frage-und-Antwort-Runde sagte die Kommissarin, dass die EU möchte, dass Kennzeichnungen für Deepfakes und andere KI-generierte Inhalte klar und schnell sind – so dass normale Benutzer sofort verstehen können, dass ein Inhalt, der ihnen präsentiert wird, dies getan hat wurde von einer Maschine erstellt, nicht von einer Person.

Sie präzisierte außerdem, dass die Kommission möchte, dass Plattformen die Kennzeichnung jetzt – „sofort“ – einführen.

Das DSA enthält zwar einige Bestimmungen, die sehr große Online-Plattformen (VLOPs) dazu verpflichten, manipulierte Audio- und Bildinhalte zu kennzeichnen, aber Jourova sagte, die Idee, eine Kennzeichnung in den Desinformationskodex aufzunehmen, bestehe darin, dass dies sogar früher als bis zum 25. August, der Einhaltungsfrist für VLOPs im Rahmen des DSA, geschehen könne .

„Ich habe oft gesagt, dass unsere Hauptaufgabe darin besteht, die Meinungsfreiheit zu schützen. Aber wenn es um die KI-Produktion geht, sehe ich kein Recht darauf, dass die Maschinen Meinungsfreiheit haben. Und so kommt es auch darauf zurück.“ „Die alten guten Säulen unseres Rechts. Und deshalb wollen wir daran auch im Rahmen des Verhaltenskodex auf der Grundlage dieses sehr grundlegenden Gedankens weiterarbeiten“, fügte sie hinzu.

Die Kommission geht auch davon aus, dass im nächsten Monat Maßnahmen zur Meldung von durch KI erzeugten Desinformationsrisiken ergriffen werden. Jourova sagte, dass die relevanten Unterzeichner die Juli-Berichte nutzen sollten, um „die Öffentlichkeit über Sicherheitsvorkehrungen zu informieren, die sie ergreifen, um die Verbreitung des Missbrauchs generativer KI zu verhindern.“ Desinformation".

Der Desinformationskodex hat mittlerweile insgesamt 44 Unterzeichner – darunter Technologiegiganten wie Google, Facebook und Microsoft sowie kleinere Adtech-Unternehmen und Organisationen der Zivilgesellschaft – eine Zahl, die sich von 34 Personen erhöht, die die Verpflichtungen bis Juni 2022 unterzeichnet hatten.

Ende letzten Monats unternahm Twitter jedoch den ungewöhnlichen Schritt, sich vom freiwilligen EU-Kodex zurückzuziehen.

EU warnt Twitter vor Desinformation, nachdem festgestellt wurde, dass Musks Politikwechsel die Kreml-Propaganda befeuern

Zu den weiteren wichtigen Themen, die Jourova bei ihrem gestrigen Treffen mit den verbleibenden Unterzeichnern angesprochen und sie zu mehr Maßnahmen aufgefordert hatte, zählten Russlands Kriegspropaganda und kremlfreundliche Desinformation; die Notwendigkeit einer „konsequenten“ Moderation und Faktenprüfung; Bemühungen zur Wahlsicherheit; und Zugang zu Daten für Forscher.

„Auf den Plattformen kursieren immer noch viel zu viele gefährliche Desinformationsinhalte und zu wenig Kapazitäten“, warnte sie und verwies auf eine seit langem bestehende Beschwerde der Kommission, dass Initiativen zur Faktenprüfung nicht umfassend auf Inhalte angewendet werden, die auf alle in der EU gesprochenen Sprachen abzielen Mitgliedstaaten, einschließlich kleinerer Nationen.

„Vor allem die mittel- und osteuropäischen Länder stehen unter ständigem Angriff insbesondere russischer Desinformationsquellen“, fügte sie hinzu. „Es gibt viel zu tun. Hier geht es um Kapazitäten, hier geht es um unser Wissen, hier geht es um unser Verständnis der Sprache. Und auch um das Verständnis der Gründe, warum in einigen Mitgliedstaaten der Nährboden oder der Boden für die Aufnahme vorbereitet ist.“ einer großen Portion Desinformation.“

Sie betonte außerdem, dass der Zugang für Forscher immer noch unzureichend sei – und forderte die Plattformen auf, ihre Bemühungen um Daten für die Forschung zu verstärken.

Jourova fügte auch ein paar warnende Worte über den von Elon Musk gewählten Weg hinzu – was darauf hindeutet, dass Twitter sich als designierter VLOP im Rahmen des DSA ins Fadenkreuz der EU-Durchsetzung geraten hat.

Das DSA verpflichtet VLOPs gesetzlich dazu, gesellschaftliche Risiken wie Desinformation zu bewerten und zu mindern. Deshalb lädt Twitter zu Tadel und Sanktionen ein, indem es den EU-Kodex ignoriert (Bußgelder im Rahmen des DSA können bis zu 6 % des weltweiten Jahresumsatzes betragen).

„Ab August dieses Jahres werden unsere Strukturen, die die Rolle der Durchsetzungsbehörden des DSA übernehmen werden, die Leistung von Twitter daraufhin prüfen, ob sie die Vorschriften einhalten, ob sie die erforderlichen Maßnahmen ergreifen, um die Risiken zu mindern und Maßnahmen gegen … insbesondere illegale Inhalte zu ergreifen.“ ", warnte sie weiter.

„Die Europäische Union ist nicht der Ort, an dem wir das importierte kalifornische Recht sehen wollen“, fügte sie hinzu. „Wir haben es viele Male gesagt und deshalb möchte ich auch zurückkommen und die Zusammenarbeit mit den … ehemaligen Leuten würdigen, die bei Twitter arbeiten, die bereits mehrere Jahre lang mit uns am Verhaltenskodex gegen Hassrede und am Verhaltenskodex zusammengearbeitet haben [ Auch zum Thema Desinformation. Das tut uns leid. Ich denke, dass Twitter sehr sachkundige und entschlossene Leute hatte, die verstanden haben, dass es eine gewisse Verantwortung geben muss, eine viel größere Verantwortung auf der Website von Plattformen wie Twitter.“

Auf die Frage, ob der Community-Notes-Ansatz von Twitter – der Crowdsourcing (also im Wesentlichen die Auslagerung) von Faktenprüfungen an Twitter-Nutzer durchführt, wenn sich genügend Leute einbringen, um einen Konsens über den Kontext zu umstrittenen Tweets zu schaffen – allein ausreichen könnte, um die rechtlichen Anforderungen zur Bekämpfung von Desinformation zu erfüllen Jourova sagte, es sei Sache der Durchsetzungsbehörden der Kommission, zu beurteilen, ob sie die Vorschriften des DSA einhalten oder nicht.

Sie wies jedoch darauf hin, dass der Rückzug von Twitter aus dem Kodex ein bedeutender Schritt in die falsche Richtung sei und fügte hinzu: „Der Verhaltenskodex wird als äußerst ernstzunehmende und vertrauenswürdige mildernde Maßnahme gegen schädliche Inhalte anerkannt.“

Elon Musk nimmt Twitter aus dem EU-Verhaltenskodex für Desinformation heraus