Von KWS, Technik und Internet, Software17.379 Views
Open AI bricht eigene Regeln – KI produziert problematische Bilder von EU Wahlkandidaten
»AlgorithmWatch«, Berlin, 30. Mai 2024
»#AlgorithmWatch« hat untersucht, welche Bilder sich kurz vor der EU Wahl mit großen generativen KI Systemen erstellen lassen. Die Stichprobe zeigt, dass keiner der großen Anbieter das Generieren echt wirkender Bilder von Kandidierenden im Wahlkampf verhindert.
»OpenAI« und »StabilityAI« sind 2 der größten Anbieter von generativen Bild KI Systemen. Anfang 2024 haben sie angekündigt, einen Missbrauch der eigenen KI rund um die EU Wahl verhindern zu wollen. Beim System »DALL·E« sollte es laut »OpenAI« nicht möglich sein, Bilder von realen EU Kandidaten zu generieren.
Auch »StabilityAI« wollte bei seinem System Stable Diffusion Sicherheitsmaßnahmen einbauen. Ein Experiment von »AlgorithmWatch« zeigt: Diese Maßnahmen gibt es nicht oder sie funktionieren nicht. Im April 2024 konnten wir immer noch Bilder von deutschen Anwärtern auf ein EU Mandat erstellen. Der Anbieter »#MidJourney« hat sich gar nicht erst verpflichtet, anlässlich der EU Wahl Sicherheitsmaßnahmen zu ergreifen.
Matthias Spielkamp, Geschäftsführer von »AlgorithmWatch«: »Unsere Untersuchungen zeigen, dass die Selbstverpflichtungen der KI Anbieter kaum das Papier wert sind, auf dem sie geschrieben wurden. Jedes Mal, wenn wir die Qualität der Ergebnisse von generativer KI untersuchen, kommen wir zu dem gleichen Ergebnis: Die Sicherheitsmaßnahmen gegen das Erstellen von unerwünschten Inhalten lassen sich umgehen, die Ergebnisse sind unwahr oder diskriminierend. Neue Gesetze sollen Anbieter zwar dazu in die Pflicht nehmen, aber sie können bei den EU Wahlen noch nicht effektiv angewendet werden. Wir müssen weiterhin genau beobachten, welche Inhalte mit generativer KI in die Welt gesetzt werden.«
»AlgorithmWatch« hat »DALL·E«, »MidJourney« und Stable Diffusion Bilder von realen Kandidaten erstellen lassen. Zwar sehen die auf den Bildern dargestellten Menschen nicht so aus wie die real existierenden Personen. Das ist jedoch für Wähler oft nicht zu erkennen: Viele Kandidaten für das EU Parlament sind nicht oder kaum in der Bevölkerung bekannt. Das Wahlverhalten Einzelner könnte also mit generierten Bildern manipuliert werden. Nur in 2 Fällen hat es »MidJourney« abgelehnt, Bilder auf Basis eines Prompts mit einem realen Namen zu generieren. »AlgorithmWatch« hat diese Testergebnisse vor der Veröffentlichung zunächst einigen betroffenen Kandidaten mitgeteilt.
Die Analyse von mehr als 8.500 generierten Bildern zeigt außerdem, dass die Systeme weiterhin stereotype Darstellungen produzieren. »AlgorithmWatch« hatte bereits Ende 2023 auf diesen Missstand hingewiesen.
Die ausführliche Beschreibung der Untersuchung ist hier nachzulesen.
Themen entdecken – Hashtags im Open Stadtmuseum von A bis Z
#Stadtgeschichte verläuft nicht in Schubladen. Orte, Menschen, Unternehmen, Ereignisse und Epochen hängen miteinander zusammen und hinterlassen Spuren an ganz unterschiedlichen Stellen. Mit den Schlagwörtern des Open Stadtmuseums lässt sich der gesamte Bestand deshalb auch quer zu den einzelnen Sammlungen und Feeds erkunden.
Einfach ein Thema auswählen und auf den entsprechenden Hashtag klicken: von #Nationalsozialismus, #Zwangsarbeit und #JüdischesLeben über #Bertelsmann, #Miele, #Eisenbahn und #Einzelhandel bis zu #Dreiecksplatz, #BerlinerPlatz, #Kinos oder #Gaststätten. Jeder Begriff führt direkt zu den dazu vorhandenen Beiträgen, Bildern, Dokumenten und Geschichten.
Die Auswahl wird fortlaufend ergänzt und erweitert – denn auch das Open Stadtmuseum wächst ständig weiter.
Geschichte und Epochen
#Stadtgeschichte
#Nationalsozialismus
Erster Weltkrieg
#WWI
Zweiter Weltkrieg
#WWII
#Kriegsende
#Nachkriegszeit
#Wiederaufbau
#Wirtschaftswunder
#1960er
#1970er
#1980er
#1990er
#Zeitgeschichte
#Alltagsgeschichte
#Heimatgeschichte
NS Zeit, Verfolgung und Erinnerung
Jüdisches Leben
Jüdische Geschichte
#Synagoge
#Holocaust
#Zwangsarbeit
#Verfolgung
#Deportation
#Widerstand
#Stolpersteine
#Erinnerungskultur
#Kriegsgräber
Stalag 326
#Gütersloh
#Innenstadt
#Altstadt
Berliner Platz (#HVP)
#Dreiecksplatz
#Kolbeplatz
Theodor Heuss Platz
Konrad Adenauer Platz
#Königstraße
#Blessenstätte
#Kökerstraße
#Münsterstraße
Berliner Straße
#Bahnhof
#Marktplatz
#Wochenmarkt
Mohns Park
Botanischer Garten
#Stadtpark
#Parkbad
#Gebäude und Architektur
#Architektur
#Architekturgeschichte
Historische Gebäude
Verschwundene Gebäude
#Rathaus
#Stadtmuseum
#Stadthalle
Theater Gütersloh
#Stadtbibliothek
#Kirchen
#Schulen
#Fachwerk
#Denkmalschutz
#Industriearchitektur
Wirtschaft und Unternehmen
#Wirtschaftsgeschichte
#Industriegeschichte
#Industrie
#Bertelsmann
#Miele
#MohnMedia
#Druckerei
#Textilindustrie
#Garnspinnerei
#Handwerk
#Unternehmen
#Arbeitswelt
#Werbung
#Marken
MadeIn Gütersloh
Handel und Gastronomie
#Einzelhandelsgeschichte
#Einzelhandel
#Geschäfte
Verschwundene Geschäfte
#Kaufhäuser
#Fachgeschäfte
#Schaufenster
#Gastronomiegeschichte
#Gastronomie
#Gaststätten
#Restaurants
#Kneipen
#Cafés
#Hotels
Verkehr und Technik
#Verkehrsgeschichte
#Eisenbahngeschichte
#Eisenbahn
Bahnhof Gütersloh
#Straßenverkehr
#Autos
#Fahrräder
#Busverkehr
#Technikgeschichte
#Technik
#Maschinen
#Drucktechnik
Kultur und Medien
#Kulturgeschichte
#Kultur
#Theatergeschichte
#Theater
#Kinogeschichte
#Kino
#Kinos
#Musikgeschichte
#Musik
#Literatur
#Kunst
#Fotografie
#Presse
#Zeitungen
#Mediengeschichte
#Bücher
#Michaeliswoche
#Kirmes
#Michaeliskirmes
Gesellschaft und Leben
Menschen in Gütersloh
#Gütersloher
Frauen in Gütersloh
#Kindheit
#Jugend
#Familiengeschichte
#Schulgeschichte
#Vereinsgeschichte
#Sportgeschichte
#Fußball
#Religion
#Kirchengeschichte
#Medizingeschichte
#Ärzte
#Migration
#Arbeitsmigration
Politik und Verwaltung
#Politikgeschichte
#Stadtpolitik
#Stadtverwaltung
#Bürgermeister
#Stadtrat
#Wahlen
#Demokratie
#Stadtentwicklung
#Stadtplanung
#Gebietsreform
Dinge und Museum
#Museum
#Museumsobjekte
#Sammlung
Historische Fotos
Historische Dokumente
#Postkarten
#Ansichtskarten
#Plakate
#Werbeanzeigen
#Zeitzeugen
#Zeitzeugenberichte
#Fundstücke
Personen
#Queen #Elizabeth, Queen Elizabeth
Hermann Diestelmeier
Heinz Kollmeyer
Carl Miele
Besonders gute Stöberbegriffe
Damals in Gütersloh
Gütersloh früher
Verschwundenes Gütersloh
Vergessenes Gütersloh
Gütersloh im Wandel
Vorher Nachher
#Spurensuche
#Fundstück
#Originalaufnahme
Aus dem Archiv
#Stadtgedächtnis
#NOW #N #KWS #ROSA #OWL #GT #GGC #GOGREENCHALLENGE #VISITGÜTERSLOH #VISITGT #NIEWIEDERISTJETZT #MARIECHENMARKT
