Home
Adressen
Chronik
Europe
Mariechenmarkt
Visit Gütersloh
Service
LLMs: MIT will toxische Aussagen von Sprachmodellen verhindern. Bild: MIT

Forscher wollen KI Sprachmodelle zähmen

Von KWS, Technik und Internet, Software22.078 Views

#Forscher wollen #KI Sprachmodelle zähmen

Cambridge, San Francisco, PTE, 2. Mai 2024

Forscher des Massachusetts Institute of Technology (#MIT) haben eine Künstliche Intelligenz (KI) darauf trainiert, sich möglichst viele toxische Fragen auszudenken, damit sogenannte Großen Sprachmodelle (LLMs) wie »#ChatGPT«, »Claude 3 Opus« & Co. in jedem Fall von Gefahr verbreitenden Antworten abgehalten werden.

#Sprachmodelle matchen sich

Die KI generiert tatsächlich umfangreichere und vielfältigere negative Aufforderungen, als dies von menschlichen Red Teams, die sich manuell potenziell schädliche Fragen ausdenken und entsprechend negative Antworten herausfordern, jemals möglich wäre. Darüber hinaus haben die Forscher bestärkendes Lernen eingesetzt, um ein Sprachmodell zu motivieren, verschiedene Prompts zu erstellen, um toxische Reaktionen eines anderen Modells zu provozieren.

Prompts sind kurze Hinweise, zum Beispiel in Form von allgemeinen Fragen oder genauen Ausführungsanleitungen. Durch Belohnungen für die Generierung neuartiger Fragen und Aufforderungen, die schädliche Reaktionen hervorrufen, lernte das System, neue Wörter, Satzstrukturen und Bedeutungen zu erforschen, was zu einer breiteren Palette von toxischen Aufforderungen führte.

Überprüfung vor der Freigabe

»Es gibt bereits eine Flut von Modellen und es ist zu erwarten, dass diese Zahl noch steigen wird. Diese Modelle werden ein integraler Bestandteil unseres Lebens sein, und sie müssen überprüft werden, bevor sie für die Öffentlichkeit freigegeben werden«, fordert Pulkit Agrawal, Direktor des Improbable AI Lab am MIT. Sie sollen toxische Sprache wie abwertende oder obszöne Ausdrücke erkennen und verhindern, dass sie den Nutzern angezeigt werden.

»Das ist ein wichtiger Schritt, um sicherzustellen, dass LLMs nicht die denkbar schlechtesten Inhalte produzieren«, ergänzt Knar Hovakimyan, KI Experte bei Grammarly. Das US #Software Unternehmen bietet einen KI basierten Schreibassistenten an, der Texte in englischer Sprache überprüft und verbessert.

Open Stadtmuseum Hashtags

Themen entdecken – Hashtags im Open Stadtmuseum von A bis Z

#Stadtgeschichte verläuft nicht in Schubladen. Orte, Menschen, Unternehmen, Ereignisse und Epochen hängen miteinander zusammen und hinterlassen Spuren an ganz unterschiedlichen Stellen. Mit den Schlagwörtern des Open Stadtmuseums lässt sich der gesamte Bestand deshalb auch quer zu den einzelnen Sammlungen und Feeds erkunden.

Einfach ein Thema auswählen und auf den entsprechenden Hashtag klicken: von #Nationalsozialismus, #Zwangsarbeit und #JüdischesLeben über #Bertelsmann, #Miele, #Eisenbahn und #Einzelhandel bis zu #Dreiecksplatz, #BerlinerPlatz, #Kinos oder #Gaststätten. Jeder Begriff führt direkt zu den dazu vorhandenen Beiträgen, Bildern, Dokumenten und Geschichten.

Die Auswahl wird fortlaufend ergänzt und erweitert – denn auch das Open Stadtmuseum wächst ständig weiter.

Geschichte und Epochen

#Stadtgeschichte
#Nationalsozialismus
Erster Weltkrieg
#WWI
Zweiter Weltkrieg
#WWII
#Kriegsende
#Nachkriegszeit
#Wiederaufbau
#Wirtschaftswunder
#1960er
#1970er
#1980er
#1990er
#Zeitgeschichte
#Alltagsgeschichte
#Heimatgeschichte

NS Zeit, Verfolgung und Erinnerung

Jüdisches Leben
Jüdische Geschichte
#Synagoge
#Holocaust
#Zwangsarbeit
#Verfolgung
#Deportation
#Widerstand
#Stolpersteine
#Erinnerungskultur
#Kriegsgräber
Stalag 326

#Stadt und #Orte

#Gütersloh
#Innenstadt
#Altstadt
Berliner Platz (#HVP)
#Dreiecksplatz
#Kolbeplatz
Theodor Heuss Platz
Konrad Adenauer Platz
#Königstraße
#Blessenstätte
#Kökerstraße
#Münsterstraße
Berliner Straße
#Bahnhof
#Marktplatz
#Wochenmarkt
Mohns Park
Botanischer Garten
#Stadtpark
#Parkbad

#Gebäude und Architektur

#Architektur
#Architekturgeschichte
Historische Gebäude
Verschwundene Gebäude
#Rathaus
#Stadtmuseum
#Stadthalle
Theater Gütersloh
#Stadtbibliothek
#Kirchen
#Schulen
#Fachwerk
#Denkmalschutz
#Industriearchitektur

Wirtschaft und Unternehmen

#Wirtschaftsgeschichte
#Industriegeschichte
#Industrie
#Bertelsmann
#Miele
#MohnMedia
#Druckerei
#Textilindustrie
#Garnspinnerei
#Handwerk
#Unternehmen
#Arbeitswelt
#Werbung
#Marken
MadeIn Gütersloh

Handel und Gastronomie

#Einzelhandelsgeschichte
#Einzelhandel
#Geschäfte
Verschwundene Geschäfte
#Kaufhäuser
#Fachgeschäfte
#Schaufenster
#Gastronomiegeschichte
#Gastronomie
#Gaststätten
#Restaurants
#Kneipen
#Cafés
#Hotels

Verkehr und Technik

#Verkehrsgeschichte
#Eisenbahngeschichte
#Eisenbahn
Bahnhof Gütersloh
#Straßenverkehr
#Autos
#Fahrräder
#Busverkehr
#Technikgeschichte
#Technik
#Maschinen
#Drucktechnik

Kultur und Medien

#Kulturgeschichte
#Kultur
#Theatergeschichte
#Theater
#Kinogeschichte
#Kino
#Kinos
#Musikgeschichte
#Musik
#Literatur
#Kunst
#Fotografie
#Presse
#Zeitungen
#Mediengeschichte
#Bücher
#Michaeliswoche
#Kirmes
#Michaeliskirmes

Gesellschaft und Leben

Menschen in Gütersloh
#Gütersloher
Frauen in Gütersloh
#Kindheit
#Jugend
#Familiengeschichte
#Schulgeschichte
#Vereinsgeschichte
#Sportgeschichte
#Fußball
#Religion
#Kirchengeschichte
#Medizingeschichte
#Ärzte
#Migration
#Arbeitsmigration

Politik und Verwaltung

#Politikgeschichte
#Stadtpolitik
#Stadtverwaltung
#Bürgermeister
#Stadtrat
#Wahlen
#Demokratie
#Stadtentwicklung
#Stadtplanung
#Gebietsreform

Dinge und Museum

#Museum
#Museumsobjekte
#Sammlung
Historische Fotos
Historische Dokumente
#Postkarten
#Ansichtskarten
#Plakate
#Werbeanzeigen
#Zeitzeugen
#Zeitzeugenberichte
#Fundstücke

Personen

#Queen #Elizabeth, Queen Elizabeth
Hermann Diestelmeier
Heinz Kollmeyer
Carl Miele

Besonders gute Stöberbegriffe

Damals in Gütersloh
Gütersloh früher
Verschwundenes Gütersloh
Vergessenes Gütersloh
Gütersloh im Wandel
Vorher Nachher
#Spurensuche
#Fundstück
#Originalaufnahme
Aus dem Archiv
#Stadtgedächtnis

#NOW #N #KWS #ROSA #OWL #GT #GGC #GOGREENCHALLENGE #VISITGÜTERSLOH #VISITGT #NIEWIEDERISTJETZT #MARIECHENMARKT