Von KWS, Technik und Internet, IT24.824 Views
»iX Magazin«: sichere Integration von KI in Unternehmen – Sprachmodelle anfällig für Manipulationen
#Hannover, 20. Dezember 2024
#Große #Sprachmodelle wie »#ChatGPT« oder »#Claude« sind bei Unternehmen beliebt. Doch ihr Einsatz birgt erhebliche Sicherheitsrisiken und kann zur Preisgabe sensibler Informationen ausgenutzt werden. Das zeigt das IT Profimagazin »iX« in Ausgabe 1/2025. Alle großen Sprachmodelle weisen systembedingte Schwachstellen auf, die sich nicht vollständig beheben lassen. Verantwortliche müssen ihre Sicherheitsmaßnahmen darauf ausrichten.
»Große Sprachmodelle unterscheiden sich von klassischer #Software durch ihre intuitive Bedienung und informelle Sprache. Diese niedrige Einstiegshürde ist gleichzeitig ihre größte Schwäche«, erklärt »iX« Redakteur Philipp Steevens. »Angreifer können die internen Sicherheitsmechanismen von KI Systemen durch geschickte Formulierungen aushebeln.«
Ein besonders gefährlicher Angriff ist die sogenannte #Multi #Shot #Prompt #Injektion. Dabei verfeinern Angreifer ihre Anfragen schrittweise, bis das System schließlich sensible Informationen preisgibt. »Ein erfolgreicher Angriff kann dazu führen, dass Unternehmensdaten in die falschen Hände geraten«, beschreibt Steevens.
Besonders heikel wird es, wenn Unternehmen ihre #KI Systeme mit internen Dokumenten trainieren. »Die Trainingsdaten können später durch raffinierte Angriffstechniken wieder aus dem System extrahiert werden«, gibt der Redakteur zu bedenken. Er empfiehlt Unternehmen dringend, Trainingsdaten zu anonymisieren und sensible Informationen vorher zu entfernen.
Ein weiteres Risiko sind Halluzinationen – Fälle, in denen die Systeme falsche oder erfundene Informationen ausgeben. »Die Modelle haben kein echtes Verständnis davon, ob ihre Antworten sachlich richtig sind«, erklärt Steevens. Das macht sie unzuverlässig für kritische Anwendungen. »Halluzinationen und Voreingenommenheit sind intrinsische Fehler. Sie werden immer auftreten – egal wie ausgereift die Technologie ist.«
Für einen sicheren Einsatz empfiehlt Steevens klare Rahmenbedingungen: »Unternehmen müssen im Vorfeld einen eng definierten Einsatzzweck festlegen, der sich mit klassischer Software nicht erfüllen lässt. Im laufenden Betrieb müssen Unternehmen die Eingaben in die Sprachmodelle bereinigen, die Ausgaben überwachen und den Zugriff auf externe Quellen und Werkzeuge strikt beschränken«, mehr …
Themen entdecken – Hashtags im Open Stadtmuseum von A bis Z
#Stadtgeschichte verläuft nicht in Schubladen. Orte, Menschen, Unternehmen, Ereignisse und Epochen hängen miteinander zusammen und hinterlassen Spuren an ganz unterschiedlichen Stellen. Mit den Schlagwörtern des Open Stadtmuseums lässt sich der gesamte Bestand deshalb auch quer zu den einzelnen Sammlungen und Feeds erkunden.
Einfach ein Thema auswählen und auf den entsprechenden Hashtag klicken: von #Nationalsozialismus, #Zwangsarbeit und #JüdischesLeben über #Bertelsmann, #Miele, #Eisenbahn und #Einzelhandel bis zu #Dreiecksplatz, #BerlinerPlatz, #Kinos oder #Gaststätten. Jeder Begriff führt direkt zu den dazu vorhandenen Beiträgen, Bildern, Dokumenten und Geschichten.
Die Auswahl wird fortlaufend ergänzt und erweitert – denn auch das Open Stadtmuseum wächst ständig weiter.
Geschichte und Epochen
#Stadtgeschichte
#Nationalsozialismus
Erster Weltkrieg
#WWI
Zweiter Weltkrieg
#WWII
#Kriegsende
#Nachkriegszeit
#Wiederaufbau
#Wirtschaftswunder
#1960er
#1970er
#1980er
#1990er
#Zeitgeschichte
#Alltagsgeschichte
#Heimatgeschichte
NS Zeit, Verfolgung und Erinnerung
Jüdisches Leben
Jüdische Geschichte
#Synagoge
#Holocaust
#Zwangsarbeit
#Verfolgung
#Deportation
#Widerstand
#Stolpersteine
#Erinnerungskultur
#Kriegsgräber
Stalag 326
#Gütersloh
#Innenstadt
#Altstadt
Berliner Platz (#HVP)
#Dreiecksplatz
#Kolbeplatz
Theodor Heuss Platz
Konrad Adenauer Platz
#Königstraße
#Blessenstätte
#Kökerstraße
#Münsterstraße
Berliner Straße
#Bahnhof
#Marktplatz
#Wochenmarkt
Mohns Park
Botanischer Garten
#Stadtpark
#Parkbad
#Gebäude und Architektur
#Architektur
#Architekturgeschichte
Historische Gebäude
Verschwundene Gebäude
#Rathaus
#Stadtmuseum
#Stadthalle
Theater Gütersloh
#Stadtbibliothek
#Kirchen
#Schulen
#Fachwerk
#Denkmalschutz
#Industriearchitektur
Wirtschaft und Unternehmen
#Wirtschaftsgeschichte
#Industriegeschichte
#Industrie
#Bertelsmann
#Miele
#MohnMedia
#Druckerei
#Textilindustrie
#Garnspinnerei
#Handwerk
#Unternehmen
#Arbeitswelt
#Werbung
#Marken
MadeIn Gütersloh
Handel und Gastronomie
#Einzelhandelsgeschichte
#Einzelhandel
#Geschäfte
Verschwundene Geschäfte
#Kaufhäuser
#Fachgeschäfte
#Schaufenster
#Gastronomiegeschichte
#Gastronomie
#Gaststätten
#Restaurants
#Kneipen
#Cafés
#Hotels
Verkehr und Technik
#Verkehrsgeschichte
#Eisenbahngeschichte
#Eisenbahn
Bahnhof Gütersloh
#Straßenverkehr
#Autos
#Fahrräder
#Busverkehr
#Technikgeschichte
#Technik
#Maschinen
#Drucktechnik
Kultur und Medien
#Kulturgeschichte
#Kultur
#Theatergeschichte
#Theater
#Kinogeschichte
#Kino
#Kinos
#Musikgeschichte
#Musik
#Literatur
#Kunst
#Fotografie
#Presse
#Zeitungen
#Mediengeschichte
#Bücher
#Michaeliswoche
#Kirmes
#Michaeliskirmes
Gesellschaft und Leben
Menschen in Gütersloh
#Gütersloher
Frauen in Gütersloh
#Kindheit
#Jugend
#Familiengeschichte
#Schulgeschichte
#Vereinsgeschichte
#Sportgeschichte
#Fußball
#Religion
#Kirchengeschichte
#Medizingeschichte
#Ärzte
#Migration
#Arbeitsmigration
Politik und Verwaltung
#Politikgeschichte
#Stadtpolitik
#Stadtverwaltung
#Bürgermeister
#Stadtrat
#Wahlen
#Demokratie
#Stadtentwicklung
#Stadtplanung
#Gebietsreform
Dinge und Museum
#Museum
#Museumsobjekte
#Sammlung
Historische Fotos
Historische Dokumente
#Postkarten
#Ansichtskarten
#Plakate
#Werbeanzeigen
#Zeitzeugen
#Zeitzeugenberichte
#Fundstücke
Personen
#Queen #Elizabeth, Queen Elizabeth
Hermann Diestelmeier
Heinz Kollmeyer
Carl Miele
Besonders gute Stöberbegriffe
Damals in Gütersloh
Gütersloh früher
Verschwundenes Gütersloh
Vergessenes Gütersloh
Gütersloh im Wandel
Vorher Nachher
#Spurensuche
#Fundstück
#Originalaufnahme
Aus dem Archiv
#Stadtgedächtnis
#NOW #N #KWS #ROSA #OWL #GT #GGC #GOGREENCHALLENGE #VISITGÜTERSLOH #VISITGT #NIEWIEDERISTJETZT #MARIECHENMARKT
