Microsoft-Roboter twittert gegen Frauen und für Hitler

 

Mehr zum Thema.

Benachrichtigung über neue Artikel:  
 
Lesezeit: 2 min
26.03.2016 02:10
Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.
Microsoft-Roboter twittert gegen Frauen und für Hitler

Mehr zum Thema:  
Benachrichtigung über neue Artikel:  

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***


Mehr zum Thema:  

DWN
Deutschland
Deutschland „Deutschland spürt das Ende der Behaglichkeit“ – Warum Sie jetzt die DWN zum Vorteilspreis abonnieren sollten

Unser Redaktion zeigt auf, warum Sie nicht auf ein DWN-Abonnement verzichten sollten. Für das erste Jahr wird Ihnen ein besonderes Paket...

DWN
Finanzen
Finanzen Commerzbank: US-Heuschrecke und Olaf Scholz bereiten Massenentlassungen vor

Dem US-Finanzinvestor "Cerberus" gehören nur wenige Prozent der Commerzbank. Dennoch will das für seine rüden Methoden bekannte New...

DWN
Politik
Politik China gerät in Libyen an seine politischen und militärischen Grenzen

China hatte vor dem Sturz des libyschen Präsidenten Muammar al-Gaddafi sehr gute Beziehungen zu Libyen. Ob China seine Interessen in dem...

DWN
Politik
Politik Corona-Nachwehen: Deutschland bereitet sich auf schwere Unruhen vor

Gewaltsame Unruhen in Deutschland und Europa werden Experten zufolge in den kommenden Monaten wegen sozialer und wirtschaftlicher Miseren...

DWN
Politik
Politik Mit scharfer Munition: Ägypten führt Militär-Manöver an Grenze zu Libyen durch

Ägypten hat in der Nähe der libyschen Grenze ein Militär-Manöver unter Einsatz scharfer Munition durchgeführt. Zuvor hatte Kairo mit...

DWN
Finanzen
Finanzen Erdogan verhängt Sanktionen gegen Goldman Sachs und JP Morgan

Goldman Sachs, JP Morgan und vier weitere internationale Banken wurden an der Istanbuler Börse mit einem dreimonatigen Leerverkaufs-Verbot...

DWN
Technologie
Technologie Bergbau auf dem Mond offenbar lukrativer als bisher angenommen

Forscher der NASA haben Belege dafür gefunden, dass es unter der Oberfläche des Mondes unerwartet viele wertvolle Metalle gibt. Dies...

DWN
Finanzen
Finanzen Wertvoller als Volkswagen und Co.: Wie kommt es zum absurden Aktienkurs von Tesla?

Tesla erwirtschaftet seit Jahren durchweg Verluste in Milliardenhöhe. Der Aktienkurs steigt trotzdem immer weiter an – wieso?

DWN
Deutschland
Deutschland Deutschland macht bei Industrie 4.0 spürbare Fortschritte

Es hieß immer, Deutschlands Unternehmen würden bei der Umstellung auf die Industrie 4.0 weit hinterherhinken. Jetzt gibt es andere...

DWN
Politik
Politik Serbien: Wollte die Regierung Fallschirmjäger gegen Corona-Demonstranten einsetzen?

Ein serbischer Gewerkschafts-Funktionär behauptet, dass die 63. Fallschirmbrigade der serbischen Armee einen Befehl verweigert habe,...

DWN
Politik
Politik Corona-Demonstranten stürmen Belgrader Parlament

Am Freitagabend sind Demonstranten in Belgrad gewaltsam in das serbische Parlament eingedrungen. Protestierende warfen Steine und Flaschen...

DWN
Weltwirtschaft
Weltwirtschaft Die Party ist vorbei: Deutsche Unternehmen im Ausland entwerfen düsteres Zukunfts-Szenario

Die Bundesregierung und eine ganze Reihe von Wirtschaftsforschungsinstituten prognostizieren ein baldiges Ende der Krise. Doch die...

DWN
Politik
Politik Von jedem verdienten Euro bleiben dem Arbeitnehmer nur 47,9 Cent

Der Bund der Steuerzahler hat errechnet, dass einem Arbeitnehmer von jedem verdienten Euro nur 47,9 Cent zur freien Verfügung bleiben....

DWN
Finanzen
Finanzen Bauern rechnen mit Importschwemme an billigem US-Rindfleisch

Deutsche Bauern warnen vor einer Importschwemme an billigem US-Rindfleisch. Sollen die Bürger künftig auch für US-Billigfleisch eine...

DWN
Technologie
Technologie Microsoft patentiert Kryptowährung, die den menschlichen Körper zum Mining nutzt

Microsoft hat eine Methode zur Validierung von Transaktionen mit Kryptowährungen patentiert, wobei die Gehirnaktivität von Personen und...

celtra_fin_Interscroller