Microsoft-Roboter twittert gegen Frauen und für Hitler

 

Mehr zum Thema.

Benachrichtigung über neue Artikel:  
 
Lesezeit: 2 min
26.03.2016 02:10
Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.
Microsoft-Roboter twittert gegen Frauen und für Hitler

Mehr zum Thema:  
Benachrichtigung über neue Artikel:  

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***


Mehr zum Thema:  

DWN
Termine
Wichtige Termine Lesen Sie hier, warum Sie die Deutschen Wirtschafts Nachrichten lesen sollten und wie Sie dabei 17% sparen!

Unser Chefredakteur Hauke Rudolph zeigt auf, warum man Abonnent der DWN sein sollte. Gleichzeitig können Sie von einem interessanten...

DWN
Politik
Politik USA versus China: Ein Krieg liegt im Interesse beider Länder

Der Konflikt zwischen den USA und China nimmt an Schärfe zu. Wie weit die beiden Kontrahenten gehen könnten, analysiert DWN-Autor Ernst...

DWN
Deutschland
Deutschland Askese ist in der Corona-Krise der falsche Weg: Plädoyer für einen aufgeklärten Konsum

Konsum ist kein Übel, schreibt DWN-Kolumnist Ronald Barazon - weder in der Corona-Krise noch sonst.

DWN
Politik
Politik Gesundheit nur Vorwand: Eliten instrumentalisieren Corona-Krise für Massen-Manipulation und mehr Kontrolle

DWN-Korrespondent Moritz Enders hat den Psychologen Rainer Mausfeld zum Thema Indoktrination und Massen-Manipulation interviewt.

DWN
Politik
Politik Bundesregierung entsendet Funktionär in neue Anti-China-Allianz

Die Bundesregierung entsendet einen Funktionär in eine gegen China gerichtete internationale Arbeitsgruppe. Die Beteiligung ist ein...

DWN
Politik
Politik Griechenland ist bereit für einen Krieg gegen die Türkei

Griechenlands Verteidigungsminister droht der Türkei mit militärischer Gewalt. Beim Streit zwischen Ankara und Athen geht es um...

DWN
Politik
Politik DWN-SPEZIAL: Die Aufteilung Libyens nimmt Konturen an

Die Aufteilung des „libyschen Kuchens“ nimmt Konturen an. Am Verhandlungstisch sitzen die USA, Russland und die Türkei. Doch auch die...

DWN
Politik
Politik Lockdown ist weltweite Schock-Strategie: Finanz-Industrie will Staaten in die Totalverschuldung treiben

Der Publizist und Autor Ullrich Mies hat kürzlich in Berlin eine meinungsstarke Rede gehalten, von der die DWN Auszüge veröffentlicht.

DWN
Deutschland
Deutschland Wie in Deutschlands Kitas Kindesmissbrauch gefördert wird

„Original Play“ nennt sich ein Konzept, demzufolge wildfremde Männer gegen eine Gebühr in deutsche Kitas gehen dürfen, um mit...

DWN
Panorama
Panorama Nach Corona-Skandal: Hunderte Kinder in Göttingen müssen in Quarantäne

Hunderte Kinder müssen nach dem massenhaften Corona-Ausbruch in Göttingen in Quarantäne. Bei Privatfeiern hatten sich zahlreiche...

DWN
Politik
Politik Nicht 130 Milliarden Euro: Konjunkturpaket kostet über 160 Milliarden Euro

Das Konjunkturpaket hat offenbar ein Volumen von 167,24 Milliarden Euro. Zuvor wurde berichtet, dass das Volumen etwa 130 Milliarden Euro...

DWN
Technologie
Technologie „Meilenstein für Europas Unabhängigkeit“: Cloud-Projekt Gaia-X geht gegen China und die USA an den Start

Vor dem Hintergrund der geopolitischen Umwälzungen fordern immer mehr europäische Firmen eine von den USA und China unabhängige...

DWN
Deutschland
Deutschland Mehrwertsteuer-Senkung: Lebensmittel sollen günstiger werden

Lebensmittelketten und Discounter haben angekündigt, die steuerlichen Vorteile aus der Senkung der Mehrwertsteuer an die Verbraucher...

DWN
Politik
Politik Sig Sauer: Deutschlands ältester Waffenhersteller ist pleite

Der Waffenhersteller Sig Sauer ist pleite. Das Unternehmen will ab dem kommenden Jahr seine Produktion in Deutschland einstellen.

DWN
Panorama
Panorama Elon Musk fordert Zerschlagung von Amazon

"Monopole sind nicht gut", sagt Tesla-Gründer Elon Musk und forderte gezielt die Zerschlagung des Online-Handelsriesen Amazon.

celtra_fin_Interscroller