Microsoft-Roboter twittert gegen Frauen und für Hitler

Lesezeit: 2 min
26.03.2016 02:10
Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.
Microsoft-Roboter twittert gegen Frauen und für Hitler

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***


Mehr zum Thema:  

DWN
Technologie
Technologie Ein Tesla-Unfall erschüttert das Märchen von der umweltfreundlichen E-Mobilität

Ein Unfall eines Tesla-Fahrers in Österreich wirft ernste Fragen für die gesamte Elektroauto-Branche auf. Zuerst musste der Wagen drei...

DWN
Politik
Politik Bundestag beschließt CO2-Sondersteuer: Auf den Mittelstand kommen schwere Zeiten zu

Der Bundestag hat die Sondersteuer auf die Emissionen des natürlichen Gases Kohlenstoffdioxid beschlossen. Besonders darunter leiden...

DWN
Finanzen
Finanzen Solvecon: Die Federal Reserve und das „Pfeifen im Walde“

Die Federal Reserve stellt ihre jüngsten Zinssenkungen als Versicherung gegen mögliche künftige Konjunkturschwächen dar. Man müsse...

DWN
Finanzen
Finanzen BRICS-Staaten bauen Alternative zum Zahlungssystem Swift auf

Die BRICS-Gruppe unterstützt Russlands Entwicklung einer Alternative zum globalen Transaktionsnetzwerk der Banken SWIFT, da dieses vom...

DWN
Deutschland
Deutschland Tesla-Fabrik in Brandenburg: Ihre Insolvenz wäre Deutschlands Segen

Über den geplanten Bau der Giga-Fabrik von Tesla in Brandenburg herrscht großer Jubel. Was kaum jemand bedenkt: Von der Fabrik würde...

DWN
Finanzen
Finanzen Daimler unter Ola Källenius: Ein Weltkonzern auf dem Rückzug an allen Fronten

Der Daimler-Vorstandsvorsitzende Ola Källenius hat tiefe Einschnitte angekündigt. Die geplanten Maßnahmen lesen sich wie ein Rückzug...

DWN
Finanzen
Finanzen Russlands Staatsfonds baut seine Dollar-Anlagen in großem Umfang ab

Russland wird den Anteil von Dollar-Assets in seinem Staatsfonds von aktuell rund 45 Milliarden Dollar deutlich reduzieren. Diese...

DWN
Finanzen
Finanzen Verluste deutlich ausgebaut: Die WeWork-Blase platzt

Das Unternehmen WeWork wurde erst von Medien und interessierten Kreisen gefeiert, nun setzt der Kater ein. Statt Gewinnen erwirtschaftet...

DWN
Weltwirtschaft
Weltwirtschaft Deutschland, Japan, Südkorea: Die Exportweltmeister straucheln in die Krise

Der weltweite Abschwung hat vor allem in den großen Exportländern wie Deutschland, Japan und Südkorea zu einem Einbruch der Konjunktur...

DWN
Politik
Politik Bundesregierung beschließt Impfzwang für Kinder, Migranten und Gesundheitspersonal

Die Bundesregierung hat einen Impfzwang für Kinder, Migranten und Angestellten von Asylzentren und Krankenhäusern beschlossen.

DWN
Finanzen
Finanzen Analysen: Weltwirtschaft so schwach wie am Ende der letzten globalen Rezession

Umfragen der wichtigen Datenanbieter Ifo und IHS Markit zeichnen ein düsteres Bild der Weltwirtschaft. Beiden Instituten zufolge befinden...

DWN
Finanzen
Finanzen Schwerwiegende Fehler: Schwedens Zentralbank kritisiert nationale Statistikbehörde

Schwedens Statistikbehörde hat über mehr als ein Jahr fehlerhafte Arbeitslosendaten veröffentlicht, die bei Entscheidungen von Regierung...

DWN
Weltwirtschaft
Weltwirtschaft Handelskammer: Jede vierte deutsche Firma will Kapazitäten in China senken

Knapp ein Viertel der deutschen Unternehmen in China zieht Produktionsstätten aus dem Land ab oder plant dies, so eine aktuelle Umfrage...

DWN
Deutschland
Deutschland Windkraft-Krisengipfel in Hannover: Die Politik steht zwischen Unternehmen, Bürgern und Verbänden

Die Windkraftbranche wird derzeit von Nackenschlägen erschüttert. Am vergangenen Freitag hat Enercon einen massiven Stellenabbau...

celtra_fin_Interscroller