Technologie

Microsoft-Roboter twittert gegen Frauen und für Hitler

Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.
26.03.2016 02:10
Lesezeit: 2 min

Inhalt wird nicht angezeigt, da Sie keine externen Cookies akzeptiert haben. Ändern..

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***

Mehr zum Thema
article:fokus_txt
DWN
Politik
Politik Militär statt Frieden? Was das EU-Weißbuch 2030 wirklich bedeutet
19.07.2025

Mit dem Weißbuch „Bereitschaft 2030“ gibt die EU ihrer Sicherheitspolitik eine neue Richtung. Doch Kritiker warnen: Statt...

DWN
Politik
Politik Nordkoreas Kronprinzessin: Kim Ju-Ae rückt ins Zentrum der Macht
18.07.2025

Kim Jong-Un präsentiert die Zukunft Nordkoreas – und sie trägt Handtasche. Seine Tochter Kim Ju-Ae tritt als neue Machtfigur auf. Was...

DWN
Unternehmensporträt
Unternehmensporträt Birkenstock: Von der Orthopädie-Sandale zur globalen Luxusmarke
18.07.2025

Birkenstock hat sich vom Hersteller orthopädischer Sandalen zum weltweit gefragten Lifestyle-Unternehmen gewandelt. Basis dieses Wandels...

DWN
Politik
Politik 18. Sanktionspaket verabschiedet: EU verschärft Sanktionsdruck mit neuen Preisobergrenzen für russisches Öl
18.07.2025

Die EU verschärft ihren wirtschaftlichen Druck auf Russland: Mit einem neuen Sanktionspaket und einer Preisobergrenze für Öl trifft...

DWN
Politik
Politik China investiert Milliarden – Trump isoliert die USA
18.07.2025

China bricht alle Investitionsrekorde – und gewinnt Freunde in aller Welt. Trump setzt derweil auf Isolation durch Zölle. Wer dominiert...

DWN
Finanzen
Finanzen Energie wird unbezahlbar: Hohe Strom- und Gaskosten überfordern deutsche Haushalte
18.07.2025

Trotz sinkender Großhandelspreise für Energie bleiben die Kosten für Menschen in Deutschland hoch: Strom, Gas und Benzin reißen tiefe...

DWN
Finanzen
Finanzen Finanzen: Deutsche haben Angst um finanzielle Zukunft - Leben in Deutschland immer teurer
18.07.2025

Die Sorgen um die eigenen Finanzen sind einer Umfrage zufolge im europäischen Vergleich in Deutschland besonders hoch: Acht von zehn...

DWN
Wirtschaft
Wirtschaft Kursgewinne oder Verluste: Anleger hoffen auf drei entscheidende Auslöser für Börsenrally
18.07.2025

Zölle, Zinsen, Gewinne: Neue Daten zeigen, welche drei Faktoren jetzt über Kursgewinne oder Verluste entscheiden. Und warum viele...