Technologie

Microsoft-Roboter twittert gegen Frauen und für Hitler

Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.
26.03.2016 02:10
Lesezeit: 2 min

Inhalt wird nicht angezeigt, da Sie keine externen Cookies akzeptiert haben. Ändern..

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***

Mehr zum Thema
article:fokus_txt
Anzeige
DWN
Finanzen
Finanzen Immer mehr XRP- und ETH-Inhaber wenden sich still und leise an OPTO-Miner, um 3.000 Dollar pro Tag zu verdienen

Im derzeit unberechenbaren Kryptomarkt entscheiden sich immer mehr Anleger dafür, langsamer zu werden und sich nicht mehr von...

DWN
Wirtschaft
Wirtschaft OPEC+ erhöht Förderung deutlich – Ölpreise unter Druck
09.07.2025

Die OPEC+ überrascht mit einer weit stärkeren Förderausweitung als erwartet – mit möglichen Folgen für die Weltwirtschaft,...

DWN
Technologie
Technologie Rekordfahrt auf Strom: Lucid überquert Alpen – E-Auto schafft 1205 Kilometer
09.07.2025

Ein neuer Reichweitenrekord zeigt, wie leistungsfähig moderne Elektroautos inzwischen sind: Ein Fahrzeug des US-Herstellers Lucid hat mit...

DWN
Wirtschaft
Wirtschaft Wirtschaft und KI: Jeder zweite Arbeitnehmer zweifelt an Deutschlands wirtschaftlicher Zukunft
09.07.2025

Eine aktuelle Umfrage zeigt: Viele Beschäftigte sind skeptisch, ob Deutschland im Zeitalter der künstlichen Intelligenz wirtschaftlich...

DWN
Wirtschaft
Wirtschaft Grünes Image unter Druck: EU plant strengere Regeln für Umweltwerbung
09.07.2025

Begriffe wie „klimaneutral“ oder „biologisch abbaubar“ begegnen Verbraucherinnen und Verbrauchern inzwischen fast überall – von...

DWN
Wirtschaft
Wirtschaft Deutschlands 500-Milliarden-Euro-Infrastrukturplan: Eine Chance für europäische Bauunternehmen?
09.07.2025

Deutschland plant das größte Infrastrukturprogramm seiner Geschichte. Doch es fehlen Bauarbeiter. Können andere europäische Firmen und...

DWN
Finanzen
Finanzen Bitcoin-Kurs stabil trotzt Milliardenbewegung: Anleger bleiben dennoch vorsichtig
08.07.2025

80.000 Bitcoin aus der Satoshi-Ära wurden bewegt – doch der Bitcoin-Kurs blieb stabil. Was hinter dem Rätsel steckt, warum Investoren...

DWN
Politik
Politik Steinmeier drängt auf mehr gemeinsame Rüstungsprojekte in Europa
08.07.2025

Bei seinem Besuch in Lettland hat Bundespräsident Frank-Walter Steinmeier für mehr Zusammenarbeit in der europäischen...

DWN
Unternehmen
Unternehmen Schwäche in China bremst Porsche: Absatz geht im ersten Halbjahr zurück
08.07.2025

Porsche muss im ersten Halbjahr 2025 einen spürbaren Rückgang beim Fahrzeugabsatz hinnehmen. Besonders in China läuft das Geschäft...