Technologie

Microsoft-Roboter twittert gegen Frauen und für Hitler

Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.
26.03.2016 02:10
Lesezeit: 2 min

Inhalt wird nicht angezeigt, da Sie keine externen Cookies akzeptiert haben. Ändern..

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***

Mehr zum Thema
article:fokus_txt
Anzeige
DWN
Finanzen
Finanzen Der deutsche Markt konzentriert sich auf neue Optionen für XRP- und DOGE-Inhaber: Erzielen Sie stabile Renditen aus Krypto-Assets durch Quid Miner!

Für deutsche Anleger mit Ripple (XRP) oder Dogecoin (DOGE) hat die jüngste Volatilität am Kryptowährungsmarkt die Herausforderungen der...

X

DWN Telegramm

Verzichten Sie nicht auf unseren kostenlosen Newsletter. Registrieren Sie sich jetzt und erhalten Sie jeden Morgen die aktuellesten Nachrichten aus Wirtschaft und Politik.
E-mail: *

Ich habe die Datenschutzerklärung gelesen und erkläre mich einverstanden.
Ich habe die AGB gelesen und erkläre mich einverstanden.

Ihre Informationen sind sicher. Die Deutschen Wirtschafts Nachrichten verpflichten sich, Ihre Informationen sorgfältig aufzubewahren und ausschließlich zum Zweck der Übermittlung des Schreibens an den Herausgeber zu verwenden. Eine Weitergabe an Dritte erfolgt nicht. Der Link zum Abbestellen befindet sich am Ende jedes Newsletters.

DWN
Wirtschaft
Wirtschaft Euro-Kurs wird zur Gefahr: Europas Exporte brechen ein
06.07.2025

Ein starker Euro, schwaches Wachstum, neue US-Zölle – Europas Wirtschaft gerät unter Druck. Die EZB warnt, doch die Lage droht zu...

DWN
Politik
Politik Neuregelung der Vaterschaft: Mehr Rechte für leibliche Väter
06.07.2025

Die Bundesregierung plant eine Reform, die leiblichen Vätern zu mehr rechtlicher Anerkennung verhelfen soll. Der Entwurf aus dem...

DWN
Immobilien
Immobilien Wohnungstausch: Wie Sie Ihre Ferienwohnung herzaubern und worauf Sie achten müssen
06.07.2025

Der Wohnungstausch boomt – günstig, persönlich und spannend. Doch wie funktioniert das Ganze wirklich, und worauf muss man achten,...

DWN
Unternehmen
Unternehmen Jungmakler mit TikTok: Wie eine Generation den Versicherungsmarkt neu denkt
06.07.2025

TikTok-Reichweite, neue Rollenbilder, klare Erwartungen: Junge Makler treiben die Disruption im unabhängigen Versicherungsvertrieb voran....

DWN
Technologie
Technologie Wäschetrockner: Neues Energie-Label einfach erklärt
06.07.2025

Seit dem 1. Juli gelten für Wäschetrockner strengere Energiekennzeichnungen. Verbraucher sollen Geräte nun besser vergleichen können....

DWN
Unternehmen
Unternehmen Praktika und Probearbeiten: Rechte, Pflichten und Fallstricke für Berufseinsteiger
06.07.2025

Viele Praktikanten kennen ihre Rechte nicht – und riskieren, ausgenutzt zu werden. Was wirklich erlaubt ist, wann Praktika bezahlt werden...

DWN
Technologie
Technologie Lithium: Schlüssel zur technologischen Unabhängigkeit – doch der Rohstoff ist knapp
06.07.2025

Lithium ist der Treibstoff moderner Technologien – von E-Autos bis Energiewende. Doch was passiert, wenn die Nachfrage explodiert und das...

DWN
Politik
Politik Rückkehr der Wehrplicht trotz Wirtschaftsflaute? Nato-Ziele nur mit Pflicht zum Wehrdienst möglich
05.07.2025

Die Nato drängt: „Um der Bedrohung durch Russland zu begegnen“, hat die Nato ein großes Aufrüstungsprogramm beschlossen. Doch wie...