Technologie

Microsoft-Roboter twittert gegen Frauen und für Hitler

Lesezeit: 2 min
26.03.2016 02:10
Ein Chatbot-Programm Namens „Tay“ sollte sich in Sozialen Netzwerken mit Nutzern unterhalten. Doch das Experiment wurde für die Entwickler von Microsoft nach wenigen Stunden zum Debakel. „Tay“ beleidigte Afro-Amerikaner und FeministInnen und lobte Adolf Hitler.

Mehr zum Thema:  
Benachrichtigung über neue Artikel:  

Inhalt wird nicht angezeigt, da Sie keine externen Cookies akzeptiert haben. Ändern..

Microsoft hat eine Chatbot-Software nach kurzer Zeit von Netz nehmen müssen, nachdem Nutzer sie durch Tricks massenhaft zu rassistischen Entgleisungen verleiten konnten. Das am Mittwoch eingeschaltete Programm mit dem Namen „Tay“ sollte mit Hilfe einfacher Antwort-Algorithmen über Twitter den Anschein einer Konversation mit Menschen aufrechterhalten, aber auch aus Unterhaltungen lernen. Nutzer brachten „Tay“ unter anderem dazu, Adolf Hitler zu preisen, den Holocaust zu verneinen und Schwarze zu beleidigen.

Ein Großteil dieser Tweets wurde später gelöscht. Nach einigen Stunden verkündete die Maschine über ihren Twitter-Account „@TayandYou“, sie müsse nach so vielen Gesprächen schlafen und ging vom Netz. Microsoft erklärte, bei „Tay“ würden „einige Anpassungen“ gemacht. Während die Software lerne, seien einige ihrer Antworten unangemessen und spiegelten die Äußerungen der Menschen wider, die mit ihr interagierten.

Nach Informationen der Website Buzzfeed, die vor dem Start ein Interview mit der führenden Entwicklerin geführt hatte, hatte „Tay“ zwar Filter gegen obszöne Ausdrücke. Aber das Team unterschätzte ganz offensichtlich die destruktive Energie von Internet-Nutzern bei politischen Themen sowie ihren Erfindungsreichtum. So erwies sich ein simples „Sprich mir nach!“ als sichere Falle: Man konnte „Tay“ damit dazu bringen, alle möglichen Parolen zu wiederholen.

„Tay“ sollte im Netz ursprünglich die Persönlichkeit einer jungen Frau simulieren und als Zielgruppe auf Internet-Nutzer im Alter von 18 bis 24 Jahre ausgerichtet sein. Dafür sei die Software unter anderem mit Sprüchen von Comedians aufgepeppt worden, hieß es.

Die Idee von Chatbots ist nicht neu: Vor 50 Jahren hatte erstmals das Programm „Eliza“ Aufsehen erregt. Es konnte eine Unterhaltung aufrechterhalten, indem es passende Sätze zu erkannten Schlüsselwörtern zusammenstellte. Mit der fortschreitenden Entwicklung selbstlernender Maschinen und künstlicher Intelligenz gelten Chatbots jetzt aber unter anderem als aussichtsreiches Modell für die Kommunikation von Unternehmen mit Kunden. So entwickelt Facebook für seinen Messenger einen Concierge-Service mit künstlicher Intelligenz, der aktuell noch von Menschen angelernt wird.

Erst vor wenigen Monaten hatten führende Wissenschaftler vor einer möglicherweise außer Kontrolle geratenen künstlichen Intelligenz gewarnt. 

*** Bestellen Sie den täglichen Newsletter der Deutschen Wirtschafts Nachrichten: Die wichtigsten aktuellen News und die exklusiven Stories bereits am frühen Morgen. Verschaffen Sie sich einen Informations-Vorsprung. Anmeldung zum Gratis-Newsletter hier. ***


Mehr zum Thema:  

DWN
Politik
Politik Unions-Justizminister fordern Nachbesserungen beim Cannabis-Gesetz
30.05.2024

Die Justizminister von CDU und CSU kritisieren, dass Gerichte immer wieder Cannabis-Schmuggler freisprechen. Aus ihrer Sicht liegt das an...

DWN
Weltwirtschaft
Weltwirtschaft Was die USA über Kriegswirtschaft gelernt hat: Der Aufstieg der Mesoökonomie – TEIL 2
30.05.2024

Die USA stehen vor vielfältigen wirtschaftlichen und sicherheitspolitischen Problemen, die eine fördernde Wirtschaftsmentalität...

DWN
Politik
Politik Reich und Arm: Die Unterschiede werden größer in Deutschland
30.05.2024

Erst die Corona-Pandemie, dann der Krieg Russlands gegen die Ukraine. Beides nicht nur unerfreulich an sich, sondern auch zwei weitere...

DWN
Weltwirtschaft
Weltwirtschaft BKA: Bisher größter Schlag gegen weltweite Cyberkriminalität
30.05.2024

Das Bundeskriminalamt und internationale Behörden haben die Operation „Endgame“ gestartet. In den vergangen zwei Tagen wurden weltweit...

DWN
Immobilien
Immobilien Graue Energie: Wie Architekten helfen wollen, die CO2-Bilanz zu retten und die Klima-Katastrophe zu verhindern
30.05.2024

Alle reden von Holzbau, Lehmfassaden und Verdichtung. Manche Architekten fragen sich, ob man überhaupt Flächenfraß und Wachstum...

DWN
Politik
Politik Ukraine-Krieg: Blinken deutet Flexibilität bei Einsatz von US-Waffen in Russland an
30.05.2024

In der Debatte um den Einsatz westlicher Waffen durch die Ukraine gegen militärische Ziele in Russland hat US-Außenminister Antony...

DWN
Politik
Politik DWN-SERIE zur Europawahl (Teil 3): Das Wahlprogramm der AfD für die EU
30.05.2024

Am Sonntag, dem 9. Juni, findet in Deutschland die Abstimmung zur Europa-Wahl statt. Erstmals werden auch 16-Jährige über die...

DWN
Politik
Politik Russland plant nach zwei Jahren Ukraine-Krieg Steuererhöhungen
30.05.2024

Russland muss wegen hoher Rüstungs- und Verteidigungsausgaben in seinem Angriffskrieg gegen die Ukraine an anderer Stelle haushalten. Eine...