Im Silicon Valley ist es ein offenes Geheimnis, dass zahllose Unternehmen und Startups an Möglichkeiten arbeiten, Menschen in Roboter zu verwandeln, um Kontrolle über sie ausüben zu können. Wobei sich die Industrie zunehmend nicht mehr so sehr auf die Entwicklung neuer Technologien konzentriert (die existieren nämlich bereits), als vielmehr auf etwas, was man „Vermarktung von Persönlichkeitsstörungen“ nennen könnte. Das heißt, die Unternehmen und Start-ups entwickeln und verbreiten unterschiedliche Techniken, die allesamt auf der Tatsache beruhen, dass für das menschliche Gehirn alle Freuden mehr oder weniger gleich sind – ob sie nun von einem Gewinn am Spieltisch, einer Dosis Kokain oder „Likes“ in den sozialen Medien ausgelöst werden.
Dies ist der Grund, warum die mächtigen Konzerne (und manchmal auch Regierungen), die das Internet kontrollieren, in den letzten Jahrzehnten nicht mehr nur zufällig oder unbewusst immer mehr menschliche „Roboter“ geschaffen haben (also Menschen dahin gebracht haben, dass sie denken und handeln wie Roboter), sondern ganz bewusst. Die üblichen Warnungen vor Künstlicher Intelligenz und Automatisierung postulieren, dass die größte Bedrohung für die Menschheit von Maschinen ausgeht. Das ist jedoch nicht der Fall. In echt sind die größte Bedrohung die Menschen, die diese Maschinen entwerfen.
Diejenigen, die unser heutiges technologisches Zeitalter prägen, verfolgen amoralische oder gar unmoralische Unternehmensmodelle. Wie die Tabak- und Casino-Industrie erzeugen und fördern sie gezielt das Suchtverhalten der Menschen, um damit Gewinne zu machen. Im Jahr 2000 war der Durchschnittsamerikaner 9,4 Stunden pro Woche online; heute sind es Schätzungen zufolge 30 Stunden. Und im Zuge der Entwicklung des Internet der Dinge und der virtuellen Realität im Konsumbereich ist es leicht vorstellbar, dass wir bald 75 Prozent des Tages in virtuellen Räumen verbringen, die dazu dienen, unser Verhalten zu manipulieren.
Natürlich sind „programmierte“ Menschen nichts Neues: Schon immer in der Geschichte zogen Scharen von Soldaten wissentlich in ihren Tod; akzeptierten Anhänger von Religionen Glaubenssätze, ohne sie zu hinterfragen; und erwarben Konsumenten Waren und Dienstleistungen, von denen sie wussten, dass sie sie nicht brauchen. In den 1930ern war B. F. Skinner, der kontroverse Harvard-Psychologe, ein Pionier der Verhaltensanalyse: Er glaubte, die „Freiheit“, die wir alle so schätzen, sei in Wirklichkeit eine Illusion – und dass wir vielmehr von subtilen und komplexen Belohnungen und Bestrafungen kontrolliert werden. Dies führte ihn zu der Schlussfolgerung, das menschliche Schicksal könne durch eine „Verhaltenstechnologie“ verbessert werden. Mithilfe eines Kreislaufs von Stichworten, Aktivitäten und Belohnungen entwickelte er einen Prozess der „operanten Konditionierung“ des Verhaltens, der seitdem der Glücksspiel-Industrie zu Gewinnen verhilft.
Der Unterschied zu damals ist, wie effizient, durchdringend und umfassend die Technologien der menschlichen Manipulation bis heute geworden sind. Institutionelle „Kontrolleure“ (um einen Begriff aus der Branche zu verwenden) haben ihre Kontrollprozesse dramatisch verbessert, ihre Feedback-Schleifen perfektioniert und ihre Erkennungs-Mechanismen geschärft, um mehr Informationen über unsere Körper, Emotionen, Gewohnheiten und Gehirne zu bekommen.
In gewisser Hinsicht ist die technologische Verwandlung von Menschen in Roboter ein Kennzeichen der modernen Zeit. Seit Frederick Winslow Taylor eine Stoppuhr zur Taktung von Fließbandarbeitern verwendete, hat sich dieser Prozess im letzten Jahrhundert erheblich beschleunigt – insbesondere in den letzten vierzig Jahren. Heute, während sich das Internet der Dinge verbreitet, stehen Regierungen und Konzernen immer mehr Informationen und Werkzeuge zur Verfügung, um individuelles und kollektives Verhalten zu kontrollieren – von denen die meisten unsichtbar in die Welt um uns herum integriert sind. Dank der rapiden Fortschritte bei der Gesichtserkennung werden unsere Emotionen immer mehr zu einem offenen Buch, das neuen, subtilen Arten von Einflussnahme unterworfen ist.
Darüber hinaus sind die Kosten dafür, Menschen in Roboter zu verwandeln, erheblich gesunken. Anstatt die Menschen in Kasinos zu locken oder sie an Zigaretten zu gewöhnen, müssen die führenden Technologie-Konzerne, die bereits auf fast jeden zugreifen können, der ein Smartphone besitzt, nur die nötigen verhaltenswissenschaftlichen Grundsätze anwenden, um Menschen von ihren Produkten und Dienstleistungen abhängig zu machen.
Dies müsste nicht so sein. Aber zuerst müssen Politiker, Unternehmer und Normalbürger die Ernsthaftigkeit des Problems erkennen. Die Maschine der Verhaltensmanipulation wird durch persönliche Informationen angetrieben, die wir meist freiwillig zur Verfügung stellen. Fragen Sie sich selbst, wie häufig sie auf „Freeware“ wie Gmail oder Facebook verzichten, die die Daten sämtlicher Online-Aktivitäten und Geheimnisse in die Hände weit entfernter Konzerne gibt. Wussten Sie, dass Sie, wenn Sie heute im Laden einen Schokoriegel kaufen, diese Information in den nächsten Wochen auf Hunderten von Servern und in Tausenden von Institutionen weltweit katalogisiert wird?
Bis jetzt sind wir noch frei: Es ist unsere Entscheidung, ob wir bei der Manipulation mitmachen wollen oder ob wir mehr Aufklärung über diesen Prozess einfordern. Die Bürger müssen vollständigen Zugriff auf ihre gesammelten persönlichen Daten bekommen. Diese Kontrolle zurückzugewinnen könnte bedeuten, dass Unternehmen Kreditkarten-Informationen nur noch ein paar Jahre aufbewahren und nur noch ein paar Tage auf den Browser-Verlauf ihrer Nutzer zugreifen dürfen. Aber die Datenkonzerne sollten auch verpflichtet werden, ihre Techniken der Verhaltensmanipulation offen zu legen, und die „Verweigerung“ der Weitergabe von Daten sollte für Nutzer zur Standardeinstellung werden. All dies erfordert staatliche Regulierung und hohe Strafen für alle Organisationen, die sich nicht an die Regeln halten.
Ein noch radikalerer Vorschlag wäre, die Nutzer nicht nur entscheiden zu lassen, wie und wann ihre Daten weitergegeben werden, sondern ihnen auch ihre Monetarisierung zu überlassen. Wenn ein Online-Spiele-Unternehmen Sie dahingehend manipulieren will, ihm Verhaltensdaten zur Verfügung zu stellen, sollten Sie sich vielleicht dafür bezahlen lassen. Aber wir müssen auch Selbstdisziplin üben: Wir haben wunderbare neue Dienste und soziale Netzwerke, die unser Leben in der wirklichen Welt verbessern könnten, anstatt uns tiefer in virtuelle Löcher zu saugen. Unser Ziel sollte es sein, eine unternehmerische Umgebung zu schaffen, in der diese positiven Modelle Erfolg haben.
Indem wir unsere Daten in Besitz nehmen und die Manipulation unseres Verhaltens mit einem Preis belegen, können wir die Grundsätze verändern, die einer toxischen Branche zum Aufstieg verholfen haben. Gewähren wir den Nutzern Kontrolle und Transparenz, folgen daraus weitere positive Veränderungen: Gesetze für zusätzlichen Online-Schutz; branchenweite ethische Richtlinien; und eine Generation von Technologie-Unternehmern, die wieder gesellschaftliche Werte schafft.
Wir waren Zeuge, wie das Silicon Valley in kürzester Zeit immer mehr Aktivitäten und Branchen auf den Kopf gestellt hat. Jetzt ist es soweit, uns die Kontrolle zurück zu holen.
Aus dem Englischen von Harald Eckhoff
William H. Davidow, seit 30 Jahren Wagniskapitalgeber im Hochtechnologie-Bereich, ist Mitverfasser von The Autonomous Revolution. Michael S. Malone, Journalist zum Thema Silicon Valley, ist Mitverfasser von The Autonomous Revolution.
Copyright: Project Syndicate, 2020.
