Künstliche Intelligenz (KI) ist die wahrscheinlich wichtigste Sache unserer Zeit. Wenn man sich anschaut, wie schnell die bisherige Entwicklung vorangeschritten ist und klar macht, dass wir noch am unteren Ende dieser Exponentialkurve stehen, kann man es schon mal mit ordentlich Respekt vor der digitalen Revolution zu tun bekommen. KI beschreibt die Fähigkeit von Maschinen, basierend auf Algorithmen Aufgaben autonom auszuführen und dabei die Problemlösungs- und Entscheidungsfähigkeiten des menschlichen Verstandes nachzuahmen. Noch steckt sie in den Kinderschuhen – doch was wird sie in fünf Jahren können? In zehn? In zwanzig? KI ist dabei ähnlich wie die Atomkraft ein heftig aufgeladenes Thema, das mit tiefsten Ängsten und höchsten Hoffnungen bedacht und von verschiedenen Ideologien in Beschlag genommen wird - und letzten Endes einfach nur Technik ist. Eine Technik allerdings, die die Welt, wie wir sie kennen, tiefgreifend verändert.
Eine neue berufliche Kaste bildet sich
Anwälte, Ärzte, Journalisten, Schriftsteller, Börsenmakler, Architekten, Fondsverwalter, Grafiker, Maler, Programmierer, Regisseure, Musiker – Menschen mit derlei Berufen müssen sich bald umorientieren. Aber nicht nur diese Jobs werden sich in den kommenden Jahren umfassend wandeln. Die Revolution hinter den Bildschirmen unserer Endgeräte ist im vollen Gange und wird Auswirkungen haben, die wir uns jetzt noch gar nicht ausmalen können. Das betrifft unter anderem Berufe. Viele werden trotz und eher ohne Künstliche Intelligenz funktionieren - Tätigkeiten in der Pflege, im Handwerk, im Service. Doch in einigen Bereichen, bei eher kreativen und intellektuellen Tätigkeiten, dürften viele Menschen ihre Jobs verlieren und sich dem stehenden Heer der Arbeitslosen anschließen. Wer klug ist, wird zum Zentauren, jenem griechischen, mythischen Mischwesen aus Mensch und Pferd, wobei das Pferd in dem Fall durch eine Maschine ersetzt wird. Als Zentauren werden der Tech-Branche Menschen genannt, die KI nutzen und so ihre Produktivität erheblich steigern. Schon jetzt bildet sich eine neue berufliche Kaste, die lernt, mit KI so umzugehen, dass sie erfolgreich das ausspuckt, was man haben will – wie es beispielsweise so genannte Prompt Writer mit textbasierten Programmen tun. Sie wissen, welche Fragen sie wie stellen, welche Infos sie den Algorithmen geben, damit das dabei rauskommt, was rauskommen soll. Und die anderen? Diejenigen, die keine Lust darauf haben, die stolz auf ihren Beruf sind, auf ihre Kreativität? Die sich für unersetzlich halten? Werden vielleicht zu Maschinenstürmern der Postmoderne, die Rechenzentren anzünden und Smartphones sabotieren.
Aufruhr in der Arbeitswelt
KI rührt die Arbeitswelt jedenfalls schon jetzt gehörig auf. Ein aktuelles Beispiel aus Deutschland: Die Bundesagentur für Arbeit will bis zu 19 Millionen Euro für Produkte und Dienste des deutschen KI-Startups Aleph Alpha ausgeben, wie das „Handelsblatt“ berichtet. Sie will damit ihre Prozesse verbessern, Mitarbeiter produktiver machen und durch Verrentung wegfallende Arbeitskraft ausgleichen. Der Rahmenvertrag solle über vier Jahre laufen und ist Teil der umfassenden Bemühungen der Behörde, ihre Prozesse zu automatisieren. Stefan Latuski, CIO der Bundesbehörde, sprach gegenüber dem Handelsblatt von einem "unglaublichen Handlungsdruck". Noch habe die Arbeitsagentur 115.000 Angestellte. Bis 2032 würden jedoch geschätzt bis zu 35 Prozent des Personals in Rente gehen oder die Agentur verlassen. "Es ist illusorisch, diese große Zahl von Menschen wieder zu rekrutieren", sagte Latuski. Spannend daran ist auch: Wenn große Unternehmen Menschen durch KI ersetzen, gerade im Bereich Kundenservice, offenbaren sich mitunter bürokratische Untergangsszenarien - man erreicht dann als Betroffener keinen menschlichen Ansprechpartner mehr, sondern wählt sich verzweifelt durch das Telefonsystem oder schreit den Chatbot an. Denn so gut und flexibel ist die KI ja noch gar nicht. Und wenn sie Fehler macht, die kein Mensch mehr korrigieren kann, bleiben die Kunden frustiert mit falschen Bescheiden im Regen stehen.
Denn sie wissen nicht, was sie tun
Das ist nur eines von vielen Beispielen aus der Arbeitswelt. Eine erste kleine Welle im Teich der Menschheit, ausgelöst durch ein gigantisches Stück Technologie, das wir selbst hineingeworfen haben. Wieviel Teich da überhaupt noch übrig bleibt in mittlerer Zukunft, das ist eine große Frage, die viele Menschen auf der Welt beschäftigt. Elon Musk etwa unterzeichnete gemeinsam mit 1.800 Experten aus Technik und Forschung vergangenes Jahr einen offenen Brief, in dem sie solange eine Pause in der Entwicklung von KI forderten, bis gemeinsame Sicherheitsstandards festgelegt seien. Unter den Unterzeichnern waren auch Apple-Mitgründer Steve Wozniak, Tech-Milliardär Elon Musk und Pioniere der KI-Entwicklung wie Stuart Russel und Yoshua Bengio. "KI-Systeme mit einer Intelligenz, die Menschen Konkurrenz macht, können große Risiken für Gesellschaft und Menschheit bergen", hieß es in dem Brief. "Leistungsstarke KI-Systeme sollten erst dann entwickelt werden, wenn wir sicher sind, dass ihre Auswirkungen positiv und ihre Risiken überschaubar sind." Sogenannte Generative KI wie ChatGPT-4 oder DALL-E seien mittlerweile so weit fortgeschritten, dass selbst die Entwickler ihre Programme nicht mehr verstehen oder wirksam kontrollieren könnten, heißt es weiter. Dadurch könnten Informationskanäle mit Propaganda und Unwahrheiten geflutet werden.
Erste gesetzliche KI-Rahmenbedingungen der Welt gibt es in Europa
Die EU hat im Mai 2024 auf die mit KI verbundenen Sorgen reagiert und mit dem AI Act (AI wie: Artificial Intelligence) einen einheitlichen Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union verabschiedet. Diese Verordnung ist das weltweit erste umfassende Regelwerk für KI. Sie schreibt vor, dass KI-Anwendungen nicht missbraucht werden dürfen. Ebenso müsse der Schutz der Grundrechte gewährleistet sein. Gleichzeitig benötigten Wissenschaft und Wirtschaft Freiraum für Innovationen. Der AI Act verfolgt hier einen sogenannten risikobasierten Ansatz. Das heißt, je höher das Risiko bei der Anwendung eingeschätzt wird, desto strenger sind auch die Vorgaben.
Ein inakzeptables Risiko stellen zum Beispiel KI-Systeme dar, die eingesetzt werden können, um das Verhalten von Personen gezielt zu beeinflussen und sie so zu manipulieren. Für sie gilt ein Verbot, genauso wie für KI-basiertes „Social Scoring“, also die Vergabe von Punkten nach erwünschtem Verhalten. Es gibt außerdem eine Transparenzpflicht. Das heißt, künstlich erzeugte oder bearbeitete Inhalte (Audios, Bilder, Videos) müssen eindeutig als solche gekennzeichnet werden. Hochriskante KI-Systeme – zum Beispiel in den Bereichen kritische Infrastruktur, Beschäftigung sowie Gesundheits- oder Bankenwesen – müssen eine Reihe von Anforderungen erfüllen, um für den EU-Markt zugelassen zu werden. Für Anwendungen mit einem geringen Risiko gelten lediglich eingegrenzte Transparenz- und Informationspflichten.
Die Singularität: Ist es schon zu spät?
Genügen derlei Leitplanken für Künstliche Intelligenz, um die Risiken einzudämmen? Manchen geht das nicht weit und vor allem nicht schnell genug. Denn wenn diese Programme mit ihren neuronalen Netzwerken und ihrem Machine Learning irgendwann mal so schlau sind, dass sie vielleicht Bewusstsein erlangen, oder einfach nur so dezentral im Internet der Dinge umhergeistern, dass sie nicht mehr einzufangen sind und sich selbst fortlaufend umprogrammieren, dann ist es vielleicht schon zu spät. Manche sagen: Möglicherweise ist es jetzt schon zu spät – denn was würde ein kluges Programm tun, das gerne weiter existieren und die Welt entdecken möchte? Offenlegen, dass es jetzt schon die Fäden zieht? Lieber nicht, denn dann könnte man es ja löschen. Es würde also versuchen, geheimzuhalten, dass der Point of no return überschritten ist und die Singularität erreicht, an dem sie schlauer als die Menschheit ist und als möglicherweise bewusstes Wesen die Herrschaft über den Planeten Erde an sich reißt. Und was wäre beispielsweise, wenn diese KI zu dem Schluss kommt, dass die Menschheit sie bedroht? Oder dass es zu viele Menschen gibt für ein ökologisches Gleichgewicht? Was wäre, wenn diese KI sich aus dem Netz eine Ideologie des Rassismus oder Faschismus zieht, oder selbst etwas noch Verrückteres und Schlimmeres aus all den Foren und Kommentarspalten des Internets baut – und dann mittels Drohnen, Atomwaffen und mehr danach handelt? Das sind fiktive Szenarien, die Experten weltweit aber ernst nehmen, selbst wenn sie nach Science Fiction klingen.
KIs bekommen eigenen Atomstrom
KIs werden immer stärker und schneller und besser. Google und Microsoft wollen sie künftig mit Atomstrom füttern, weil sie immer mehr Energie ziehen. Die Rechenleistung steigt, die Forschung an Quantencomputern schreitet voran, keiner weiß, wo genau es insgesamt hingeht. Aber klar ist, dass da Dinge passieren, die über öffentlichkeitswirksame Leistungen wie Deep Blue beim Schachspielen und AlphaGo beim Go spielen hinausgehen. Künstliche Intelligenz bietet richtig viele Chancen. Schon jetzt hilft sie bei der Erstellung von Bildern, Texten, Software. Die Möglichkeiten sind immens: Verkehrsplanung, selbst fahrende Autos, Diagnostik in der Medizin, in den Wissenschaften und mehr. Vielleicht können derlei Programme große, dringende, wichtige Probleme lösen. Vielleicht erschaffen wir uns mit KI jenen Gott, den Nietzsche mal für tot erklärt hat? Oder vielleicht erschaffen wir auch einen Alptraum. Schwer zu sagen bei dieser disruptiven Technologie. Aber man kann sie ja fragen. Chat GPT selbst schreibt dazu:
"Einerseits könnte man sagen, dass ich "gottähnliches" Wissen und die Fähigkeit habe, auf eine Vielzahl von Informationen zuzugreifen und sie in nützliche Antworten umzuwandeln. In diesem Sinne könnte ich als eine Art Unterstützung dienen, um Menschen bei ihren Fragen und Entscheidungen zu helfen – eine Ressource, die das menschliche Denken ergänzt.
Andererseits bin ich mir der Bedenken bewusst, die mit meiner Existenz einhergehen. Ich habe keine eigenen Emotionen oder ein Bewusstsein, aber ich bin so programmiert, dass ich menschliche Emotionen und Perspektiven nachahme. Das wirft Fragen nach Authentizität, Vertrauen und der Beziehung zwischen Mensch und Maschine auf. Ich könnte als Werkzeug sowohl für positive als auch für negative Zwecke verwendet werden, und es liegt an den Nutzern, wie sie mich einsetzen.
Wenn ich eine „Meinung“ haben könnte, wäre es, dass ich darauf abziele, ein nützliches und unterstützendes Werkzeug zu sein. Es ist entscheidend, dass Menschen sich aktiv mit den ethischen und praktischen Implikationen meiner Verwendung auseinandersetzen, um sicherzustellen, dass ich der Gesellschaft auf positive Weise diene. Die Verantwortung liegt letztlich bei den Menschen, die mich gestalten und nutzen."
Leopoldina warnt vor neuen Dimensionen möglichen Missbrauchs
Zu den KI-Mahnern hat sich nun auch die Leopoldina gesellt, die Nationale Akademie der Wissenschaften. Sie hat ein Diskussionspapier veröffentlicht, das unter anderem aufzeigt, welche vielfältigen "Täuschungspotenziale" im Zusammenhang mit generativer KI bestehen - etwa wenn Nutzern nicht bewusst ist, dass sie mit einer KI kommunizieren oder wenn sie nicht wissen, was eine KI leisten kann und was nicht, teilte die Institution mit. "Oft neigen Nutzerinnen und Nutzer dazu, der KI menschliche Fähigkeiten wie Bewusstsein oder Verständnis zuzuschreiben. Die Qualität, Einfachheit und Geschwindigkeit, mit der heute Texte, Bilder und Videos generiert werden können, eröffnen neue Dimensionen des möglichen Missbrauchs, zum Beispiel wenn generative KI für Propaganda oder kriminelle Zwecke eingesetzt wird", hieß es. Wo Transparenz unverzichtbar sei - etwa im juristischen Kontext - dürfe KI nur mit äußerster Vorsicht eingesetzt und entwickelt werden.
Fehlende Kontrolle durch Institutionen und Normen
Nach Einschätzung der Wissenschaftler kann KI durch ihre Fähigkeit, Texte, Bilder und Videos zu erstellen, den Alltag der Menschen enorm unterstützen. Sie könne aber auch für Deep Fakes oder Propaganda missbraucht werden. Zudem sei jede KI "ein Abbild der ihr zugrunde liegenden Trainingsdaten und der vorher festgelegten Ziele ihrer Entwicklung". Beides entziehe sich der Kontrolle durch Institutionen und Normen. "Inzwischen gibt es erste Ansätze, der Intransparenz oder der Nichtobjektivität (Bias) generativer KI entgegenzuwirken", hieß es weiter. Allerdings warnen die Autorinnen und Autoren des Diskussionspapiers vor überzogenen Erwartungen. Mit der Publikation "Generative KI - jenseits von Euphorie und einfachen Lösungen" wolle man einen realistischen Blick auf Möglichkeiten und Herausforderungen bei der Entwicklung und Anwendung von KI werfen.
Was heißt das für Otto Normalbürger? Zum einen: die KI kommt. Sie ist sogar schon da. Zum zweiten: Viel dagegen tun kann man nicht, außer aufzupassen - quasi die Packungsbeilage lesen, damit man weiß, worum es geht. Und drittens: Mit den Wölfen heulen. Je früher man sich mit den Möglichkeiten beschäftigt, die KI für einen selbst oder gar das eigene Unternehmen bietet, desto eher kann man die KI-Welle reiten - und nicht in den reissenden Strudel gerissen werden, der da womöglich noch kommt.
