KI-Pionier Bengio: „Wir können die Vorteile nutzen, ohne die Katastrophe zu riskieren“

Ein Durchbruch gibt dem KI-Pionier neue Hoffnung

Professor Bengios Gleichungen beginnen aufzugehen. Die Ideen, die bei einem der weltweit führenden Computerforscher für eine sicherere Art der Entwicklung Künstlicher Intelligenz gereift sind, haben in den vergangenen sechs Monaten ernsthafte Fortschritte gemacht. Es sind Ideen, die aus der Verzweiflung über jene Erkenntnis entstanden, zu der der kanadische sogenannte Godfather of AI nach der Einführung von ChatGPT im November 2022 kam.

Die Technologie, der er seit Ende der achtziger Jahre sein Arbeitsleben gewidmet hatte, befand sich auf Katastrophenkurs. Die Risiken, dass KI missbraucht wird, sich unbeabsichtigt verhält oder zu einer Machtkonzentration bei den USA und China führt, waren die drei Hauptsorgen. Im äußersten Fall könne dies zur Auslöschung der Menschheit führen, lautete damals die düstere Botschaft. Nun ist der Informatikprofessor von der Universität Montreal wieder hier. Diesmal kommt er mit einer aufmunternderen Botschaft, nachdem er seine Ideen in einen theoretischen Durchbruch übersetzt hat.

„Ich habe einige mathematische Ergebnisse gefunden, die überzeugender zeigen, dass es eine Möglichkeit gibt, KI so zu trainieren, dass die sehr ernsten Fallstricke vermieden werden, die heute bestehen“, sagt Yoshua Bengio zu Børsen, als wir ihn in einer Hotellobby in Nyhavn in Kopenhagen treffen. Der Ansatz mit dem Namen Scientist AI besteht im Kern darin, KI darauf zu trainieren, zu bewerten, was wahr ist, statt Menschen zu imitieren oder zu versuchen, Menschen zufriedenzustellen. Wie ein Wettermodell, das versucht, das Wetter vorherzusagen, ohne Rücksicht darauf, ob die Menschen dahinter Sonne oder Regen bevorzugen.

Wenn man KI nicht länger darauf trainiert, Menschen zu imitieren, bringt man den Systemen auch nicht den menschlichen Selbsterhaltungstrieb bei. Dadurch verringert man das Risiko gefährlichen Verhaltens in einem Versuch zu überleben, so Bengios Logik.

„Wenn wir die Entwicklung in der derzeitigen Richtung weiterlaufen lassen, besteht ein reales Risiko, dass wir in einer Welt enden, in der wir nicht mehr besonders viel Einfluss haben“, sagt Yoshua Bengio, Computerforscher und „Godfather“ of AI.

Der Weg, sein System zu verwirklichen, besteht unter anderem darin, die Modelle ausdrücklich auf die Unterscheidung zwischen Meinungen und faktischen Gegebenheiten zu trainieren, etwa mathematischen Beweisen oder wissenschaftlichen Messungen. Tatsächlich meint er, dass der evidenzbasierte Ansatz zu besseren Systemen führen kann. Damit könnte also eine von Bengios drei großen Sorgen aufgelöst werden: Die Sorge um Systeme, die sich unbeabsichtigt verhalten.

Ironischerweise, merkt er an, haben gerade Sprachmodelle ihn bei der Arbeit, Beweise dafür zu finden, dass sie gezähmt werden können, deutlich effektiver gemacht. Seit dem letzten Gespräch habe es nämlich das gegeben, was er „eine Revolution“ nennt, besonders bei den mathematischen Fähigkeiten der Modelle. Doch es gibt auch eine Kehrseite der rasanten Entwicklung. Der Bedarf an einer Alternative zu den amerikanischen und chinesischen Systemen ist gewachsen, lässt er uns verstehen, als wir uns mit dem Professor zusammensetzen, um seine Einschätzung der Entwicklung seit dem letzten Mal und dazu zu bekommen, wohin wir steuern.

Europa braucht eine internationale KI-Koalition

Der nächste Schritt mit Scientist AI besteht darin, einen Prototyp zu bauen und ihn bei den führenden Unternehmen wie OpenAI, Anthropic und Google in die Praxis zu bringen. Mit ihnen steht Bengio im Dialog. Doch aus Sicht des Kanadiers wäre das beste Szenario, dass eine Alternative zu den Unternehmen aus den USA und China entsteht, die derzeit das KI-Rennen dominieren. Eine Alternative, die „ethischer und besser im Einklang mit humanistischen und demokratischen Werten“ ist.

„Daran arbeite ich wirklich.“ Bengio stellt sich eine internationale Koalition von Ländern vor, die auf eine Weise zusammenarbeiten, die stärker auf „das Beste der Gesellschaft“ ausgerichtet und durch nationale Abkommen reguliert ist.

Die Idee eines dritten Spielers am Tisch hatte Bengio auch schon dabei, als er zuletzt hier war. Sie sei aber dringlicher geworden, je schneller sich die Entwicklung im vergangenen halben Jahr vollzogen habe, unter anderem mit großen Fortschritten bei den Fähigkeiten von KI-Modellen, Cyberangriffe zu erleichtern. Anfang des Monats wurde jedoch bekannt, dass 75 Mitarbeiter von OpenAI nun die Erlaubnis erhalten hatten, Aktien für jeweils 30 Millionen US-Dollar zu verkaufen.

DWN: Kann es für eine pannationale Alternative nicht schwierig werden, um die fähigsten Forscher und Ingenieure zu konkurrieren?

Yoshua Bengio: Natürlich kann man sehr viel mehr Geld verdienen, wenn man für eines dieser Unternehmen arbeitet. Aber es gibt viele Menschen, die mit der Art, wie sich die Dinge ethisch entwickeln, nicht glücklich sind, da sie sehen, dass Unternehmen wegen der Konkurrenz Kompromisse bei Sicherheit, dem Wohl der Gesellschaft eingehen und Risiken im Namen aller eingehen. Deshalb glaube ich, dass es wirklich ein Interesse gibt. Und wir rekrutieren Menschen, denen die Mission wichtig ist und die KI als Kraft für das Wohl der Gesellschaft sehen und nicht als Werkzeug der Dominanz.

Krise und Leid

Yoshua Bengio hat in den vergangenen sechs Monaten zwölf verschiedene Hauptstädte besucht und eine lange Reihe von Interviews gegeben, um über die Risiken von KI zu sprechen. Doch er erlebt, dass die Botschaft bei den Menschen nicht ganz ankommt. Wir bitten ihn, ein konkretes Szenario zu zeichnen. „Ein Szenario ist rein wirtschaftlich, aber es wird auch politisch“, sagt Bengio und erklärt. Die Situation könnte so werden, dass der Gewinn aus KI hauptsächlich in den USA und China landet. Kombiniert mit einer Automatisierung von Jobs kann das Regierungen in eine finanzpolitische Lage bringen, in der sowohl Steuereinnahmen fehlen als auch Insolvenzen entstehen, da Unternehmen nicht mehr wettbewerbsfähig sind.

„Ich habe einige mathematische Ergebnisse gefunden, die überzeugender zeigen, dass es eine Möglichkeit gibt, KI so zu trainieren, dass die sehr ernsten Fallstricke vermieden werden, die heute bestehen“, sagt Yoshua Bengio.

Hinzu kommt ein wachsender Bedarf an öffentlicher Unterstützung. „Das bedeutet sehr viel Leid für viele Menschen.“ Ich frage, ob ein Grund dafür, dass Menschen vielleicht nicht so besorgt wirken, darin liegen könnte, dass bislang im großen Bild schwer eine Wirkung zu erkennen ist. Seit unserem letzten Gespräch vor einem halben Jahr ist die Arbeitslosigkeit in den USA zum Beispiel von 4,6 Prozent auf 4,3 Prozent gefallen. „Aber man muss verstehen, dass KI nicht statisch ist. Die Fähigkeiten wachsen exponentiell, und wenn die Entwicklung weitergeht, ist es fast sicher, dass wir sehr erhebliche Effekte auf dem Arbeitsmarkt sehen werden.“

Wacht auf

Wenn der Copenhagen Democracy Summit ein Orientierungspunkt dafür ist, wohin sich das politische Gespräch über KI bewegt, kann Yoshua Bengio vielleicht doch ziemlich zufrieden sein. Das Thema ist hier, dort und überall im Programm des Skuespilhuset in Kopenhagen, was einer der Gründe ist, weshalb Bengio im Land ist. Auch die zwei vorherigen Beiträge, bevor der Professor einige Stunden nach unserem Interview in einem dunkelgrauen Sessel auf der Bühne zu einem Fireside Chat Platz nimmt, gingen auf die Risiken von KI ein, obwohl dies nicht das eigentliche Thema war.

Bengio macht den rund 400 Anwesenden im Saal klar, was seiner Ansicht nach auf dem Spiel steht. „Wenn wir die Entwicklung in der derzeitigen Richtung weiterlaufen lassen, besteht ein reales Risiko, dass wir in einer Welt enden, in der wir nicht mehr besonders viel Einfluss haben. Vielleicht haben wir in unseren Ländern noch Demokratie, aber die Macht wird woanders liegen“, sagt er. Der wichtigste Faktor, um die Herausforderungen bewältigen zu können, sei ein Bewusstsein der Bevölkerung dafür, dass diese Herausforderungen existieren, meint er.

„Wenn die Menschen erst verstehen, dass die Zukunft ihrer Kinder ihnen genommen werden kann, werden sie verlangen, dass ihre Regierungen handeln.“ Bengio wird vom Interviewer auf der Bühne gefragt, ob er glaubt, dass die Regierungen derzeit für diese Herausforderung gerüstet sind. „Nein“, kommt es prompt von Bengio mit einem etwas resignierten Lachen. „Sie müssen aufwachen.“

KI-Regulierung soll Vorteile sichern und Katastrophen verhindern

Wenn Yoshua Bengio sich entschieden hat, Jahrzehnte mit Künstlicher Intelligenz zu arbeiten, dann deshalb, weil er das positive Potenzial der Technologie gesehen hat, zum Beispiel im Gesundheitswesen. Das britische Start-up Isomorphic Labs hat gerade 2,1 Milliarden US-Dollar in der größten europäischen Venture-Investition aller Zeiten für seine Mission eingesammelt, „alle Krankheiten auszurotten“.

Gleichzeitig besteht das Risiko, dass die Fähigkeiten von KI-Systemen in der Biologie missbraucht werden können, etwa um ein neues Virus zu erschaffen. Auch solche Szenarien gehören also zu Bengios Hauptsorgen. Zurück in der Hotellobby frage ich ihn, wie er den Ausgleich zwischen den positiven und den negativen Szenarien der Technologie und die Kommunikation darüber am besten handhaben würde.

„Es ist ein Trugschluss zu glauben, dass es ein Entweder-oder ist. Wir können sehr wohl beides bekommen. Die Vorteile und die Sicherheit“, sagt Yoshua Bengio.

Yoshua Bengio hebt seine Hände und formt sie wie zwei Schalen einer altmodischen Waage mit je einem Gewicht darin. „Wenn man die Millionen Menschen, denen durch medizinische Fortschritte geholfen werden kann, gegen das Ende der Demokratien oder den Untergang der Menschheit aufwiegt“, sagt Bengio. „Dann glaube ich, dass sehr klar ist, dass es sich lohnt, langsam vorzugehen, damit wir sowohl die Heilmittel bekommen als auch unsere Werte und Institutionen bewahren.“

Bengio hebt die EU dafür hervor, mit ihrem sogenannten Code of Practice für den KI-Bereich eine Reihe von Leitlinien erarbeitet zu haben, durch die Unternehmen die Gesetzgebung ohne große Nachteile erfüllen können. Dabei geht es unter anderem um Sicherheitsverfahren, Risikomanagement und externe Kontrolle. „Es gibt ganz klar einen Weg nach vorn, der sowohl katastrophalen Missbrauch vermeidet als auch uns die Vorteile geben kann. Aber das erfordert Regulierung“, sagt Bengio.

Er weist darauf hin, dass wir viele Beispiele für riskante Technologien haben, die wir mit Regulierung gehandhabt haben, damit wir sie sicher nutzen können. Autos, Lebensmittel, Medizin und mehr. „Es ist ein Trugschluss zu glauben, dass es ein Entweder-oder ist. Wir können sehr wohl beides bekommen. Die Vorteile und die Sicherheit.“ Er will auch die Vorstellung als Mythos abräumen, dass Regulierung eine Rolle dabei spiele, dass die EU im KI-Rennen nicht ganz vorn dabei ist. Der AI Act der EU sei zum Beispiel noch nicht einmal wirklich in Kraft getreten, weist er hin. Aus seiner Sicht geht es stattdessen um eine andere Investitionskultur. Und wenn die Unternehmen den Ernst der Lage nicht verstehen, müssen die Regierungen einspringen.

Größere Ambitionen

Ob sich etwas dreht, ist vielleicht noch zu früh zu sagen. Doch mehrere private KI-Initiativen mit viel Geld im Rücken sind in Europa in den vergangenen Monaten tatsächlich aufgetaucht. Einer der anderen beiden „AI-Godfathers“, der Franzose Yann LeCun, konnte im März mitteilen, dass er 1,03 Milliarden US-Dollar für sein neues Start-up AMI Labs mit Sitz in Paris eingesammelt hatte.

Und im vergangenen Monat konnte der frühere Google-KI-Topmann David Silver von einer Investition von 1 Milliarde Euro in sein neues Unternehmen Ineffable Intelligence in London berichten. Übrigens mit dem Dänen Lasse Espeholt in einer Schlüsselrolle als Technologiedirektor. Beide Unternehmen arbeiten jedoch mit anderen Zweigen der KI als Sprachmodellen. Und obwohl Bengio die Entwicklung anerkennt, ist sie seiner Ansicht nach unzureichend. Wir brauchen Unternehmen im direkten Duell mit den amerikanischen und chinesischen.

„Es ist in Ordnung, sich auf andere Nischen zu konzentrieren. Das finde ich wirklich gut. Aber wenn man zum Beispiel auf die Automatisierung blickt, die wahrscheinlich passieren wird, dann glaube ich, dass die Sprachmodelle, die die amerikanischen und chinesischen Unternehmen bauen, zumindest kurzfristig eher die Entwicklung treiben werden“, sagt Bengio. Das französische Unternehmen Mistral AI wurde an dieser Front als europäische Hoffnung ausgerufen. Doch die Firma hat ihre Strategie geändert, sagte Unternehmenschef Arthur Mensch im April Forbes.

Der Fokus liege nun auf Unabhängigkeit. Dabei richtet das Unternehmen Lösungen, sowohl eigene Modelle als auch die von Wettbewerbern, bei Kunden ein. Das Modell ist vom Verteidigungsunternehmen Palantir inspiriert. „Das meine ich mit mehr Ehrgeiz“, sagt Yoshua Bengio.

Wenn man es nicht priorisiert, im Rennen mit den fortschrittlichsten Fähigkeiten ganz vorn dabei zu sein, riskiert man, innerhalb von ein oder zwei Jahren abgehängt zu werden, betont er und sinniert: „Es ist traurig“, sagt er, „denn KI ist dabei, die Welt zu verändern, und sie verändert auch lokale Volkswirtschaften. Das ist nicht nur eine technologische Frage. Es gibt politische Entscheidungen, die Bedeutung für Menschen haben. Für ihre Arbeit, die Verletzlichkeit ihrer Kinder und die Zukunft ihrer Demokratie. Das ist sehr, sehr ernst.“

„Wir müssen verstehen, dass nicht eine einzelne Nation, sondern eine Gruppe mit denselben Sorgen die notwendige kritische Masse an Kapital, Talent und Energie erreichen kann. Wir haben das, was nötig ist“, sagt Bengio. Aus seiner Sicht ist es nur eine Frage des Willens. „Wenn man versteht, dass es ein existenzielles Risiko gibt, wie bei dem, was mit der Ukraine geschehen ist, dann ist das Geld da.“