KI-Unternehmen sollen eigene Rechtspersönlichkeit erhalten
Ein neuer Gesetzentwurf in Argentinien soll es ermöglichen, Unternehmen ohne Menschen zu gründen. Das wirft eine grundlegende Frage auf: Wer trägt die Verantwortung, wenn keine Menschen Entscheidungen treffen? Das berichten unsere Kollegen von Børsen.
Soll ein Unternehmen ohne menschliche Führung Immobilien besitzen, Kredite aufnehmen und Insolvenz anmelden können? Und soll es zur Verantwortung gezogen werden können? Javier Milei, Argentiniens Präsident, spricht davon, im argentinischen Recht eine neue Unternehmenskategorie zu schaffen: das nichtmenschliche Unternehmen. Dabei handelt es sich um Einheiten, die von KI-Agenten oder Robotern geführt werden.
In einem Beitrag für die „Financial Times“ schreibt er, die argentinische Regierung habe dem Kongress einen Gesetzentwurf vorgelegt, der einen rechtlichen Rahmen für künstliche Intelligenz schaffen soll. Javier Milei argumentiert, dass eine beschränkte Haftung eine Voraussetzung sei. Er weist außerdem darauf hin, dass menschliche Anteilseigner nicht erforderlich seien. „Die beschränkte Haftung ist für solche Einheiten kein Luxus. Sie ist eine Voraussetzung für ihre Existenz.“
Grundsätzlich besteht seine Strategie darin, künstliche Intelligenz unreguliert zu lassen, um eine Entwicklung ohne „verfrühte und schlecht verstandene Regulierung“ zu ermöglichen. Menschliche Anteilseigner könnten sich beteiligen, schreibt Argentiniens Präsident, „seien aber nicht erforderlich“. Wenn nicht-menschliche Unternehmen rechtlich mit anderen Unternehmen gleichgestellt werden, könnten sie Vermögenswerte besitzen, Mitarbeiter beschäftigen, am internationalen Handel teilnehmen, Menschen vor Gericht verklagen und sogar für politische Kampagnen spenden.
Wer trägt die Verantwortung für Entscheidungen der KI?
Die Frage nach KI-Vorständen hat eine große Debatte ausgelöst. Der israelische Historiker und Philosoph Yuval Noah Harari ist nicht davon begeistert, dass nicht-menschliche Unternehmen auf dieselbe Weise wie traditionelle Unternehmen von einer eigenen Rechtspersönlichkeit profitieren sollen. Alle Entscheidungen über Käufe, Verkäufe, Einstellungen, Investitionen, Gerichtsverfahren und Spenden könnten von KI-Agenten getroffen werden.
Wenn sie rechtlich mit anderen Unternehmen gleichgestellt werden, könnten sie Vermögenswerte besitzen, Mitarbeiter beschäftigen, am internationalen Handel teilnehmen, Menschen vor Gericht verklagen und sogar für politische Kampagnen spenden. „Menschliche Direktoren sorgen sich um den Erfolg des Unternehmens und fürchten Dinge wie eine Insolvenz. Aber sie sind zugleich biologische Einheiten, denen ihre Freiheit und ihr persönliches Glück noch wichtiger sind. Sie fürchten Dinge wie zehn Jahre Gefängnis. Ein KI-Direktor wäre eine rein unternehmerische Einheit. Es ist unklar, mit welchen Sanktionen er unter Kontrolle gehalten werden könnte“, schreibt Yuval Noah Harari in der „Financial Times“.
Einer derjenigen, die die Entwicklung sogenannter KI-Vorstände verfolgen, ist Stanislav Shekshnia. Er ist Senior Affiliate Professor of Entrepreneurship and Family Enterprise an der französischen Wirtschaftshochschule Insead. „Was die Unternehmensführung betrifft, glaube ich, dass es einige Zeit dauern wird, bevor wir vollständig entwickelte KI-Vorstände sehen“, sagt Stanislav Shekshnia in einem Interview mit Børsen. Dafür gebe es einen besonderen Grund. „Die Frage der Verantwortlichkeit ist sehr wichtig. Wenn man es mit einem menschlichen Vorstand zu tun hat, weiß man, wen man verklagen, wen man anschreien und wen man kritisieren kann. Bei einem KI-Vorstand bleibt die Frage der Verantwortlichkeit sehr unklar“, sagt er.
Wie er ebenfalls betont: Einen KI-Roboter kann man nicht ins Gefängnis stecken. „Menschen haben ein deutlich größeres Vertrauen in andere Menschen als in Maschinen. Ich glaube nicht, dass sich Anteilseigner damit wohlfühlen werden, künstliche Intelligenz im Vorstand zu haben“, sagt Stanislav Shekshnia.
KI-Vorstände entscheiden effizienter, aber ohne Empathie
Das Mack Institute der Wharton School und der Bereich Corporate Governance von Insead führten im vergangenen Jahr eine Studie durch. Dabei verglichen Forscher, wie ein reiner KI-Vorstand und ein aus Menschen bestehender Vorstand dieselbe Aufgabe zur Erstellung eines Geschäftsplans bewältigten. Der KI-Vorstand bestand aus mehreren KI-Agenten, die jeweils unterschiedliche Rollen übernahmen und gemeinsam an der Aufgabe arbeiteten. Die Leistung des Vorstands wurde anhand von acht Kriterien für eine gute Unternehmensführung bewertet.
Als die Forscher die Ergebnisse verglichen, war die Schlussfolgerung eindeutig. „Die Ergebnisse waren verblüffend“, schrieben die Autoren. In dem Experiment schnitt der KI-Vorstand in Bereichen wie der Qualität von Entscheidungen, der Nutzung von Belegen und der Fähigkeit, Entscheidungen in konkrete Pläne umzusetzen, besser ab als die menschlichen Gruppen. Er war außerdem besser darin, mehrere relevante Gesichtspunkte in die Entscheidung einzubeziehen. Den menschlichen Vorständen fiel es schwerer, den Fokus beizubehalten. Zudem übersahen sie Daten.
Die Forscher glauben nicht, dass künstliche Intelligenz bereits bereit ist, den Vorstandssaal zu übernehmen. Den KI-Vorständen fehlten zwischenmenschliche Nuancen wie Vertrauen und Empathie. Dafür kann die Technologie schon heute als Werkzeug eingesetzt werden. Sie kann Planungen unterstützen, Vorstandsdiskussionen simulieren, verschiedene Szenarien testen und blinde Flecken identifizieren, bevor Menschen die endgültige Entscheidung treffen.
Bedeutung für Deutschland
Für deutsche Unternehmen wirft das argentinische Vorhaben grundlegende Fragen des Gesellschaftsrechts, der Haftung und der Unternehmensführung auf. Vollständig autonome KI-Unternehmen sind im deutschen Recht bislang nicht als eigene Unternehmensform vorgesehen. Entscheidungen müssen weiterhin natürlichen Personen oder bestehenden juristischen Personen zugerechnet werden. Gleichzeitig wächst der Einsatz von KI-Agenten in Verwaltung, Personalwesen, Finanzplanung und strategischer Unternehmenssteuerung. Dadurch dürfte auch in Deutschland der Druck steigen, Verantwortlichkeiten für automatisierte Entscheidungen genauer zu regeln.
Die Entwicklung trifft auf eine deutlich strengere europäische Regulierungsstrategie. Die EU-KI-Verordnung verpflichtet Anbieter bestimmter KI-Modelle unter anderem zu technischer Dokumentation, Risikobewertungen und Sicherheitsmaßnahmen. Ein großer Teil der Regelungen gilt ab dem 2. August 2026 unmittelbar. Deutschland arbeitet ergänzend an einer nationalen Aufsichtsstruktur, bei der die Bundesnetzagentur eine zentrale Rolle übernehmen soll.
KI-Unternehmen können Entscheidungen schneller auswerten, mehr Daten berücksichtigen und komplexe Szenarien effizienter berechnen als menschliche Führungsgremien. Das eigentliche Problem liegt jedoch nicht in ihrer Leistungsfähigkeit, sondern in der Verantwortung. Solange unklar bleibt, wer für Fehlentscheidungen, Schäden oder Rechtsverstöße haftet, dürften vollständig autonome Unternehmen kaum gesellschaftliche Akzeptanz finden. KI kann den Vorstand beraten und Entscheidungen vorbereiten. Die endgültige Verantwortung wird vorerst beim Menschen bleiben müssen.
