EU behält sich vor, die Künstliche Intelligenz zu verbieten

Die EU-Kommission hat Vorschriften zur Regulierung der Künstlichen Intelligenz vorgelegt. Der Text beginnt mit folgender Feststellung: „KI-Systeme, die als klare Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen gelten, werden verboten.“ Man beachte: „Werden verboten“ ist fett gedruckt.

Eins steht fest: Künstliche Intelligenz (KI) befindet sich derzeit in der Entwicklung – und darum weiß niemand, wohin die Reise geht. Nicht einmal die Definition und Abgrenzung gegenüber anderen Digital-Technologien ist geklärt. Das heißt, KI ist das neue große Abenteuer der Wissenschaft. Aber dennoch nimmt die EU-Kommission für sich in Anspruch, zu wissen, welche Entwicklung gut und welche schlecht ist. Ähnlich verhielt sich die EU übrigens vor zwanzig Jahren gegenüber der Genetik - und muss jetzt ihre Verordnung von 2001 kräftig korrigieren. Das Ganze erinnert an die Inquisition der Katholischen Kirche: Im Jahr 1600 wurde Giordano Bruno auf dem Scheiterhaufen verbrannt, weil er erklärte, der Weltraum sei unendlich und die Erde nicht das Zentrum des Universums. Es dauerte genau vierhundert Jahre, bis zum Jahr 2000, bevor die Kirche die Hinrichtung als Unrecht verurteilte.

Das tatsächliche Problem der Digitalisierung sind die Lücken in den Programmen

Europa ist ohnehin schon gegenüber den USA, China und Japan in der Digitalisierung weit abgeschlagen. Und jetzt legt sich der alte Kontinent noch selbst ein zusätzliches Korsett an. Dabei ist das große Problem der digitalen Welt nicht die Frage, ob schlaue Köpfe morgen und übermorgen etwas entwickeln werden (sie werden es, soviel steht fest!), sondern die Cyber-Kriminalität. Staaten, Großkonzerne, Spitäler und sonstige Institutionen bis hin zu kleinen Unternehmen werden regelmäßig gehackt. Jederzeit kann durch Schadprogramme beispielsweise die Stromversorgung lahmgelegt werden, sogar die eines ganzen Landes. Diese Entwicklung ist nur möglich, weil die großen Software-Firmen in all ihren Programmen Lücken einbauen, um die Daten der Nutzer abzurufen und zu verwerten. Die Staaten nützen diese vorhandenen Lücken, um mit Hilfe so genannter „Staatstrojaner“ in jeden Computer eindringen zu können. Die in vielen Ländern bereits gesetzlich gedeckten öffentlichen Hacker-Angriffe sollen unter anderem der Bekämpfung des Terrorismus und der Steuerhinterziehung dienen. Nur: Diese Zugänge nützen zum einen auch die privaten Hacker, die Millionen erpressen, und zum anderen feindliche staatliche Hacker wie etwa der chinesische Geheimdienst, der in den Computern von Ministerien und Konzernen im Westen Viren platziert.

Die Staaten schützen die kriminellen Hacker – weil sie selbst hacken

Die dringendste Aufgabe wäre die Schließung dieser Lücken. Das geschieht jedoch nicht. Allerdings ist jede gehackte Einrichtung oder Organisation verpflichtet, die Dokumentation des Angriffs den Behörden zu übergeben. Somit liegen umfangreiche Unterlagen vor, die Hinweise auf die Wege liefern können, die an den Firewalls vorbeiführen. Die Versicherungswirtschaft hat die EU-Kommission ersucht, eine Regelung zu schaffen, dass diese Daten anonymisiert und aggregiert zu veröffentlichen sind, damit man Maßnahmen gegen künftige Attacken vorbereiten könne. Dieser Vorschlag wurde abgeschmettert, wie auch alle Regierungen nationale Maßnahmen ablehnen. Die Errichtung der 5G-Netze wäre eigentlich eine ideale Gelegenheit, um die Sicherheitsarchitektur im Netz neu zu konzipieren, doch genau diese Möglichkeit wird bewusst nicht genutzt. Im Gegenteil: Die traditionellen, streng geheim gehaltenen Staatstrojaner genügen offenbar nicht mehr, und so kauft eine Regierung nach der anderen das neue Spyware-Programm „Pegasus“ der israelischen Firma NSO, das besonders tüchtig bei der Überwindung von Sicherheitssystemen ist.

Außer in der EU gibt es weltweit keine vergleichbare Initiative gegen Künstliche Intelligenz

Zurück zur Künstlichen Intelligenz: Weltweit gibt es noch keine Regulierung für sie. Wenn das EU-Parlament und die Mitgliedstaaten dem Projekt der Kommission zustimmen, dann ist Europa die einzige Region, in der die Software-Entwickler nicht mehr frei forschen und entwickeln und ihren Ideen freien Lauf lassen können. Damit nicht genug: Die Verordnung zur Regelung der Künstlichen Intelligenz wird mit einer Maschinenverordnung gekoppelt, um auch die Rechner unter Kontrolle zu haben.

Die Kommission hat schon die Bereiche definiert, in die sie eingreifen möchte:

• Erstes Ziel sind die so genannten kritischen Infrastrukturen, womit in erster Linie der Verkehr gemeint ist. Die Digitalisierung der Fahrzeuge, vom PKW bis zum Flugzeug, ist in vollem Gange. Das autonome Fahren ist die große Herausforderung der Techniker. Jetzt sollen Beamte in Europa eingreifen können, während China und die USA ungehindert den neuen Bereich entwickeln. Dass mit selbstfahrenden Autos neue Risiken entstehen, wird wohl niemand bestreiten. Allerdings sollte man davon ausgehen, dass die Auto-Firmen von sich aus nicht mutwillig ihre Kunden gefährden. Auch wird es keine Versicherung und somit keine Fahrerlaubnis ohne entsprechende Vorkehrungen geben. Das heißt, der Markt wird dafür sorgen, dass Sicherheitsvorkehrungen eingehalten werden. Dennoch wird schon im Vorfeld die Regulierungs-Keule geschwungen!
• Ebenfalls von Verboten bedroht ist der Schulbereich, weil KI – angeblich - den Zugang zur Bildung und zum Berufsleben beeinträchtigen könnte. Verhindert werden soll die automatisierte Bewertung von Prüfungen durch einen nicht menschlichen Korrektor. Im Zeitalter der multiple-choice-Prüfungen ist der Einsatz von Computern allerdings längst gängige Praxis, die aber – ganz wichtig! - nicht die Beurteilung durch die Lehrer ausschließt. Generell hat die Digitalisierung der Schule durch das Distance-Learning über Video in der Corona-Krise extrem an Bedeutung gewonnen. Noch kann niemand sagen, wie die weitere Entwicklung aussehen wird, doch die EU will bereits regulierend eingreifen!
• Verbote soll es auch bei KI-Anwendungen in der Roboter-assistierten Chirurgie geben. Die Roboter sind auf dem Vormarsch, von der Zahnbehandlung bis zur Prostata-Operation. Die weitere Entwicklung ist noch nicht abzuschätzen, doch haben schon die bisherigen Ergebnisse große Fortschritte ermöglicht. Doch in Brüssel will man entscheiden, wie morgen eine Herz- oder Nierentransplantation durchgeführt werden darf!
• Obwohl die missglückte Datenschutzgrundverordnung (DSGVO) schon für einen riesigen bürokratischen Aufwand gesorgt hat, soll die KI-Verordnung das Korsett noch enger straffen!
• Die Liste der möglichen Verbote ist noch länger, doch ein Punkt ist besonders verblüffend: Die Kommission will einschreiten können, wenn KI bei der Überprüfung der Echtheit von Reisedokumenten eingesetzt wird! Warum?

„Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein“

Die Umsetzung der KI-Verordnung würde nach den Vorstellungen der Kommission durch die nationalen Marktüberwachungsbehörden erfolgen. Ein „Europäischer Ausschuss für Künstliche Intelligenz“ soll die Umsetzung begleiten und die Ausarbeitung von Normen auf dem Gebiet der KI vorantreiben. Verblüffend ist die Bewertung der neuen Verordnung durch die Vizepräsidentin Margrethe Vestager: „Mit der Schaffung der Standards können wir weltweit den Weg für ethische Technik ebnen und dafür sorgen, dass die EU hierbei wettbewerbsfähig bleibt. Unsere Vorschriften werden zukunftssicher und innovationsfreundlich sein und nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen.“ Na ja …

Die EU-Kommission wendet sich gegen Roboter und gegen das Internet der Dinge

In Verbindung mit der KI-Verordnung will die EU-Kommission eine Maschinen-Verordnung durchsetzen, die die geltende Maschinen-Richtlinie ablösen und die Regulierungsmöglichkeiten verschärfen soll. Auch hier geht es der Kommission um eine Liste von Bereichen, in die sie eingreifen möchte.

• Im Auge hat man die steigende Bedeutung der Roboter, wobei das Zusammenspiel zwischen Menschen und Maschinen gesetzlichen Vorgaben folgen soll.
• Ebenfalls einen Ansatz für behördliche Eingriffe sieht man beim „Internet der Dinge“.
• Durch Up-Dates und Zusatzprogramme werden die Maschinen laufend verändert und entsprechen somit nicht mehr dem Zustand bei der Erstzulassung. In diesem Zusammenhang soll es zusätzliche Genehmigungsverfahren geben.
• Von den Herstellern will man eine Abschätzung der künftig zu erwartenden Veränderungen verlangen.
• Die bisherige Richtlinie hat zwar die Automatisierung der Fahrzeuge berücksichtigt, ist aber nicht von einem fahrerlosen Fahrzeug ausgegangen. Nachdem das autonome Fahren immer wahrscheinlicher wird, will die EU auch hier ein Regelwerk installieren, das die bereits erwähnte Kontrolle der Software ergänzen soll.

Kleine Groteske am Rande. In Brüssel ist man der Meinung, dass der bisher vorgeschriebene Papierwust umweltschädlich und teuer ist und die Informationen praktischer über das Internet abzurufen wären. Aber: Ganz aufgeben will man das Papier nicht, es könnte ja ein potentieller Leser, der ein autonom fahrendes Auto benützt, keinen Zugang zum Internet haben!

Die EU-Kommission muss die Bekämpfung der Gentechnik korrigieren

Dass die EU die Geschichte der katholischen Kirche nicht zur Kenntnis nimmt, beziehungsweise nicht kennt und aus der Tragödie mit Giordano Bruno und anderen keine Lehren zieht beziehungsweise ziehen kann, mag noch nachvollziehbar sein. Dass sie aber das aktuelle eigene Versagen im Umgang mit der Wissenschaft nicht bemerkt, ist schon erstaunlich. Gleichzeitig mit der KI-Verordnung ist eine Studie über die Gentechnik fertiggestellt worden, die auf der Homepage der Kommission nachzulesen ist.

Zu welchem Ergebnis kommt eine Studie der EU-Kommission über Pflanzen, die durch neue genomische Verfahren (New Genomic Techniques, NGT) wie die sogenannte Gen-Schere entstanden sind? „Sie haben das Potenzial, im Einklang mit dem europäischen Green Deal zu einem nachhaltigen Lebensmittelsystem beizutragen. Der derzeit geltende Rechtsrahmen für genveränderte Organismen aus dem Jahr 2001 ist für diese innovative Technologie jedoch nicht zweckmäßig.“ Präsentiert wurde die Studie wurde von der Kommissarin Stella Kyriakides, die für Gesundheit und Lebensmittelsicherheit zuständig ist. Im Text heißt es weiter: „So manche NGT-erzeugte Pflanzen sind für die Gesundheit von Mensch und Tier und für die Umwelt genauso sicher wie solche aus konventioneller Züchtung. Die Studie kommt zu dem Schluss, dass es deutliche Hinweise darauf gibt, dass die geltenden GVO-Rechtsvorschriften aus dem Jahr 2001 für einige NGT und ihre Erzeugnisse nicht zweckmäßig sind und an den wissenschaftlichen und technischen Fortschritt angepasst werden müssen.“

Das ist der heutige Stand der Wissenschaft - den die EU-Kommission offenbar nun doch noch, wenn auch verspätet, zur Kenntnis nimmt. In den vergangenen zwanzig Jahren waren alle Gen-Produkte noch verteufelt worden, es entstand eine weltweite Anti-Gen-Bewegung. Argumente, mit denen die Gen-Technik verteidigt wurden, ernteten wütende Proteste. Pikanterie am Rande: Der EU-Agrarkommissar von 1995 bis 2004, Franz Fischler, plädierte schon damals für einen differenzierten Umgang mit Gen und betonte, dass dieser bei entsprechender Entwicklung entscheidende Beiträge zur Welternährung leisten könnte. Doch auch als Kommissar war er gegen die Anti-Gen-Welle machtlos.

Die Genetik wurde in der EU generell mit Skepsis betrachtet, auch in der Medizin, obwohl schon seit vielen Jahren weltweit große Erfolge auf diesem Gebiet erzielt werden. Wie falsch die Blockade von Wissenschaft sein kann, mussten die Gen-Gegner kürzlich zur Kenntnis nehmen, und das mitten in Europa: Der entscheidende Impfstoff gegen Covid-19 wurde in Deutschland von BioNTech unter Einsatz der Boten-RNA geschaffen. Beinahe hätte das Übermaß an Regulierungen diesen Erfolg verhindert. Trotz dieser positiven Erfahrung will man nun Verbote gegen die Entwicklung der Künstlichen Intelligenz erlassen. Sie lernt´s eben nie, unsere EU!