Künstliche Intelligenz und Recht

Ulrich Herfurth, Rechtsanwalt in Hannover und Brüssel

Wer einen Flug über ein Reiseportal bucht, macht schnell die Erfahrung, dass die Preise sich ändern – je nachdem wann man bucht. Einfache variable Preisgestaltungen, je nachdem wie weit im Voraus man bucht, sind sicherlich geläufig. Aber Schwankungen innerhalb von Stunden und Minuten sind eine neue Entwicklung. Dieses Dynamic Pricing gründet sich auf umfassende Beobachtung der Marktpreise von Wettbewerbern und deren Auswertung. Lohnt es sich für den Anbieter, auf besonders niedrige Preise einzusteigen oder verkauft er lieber weniger Reisen, aber zu besseren Margen?  Das Ergebnis beruht auf vielen Einzelentscheidungen, die durch Algorithmen getroffen werden. Bislang definierten Menschen die Entscheidungskriterien für die Algorithmen, nun aber zunehmend die Maschinen selbst – mit Künstlicher Intelligenz.

 

Was ist nun Künstliche Intelligenz?

Künstliche Intelligenz ist eine hoch entwickelte elektronische Systematik, die nicht mehr abschließend von Menschen definiert und programmiert wird, sondern aus gesammelten Informationen und Mustern eigene Erkenntnisse gewinnt und weiterentwickelt (Deep Learning). Dazu nutzt es umfangreiche elektronische Vernetzungsstrukturen. Ein KI-System ist selbstlernend und trifft auf Basis von selbst entwickelten Algorithmen eigenständige Entscheidungen.

Fachlich gesehen ist Künstliche Intelligenz (KI, oder Artifizielle Intelligenz / artificial intelligence, AI) ein Teilgebiet der Informatik. Es behandelt die Automatisierung intelligenten Verhaltens und das sogenannte Maschinelle Lernen. Der Begriff und Inhalt der Definition ist – wie oft bei neuen Entwicklungen – nicht eindeutig abgrenzbar. Es ist bereits unklar, was eigentlich unter „Intelligenz“ genau zu verstehen ist. Künstliche Intelligenz wird jedenfalls als eine der maßgeblichen Triebkräfte der Digitalen Revolution betrachtet. Dabei ist der Begriff nicht neu, bereits in den 1980er Jahren wurde über Künstliche Intelligenz geforscht. Allerdings waren die Rechnerleistungen damals viel zu schwach, um nennenswerte Ergebnisse zu erzielen. Heute dagegen sind die Prozessoren und Rechner exorbitant leistungsstärker: ein Supercomputer leistet mehr Rechenoperationen als alle PCs in Deutschland, und bereits in Smartphones sind Bausteine für die Anwendung von KI installiert. Dadurch können bereits heute praxisgerechte und erschwingliche Ergebnisse erzielt werden.  Denn technisch handelt es sich bei einem KI-Prozess um den milliardenfachen Abgleich von vorhandenen Daten mit neuen Daten in gruppierten Schaltungen, deren Ergebnisse nochmals in vielen Prüfschritten miteinander abgeglichen werden. So erkennt das System mit KI ein Katzenbild als Katze und nicht als Hund – oder in der Abbildung eines Hautteils eine bestimmte Hautkrankheit.

 

Die Fachwelt unterschiedet heute zwei Dimensionen von Künstlicher Intelligenz: die Schwache Künstliche Intelligenz ist ein fortgeschrittenes Werkzeug des Menschen, die Starke KI entwickelt ein nicht wirklich vorhersehbares Eigenleben mit einer neuronalen Funktionalität ähnlich dem menschlichen Gehirn, aber vermutlich mit einer anderen kognitiven Struktur – und ohne Bewusstsein, Wesen und Gefühle. Dies alles wird nur simuliert, wie etwa schon in Chatbots.

 

Anwendungen und Märkte

Inzwischen gibt es zahlreiche Anwendungsbereiche für KI, in nahezu allen Branchen. Es beginnt mit Data Mining und der analytischen Auswertung großer Datenmengen, Big Data. Darauf stützt sich zum Beispiel zielgruppengerechtes Marketing, allen voran in Social Media und im E-Commerce. Nicht ohne Grund sind die Internetkonzerne Google, Amazon, Facebook, aber auch Uber, die größten Investoren in die Entwicklung von KI.

KI versteht und beherrscht Sprachen, längst nicht mehr nur als Übersetzungsdatenbank, sondern mit semantischem Verständnis. Sie liefert daher maschinelle Übersetzungen in Fremdsprachen und reagiert und kommuniziert als sprachgesteuerte Assistenten (Alexa, Siri) und kommuniziert als Social Bots mit den Nutzern.

Intelligente Systeme finden sich aber auch bereits im Aktienhandel und in der elektronischen Anlageberatung, der Robo Advisory für Wertpapieranlagen.

Maschinen gestalten und generieren auch automatisch Verträge im Massengeschäft, Smart Contracts, und könnten diese ohne Notar mit der Blockchain Technologie fälschungssicher dokumentieren. Bereits jetzt ersetzen Systeme wie eBay im eCommerce staatliche Gerichtsverfahren, indem sie ein elektronisches Schlichtungsverfahren für Mängelansprüche durchführen – als sogenanntes Softlaw.

In der Medizin ermöglicht KI die Auswertung komplexer Labordaten. So erkennt Diagnosesoftware mit KI inzwischen Krankheitsbilder oft treffender als ein Arzt, etwa aus dem Bild der Iris oder Erscheinungen auf der Haut. Das gleiche gilt für Tierkrankheiten und Pflanzenkrankheiten, auch als Seuchenkontrolle.

Im Smart Home übernehmen Systeme mit KI die intelligente Gebäudesteuerung: Energie, Klima, Belüftung, Belichtung und Sonnenschutz, Versorgung mit Medien und Entsorgung und vor allem Sicherheitssysteme und Zugangskontrollen.

In größerem Maßstab unterstützt KI in der Smart City ebenfalls Energieversorgung- und Verbrauch, aber auch Mobilität und Verkehrssteuerung im privaten Bereich und ÖPNV, Entsorgung, Notfallsysteme, E-Government und mehr.

Nicht zuletzt ermöglicht KI erst Autonomes Fahren durch intelligente und vernetzte Fahrzeuge, die nicht nur in der Lage sind, ihren Weg zu finden, sondern auch auf Verkehrssituationen angemessen zu reagieren, um Unfälle, Schäden und Verletzungen zu vermeiden.

Im großen Maßstab finden sich natürlich auch in der Industrie KI Anwendungen: in der vernetzten Produktion unter Industrie 4.0  arbeiten die Maschinen und Systeme eben nicht nur vordefinierte Aufgaben ab, sondern kommunizieren und reagieren in ihrer digitalen Community laufend auf Veränderungen – über Betriebe, Unternehmen und Ländergrenzen hinweg. Die Überwachung und Optimierung von Prozessen ist das Ziel, bis hin zur Früherkennung und automatischen Versorgung von Bedarfen, etwa durch predictive maintenance oder zur Distanzproduktion mit Additiver Fertigung.

Und nicht zuletzt wird auch die militärische Kriegsführung in Cyberwar Szenarien und bei autonomen Waffensystemen mit KI aufgerüstet: fahrende und fliegende Waffensysteme entwickeln sich zu autonomen Einheiten, die ohne Zutun des Menschen im Kampf agieren können.

Insgesamt wird deutlich, in welch umfassendem Umfang KI als Querschnittstechnologie technologische, betriebliche, wirtschaftliche und gesellschaftliche Veränderungen bewirkt. Deswegen ist der Wettlauf um KI-Entwicklungen nicht nur in der Wirtschaft, sondern auch zwischen Staaten in vollem Gang, um strategische und geopolitische Vorteile zu erreichen. Die USA und China sind die wichtigsten Akteure, Europa und Deutschland liegen mit Abstand dahinter – allerdings mit besonderer Kompetenz in industriellen Anwendungen.

 

KI in Staat und Gesellschaft

Bei den Entwicklungen um Künstliche Intelligenz geht es aber nicht nur um technische oder wirtschaftliche Ziele, sondern auch um ethische, soziale und juristische Aspekte. Welchen Rang wollen wir KI-gesteuerten Systemen einräumen, und wie sichern wir unsere Gesellschaftsordnung und unser Rechtssystem im Zusammenspiel mit nicht-menschlichen Akteuren? Dazu haben sich in Deutschland und Europa in den letzten Jahren eine Reihe von Aktivitäten ergeben, unter anderem zu Robotik und zum Autonomen Fahren. Die Ethik-Kommission hat für die Bundesregierung Leitlinien für das Autonome Fahren und Konfliktfälle vorgelegt. Verbände wie Bitkom bringen sich intensiv in die Diskussion zu Fragen der wirtschaftlichen Bedeutung, gesellschaftlichen Herausforderungen und menschlichen Verantwortung ein. Aktuell verfolgt die Bundesregierung mit ihrer KI-Initiative das Ziel, diesen Bereich massiv zu fördern. Und zurzeit laufen die Arbeiten der Europeans Commission’s High-Level Expert Group on Artificial Intelligence an ihren „Ethic Guidelines for a trustworthy AI“

 

Künstliche Intelligenz im Rechtsrahmen

Der Einsatz künstlicher Intelligenz stellt neue Herausforderungen an das Rechtssystem. Das gilt nicht allein, weil die Systeme schneller und leistungsstärker sind als bisher bekannte Systeme und technisch gesehen auch der einzelne Mensch – sondern weil sie in der Lage sind, Entscheidungen anstelle von Menschen und ohne unmittelbare Vorhersehbarkeit und menschliche Kontrolle zu treffen.

 

Verträge

Als erstes rückt die Frage nach rechtssicheren Verträgen ins Blickfeld. Wenn Maschinen oder Systeme zwischen den Beteiligten durch ihre Datenübermittlung Rechte und Pflichten auslösen sollen, muss auch ohne menschliche Willenserklärung eine verbindliche Rechtsgrundlage geschaffen werden können. Dazu rechnet die Rechtswissenschaft inzwischen solche „Maschinenerklärungen“ den Inhabern der Maschinen und Systeme jeweils als Angebot und Annahme zu, weil diese sich im Rahmen der von ihren Inhabern gesetzten Entscheidungskanäle bewegen. Sie werden dabei aber nicht als Vertreter, sondern als maschinelle Agenten bezeichnet. Ob diese Betrachtung auch noch anwendbar ist, wenn Maschinen ihre Entscheidungen nicht mehr nur funktional, sondern auch intellektuell autonom treffen, ist fraglich. Immerhin sind in konventionellen Systemen die Algorithmen angelegt und die Kriterien für die Entscheidungsfindung determiniert – in der KI entwickelt das System aber seine eigenen Entscheidungskriterien, ohne Vorplanung durch den Inhaber. Streng genommen ist die Handlung des Systems damit nicht mehr von seinem Willen gedeckt, vielleicht auch nicht einmal mehr durch seine allgemeine Vorstellung zum Agieren und den Ergebnissen des Systems. Gleichwohl sollte sich wohl sein Geschäftspartner auf die Verbindlichkeit des Verhaltens des Systems verlassen dürfen, etwa nach dem Prinzip der Duldungsvollmacht oder Anscheinsvollmacht, bei der der Vertretene sich die Erklärungen seines im Einzelfall unbefugten Vertreters zurechnen lassen muss.

 

Haftung

Kommt es zu Schäden und Verletzungen, stellt sich die Frage nach der Haftung. In der Vertragshaftung zur Erbringung einer mangelfreien Leistung kommen kaum neue Gesichtspunkte auf: Vertragspartner ist der Inhaber, für den das System den Vertrag begründet hat, und dieser haftet für Erfüllung und Mangelfreiheit. Er wird sich bei Leistungsstörungen wie Verzug, Nichterfüllung, Mängeln oder Verletzung von Nebenpflichten kaum darauf berufen können, dass sein System nicht ordnungsgemäß oder in seinem Sinn gearbeitet habe. Als einen Fall höherer Gewalt (force majeur) kann man Systemfehler wohl ebenso wenig ansehen wie heute ein Versagen des IT-Systems. Auch der Einsatz von KI in der Qualitätskontrolle und in Ausführung der kaufmännischen Untersuchungs- und Rügepflichten dürfte sich im Grundsatz nicht von konventionellen Systemen unterscheiden.

Eine andere Betrachtung gilt für Fälle, in denen KI-gesteuerte Maschinen und Systeme, aber auch Fahrzeuge beim Autonomen Fahren, bei Dritten oder aber auch Vertragspartnern Schäden oder Rechtsverletzungen verursachen, die nicht von einer Vertragshaftung erfasst sind. Dazu unterscheidet unsere Rechtsordnung zwischen der verschuldensabhängigen Deliktshaftung (aufgrund Vorsatzes oder Fahrlässigkeit) und einer verschuldensunabhängigen Gefährdungshaftung (wie z.B. Produkthaftung des Herstellers, die Halterhaftung des Fahrzeughalters und die Störerhaftung des Grundstückseigentümers). In diesem Bereich diskutiert die Rechtswissenschaft, wer genau als Verantwortlicher zu sehen ist: Auf wessen Entscheidung und Verhalten kommt es für die Beurteilung eines Verschuldens an? Wer soll der Haftungsträger für die eingesetzten Maschinen und Systeme sein, zum Beispiel der Eigentümer, der Besitzer, der Betreiber oder der Lieferant des Systems? Im Ergebnis dürfte wohl ein Haftungsprinzip sinnvoll sein, bei dem die Person haftet, die faktisch den Einsatz des Systems kontrolliert, Regresshaftung gegenüber intern Verantwortlichen nicht ausgeschlossen. Inwieweit der Verantwortliche Risiken über eine Betriebs- und Produkthaftpflichtversicherung abdecken kann, kommt auf den Einzelfall an. In der Diskussion ist auch, ob nicht KI-Systeme für sich selbst haften sollten.

 

Datenschutz

Im Datenschutz stellen sich im Grundsatz die gleichen Fragen wie bislang: Personendaten dürfen nicht ohne weiteres verarbeitet werden, anonymisierte oder pseudonymisierte Daten ohne Zuordnung zu Personen hingegen schon. Eine neue Lage kann sich aber ergeben, wenn KI-gestützte Systeme aus der Aggregation von jeweils anonymen Datenbeständen dann doch Daten mit hinreichender Bestimmtheit Individuen zuordnen können. Dann werden aus Maschinendaten wieder Personendaten und sie unterliegen dem Datenschutz.

 

Geistiges Eigentum

Der Schutz von geistigem Eigentum kann auch beim Einsatz von KI eine bedeutende Rolle spielen:

Bei der KI selbst handelt es sich um eine intelligente Systematik, die Urheberrechtsschutz nahelegt. Allerdings kommt ihr in den meisten Fällen nicht die Qualität einer Werkschöpfung wie bei Software zu. KI-Systeme stellen in der Regel auch keine Datenbank unter dem Schutz des Urheberrechts dar. Ebenso wie Software ist KI als solche auch nicht als technische Erfindung patentierbar, es sei denn sie verkörpert sich in einem technischen Produkt. Ob die KI mit ihren ursprünglichen und dann selbst weiterentwickelten Abläufen und Vorgaben als Geschäftsgeheimnis geschützt ist, kommt wiederum auf ihren konkreten Einsatz an und neuerdings, nach europäischem Recht zum Geheimschutz darauf, ob sie Gegenstand von konkreten Schutzmaßnahmen ist.

Eine zweite Frage ist, ob die von KI erarbeiteten Ergebnisse schützbares geistiges Eigentum darstellen. Dies können Analyseergebnisse sein, aber auch andere, „schöpferische“ Werke wie etwa Musik, Texte, Bilder oder Software. Maschinelle Analysen mit KI fallen dabei nicht unter den Urheberrechtschutz. Und bei schöpferischen Werken ist bereits heute anerkannt, dass der Schöpfer (Komponist, Autor, Fotograf, Software-Entwickler) auch anspruchsvolle Instrumente zu Hilfe nehmen darf – solange er die Entscheidung über die Gestaltung seines Werks hat, kann das Ergebnis durch Urheberrecht geschützt sein. Generiert aber ein System ein Ergebnis allein ohne die Vorgaben des Menschen, ist das Werk nicht nach dem geltenden Urheberrecht schützbar. Ob es künftig ein geistiges Schutzrecht auch für Leistungen von Maschinen geben soll, wird sicherlich Gegenstand grundlegender rechtspolitischer Erörterung sein. Ebenso wie das KI-System selbst können aber auch die von KI erzielten Ergebnisse als Geschäftsgeheimnis geschützt sein, ein Schutz, der also nicht gilt, wenn die Ergebnisse veröffentlicht sind. Eventuell lassen sich aus den zugänglichen Ergebnissen dann wieder im reverse engineering mit KI die Strukturen anderer KI erschließen.

 

Wettbewerbsrecht

Künstliche Intelligenz ist mit ihrem mächtigen Potential in der Lage, Märkte und Wettbewerb grundlegend zu verändern. Im Interesse einer funktionierenden Wettbewerbsordnung konzentriert sich daher das geltende Wettbewerbsrecht auf die Kontrolle von Vorgängen, bei denen Marktmacht nicht durch Leistung, sondern durch Zusammenschlüsse von Unternehmen entsteht. Ob neue Marktmacht entsteht, beurteilt die Fusionskontrolle zunächst anhand der Größe der

kleine Unternehmen auf. Es zielt damit auf Vorgänge, in denen bereits marktmächtige Unternehmen neue Startups mit Potential strategisch aufkaufen, so wie es zum Beispiel Google mit Deep Mind (Entwickler der KI für das Spiel GO) vorgemacht hat. Damit könnte das Kartellamt die Ballung von KI in den Händen marktmächtiger und finanzstarker Akteure und damit deren Verstärkung von Marktmacht einschränken.

Falls Marktmacht bereits besteht, darf das Unternehmen diese nicht missbrauchen und zum Beispiel andere Marktteilnehmer diskriminieren oder ungerechtfertigt binden. KI kann aber durchaus dazu beitragen, hochintelligente Mechanismen zu schaffen, die aufgrund ihres massiven Informationsvorsprungs (Informationsasymmetrie) im Ergebnis Wettbewerber, Kunden oder Lieferanten ungünstigere Dispositionen treffen lassen als bei einer ausgewogenen Informationslage.

Letztlich kommt KI auch in Systemen zu Marktbeobachtung und Preisgestaltung zum Einsatz. Bereits heute kontrollieren Algorithmen ohne KI die Preisgestaltung anhand von Informationen zu Nachfrage, Interessen (etwa auf Suchmaschinen), Sozialdaten (Wohnort, Handymodell, Kaufverhalten), Tageszeiten und anderem (dynamic pricing). Mit KI sind die Systeme nochmals klar leistungsstärker. Daher gilt auch hier die Kontrolle zum Missbrauch von Marktmacht. Sobald die Systeme aber auch die Preise von Wettbewerbern mitverfolgen und darauf reagieren, kann dieses einen unzulässigen Informationsaustausch im Sinne eines Preiskartells darstellen. Das rechtliche Problem liegt nun in der Zuordnung der Handlung zu Personen – die eigentliche Reaktion auf den Informationsaustausch nimmt ja kein Mensch vor, sondern ein autonomes System, das sich beim Einsatz von KI sogar seine Regeln zur Reaktion auf Preisveränderungen selbst gegeben hat. Zu Recht schlägt daher die Monopolkommission vor, bereits im Vorfeld den Einsatz von Algorithmen als wettbewerbsbeschränkenden und unzulässigen Informationsaustausch zu behandeln. Dieser Gedanke dürfte dann ebenfalls greifen, wenn Systeme mit KI verstärkt werden.

 

Managementhaftung

In der Unternehmensführung stellt sich die Frage zur Managementhaftung, ob und in welchem Umfang Geschäftsführung und Vorstand für das Verhalten der von ihnen eingesetzten Systeme verantwortlich sind, eben auch für solche mit Künstlicher Intelligenz. Im Grundsatz gehört es zu ihren Sorgfaltsplichten, nur solche Instrumente einzusetzen, die technologisch sicher sind und keine Rechtsverletzungen verursachen. Wenn diese Systeme autonom arbeiten und ihre Entscheidungsmechanismen sich nicht nachvollziehen lassen, bleibt es dennoch bei der Verantwortlichkeit der Organe des Unternehmens für den Fall von Rechtsverletzungen und Schäden. Umgekehrt stellt sich die Frage, inwieweit sich Geschäftsführung und Vorstand bei ihrer Entscheidungsfindung in unternehmerischen Fragen auf KI stützen und vor allem sich darauf verlassen dürfen (business judgement rule). Als Hilfsinstrument ist KI sicherlich vorteilhaft, die Entscheidungsfindung darf das Management aber nicht allein auf Technik übertragen und kann damit seine Verantwortlichkeit für das Unternehmen nicht darauf abwälzen.

 

Strukturelle Einordnung

Daneben gibt es vielfache juristische Diskussionen zur strukturellen Einordnung von KI: Erbringt ein Generator für Vertragstexte eine Rechtsdienstleistung? Unterliegen Robo-Advisory-Plattformen der Finanzaufsicht? Darf Soft Law unterstützt durch KI den Platz staatlicher Gerichte einnehmen? Darf die öffentliche Verwaltung ihre Ermessenentscheidungen von KI treffen lassen?

 

Rechtspersönlichkeit

Mit Blick auf die weitreichende funktionale Eigenständigkeit von KI-Systemen ist eine Diskussion zur Frage einer Rechtspersönlichkeit von Robotern und KI-Systemen entstanden und damit, ob sie als Rechtspersönlichkeit Rechtsfähigkeit erhalten sollten. Derzeit werden Roboter als Sache behandelt, für immaterielle Systeme gibt es keine rechtliche Einordnung, auch für einfache Maschinendaten kennt unser Recht keine Zuordnung, etwa im Sinne eines Dateneigentums. Im Hinblick auf die inhaltliche Entscheidungsautonomie von KI-Systemen gibt es Stimmen mit einem Plädoyer für eine „elektronische Person“ (ePerson). Undenkbar ist eine solche Figur nicht, etwa in Analogie zu Stiftungen als eigentümerlose und inhaberlose Rechtsperson. Die Verantwortlichkeit läge dann einzig bei dem Roboter bzw. dem System. Fehlverhalten kann man dann durch Abschalten des Systems und finanzielle Bußen sanktionieren. Als intelligentes System müsste KI dann sogar Fehlverhalten vermeiden, wenn es aus Sanktionen lernt. Die Forderung nach einer Haftungsmasse des KI-Systems für Schäden dürfte auf das Problem der angemessenen und notwendigen Vermögensmenge treffen. Dazu sind eher Pflichtversicherungen und andere Sicherungssysteme mit Solidarhaftungen geeignet. Juristisch ist eine Einkapselung der Haftung nicht erforderlich, die Haftung für ein KI-System kann auch über Körperschaften wie GmbH, AG und Stiftung abgeschottet werden. Eine weitreichende Entkoppelung von Schaden und Haftung erscheint jedoch unter dem Gesichtspunkt der Prävention nicht erstrebenswert.

 

KI und Ethik

Viele der rechtlichen Fragen zu neuen Sachverhalten durch KI lassen sich nur unter den Aspekten der Ethik betrachten: Darf es eine Identifikation von Menschen im Massenverfahren, z.B. durch Gesichtserkennung, ohne deren Einwilligung geben? Muss der Mensch im Dialog mit KI diese erkennen können? Verletzen unerkannte Social Bots im Dialog mit Menschen Grundrechte und Menschenwürde? Wie muss das System im Dilemma zwischen mehreren drohenden Schäden entscheiden? Dürfen autonome Systeme, insbesondere medizinische Diagnosen, autonome Fahrzeuge und etwa autonome Waffensysteme, über das Leben von Menschen entscheiden? Letztlich geht es darum, ob Maschinen ihre funktional gleichartigen oder sogar überlegenen Fähigkeiten nur im Dienst des Menschen nutzen dürfen oder aber einen Rang erhalten, der dem eines Menschen rechtlich vergleichbar ist. Diese Diskussion wird uns in den nächsten Jahren begleiten.