1. anacision
  2. /
  3. Aktuelles

Künstliche Intelligenz - Rechtliche Aspekte

Künstliche Intelligenz (KI) ist ein Schlagwort wie viele andere und wird im Moment ziemlich gehypt. Doch was steckt eigentlich hinter diesem Begriff? In unserer Blogreihe "Künstliche Intelligenz" beschäftigen wir uns unter anderem mit Versprechen und Mythen der KI. Wir erfahren, wie KI eigentlich definiert wird und widmen uns ihren Herausforderungen und Anwendungsbeispielen.

 

Noch gibt es nicht viele gesetzliche Regelungen für intelligente Systeme, dafür einige Leitlinien. Intelligente Systeme spielen oft bei wichtigen Entscheidungen mit, sei es in Bewerbungsprozessen oder medizinischer Diagnostik. Gerade da man diese Prozesse oft schwer nachvollziehen kann und es um menschliche Rechte geht, brauchen wir einen gesetzlichen Rahmen.
Im Folgenden versuchen wir klar zu machen, wo Regelungen benötigt werden. Wir zeigen auf, was von rechtlicher Seite in der EU und Deutschland schon passiert wird und was diskutiert wird. Schließlich gibt es noch einen kleinen Exkurs zur Rechtspersönlichkeit.

 



Was müsste unter anderem gesetzlich geregelt werden?

 

  • Daten: Welche Daten dürfen gesammelt werden und wie können sie so verarbeitet werden, dass Privatheit geschützt wird? Denn neben Benutzerinformationen (z.B. Name, Adresse) werden noch eine ganze Menge Metadaten gesammelt, was Menschen oft nicht wissen und die häufig wertvoller sind als die offensichtlichen Daten.
     
  • Datenweitergabe: Welche Daten dürfen wohin weitergegeben werden? Vor allem, wenn der Transfer zwischen Ländern geschieht, die sehr unterschiedliche Regelungen haben, ist die supranationale Rechtmäßigkeit nicht geklärt.
     
  • Haftung: Wer haftet, wenn Maschinen etwas falsch machen? Die Frage der Haftung ist ebenfalls noch nicht vollends geklärt.
     
  • Nichtdiskriminierung: Wie in den letzten Blogposts gesehen, passiert es leicht und ohne Vorsatz, dass Algorithmen Menschen diskriminieren.
     
  • Transparenz/Nachvollziehbarkeit: Es muss nachvollziehbar sein, wie Algorithmen arbeiten und Entscheidungen treffen. Oft sind intelligente Algorithmen so kompliziert, dass man nicht alles vorhersehen kann, was passieren könnte.


Bisher gibt es die Datenschutzgrundverordnung (DSGVO) der EU, welche Regelungen zu Datenverarbeitung, -speicherung und –transfer beinhaltet. Zudem gibt es eine Vielzahl an erstellten Leitlinien, die jedoch rechtlich nicht bindend sind. Dennoch tragen sie zur allgemeinen Standortfindung bei. So entwickeln sich Ansätze wie „Privacy by design“ oder „Privacy per default“ mit zum Beispiel „Differential Privacy“, die im gesamten Entwicklungsprozess das Einbeziehen von Privatsphäre vorschreiben.

 


 

Welche Regularien gibt es in Europa und in Deutschland?

 

Intelligente Systeme beschränken sich so gut wie nie auf ein Land und somit macht auch der Datenaustausch keinen Halt vor Ländergrenzen. Hat man verschiedene Gesetze in Ländern, wird es schwer, einen gemeinsamen Nenner zu finden. Deshalb ist nur sinnvoll, dass sich länderübergreifende Institutionen wie die EU Gedanken darüber machen und supranationale Regelungen entwerfen. In der EU arbeiten verschiedene Expertengruppen daran, Grundlagen zu schaffen. Dazu gehören zum Beispiel die KI-Leitlinien von Asilomar oder die Ethik-Leitlinien für eine vertrauenswürdige KI. Die Datenschutzgrundverordnung (DSGVO) regelt seit Mai 2018 die Verarbeitung personenbezogener Daten.

 

In Deutschland ist die Debatte im vollen Gang. Wichtige Punkte, die in mehreren Papieren und Strategien der Bundesregierung vorgestellt werden, sind Transparenz, Nachvollziehbarkeit und Erklärbarkeit. Feste "KI-Gesetze" gibt es noch nicht. Doch gerade weil KI noch in den Anfängen ist, besteht jetzt effektiv die Chance einen rechtlichen Rahmen dafür zu setzen und den Tradeoff zwischen Wirtschaftlichkeit und Persönlichkeitsrecht zu meistern. Eine ausführlichere Übersicht über die verschiedenen Diskussionspunkte finden Sie in unserem Zusatzartikel "Künstliche Intelligenz - Status Quo der rechtlichen Lage".

     


     

    Rechtspersönlichkeit - Die Frage nach der Verantwortung


    Momentan haben Machinen und somit auch intelligente Syteme keine Rechtspersönlichkeit. Der Begriff Rechtspersönlichkeit bezeichnet Akteure im Rechtssystem, die Rechte und Pflichten haben. Vor allem wird damit die Frage der Verantwortung beantwortet. Solche „juristischen Personen“ sind bisher nur Menschen und Organisationen.

    Im April 2017 hat sich das EU-Parlament dafür ausgesprochen, Robotern und intelligenten Systemen einen eigenen rechtlichen Status in Form einer „elektronischen Person“ (ePerson) auszusprechen, was eine große Debatte ausgelöst hat. Als Gegenstimme haben beispielsweise Experten in einem offenen Brief davor gewarnt, dass das EU-Parlament die Fähigkeiten von Robotern überschätzt hätte und das Bild von intelligenten Sytemen stark durch Science Fiction verzerrt sei (Mehr dazu im Blogbeitrag Mythen).

    Ein Beispiel, was die Frage nach dem Rechtsstatus von Maschinen stellt, ist das Vertragsrecht. Da Maschinen keine rechtliche Erklärung abgeben können, wären sie auch nicht an den Vertrag gebunden. Doch auch wenn Maschinen nur geringe Befugnisse haben, wie zum Beispiel autonom den Kühlschrank zu füllen und plötzlich andere Dinge, als gewünscht bestellt – wer ist dann dran schuld? Zudem müsste man sich fragen, inwieweit Maschinen zurechnungsfähig sind für das, was sie tun. Können Maschinen die Folgen ihres Handelns abschätzen? Und wenn sie etwas erfinden, worauf man ein Patent anmelden könnte – sind sie dann der Urheber? Denn alleine schon „lernen“ an sich schafft neue Daten. Es gibt viele offene Fragen.

    Im Endeffekt wurde dieser Rechtsstatus nicht eingeführt. Die Fragen, wo die Verantwortung liegt (beim Hersteller, dem Entwickler, dem Benutzer oder der KI?), wie viele neue Gesetze wir einführen müssen oder ob die bestehenden Gesetzte ausreichend sind, sind noch nicht geklärt.

     


     

    Weiterführende Links:

     


     

    Der Begriff der Künstlichen Intelligenz ist noch in der Findungsphase. Daher spiegelt diese Blogreihe unsere Sichtweise wider und erhebt keinen Anspruch auf Vollständigkeit. Haben wir aus Ihrer Sicht etwas vergessen? Dann kontaktieren Sie uns gerne.

    In den nächsten Blogbeiträgen stellen wir Einsatzbeispiele für künstliche Intelligenz im Mittelstand vor und wagen einen Ausblick in die Zukunft. 

     

    X