29. September 2019Murat Volkan DülgerBeitrag

Einleitung

Dieses Werk ist in türkischer Sprache erschienen. Die Zusammenfassung auf dieser Seite ist eine Übersetzung; der Originaltitel steht in Klammern.

Software der Künstlichen Intelligenz (KI) und die mit ihr verbundenen Systeme bieten als Software oder als Gerät in so unterschiedlichen Bereichen wie Smart Homes, Smart Cities, der Industrie, dem Gesundheitswesen, den Streitkräften und der Kriminalprävention neue und wertvolle Lösungen, um Aufgaben zu bewältigen, die den Menschen schwerfallen, und um verschiedene Bedürfnisse zu decken. Wie alle technologischen Entwicklungen bringen auch die Entwicklungen der KI-Technologien der Menschheit einerseits große Erleichterungen, andererseits aber auch einige ernste Risiken für die Grundrechte und Grundfreiheiten mit sich.

KI-Technologien beruhen darauf, dass Informationssysteme immer mehr Daten verarbeiten, daraus sinnvolle Schlüsse ziehen und Entscheidungen treffen. Sie werfen deshalb zwangsläufig auch die Frage der Verarbeitung personenbezogener Daten und die damit verbundenen Probleme auf. Die Rolle der KI-Technologien bei der Verarbeitung personenbezogener Daten und ihr Verhältnis zu den Grundsätzen und Regeln des Datenschutzrechts sind ein wichtiges Thema, das eigentlich eine recht umfassende und sorgfältige Untersuchung erfordert. Auch wenn ich das Thema in diesem Beitrag nicht in dem gebotenen Umfang behandeln kann, werde ich versuchen, den begrifflichen Rahmen abzustecken und die Dimensionen des Verhältnisses zwischen KI-Technologien und Datenschutzrecht aufzuzeigen.

Volltext

Dieser Text ist eine für diese Website angefertigte Übersetzung des türkischen Originals. Die Zahlen in eckigen Klammern sind die Seitenzahlen des Originals; die Quellenangaben in den Fußnoten sind unverändert übernommen. Maßgeblich für Zitate ist die Originalveröffentlichung (PDF).

TECHNOLOGIEN DER KÜNSTLICHEN INTELLIGENZ UND DATENSCHUTZRECHT

Doz. Dr. Murat Volkan Dülger*

Software der künstlichen Intelligenz und die damit verbundenen Systeme bieten als Software oder als Gerät in so unterschiedlichen Bereichen wie Smart Homes, Smart Cities, Industrie, Gesundheitswesen, Streitkräfte und Kriminalprävention neue und wertvolle Lösungen, um Aufgaben zu bewältigen, die den Menschen vor Schwierigkeiten stellen, und um vielfältige Bedürfnisse zu befriedigen. Wie alle technologischen Entwicklungen bringen auch die Entwicklungen im Bereich der Technologien der künstlichen Intelligenz der Menschheit einerseits große Erleichterungen, andererseits aber auch einige ernste Risiken für die Grundrechte und Grundfreiheiten mit sich. Die Technologien der künstlichen Intelligenz, die darauf beruhen, dass informationstechnische Systeme immer mehr Daten verarbeiten, daraus sinnvolle Schlüsse ziehen und Entscheidungen treffen, werfen unvermeidlich auch die Frage der Verarbeitung personenbezogener Daten und die damit verbundenen Probleme auf.

Die Rolle der Technologien der künstlichen Intelligenz bei der Verarbeitung personenbezogener Daten und ihr Verhältnis zu den Grundsätzen und Regeln des Datenschutzrechts sind in Wahrheit ein wichtiges Thema, das eine recht umfassende und sorgfältige Untersuchung erfordert. Auch wenn ich das Thema in diesem Beitrag nicht in dem Umfang behandeln kann, den es verlangt, werde ich versuchen, den begrifflichen Rahmen abzustecken und die Dimensionen des Verhältnisses zwischen den Technologien der künstlichen Intelligenz und dem Datenschutzrecht aufzuzeigen.

A. Begriffe zum Thema

Begriffe wie künstliche Intelligenz (artificial intelligence) und die damit zusammenhängenden Begriffe maschinelles Lernen (machine learning) und Internet der Dinge (internet of things) werden meist falsch oder gleichbedeutend verwendet1. Um das Thema im Zusammenhang mit dem Schutz personenbezogener Daten richtig behandeln zu können, halte ich es für sinnvoll, zunächst die einschlägigen Begriffe zu klären.

In ihrer allgemeinsten Definition bezeichnet die Technologie der künstlichen Intelligenz die Erfüllung von Aufgaben durch informationstechnische Systeme, die Intelligenz erfordern, wenn sie von Menschen ausgeführt werden, wie etwa Bilderkennung, Spracherkennung, Entscheidungsfindung oder Übersetzung zwischen Sprachen2. In einem eher technischen Verständnis bezeichnet künstliche Intelligenz intelligente Maschinen, die ihre Umgebung wahrnehmen und Entscheidungen so treffen können, dass die Erfolgsaussichten im Hinblick auf ein beliebiges Ziel maximiert werden3. Im Ergebnis vereinen die Technologien der künstlichen Intelligenz die allgemeinen Eigenschaften digitaler Technologien, wie das sehr schnelle Kopieren und Verarbeiten von Daten, mit Eigenschaften, die normalerweise dem Menschen eigen sind, wie etwa Erfahrung.

Strategiespiele, fahrerlose Fahrzeuge, Übersetzungsprogramme, Gesichtserkennungssysteme und die in Handel, Gesundheitswesen und Forschung eingesetzten Statistikprogramme, denen wir heute im Alltag häufig begegnen, sind in Wahrheit Technologien der künstlichen Intelligenz „im engeren Sinne“4. Technologien der künstlichen Intelligenz im eigentlichen Sinne gehen weit über die Mustererkennung und Vorhersage hinaus, die die künstliche Intelligenz im engeren Sinne leistet; es sind Technologien, die lernen und handeln können, ganz so wie die kognitiven Verhaltensweisen und Aufgaben, die ein intelligenter Mensch in einer Umgebung voller unbegrenzter Variablen entwickeln würde5. In diesem Sinne ist die vielleicht wichtigste Eigenschaft der künstlichen Intelligenz im eigentlichen Sinne ihre Unvorhersehbarkeit.

Der Begriff des maschinellen Lernens (machine learning) wird gleichbedeutend mit künstlicher Intelligenz verwendet und ist in Wahrheit einer der Faktoren, die das Entstehen der Technologien der künstlichen Intelligenz ermöglicht haben6. Maschinelles Lernen bezeichnet eine Reihe von Methoden und Techniken, die neue Informationen, Muster und Formen auffinden und Modelle bilden, die für wirksame Vorhersagen über Daten genutzt werden können7. Die Programme und Techniken des maschinellen Lernens entwickeln sich und sammeln Erfahrung, ohne zuvor ausdrücklich programmiert worden zu sein8. Die Technologien der künstlichen Intelligenz beruhen auf Techniken des maschinellen Lernens9.

Die Technologien der künstlichen Intelligenz sind kein eigenständiger und isolierter Bereich, sondern stehen in Wechselwirkung mit einer Reihe besonderer Entwicklungen und Trends. Die wichtigsten Faktoren, die die Technologien der künstlichen Intelligenz fördern, sind: die Verfügbarkeit und Zugänglichkeit einer gewaltigen und kostengünstigen IT-Infrastruktur, die zunehmende Zugänglichkeit großer Datensätze aus verschiedenen Bereichen, die Entwicklung immer ausgefeilterer statistischer und wahrscheinlichkeitstheoretischer Methoden sowie die Tendenz zur Zunahme von Bereichen, die mit künstlicher Intelligenz betrieben werden oder mit ihr kompatibel sind. Ein weiterer Begriff, der insbesondere im Zusammenhang mit der Datenverarbeitung aufs Engste mit den Technologien der künstlichen Intelligenz verknüpft ist, ist daher Big Data (big data).

In der digitalen Umgebung werden in jedem Augenblick von einer sehr großen Zahl von Nutzern sowie virtuellen oder physischen Geräten Daten in unglaublich großem Umfang verarbeitet. Auch wenn diese Daten für bestimmte Prozesse handhabbar oder aussagekräftig sind, entsteht dann, wenn sie als Masse in Form von Datensätzen zusammenkommen, eine Datengesamtheit, die sich mit herkömmlichen Verarbeitungswerkzeugen nicht mehr bewältigen lässt. Strukturierte oder unstrukturierte Datensätze dieser Größenordnung werden als Big Data (big data) bezeichnet. Die Technologien der künstlichen Intelligenz können jedoch mit Big Data unterschiedlichster Größenordnung, unterschiedlichsten Umfangs und unterschiedlichster Form umgehen. Deshalb sind künstliche Intelligenz und Big Data untrennbare Begriffe10. Die Beziehung zwischen den Technologien der künstlichen Intelligenz und Big Data ist wechselseitig: Einerseits werden für das maschinelle Lernen, das die Quelle der künstlichen Intelligenz bildet, Daten in großem Umfang benötigt, andererseits bedarf es der Technologien der künstlichen Intelligenz, um aus großen Datensätzen Sinn zu gewinnen11.

Einer der Begriffe, die zusammen mit der Technologie der künstlichen Intelligenz die Richtung anzeigen, in die sich die Technologie entwickelt, ist das Internet der Dinge (Internet of Things). Das Internet der Dinge lässt sich als ein System von Geräten definieren, die dank verschiedener Kommunikationsprotokolle miteinander kommunizieren und durch gegenseitige Vernetzung und Informationsaustausch ein intelligentes Netz bilden. Einfacher ausgedrückt wird das Netz, das von informationstechnischen Geräten gebildet wird, die ohne menschliches Zutun miteinander kommunizieren, als Internet der Dinge bezeichnet. Dieses sich immer weiter ausbreitende Netz miteinander verbundener Geräte steht in einer untrennbaren Beziehung zur künstlichen Intelligenz. Wie bei Big Data besteht auch zwischen dem Internet der Dinge und der künstlichen Intelligenz eine wechselseitige Beziehung: Das Internet der Dinge benötigt künstliche Intelligenz, um sein volles Potenzial zu erreichen, während die Präsenz der künstlichen Intelligenz in allen Lebensbereichen der Ergänzung durch das Internet der Dinge bedarf12.

B. Künstliche Intelligenz und die Verarbeitung personenbezogener Daten

In den Prozessen der Technologien der künstlichen Intelligenz werden sehr große Datenmengen (big data) verarbeitet. Gemeint sind damit zwar Daten jeder Art, doch werden unvermeidlich auch personenbezogene Daten von den Technologien der künstlichen Intelligenz verarbeitet. Auch wenn nicht alle Technologien der künstlichen Intelligenz die Verarbeitung personenbezogener Informationen erfordern, hat die Software des maschinellen Lernens und der Technologien der künstlichen Intelligenz bei der Verarbeitung personenbezogener Daten nach Zahl und Wert ein überaus großes und weites Anwendungsfeld. Das im Zusammenhang mit Big Data und maschinellem Lernen betriebene Profiling ist weit über das manuelle Profiling hinausgewachsen und hat eine neue qualitative und quantitative Dimension gewonnen13. Dank des maschinellen Lernens sind die Fähigkeiten des Data Mining gewachsen, also der Gewinnung aussagekräftiger Teile und Ergebnisse aus Big Data. Es ist möglich geworden, in sehr großen öffentlichen oder kommerziellen Datenbanken, die Wartungsprotokolle von Anlagen, Kreditanträge, Finanztransaktionen oder medizinische Aufzeichnungen enthalten, wertvolle Informationen zu entdecken und auf dieser Grundlage Prognosen abzugeben oder Empfehlungen auszusprechen.

Die im Data Mining eingesetzten Technologien der künstlichen Intelligenz benötigen je nach ihrer Struktur und ihrem Zweck sehr viele Daten über natürliche Personen und erheben deshalb immer mehr Daten über sie. Personenbezogene Daten und künstliche Intelligenz stehen in einer wechselseitigen Beziehung: Einerseits speisen personenbezogene Daten wie alle anderen Daten die Technologien der künstlichen Intelligenz und dienen als Material für Entscheidungsprozesse, andererseits erzeugen die Technologien der künstlichen Intelligenz durch Schlussfolgerungen weitere personenbezogene Daten14.

Dass uns bei einer Suchmaschine Werbung angezeigt wird, die mit den von uns gesuchten Wörtern zusammenhängt, mitunter sogar nur sehr entfernt, dass Social-Media-Anwendungen Personen vorschlagen, die wir kennen könnten oder die uns interessieren könnten, jede Art von Profiling, der wir im Internet ausgesetzt sind, dass Kartenanwendungen die Route mit der günstigsten Verkehrslage vorschlagen und dass Übersetzungsanwendungen ihre Ergebnisse mit der Zeit immer genauer machen – all dies, dem wir im Alltag häufig begegnen, sind die verbreitetsten und anschaulichsten Beispiele für die Datenverarbeitung durch künstliche Intelligenz.

Die Technologien der künstlichen Intelligenz werfen im Zusammenhang mit dem Recht des Schutzes personenbezogener Daten in vielerlei Hinsicht Probleme auf:

• die Erhebung „aller personenbezogenen Daten“ oder „möglichst vieler personenbezogener Daten“ im Zusammenhang mit dem Bedarf an Big Data,

• die Ableitung neuer Daten aus Daten, indem die vorhandenen Daten zum Gegenstand weiteren Lernens und weiterer Analyse gemacht werden,

• die Möglichkeit, dass Daten, die in einem bestimmten Kontext und/oder durch eine bestimmte Verarbeitungstätigkeit gewonnen wurden, für anfänglich unbekannte und sehr unterschiedliche Zwecke verarbeitet werden, sowie der Umstand, dass sich wegen der Unvorhersehbarkeit der künstlichen Intelligenz nicht verhindern lässt, dass die Verarbeitungszwecke der Daten neu bestimmt oder die Daten unter Verstoß gegen den Grundsatz der Zweckbindung für allzu viele Zwecke verarbeitet werden,

• der zunehmende Einsatz automatisierter Entscheidungsmechanismen.

C. Datenverarbeitung durch künstliche Intelligenz nach dem Recht des Schutzes personenbezogener Daten

Die Technologien der künstlichen Intelligenz müssen in den Datenverarbeitungsprozessen, die sie umfassen und in die sie eingebunden sind, die Rechte und Freiheiten der Personen achten, im hier interessierenden Zusammenhang das Recht auf Schutz personenbezogener Daten wahren und das Recht des Schutzes personenbezogener Daten einhalten. Da die Technologien der künstlichen Intelligenz (noch) keine Rechtspersönlichkeit besitzen, treffen die Pflichten und die Verantwortung an dieser Stelle die natürlichen oder juristischen Personen, die Technologien der künstlichen Intelligenz entwickeln, verkaufen und nutzen.

Für die Bestimmung der Grundsätze und Regeln, die von Entwicklern, Verkäufern und Nutzern künstlicher Intelligenz bei der Datenverarbeitung mit Technologien der künstlichen Intelligenz nach dem Recht des Schutzes personenbezogener Daten zu beachten sind, ist der einschlägige Leitfaden des Beratenden Ausschusses des Übereinkommens Nr. 108 des Europarats zum Schutz des Menschen bei der automatischen Verarbeitung personenbezogener Daten richtungsweisend. Danach gilt15:

• Bei der Entwicklung und Nutzung von Technologien der künstlichen Intelligenz, die Auswirkungen auf den Einzelnen und die Gesellschaft haben können, sind die grundlegenden Menschenrechte und insbesondere das Recht auf Schutz personenbezogener Daten zugrunde zu legen. Von Bedeutung sind in diesem Zusammenhang insbesondere die Fälle, in denen künstliche Intelligenz in Entscheidungsprozessen eingesetzt wird.

• Bei der Entwicklung von Technologien der künstlichen Intelligenz, die mit Prozessen der Verarbeitung personenbezogener Daten zusammenhängen, sind die Grundprinzipien des Datenschutzrechts zu beachten.

• Im Bereich der künstlichen Intelligenz sind verantwortungsvolle Investitionen zu tätigen; die Vermeidung und Beseitigung der mit der Verarbeitung personenbezogener Daten verbundenen Risiken muss der grundlegende Ansatz sein.

• Die Risikobewertung (Folgenabschätzung) bei der Datenverarbeitung ist unter Berücksichtigung der Besonderheiten der künstlichen Intelligenz und von Big Data mit größerer Sorgfalt vorzunehmen.

• Die Technologien der künstlichen Intelligenz sind so zu gestalten, dass sie die (in Art. 11 des türkischen Gesetzes über den Schutz personenbezogener Daten, KVKK, geregelten) Rechte der betroffenen Personen achten und diesen die Ausübung dieser Rechte ermöglichen.

• Wer künstliche Intelligenz entwickelt, verkauft und nutzt, hat sicherzustellen, dass die betroffenen Personen hinreichend und zutreffend darüber informiert werden, dass ihre personenbezogenen Daten durch künstliche Intelligenz verarbeitet werden, und dass sie bei Vorliegen der Voraussetzungen ihr Widerspruchsrecht ausüben können.

• Bei den durch künstliche Intelligenz verarbeiteten Daten ist die Kontrolle (Herrschaft) der betroffenen Personen über ihre Daten und über die Ergebnisse des Prozesses zu gewährleisten.

• Im Rahmen des Rechts, automatisierten Entscheidungsprozessen zu widersprechen, ist den betroffenen Personen ein Widerspruchsrecht einzuräumen, wenn Daten von künstlicher Intelligenz automatisiert verarbeitet und Entscheidungen getroffen werden, die für die Betroffenen Folgen haben.

• Wer künstliche Intelligenz entwickelt, verkauft und nutzt, hat vorbeugende Maßnahmen gegen mögliche Risiken im Bereich des Schutzes personenbezogener Daten zu treffen.

• In allen Phasen der Verarbeitung einschließlich der Datenerhebung ist der Grundsatz des Datenschutzes durch Technikgestaltung (by-design) zu beachten; insbesondere ist sicherzustellen, dass die künstliche Intelligenz keine Voreingenommenheiten aufweist, die auf eine Diskriminierung hinauslaufen können.

• Alle Entwickler haben Art, Beschaffenheit, Herkunft und Menge der zu verarbeitenden personenbezogenen Daten zu bewerten; unnötige und übermäßige Verarbeitungstätigkeiten sind zu unterbinden. In diesem Zusammenhang können synthetische Daten (repräsentative Daten, die echte personenbezogene Daten nachbilden) eine wirksame Lösung sein.

• Die Risiken, dass die künstliche Intelligenz bei der Datenverarbeitung den Kontext verlässt und auf diese Weise Daten zweckwidrig verarbeitet, sind zu ermitteln und durch die erforderlichen algorithmischen Formeln zu verhindern.

• Für diesen Themenbereich sind unabhängige Beratungsgremien einzurichten; von bestehenden Gremien und akademischen Einrichtungen sind Stellungnahmen und Empfehlungen einzuholen.

• Für die Risikobewertung sind partizipative Verfahren zu entwickeln, die die Anmerkungen potenzieller oder gegenwärtiger Nutzer berücksichtigen.

• Wer künstliche Intelligenz entwickelt, verkauft und nutzt, hat für die Datenverarbeitung durch künstliche Intelligenz einen in jeder Phase und in jedem Prozess rechenschaftsfähigen Algorithmus einzurichten und festzulegen, wem die Verantwortlichkeiten zukommen (wer der Verantwortliche ist).

Fußnoten

  1. Hochschullehrer / Rechtsanwalt. ↑
  2. CNIL, “Comment Permettre À L’homme De Garder La Main? Les enjeux éthiques des algorithmes et de l’intelligence artificielle”, 2017, s. 14. ↑
  3. Die Türkische Sprachgesellschaft hat bislang keine Definition des Begriffs vorgelegt. Die hier wiedergegebene Definition wurde aus dem Oxford English Dictionary übersetzt. https://en.oxforddictionaries.com/definition/artificial_intelligence. ↑
  4. Stuart J. Russell/Peter Norvig, Artificial Intelligence: A Modern Approach (3. ed.), Boston, Prentice Hall, 2010, s. 15, 30. ↑
  5. Lilian Mitrou, “Data Protection, Artificial Intelligence and Cognitive Services: Is The General Data Protection Regulation (GDPR) ‘Artificial Intelligence-Proof’?”, Nisan 2019, s. 10. ↑
  6. Mitrou,s. 11. ↑
  7. Mireille Hildebrandt, “Law as Information in the Era of Data-Driven Agency”, The Modern Law Review, Vol. 79, 2016, s. 2. ↑
  8. Martijn van Otterlo, “A Machine Learning View on Profiling”, Privacy, Due Process and the Computational Turn -Philosophers of Law Meet Philosophers of Technology, Eds: M. Hildebrandt/K. de Vries Abingdon, Routledge, 2013, s. 45. ↑
  9. van Otterlo, s. 46. ↑
  10. Mitrou, s. 13. ↑
  11. CNIL, “Comment Permettre À L’homme De Garder La Main? Les enjeux éthiques des algorithmes et de l’intelligence artificielle”, 2017, s. 18. ↑
  12. Mitrou, s. 19. ↑
  13. Mitrou, s. 19. ↑
  14. Guidelines on Artificial Intelligence and Data Protection, Consultative Committee of The Convention for the Protection of Individuals with regard to Automatic Processing of Personal Data, T-PD(2019)01, Strasbourg, 25 January 2019. ↑

PDF herunterladen (türkisch)

Weitere Publikationen zu diesem Thema