Künstliche Intelligenz (KI) und der Datenschutz: Probleme & Lösungsansätze

Künstliche Intelligenz gehört zu den spannendsten digitalen Themen dieser Zeit. Neue Entwicklungen und Anwendungen erleichtern Unternehmen die Arbeit, zum Beispiel durch Automatisierung von Prozessen, etwa in der Leadgenerierung oder der Contentproduktion, sie bringen jedoch auch rechtliche Fallstricke mit sich. Die Sammlung und Verarbeitung von Informationen, die personenbezogene Daten enthalten können, muss immer unter dem Aspekt des Datenschutzes kritisch betrachtet werden. Ein Überblick über mögliche Probleme und Lösungen.

Anmerkung: Dieser Artikel bietet einen Einstieg ins Thema und möchte dafür sensibilisieren, erhebt jedoch keinen Anspruch auf Vollständigkeit und ersetzt keine rechtliche Beratung durch Fachpersonen, die sich mit dem Thema KI und Datenschutz auskennen.

Wie funktioniert Künstliche Intelligenz?

Die Funktionsweise von Künstlicher Intelligenz ist komplex, vereinfacht gesagt soll mit Hilfe von KI-Systemen menschliche Intelligenz simuliert werden. Ein Teilbereich der Künstlichen Intelligenz ist das sogenannte Machine Learning (maschinelles Lernen), das mit Hilfe der eingespeisten Daten und einem Algorithmus in der Lage ist zu lernen. Die Basis sind also Informationen und Algorithmen bzw. ein mathematisches Modell, das das menschliche Gehirn simulieren soll.

Woher stammen die Daten und Informationen, mit denen KI gefüttert wird?

Welche Daten konkret genutzt wurden, um die KI-Anwendung zu trainieren, hängt vom System ab und lässt sich nicht pauschal beantworten. Chat GPT zum Beispiel greift auf frei verfügbare Informationen zurück, etwa von Wikipedia, aus digital verfügbaren Büchern und frei zugänglichen Texten aus dem Internet. Zudem lernt der Chatbot aus den „Unterhaltungen“, die er mit Usern führt.

Welche Rechts- und Datenschutz-Probleme können bei dem Einsatz von Künstlicher Intelligenz auftreten?

Mit dem Thema Datenschutz und Künstliche Intelligenz beschäftigen sich Datenschutzbeauftragte und Behörden schon seit Jahren. Bereits 2019 legte die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) ein Positionspapier vor, in dem sie technische und organisatorische Maßnahmen für eine datenschutzkonforme Gestaltung von KI-Systemen empfiehlt.

Im Frühjahr 2022 veröffentlichte die französische Datenschutzbehörde CNIL zwei Leitfäden für die datenschutzrechtlichen Anforderungen und Bewertung von KI-Systemen.

Eines der bekanntesten KI-Tools ChatGPT wurde in diesem Frühjahr zunächst von italienischen Datenschutzbehörden verboten und nach einer Erklärung des Anbieters wieder für die Nutzung in Italien erlaubt.

Die Beispiele zeigen, dass sich bereits seit mehreren Jahren die Behörden verschiedener Länder damit auseinandersetzen, welche Probleme KI-Tools mit sich bringen können und ob sie sich datenschutzkonform nutzen lassen.

Das Thema Datenschutz muss dann genauer betrachtet werden, wenn KI-Tools nicht-öffentliche persönliche Daten nutzen, zum Beispiel Kundendaten oder Informationen über Mitarbeitende. Zu den sensiblen personenbezogenen Daten gehören Namen, Adressen und Telefonnummern. Der Verarbeitung dieser Daten und dem Interesse des Unternehmens daran steht dem Recht auf informelle Selbstbestimmung der betroffenen Personen gegenüber. Bei besonders sensiblen Daten wie Gesundheitsdaten ist der rechtliche Rahmen übrigens noch strenger.

Heikel wird es auch dann, wenn sensible, nicht-öffentliche Informationen innerhalb einer Anfrage in ein KI-System eingespeist werden, nicht wissend, dass diese genutzt werden und möglicherweise anderen Usern bei ihrer Anfrage offenbar werden könnten. Ein Beispiel ist die Aufgabe, vertrauliche Notizen aus einem Meeting zusammenzufassen oder Personendaten nach einem bestimmten Kriterium auszuwerten.

KI und DSGVO

Für die DSGVO relevant ist die Verarbeitung von Daten mit Personenbezug, beispielsweise die Nutzung von Datensätzen mit Personeninformationen oder die Verknüpfung des KI-Tools mit Kommunikationskanälen wie einem E-Mail-Programm.

Es gilt auch hier das Grundprinzip der Datensparsamkeit: persönliche Daten dürfen nur in dem Maße erhoben und verarbeitet werden, wie für das Ziel erforderlich sind. Unnötige Sammlungen von Daten sind zu vermeiden. Im Zweifelsfall ist es auch sinnvoll nachweisen zu können, warum der Einsatz von KI bei der Verarbeitung dieser Daten notwendig ist.

Personen, deren Daten verwendet werden, sollten darüber aufgeklärt werden (zum Beispiel über die Datenschutzerklärung), welche Daten erhoben werden, wie diese verwendet werden und wer Zugriff auf diese hat. Einen Unterschied in der rechtlichen Bewertung macht auch, ob diese Daten anonymisiert werden und ob die Daten ausreichend geschützt sind, zum Beispiel durch Verschlüsselung.

KI und Urheberrecht

Weniger diskutiert, aber dennoch relevant ist die Urheberrechtsfrage bei der Nutzung von künstlicher Intelligenz. Durch KI erzeugte Werke sind nicht vom Urheberrecht geschützt, da sie nicht von Menschen geschaffen wurden, doch was ist mit den Inhalten, die KI-Anwendungen nutzen, um daraus neue Inhalte zu generieren? Diskutiert wird zum Beispiel die Frage, ob es zulässig ist, dass Bild-Datensätze ohne Einwilligung der Urheber*innen zum Training von KI-Tools verwendet werden.

Die Funktion der bekannten KI-Tools, die auf eine Aufgabe ein Ergebnis liefern, erscheint zunächst ähnlich wie die Suche in einer Suchmaschine. Fragen beantworten beide, beide liefern Informationen. Allerdings zeigen Suchmaschinen nur eine Vorschau oder Auszüge der Inhalte in der ursprünglichen Form an. Im Allgemeinen werden diese Daten nicht verändert, es entsteht kein neuer Inhalt.

Relevant für die Beurteilung ist, wie auch in der Offline-Welt, wie nah das neu generierte Werk (Text oder Bild) an einem Originalwerk ist. Dies ist bei der Verwendung eines KI-Tools nicht abzuschätzen, da die Quellen und damit die Originale nicht bekannt sind. Ein unkritisches Übernehmen von KI-generierten Inhalten kann damit urheberrechtlich problematisch sein.

Welche Möglichkeiten gibt es, Künstliche Intelligenz datenschutzkonform zu nutzen?

Dass Künstliche Intelligenz für Unternehmen zum Beispiel im Online Marketing einen großen Wert hat (lesen Sie hierzu unter Whitepaper), ist unumstritten. Viele Unternehmen nutzen zum Beispiel regelmäßig Chat GPT, um die Contentproduktion zu erleichtern oder zu beschleunigen. Angesichts der möglichen rechtlichen Probleme stellt sich die Frage, wie eine datenschutzkonforme Nutzung möglich ist und welche Ansätze es bereits dafür gibt. Es empfiehlt sich immer eine kritische Nutzung statt der unhinterfragten Verwendung von KI-generierten Texten oder Bildern. Auch wir zum Beispiel lassen uns von den Antworten aus KI-Tools inspirieren, unterziehen diese jedoch immer einer manuellen Prüfung und Bearbeitung.

Wie Daten erhoben und genutzt werden, welche Quellen ein KI-Tool nutzt und welche Datenschutzvorkehrungen getroffen werden, unterscheidet sich zwischen einzelnen Anbietern. Das gilt vor allem für personenbezogene Daten – wie werden diese geschützt, werden sie anonymisiert, werden diese außerhalb der EU verarbeitet usw. Auch die Frage, wer im Rechtsfall verantwortlich ist (ist es der Tool-Anbieter?), sollte geklärt sein. Bevor Sie sich für eine Lösung entscheiden, ist es daher sinnvoll, diese Punkte zu prüfen und sich im Zweifel rechtlich beraten zu lassen.

Bei der Verwendung von KI-basierten Chatbots ist Sensibilität gefragt, was die Eingabe der Frage oder Aufgabe betrifft. Diese Informationen können unter Umständen vom System verwendet werden, um es weiter zu trainieren – auch persönliche Informationen, die nicht für die öffentliche Nutzung bestimmt sind. Je nach genutztem Tool kann der Verwendung der eingegebenen Daten widersprochen werden.

Neben der Verwendung der Online KI-Lösungen, die auf ihre rechtlichen Voraussetzungen geprüft werden müssen, gibt es zwei alternative Ansätze, auf die wir kurz eingehen möchten.

Lokale/Offline Nutzung von KI-Tools

Verschiedene Anbieter arbeiten an lokal nutzbaren Lösungen ihrer KI-Anwendungen. Ein Beispiel ist GPT4All, ein Open Source Klon von ChatGPT. Dieser kann im eigenen Netzwerk genutzt werden und kommt ohne Internetnutzung aus.

Wie hilfreich solche lokalen KI-Lösungen sind, hängt davon ab wie umfangreich das Modell dahinter ist, wie gut das Sprachmodell und für welchen Zweck sie genutzt werden sollen. Dem Tool eigene Daten zur Verfügung zu stellen, um diese zu verarbeiten, kann beispielsweise GPT4AAll nicht. Es ist jedoch anzunehmen, dass sich in der Entwicklung und Erweiterung der aktuellen Lösungen viel bewegen wird.

Entwicklung eigener KI-Tools

Eine vollkommen eigenständige Programmierung eines eigenen KI-Tools ist aufwändig und für kaum ein Unternehmen rentabel. Allerdings gibt es fertige Algorithmen bzw. KI-Modelle, die diese Arbeit erleichtern und auf die eigenen Bedürfnisse angepasst werden können. Diese eigene KI-Lösung kann anschließend genutzt werden, um eigene Daten auszuwerten und Antworten zu erhalten oder Prozesse zu automatisieren.

Mehr Aktuelles aus der Welt des Online Marketing und Online Business

Die Entwicklungen der Online Welt beobachten wir bei den Internetwarriors laufend mit Spannung, teilweise schon seit Jahrzehnten. Wir informieren uns über neue Tools und technische Standards und prüfen diese auf Anwendung in unserer Arbeit. Unsere Kund*innen profitieren von aktuellem Wissen und davon, der Konkurrenz in der Einführung neuer Technologien und der Antwort aufwichtige Trends einen Schritt voraus zu sein. Möchten Sie immer auf dem Laufenden bleiben? Abonnieren Sie unseren Newsletter, der Sie mit aktuellen Informationen versorgt. Wünschen Sie sich Unterstützung für Ihr Online Marketing? Sprechen Sie uns an!