AI ASSIST in MAXQDA 24 derzeit nicht datenschutzkonform?

Gespannt hatte ich die Freischaltung der Campuslizenz von MAXQDA 24 erwartet, da in dieser auch der AI ASSIST enthalten ist. Der AI ASSIST nutzt die Schnittstelle von OpenAI zum Sprachmodell GPT (damit läuft auch ChatGPT). Aber meine Freude währte nicht lang, denn die Funktion AI ASSIST wurde postwendend vom IT-Service der Universität Kassel gesperrt. An der Humboldt-Universität zu Berlin, der Universität Erlangen-Nürnberg und der Universität Zürich wurde der AI ASSIST von vornherein nicht in der Campus-Lizenz freigegeben. Die Universität Hamburg prüft gegenwärtig die Datenschutzkonformität.

Die Begründung der Datenschutzbeauftragten der Universität Kassel lautet von mir zusammengefasst:

Die Wahrscheinlichkeit ist groß, dass im Rahmen der Nutzung des AI ASSIST unautorisiert Daten in ein Drittland (USA [an OpenAI]) übermittelt werden.

Die Deaktivierung interpretiere ich so, dass die nicht ausschließbare Gefahr, dass im Rahmen der Nutzung des AI ASSIST unautorisiert Daten in ein Drittland (USA) übermittelt werden, so hoch von Datenschutz und IT-Service eingeschätzt wird, dass diese Entscheidung nicht den Nutzer*innen überlassen werden kann. Hier ist hoffentlich noch nicht das letzte Wort gesprochen, und eine Lösung möglich, dass doch solche KI in Forschung und Lehre genutzt werden kann.

Dennoch können Wissenschaftler*innen und Studierende über individuelle Einzelplatz- und vielleicht zukunftsnah Lehrlizenzen den AI ASSIST in MAXQDA 24 nutzen. Die Nutzung muss explizit freigeschaltet werden, wofür ein Verarbeitungsvertrag abgeschlossen wird. Dabei gibt es viele Dinge zu berücksichtigen, wie die praktische Handreichung mit „15 Aspekten zum kontrollierten Umgang mit LLM-Chatbots“ des hamburgischen Datenschutzbeauftragten zeigt. Im Kern ist es dringend geboten zumindest folgende drei Punkte bei der Verwendung von AI ASSIST in MAXQDA 24 zu beachten:

  1. Bei der Registrierung für die Nutzung des AI ASSIST, auf gar keinen Fall die opt-in Zustimmung erteilen, da sonst OpenAI Ihre Daten zu Trainingszwecken verwenden darf.

Die Erklärung auf der Webseite des Rechenzentrums (RRZE) der Friedrich-Alexander Universität Erlangen-Nürnberg (FAU) lautet:

„Die Netzwerknutzung von MAXQDA Pro läuft an der FAU und den Regionalpartner-Hochschulen vollständig lokal administriert am RRZE und es erfolgt kein Datenaustausch zur Nutzung mit dem Lizenzgeber. Anders ist es bei dem Add-on AI ASSIST, das komplett außerhalb des Hochschulnetzwerks läuft und nicht vom Gesetz geschützte sowie den Dienstanweisungen gedeckte Datenübertragungen in die USA durchführt. Deshalb ist es besonders wichtig, die Sicherheitshinweise der FAU bei der Nutzung von AI ASSIST zu beachten, insbesondere (Nr. 6): Die Speicherung von proprietären Daten der FAU mit den Vertraulichkeitsstufen CC1, CC2 und CC3 ist in Cloud Systemen außerhalb des FAU-Netzwerkes nicht zulässig.“

Leider ist von außerhalb des FAU-Netzes nicht einsehbar, was die Vertraulichkeitsstufen bedeuten und welche Daten damit klassifiziert sind. Sie sollten unbedingt bei Ihrer Hochschule die Klassifikation von proprietären Daten recherchieren (z. B. medizinische und Patent- und Lizenzinforationen). Grundsätzlich sollten Sie keine proprietären oder sensiblen Daten in eine KI eingeben.

  1. Verwenden Sie keine sensiblen Daten aus Dokumenten, Interviews, Tagebuchstudien usw.

Auch wenn MAXQDA versichert, dass in AI ASSIST eingelesene Daten nicht für das Training der Modelle von Open AI verwendet werden, so sollten Sie nur öffentlich zugängliche Daten (z. B. auf Webseiten verfügbare Informationen) sowie tatsächlich vollständig anonymisierte und pseudonymisierte Daten in AI ASSIST verwenden (für eine Handreichung siehe hier ). Das dem AI ASSIST zugrundeliegende Large Language Model GPT wurde mit riesigen Textdatenmengen trainiert (Stichwort: maschinelles Lernen) und trainiert sich aufgrund Vorprogrammierung der KI selbst durch den Zugriff auf das Internet (World Wide Web) immer weiter. Als Datenkrake ist es folglich für eine KI ein Leichtes unzureichend anonymisierte und pseudonymisierte Daten zusammenzufügen, was zu einer Identifizierung von Personen führen kann. Das ist nicht nur bei der Analyse von Daten zu vulnerablen Personengruppen (z.B. Kinder, Gewalt- und Missbrauchsopfer, Kranke, Süchtige und politisch Verfolgte), sondern jeder zahlenmäßig kleinen Gruppe fatal, da wir in der qualitativen Forschung Anonymität zusichern. In der Lehre könnten ergänzend zu öffentlich verfügbaren Dokumenten auch über Repositorien verfügbare Interviews usw. zu Übungszwecken verwendet werden.

  1. Verletzung von Ethikrichtlinien und Datenschutzgrundverordnung (DSGVO) haben Konsequenzen

Ein leichtfertiger Umgang oder gar die Nichtberücksichtigung des Datenschutzes, wie in der Datenschutzgrundverordnung (DSGVO) formuliert, kann rechtliche Folgen für die Nutzer*innen haben. Verletzen Sie beispielsweise Persönlichkeitsrechte der von Ihnen Befragten und betreiben unbeabsichtigt Industriespionage stellen das strafbare Handlungen dar, die z.B. Bußgeld- und Kompensationsforderungen nach sich ziehen können. Weiter bedeutet die Nichtbeachtung des Datenschutzes einen Verstoß von Studierenden und Wissenschaftler*innen gegen Ethikrichtlinien der Fachgesellschaften, z. B. der Deutschen Forschungsgemeinschaft und der Deutschen Gesellschaft für Soziologie. Zuletzt verspielen Sie mit Verstößen gegen den Datenschutz das Vertrauen der Personen, welche Ihnen Daten in Interviews, Dokumenten usw. auf Basis einer Datenschutzerklärung und durch die Einwilligungserklärung zur Verfügung gestellt haben (Gefährdung von Integrität und Vertraulichkeit in der Datenverwendung; DSGVO Artikel 5). Denn bisher gibt es meist keine Zustimmung in Einwilligungserklärungen zur Nutzung von KI-Tools für die Auswertung.

Der AI ASSIST von MAXQDA ist kein Einzelfall, denn auch die QDA Software ATLAS.ti greift auf GPT zu. Auch die Datenschutzerklärungen von ATLAS.TI finde ich mit reichlich Unklarheiten gespickt (siehe https://atlasti.com/ai-data-security-and-privacy).

Derzeit herrschen noch viele Unklarheiten in Bezug auf die datenschutzkonforme und ethische Nutzung von KI für qualitative Datenanalyse. Deshalb ist die derzeitige Nutzung von KI-Funktionen in Auswertungssoftware kritisch zu betrachten. ABER es sollte dringend nach Lösungen auf allen Seiten gesucht werden, damit eine Nutzung möglich wird, da es viel Potential in der Anwendung gibt und wir vor allem auch Studierende in der Lehre befähigen sollten mit KI-Tools umzugehen.

Hintergrundinformationen zu AI ASSIST, ChatGPT und OpenAI Datenschutz

Die Transparenz der Darstellung zu Datenschutz von MAXQDA lässt zu wünschen übrig. In den sehr umfangreichen allgemeinen Geschäftsbedingungen (AGBs) wird Nicht-Rechtskundigen das Verstehen erschwert. Beispielsweise ist auf der Webseite von MAXQDA unter „Datenschutz gewährleisten“ folgendes zu lesen:

„Ihre Daten werden nicht für das Training der KI verwendet. Sie haben die Kontrolle darüber, wer Zugang zu AI ASSIST hat“

Das Studium der AGBs von MAXQDA zu AI ASSIST nährt eher Zweifel an der umfassenden Korrektheit der Aussagen, dass Nutzer*innen volle Datenkorntrolle haben und damit den Datenschutz wie in der DSGVO formuliert einhalten. Hierbei macht es sich MAXQDA sehr einfach, indem alle Verantwortung den Kund*innen zugeschoben wird. Denn in den AGBs findet sich folgende Aussage, die die Hinweise liefert, dass personenbezogene Daten eben doch ausgewertet werden:

„Es werden nicht gezielt sensible personenbezogene Daten verarbeitet. Sofern ein Text des Kunden entsprechende sensible Daten enthält, wird der Kunde diese Daten vor dem Hochladen des Projektes in AI ASSIST pseudonymisieren oder anonymisieren, sofern die Pseudonymisierung oder Anonymisierung der Daten der Erfüllung des Verarbeitungszwecks nicht entgegenstehen.“

Meine Vermutung ist, dass eben solche Aussagen mit zur Deaktivierung von AI ASSIST durch den IT-Service von Universitäten beigetragen haben. Zu den Gefahren und eine datenschutzkonforme sowie ethische Verwendung von KI-Tools besteht noch viel Aufklärungsbedarf, den wir rasch angehen müssen. Denn die direkte Verwendung von ChatGPT für Datenauswertung ist noch kritischer zu bewerten.

Auch OpenAI – die Eigner des Sprachmodells GPT, auf das AI ASISST zugreift – erklärt: „We do not train on your business data“ (https://openai.com/enterprise-privacy; Stand 10.01.24). Das trifft allerding nur z. B. auf die Anwendung über den AI ASSIST und nicht die direkte Dateneingabe in ChatGPT zu, daher bitte niemals sensible Daten direkt in ChatGPT eingeben (siehe Richtlinien unten). Denn auch die AGBs von OpenAI sind datenschutzrechtlich sehr kritisch zu bewerten. Zwar schreibt OpenAI, dass Originaldaten – also alle Informationen, die Sie aktiv eingeben – immer nach 30 Tagen gelöscht würden (https://openai.com/policies/data-processing-addendum; Stand 15.02.24). Dennoch nutzt OpenAI die Daten als sogenannte „abgeleitete“ Daten in aggregierter Form, und begründet dies mit: “the data is no longer considered Personal Data under applicable Data Protection Laws.” Eine weitere Hintertür zur Nutzung personenbezogener Daten ist dem Data Processing Addendum (DPA) zu entnehmen. Im DPA steht zur 30 Tagesregel und Daten(-Nicht)-Löschung bzw. -Weiterverwendung:

“This DPA shall remain in effect as long as OpenAI carries out Customer Data processing operations on Customer’s behalf or until the termination of the Agreement (and all Customer Data has been returned or deleted in accordance with this DPA). OpenAI will retain Customer Data in accordance with our commitments set forth at https://openai.com/enterprise-privacy. On the termination of the DPA, OpenAI will direct each Subprocessor to delete the Customer Data within thirty (30) days of the DPA’s termination, unless prohibited by law. For clarity, OpenAI may continue to process information derived from Customer Data that has been deidentified, anonymized, and/or aggregated such that the data is no longer considered Personal Data under applicable Data Protection Laws and in a manner that does not identify individuals or Customer to improve OpenAI’s systems and services.”

Zur Sammlung personenbezogener Daten durch ChatGPT – also außerhalb von MAXQDA AI ASSIST – erklärt OpenAI (https://openai.com/de/policies/eu-privacy-policy; (Stand 15.12.23):

“2. Personenbezogene Daten, die wir erheben
Wir erheben personenbezogene Daten über Sie („Personenbezogene Daten“) wie unten beschrieben:

Personenbezogene Daten, die Sie zur Verfügung stellen: Wir erheben die folgenden Personenbezogenen Daten, wenn Sie ein Konto erstellen oder mit uns kommunizieren:

Kontodaten: Wenn Sie ein Konto bei uns erstellen, erheben wir Daten, die Ihrem Konto zugeordnet sind, einschließlich Ihres Namens, Ihrer Kontaktdaten, Ihrer Kontoanmeldedaten, Ihrer Zahlungskartendaten und Ihrer Transaktionshistorie (zusammenfassend „Kontodaten“).
Nutzerinhalte: Wenn Sie unsere Dienste nutzen, erheben wir Personenbezogene Daten, die in den Eingaben, Datei-Uploads oder in dem Feedback enthalten sind, die Sie unseren Diensten zur Verfügung stellen („Inhalte“).
Kommunikationsdaten: Wenn Sie mit uns kommunizieren, erheben wir Ihren Namen, Ihre Kontaktdaten und den Inhalt der von Ihnen gesendeten Nachrichten (zusammenfassend „Kommunikationsdaten“).
Daten zu sozialen Medien: Wir haben Seiten auf Sites von sozialen Medien wie Instagram, Facebook, Medium, X, YouTube und LinkedIn. Wenn Sie mit unseren Seiten auf sozialen Medien interagieren, erheben wir Personenbezogene Daten, die Sie uns freiwillig zur Verfügung stellen, wie z. B. Ihre Kontaktdaten (zusammenfassend „Daten zu sozialen Medien“). Darüber hinaus können die Unternehmen, die unsere Seiten auf sozialen Medien hosten, uns aggregierte Daten und Analysen über unsere Aktivitäten auf sozialen Medien zur Verfügung stellen.
Andere von Ihnen bereitgestellte Daten: Wir erheben andere Daten, die Sie uns zur Verfügung stellen können, z. B. wenn Sie an unseren Veranstaltungen oder Umfragen teilnehmen oder uns Daten zur Feststellung Ihres Alters oder Ihrer Identität zur Verfügung stellen (zusammenfassend „Andere von Ihnen bereitgestellte Daten“).

Personenbezogene Daten, die wir automatisch durch Ihre Nutzung der Dienste erhalten: Wenn Sie die Dienste besuchen, nutzen oder mit ihnen interagieren, erhalten wir die folgenden Daten („Technische Daten“):

Protokolldaten: Daten, die Ihr Browser oder Gerät automatisch sendet, wenn Sie unsere Dienste nutzen. Zu den Protokolldaten gehören Ihre Internet-Protokoll-Adresse, der Browsertyp und die Einstellungen, das Datum und die Uhrzeit Ihrer Anfrage sowie die Art und Weise, wie Sie mit unseren Diensten interagieren.
Nutzungsdaten: Wir können automatisch Daten über Ihre Nutzung der Dienste erheben, wie z. B. die Arten von Inhalten, die Sie sich ansehen oder mit denen Sie interagieren, die Funktionen, die Sie nutzen, und die Aktionen, die Sie ausführen, sowie Ihre Zeitzone, Ihr Land, die Daten und Uhrzeiten des Zugriffs, den User Agent und die Version, die Art des Computers oder Mobilgeräts und Ihre Computerverbindung.
Geräteinformationen: Dazu gehören der Name des Geräts, das Betriebssystem, die Gerätekennungen und der von Ihnen verwendete Browser. Die erhobenen Daten können von der Art des von Ihnen verwendeten Geräts und dessen Einstellungen abhängen.
Cookies und ähnliche Technologien: Wir verwenden Cookies und ähnliche Technologien, um unsere Dienste zu betreiben und zu verwalten und um Ihr Erlebnis zu verbessern. Einzelheiten zu unserer Verwendung von Cookies finden Sie in unserer Cookie-Richtlinie.

Personenbezogene Daten, die wir aus anderen Quellen erhalten: Wir erheben Daten aus anderen Quellen, wie z. B. Informationen, die im Internet öffentlich zugänglich sind, insbesondere um die Modelle zu entwickeln, die unsere Dienste antreiben. Wir erhalten auch Daten von unseren vertrauenswürdigen Partnern, z. B. von Sicherheitspartnern zum Schutz vor Betrug, Missbrauch und anderen Sicherheitsbedrohungen für unsere Dienste oder von Marketinganbietern, die uns Informationen über potenzielle Kunden unserer Geschäftsdienste zur Verfügung stellen.”

Entsprechend gilt: Bitte lesen Sie die Private Policy sehr genau, wie OpenAI Ihre personenbezogenen Daten nutzt (3. Wie wir Personenbezogene Daten verwenden), dass OpenAI personenbezogene Daten an Dritte weitergibt (4. Offenlegung von Personenbezogenen Daten) usw.

Alle Links wurden letztmalig am 08.03.2024 aufgerufen.



Diesen Blogbeitrag zitieren
Christian Schneijderberg (2024, 11. März). AI ASSIST in MAXQDA 24 derzeit nicht datenschutzkonform? Sozialwissenschaftliche Methodenberatung. Abgerufen am 22. Mai 2024, von https://doi.org/10.58079/vzue

2 Gedanken zu „AI ASSIST in MAXQDA 24 derzeit nicht datenschutzkonform?“

  1. am IfS der LMU können wir AI Assist nutzen, auch wenn ich die Funktion für lächerlich wenig hilfreich halte.

    In Abstimmung mit der Rechtsabteilung und der datenschutzbeauftragten Person der LMU ist es in Ordnung, da wir von “einer wirksamen Anonymisierung [Pseudonymisierung] ausgehen” ausgehen können, da die Re-Identifikation mit Mitteln, die “nach allgemeinem Ermessen wahrscheinlich genutzt werden, um die natürliche Person direkt oder indirekt zu identifizieren” genug erschwert sind. Auch ist die USA Dank neuem Angemessenheitsbeschluss zur Datenverarbeitung der EC nicht mehr datenschutzrechtlich bedenklicher als GB, IRL oder eben DE. Dennoch folgen wir der Empfehlung der datenschutzbeauftragten Person und informieren *sicherheitshalber* die Betroffenen über die geplante Verarbeitung und Weitergabe und lassen sie entsprechend einwilligen.

    1. Ich denke, diese Diskussion zeigt wieder einmal, dass wir die forschungsethische Verantwortung für den sorgsamen Umgang mit den uns anvertraueten Daten letztlich nicht vollständig abgeben können – weder an unsere Befragten (via allumfassender Einverständniserklärung), noch an Datenschutzbeftragte oder Softwareanbieter. Es bleibt unsere Aufgabe, in jedem Einzelfall zu prüfen, wie sensibel die Daten sind, wie groß die Gefahr einer Deanonymisierung und wie gravierend die Konsequenzen, die daraus folgen könnten.
      Was wir für diese Abwägung brauchen, sind vor allem Informationen darüber, was mit unseren Daten geschieht. Deshalb bin ich Christian (und allen anderen Beteiligten an dieser Diskussion) sehr dankbar für diese Zusammenstellung.
      Sehr wichtig finde ich auch, dass MAXQDA sich aktiv in diese Diskussion einbringt (auf der Mailinglist QSF_L) und offenlegt, wie die Software unsere Daten behandelt. Allerdings würde ich mir hier etwas mehr Klarheit wünschen: Wenn einerseits betont wird, dass “der Datenschutz … von höchster Priorität” sei und “alle notwendigen Sicherheitsmaßnahmen getroffen wurden”, andererseits aber bei jeder einzelnen Interaktion mit dem AI Assist von den Nutzenden die explizite Zusicherung verlangt wird, dass KEINE personenbezogenen Daten verwendet werden, dann finde ich das eine ziemlich widersprüchliche Botschaft. Sind personenbezogene Daten nun geschützt oder nicht? Auch pseudonymisierte Interviewtranskripte o.ä. sind ja in dieser Hinsicht ja nicht unbedingt unproblematisch.

      Abschließend noch kurz zu meinen eigenen KI-basierten Funktionen in der open source Software QualCoder (https://github.com/kaixxx/QualCoder#readme).
      Aktuell verwenden wir dort GPT-4. Die Nutzung setzt voraus, einen eigenen API-Key bei OpenAI zu beziehen. Damit entsteht ein direktes Vertragsverhältnis zwischen den Nutzer:innen von QualCoder und OpenAI.
      Wichtig ist, dass dieses unter die ” enterprise privacy” terms fällt (https://openai.com/enterprise-privacy), die – anders als beim kostenlosen ChatGPT – eine Weiternutzung der übermittelten Daten durch OpenAI explizit ausschließen. Zwar bleibt eine kleine Hintertür zur Nutzung von Daten in aggregierter und depersonalisierter Form, auf die Christian oben zu Recht hinweist. Trotzdem halte ich die Schutzzusage von OpenAI für insgesamt vertrauenswürdig, wie ich hier begründe:
      https://www.youtube.com/watch?v=FrQyTOTJhCc&t=1395s (tl;dw: sie haben ein starkes ökonomisches Eigeninteresse daran).

      Allerdings bin ich gerade auch dabei, ein weiteres KI-Modell in QualCoder zu integrieren, das selbst open source ist und auf einem leistungsstarken Server der Helmholtz-Gesellschaft in Jülich läuft, also im Geltungsbereich der DSGVO. Danke an Isabel Steinhardt für die Vermittlung des Kontakts.
      Sollte das so funktionieren wie erhofft, hätten wir damit eine sehr datenschutzfreundliche Alternative zu OpenAI mit hoffentlich nur geringen Abstrichen in der Qualität der Ergebnisse.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Suche in OpenEdition Search

Sie werden weitergeleitet zur OpenEdition Search