Orientierungsrahmen zum Umgang mit generativen KI-Systemen in Studium und Lehre

Stand: 26.01.2024

Zweck und Überblick

Mit diesem Dokument wird für die Universität ein Orientierungsrahmen zur Nutzung generativer Künstlicher Intelligenz (gKI) in Lehre und Studium abgesteckt. Er zeigt Möglichkeiten auf, wie man gKI in Studium und Lehre unter der Leitidee „Bildung durch Wissenschaft“ einsetzen kann. Der Formulierung dieses Rahmens liegt die Annahme zugrunde, dass sich das Feld der gKI weiter dynamisch entwickeln wird. Deshalb wird dieser regelmäßig (jedes Semester) vom Beratungskreis Digitalisierung in der Lehre für das Präsidium der UHH geprüft und aktualisiert.

Der Orientierungsrahmen der UHH zum Umgang mit gKI richtet sich an Fakultäten, Fachbereiche und Fächer. Diese können und sollen innerhalb des abgesteckten Rahmens eigene konkretisierte Lehr-, Lern- und Prüfungsempfehlungen geben und Regelungsnotwendigkeiten benennen. Ihnen obliegt auch die Aufgabe, diese Empfehlungen in geeigneter Form an die Studierenden zu kommunizieren. Für die Konkretisierungen in den Fakultäten, Fachbereichen und Fächern besteht gleichermaßen regelmäßiger Prüfungs- und Aktualisierungsbedarf.

Einleitend wird für den Kontext des Orientierungsrahmens der Begriff „generative KI“ definiert. Die nachfolgenden Abschnitte erörtern didaktische Grundsätze für die Nutzung von gKI in Studium und Lehre an der UHH auf einer überfachlichen Ebene. Ergänzt wird der Rahmen mit ausführlichen Anlagen mit Hinweisen zum Prüfungs-, Urheber- und Datenschutzrecht im Kontext der Nutzung von gKI. Außerdem enthält der Anhang zwei Vorschläge, wie Studierende die Nutzung von gKI in Hausarbeiten etc. dokumentieren können.

Bestimmung „Generative KI“

Für den Kontext dieses Orientierungsrahmens verstehen wir generative KI-Systeme (gKI-Systeme) als digitale Werkzeuge, deren Technologien auf maschinellem Lernen beruhen. Sie erzeugen ausgehend von bestehenden sehr großen Datensätzen „Output“ in verschiedenen Medienformaten (z. B. Texte, Bilder, Audio- oder Videodateien) oder bearbeiten von Nutzer:innen eingegebene Daten weiter. gKI-Systeme werden durch Anfragen bzw. Aufträge von Nutzer:innen – sogenannte Prompts – gesteuert. Als Reaktion auf Prompts werden dann z.B. von textgenerierenden KI-Systemen Texte auf der Grundlage von statistischen Informationen über Sprache (Abfolgemuster, Kompositionsstrukturen) erzeugt. Das Herzstück textgenerierender KI-Systeme sind Large Language Models (LLMs). LLMs (im Folgenden „Sprachmodelle“) beruhen auf künstlichen neuronalen Netzen, einem komplexen Verfahren maschinellen Lernens. Mit diesen künstlichen neuronalen Netzen werden aus riesigen Trainingsdatensätzen Sprachmodelle entwickelt, die menschliches Sprachverhalten imitieren und verschiedene Textoperationen vornehmen können (Antworten, Fortführen, Zusammenfassen, Übersetzen, Umwandeln etc.). Ein prominentes Beispiel für KI-Textgeneratoren ist ChatGPT – ein auf menschliche Konversation trainiertes Sprachmodell.

Der von gKI-Systemen erzeugte Output ist aufgrund der systemimmanenten Eigenschaften von KI nicht 1:1 reproduzierbar. Ein neuer, gleichartiger Prompt erzeugt lediglich eine gleichartige, aber nicht die gleiche Antwort.

Grundsätzliche Überlegungen zum didaktischen Einsatz von gKI-Systemen

gKI ist kein flüchtiges Phänomen, und sie ist eine Technologie mit mannigfaltigen Auswirkungen auf alle Gesellschaftsbereiche. Sie wird Gesellschaft und gesellschaftliche Entwicklung zukünftig maßgeblich mitprägen. Daher muss es das Anliegen von Universitäten sein, die Entwicklung und Nutzung von gKI nicht nur in der Forschung, sondern auch in Studium und Lehre aktiv mitzugestalten. Die Universität Hamburg sieht sich daher vor die Aufgabe gestellt,

sich mit gKI kontinuierlich sowohl überfachlich als auch fachspezifisch in Studium und Lehre auseinanderzusetzen und an Entwicklungen in diesem Bereich mit eigenen Zielen mitzuwirken;
gKI inhaltlich und methodisch in die Lehre zu integrieren, um Kompetenzen für den kritischen und verantwortungsvollen Umgang mit gKI aufzubauen;
Lehrende und Studierende bestmöglich dabei zu unterstützen, gKI-Systeme nach den Regeln guter wissenschaftlicher Praxis anzuwenden und verantwortungsvoll zu gestalten.

In Studium und Lehre

kann die Verwendung von gKI daher in Überstimmung mit den Zielen und Inhalten eines Studiengangs in Lehr-Lern-Settings aktiv erprobt und eingeübt werden;
sollte die Verwendung von gKI auf das jeweilige Kompetenzniveau der Studierenden und die Studienphase abgestimmt sein;
sollten Art und Umfang der Nutzung von gKI in Veranstaltungsbeschreibungen transparent gemacht werden.

Werden gKI-Systeme in Studium und Lehre eingesetzt,

sind die Vorzüge und Potenziale dieser Technologien ebenso zu thematisieren wie ihre Risiken;
sind Konsequenzen für die Kompetenzentwicklung der Studierenden (z. B. im wissenschaftlichen Schreiben oder kritischen Denken) stets zu reflektieren und gKI so zu nutzen, dass diese Kompetenzentwicklung gefördert wird;
werden geeignete didaktische Wege entwickelt, die verhindern, dass durch den Einsatz von gKI-Systemen als wertvoll oder wichtig erachtete und/oder in den Qualifikationszielen definierte Kompetenzen verloren gehen oder gar nicht erst aufgebaut werden (Deskilling);
ist konsequent darauf zu achten, dass die Regeln guter wissenschaftlicher Praxis auch für den Einsatz von gKI-Systemen gelten und entsprechend angemessene Wege gefunden werden, deren Einsatz zu dokumentieren (siehe dazu auch die Empfehlungen für Lehrende und Studierende unten);
sollen in geeigneter Weise ethische Probleme thematisiert werden wie etwa die Reproduktion von Stereotypen in gKI-Systemen oder die lokale und globale Nutzungsgerechtigkeit bei deren Einsatz.

Im Folgenden werden Optionen zum produktiven Einsatz von gKI in Lehre und Studium auf einer allgemeinen (überfachlichen) Ebene formuliert.

Optionen für den didaktischen Einsatz

Der reflektierte und didaktisch motivierte Umgang mit gKI-Systemen ist integrativer Bestandteil einer zukunftsorientierten Hochschullehre, die Studierende bestmöglich auf künftige Aufgaben in Gesellschaft, Beruf und Forschung vorbereitet. Die breite Verfügbarkeit von gKI-Systemen macht es notwendig, Studium und Lehre inklusive der dazugehörigen Prüfungsarten und -formate weiterzuentwickeln. Dies wird disziplin- und fachspezifisch unterschiedlich geschehen. Die folgenden Optionen stecken einen breiten überfachlichen Rahmen ab, innerhalb dessen Fakultäten, Fachbereiche, Studienprogramme und einzelne Lehrende eigene Leitlinien oder Vorgaben ausgestalten und spezifizieren können. Diese Optionen sollen Impulse geben für die Bestimmung fakultäts- und fachspezifischer Empfehlungen.

In Studium und Lehre sollen Bedingungen geschaffen werden, die eine eigenverantwortliche und reflektierte sowie den rechtlichen Vorgaben genügende Nutzung von gKI-Systemen unterstützen. Den Lehrenden kommt in diesem Prozess eine besondere didaktische und moralische Verantwortung zu. Für Lehrende – einschließlich ihrer Rolle als Forschende – und Studierende ist es wichtig, dass sie

einen reflektierten und verantwortungsvollen Umgang mit gKI pflegen sowie deren Grenzen und Fehlerquellen kennen und berücksichtigen,
KI-generierte Inhalte stets auf ihre Richtigkeit hin kontrollieren, etwa durch Prüfung ihrer Plausibilität oder die Nutzung anderer zusätzlicher Quellen,
gKI ausschließlich unter Einhaltung der gesetzlichen Regeln und weiterer rechtlicher Vorgaben etwa in Prüfungs- oder Studienordnungen sowie im Daten- und Urheberrechtsschutz in Studium, Lehre und Forschung nutzen,
die Grundsätze guter wissenschaftlicher Praxis auch beim Einsatz von gKI-Systemen reflektieren und einhalten,
bei intensiver und regelhafter Anwendung von gKI die erzielten Vorzüge mit dem Risiko von Kompetenzverlusten abwägen,
über die sozialen Randbedingungen und Folgen des Einsatzes von gKI reflektieren,
sich über die Entwicklung von gKI auf dem Laufenden halten und Angebote der Fakultäten sowie zentraler Einrichtungen (z. B. Hamburger Zentrums für Universitäres Lehren und Lernen inklusive Schreibzentrums) und weiterer (de)zentraler Einrichtungen zur Qualifizierung nutzen.

Im Einzelnen können Lehrende unter anderem

gKI selbst erproben, um deren Einsatzmöglichkeiten kennenzulernen und Ideen zu entwickeln, wie sich diese Systeme in der eigenen Lehre sinnvoll und rechtssicher verwenden lassen,
Einsatzszenarien für gKI auf Basis ihrer Lehrziele und -inhalte kreieren, erproben und mit Studierenden und Kolleg:innen besprechen,
Studierenden den reflektierten Umgang mit gKI als Unterstützungsmöglichkeit für die Bewältigung verschiedener Aufgaben erläutern und in einem begründeten Rahmen ermöglichen,
Studierende in die Nutzung von gKI bei fachspezifischen Forschungsprozessen einführen und für damit verbundene Handlungsmöglichkeiten und -begrenzungen sensibilisieren,
gKI entlang der jeweiligen Fachdisziplin zum Analyse- und Forschungsgegenstand machen,
gKI als Unterstützung für die Erstellung von Lehrmaterialien, Aufgaben und Prüfungen ausprobieren, auf deren Tauglichkeit kritisch überprüfen und mit Kolleg:innen austauschen,
Qualifizierungsangebote ihrer Fakultäten sowie des Hamburger Zentrums für universitäres Lehren und Lernen (HUL) inklusive des Lehre-Navi nutzen und sich bei ihren Erprobungen unterstützen lassen.

Studierende können gKI unter anderem

zur Initiierung und Verbesserung von Schreibprozessen verwenden, z. B. indem sie sich Ideen für Themen generieren, Hilfestellungen beim sprachlichen Ausdruck geben oder Textpassagen übersetzen lassen,
zur Individualisierung und Strukturierung von Lerninhalten nutzen, z. B. indem sie sich verfügbare Inhalte gemäß den eigenen Bedürfnissen zusammenstellen oder anreichern oder sich individuelle Lernpläne erstellen lassen,
als unterstützenden Interaktionspartner in der Bearbeitung von Aufgaben nutzen, die Kreativität erfordern, um z. B. eigene Ideen anzureichern, Fragestellungen zu diskutieren oder Gegenargumente zu finden,
zur Überprüfung und Verbesserung selbst erbrachter Leistungen verwenden, z. B. indem sie einen Programmcode prüfen lassen.

Die Initiative einzelner Lehrender zur Nutzung von gKI in Lehrveranstaltungen reicht jedoch nicht aus. Vielmehr ist es notwendig, die KI-Entwicklungen auch curricular bzw. inhaltlich auf der Studiengangebene aufzugreifen. Dabei ist zu prüfen, welche veränderten Kompetenzanforderungen in der Berufswelt, auf die hin ausgebildet wird, in der Gesellschaft insgesamt wie auch auf dem Gebiet der Forschung sichtbar werden und was das für die Persönlichkeitsbildung bedeutet. Es kann davon ausgegangen werden, dass mindestens folgende fachspezifisch auszugestaltende Kompetenzen wichtig sind und bleiben:

digitale und Daten-Kompetenzen,
Sprach- und Textkompetenzen,
Beurteilungs-, Bewertungs- und Reflexionskompetenzen,
Methodenkompetenzen und Kompetenz zum ethischen Handeln.

Die Studiengangverantwortlichen sollen deshalb regelmäßig die Aktualität der in den Fachspezifischen Bestimmungen definierten Studiengangziele sowie die Qualifikationsziele in den Modulbeschreibungen überprüfen und ggf. mittels Fakultätsratsbeschluss anpassen.

Anlagen

1. Prüfungsrechtliche Hinweise

1.1. Prüfungen, in denen der Einsatz von gKI zugelassen ist

1.1.1. Festlegung der Zulässigkeit von gKI als Hilfsmittel

Für jede Prüfung müssen die jeweiligen Prüfenden bzw. die Prüfungsausschüsse festlegen, ob gKI-Systeme als Hilfsmittel zugelassen sind. Bei Prüfungen, die nicht unter Aufsicht durchgeführt werden, wie z. B. Hausarbeiten oder Take Home Exams, sollte bei der Festlegung berücksichtigt werden, dass ein rechtssicherer Nachweis der (unerlaubten) Nutzung von gKI-Systemen schwer bis nicht möglich ist. Vor diesem Hintergrund erscheint es sinnvoll, gKI-Systeme bei Prüfungen ohne Aufsicht als Hilfsmittel grundsätzlich zuzulassen. Durch geeignete Vorgaben ist dann sicherzustellen, dass eine Prüfungsleistung weiterhin als eigenständig erbracht gelten kann, und dass die Nutzung von gKI durch die Studierenden in geeigneter Weise belegt wird (siehe unten).

Die für einen Leistungsnachweis konkret zugelassenen Hilfsmittel werden gemäß der jeweils geltenden Prüfungsordnung von den Prüfenden und/oder den Prüfungsausschüssen festgelegt und vor der Prüfung bekannt gegeben. Die Konsequenzen, die die Verwendung nicht zugelassener Hilfsmittel in Prüfungen nach sich zieht, sind in den Prüfungsordnungen geregelt. In der Regel führt die Benutzung nicht zugelassener Hilfsmittel dazu, dass die Prüfungsleistung mit „nicht ausreichend“ bzw. „nicht bestanden“ bewertet wird.

1.1.2 Unzulässigkeit und Kennzeichnungspflicht

Die Zulässigkeit von gKI als Hilfsmittel endet da, wo nicht unerhebliche Teile der abgegebenen Leistung von Textgeneratoren stammen und wo diese nicht als solche gekennzeichnet sind. Was als „nicht unerheblicher Teil“ gelten soll, ist fachlich unterschiedlich, und muss daher in den Fakultäten, Fachbereichen und Fächern diskutiert werden. Die Letztentscheidung liegt vor dem Hintergrund eines fachbezogenen Verständnisses dann im Ermessen der prüfenden Person.

In jedem Falle muss der Einsatz von gKI transparent erfolgen. Wie die Kennzeichnung bzw. der Nachweis im Einzelnen aussehen soll, muss in den Fakultäten, Fachbereichen oder Fächern geregelt werden. Dazu können folgende Leitlinien beitragen:

Wird der Output von gKI-Systemen übernommen (z. B. paraphrasierend oder sinngemäß) muss jede solche Textübernahme in der Arbeit ausdrücklich gekennzeichnet und in geeigneter Weise dokumentiert sein. Von wortwörtlichen Übernahmen wird dabei grundsätzlich abgeraten.
Werden generative KI-Systeme zur (Weiter-)Bearbeitung eigener Texte oder Daten verwendet, müssen die verwendeten Werkzeuge unter Angabe des Verwendungszwecks summarisch in der Arbeit aufgelistet werden, z. B. in einem Verzeichnis.
Werden generative KI-Systeme für eine Arbeit als Suchassistenten eingesetzt, z. B. bei der Literaturrecherche, dann ist die Nutzung solcher Systeme ebenfalls listenartig zu dokumentieren.

Im Anhang dieses Dokumentes finden sich Beispiele dafür, wie die geforderten Dokumentationen aussehen und etwa durch Vorgabe von Listen oder andere Dokumentationsformate unterstützt werden kann.

1.1.3 Verantwortlichkeit

Schließlich gilt: Wenn die Nutzung von gKI-Systemen in einer Prüfung als Hilfsmittel zugelassen ist, und wenn Studierende gKI-Systeme tatsächlich nutzen, so sind diese für die generierten Inhalte, die Einhaltung urheberrechtlicher Bestimmungen sowie die wissenschaftliche Integrität ihres Leistungsnachweises selbst verantwortlich.

1.1.4 Eigenständigkeitserklärungen

Die Prüfungsordnungen der UHH enthalten Regelungen zur Eigenständigkeitserklärung bei der Abgabe von Prüfungsleistungen. Zurzeit beziehen sich diese meist auf Abschlussarbeiten sowie die Prüfungsart „Take Home Exam“, systematisch können diese Regelungen sich aber auf alle Prüfungsarten beziehen, wenn Prüfungsordnungen dies ausdrücklich vorsehen. Mit der Eigenständigkeitserklärung bestätigen die Studierenden, dass sie die Leistung eigenständig und unter Nutzung keiner anderer als der angegebenen Hilfsmittel verfasst haben. Die Verwendung von gKI-Systemen ist damit grundsätzlich bereits miterfasst.

Um Unsicherheiten bei der Interpretation des Begriffes „Eigenständigkeit“ zu verringern, sollte dieser gleichwohl in den Fakultäten, Fachbereichen und Fächern inhaltlich näher bestimmt werden. Es empfiehlt sich, die Tauglichkeit der Bestimmung in direkter Auseinandersetzung mit gKI zu erproben und zu erörtern. Hierbei sind Studierende möglichst einzubeziehen.

Sinnvolles Element einer solchen Bestimmung kann es sein, ein Format für das Auflisten genutzter Hilfsmittel zu entwickeln, das z. B. in Listenform ermöglicht systematisch zu dokumentieren, welche technischen Hilfen in welchen Umfang genutzt wurden (siehe die Beispiele im Anhang zu diesem Orientierungsrahmen).

1.2 Prüfungen, in denen der Einsatz von gKI untersagt ist

Soll der Einsatz von gKI-Systemen bei der Erbringung von Prüfungsleistungen (aus verschiedenen Gründen) unterbunden werden, empfiehlt es sich,

Aufgabenstellungen zu formulieren, die durch die Verwendung von gKI nicht sinnvoll lösbar sind,
bei Prüfungen den Schwerpunkt von der Produktbewertung auf die Bewertung des Lern- bzw. Erstellungsprozesses zu verlagern, z. B. indem von Studierenden eine Dokumentation und/oder Reflexion der Prozesse verlangt wird,
schriftliche Leistungen mit Hilfe persönlicher Gespräche zu überprüfen oder durch mündliche Prüfungen zu ersetzen, sofern die Fachspezifischen Bestimmungen dies ermöglichen (ggf. sind diese entsprechend anzupassen),
alternative Formen zu schriftlichen Leistungen wie z. B. Präsentationen, Infografiken, Podcasts oder Videos zu wählen, sofern die Fachspezifischen Bestimmungen dies ermöglichen (ggf. sind diese entsprechend anzupassen),
Prüfungen synchron in Präsenz unter Prüfungsaufsicht durchzuführen.

2. Urheberrechtliche Hinweise

2.1 Urheberschaft an gKI-generierten Werken

Gemäß den Regelungen des Gesetzes über Urheberrecht (UrhG) und verwandte Schutzrechte kann die gKI keine urheberrechtlich geschützten Werke im Sinne des § 2 Absatz 2 UrhG erzeugen. Erforderlich hierfür ist eine menschlich-gestalterische Tätigkeit. Deswegen sind die von der gKI selbst generierten Werke grundsätzlich gemeinfrei, d.h. von der Allgemeinheit frei nutzbar. Dagegen können Nutzende als Schöpfer von Werken dann Urheber sein, wenn sie die gKI lediglich als Hilfsmittel für eigene gestalterische Tätigkeit nutzen. Entscheidend ist dabei ein erhebliches Maß an geistiger Eigenleistung und Einflussnahme im Gestaltungsprozess. Diese sog. Schöpfungshöhe muss auch in den Werken zum Ausdruck kommen.

2.2 Urheberrechtlich geschützte Inhalte in gKI-generierten Werken

Falls Anhaltspunkte dafür ersichtlich sind, dass in den gKI-generierten Werken auch fremde geschützte Inhalte enthalten sind, insbesondere im Sinne einer 1:1 Übernahme, müssen die Nutzenden dies mit der gebotenen Sorgfalt prüfen, z.B. mit Hilfe von Plagiatsscannern. Nur wenn die 1:1 Übernahme einen so kleinen Teil des generierten Werkes darstellt, dass das übernommene Werk darin völlig aufgeht und für einen Betrachter im neuen Kontext nicht mehr erkennbar ist, ist eine derartige Übernahme zulässig. Im Einzelfall müssen die Nutzenden die erforderlichen vertraglichen oder gesetzlichen Rechte haben, um diese geschützten Inhalte zu verwenden, insbesondere Dritten gegenüber öffentlich zugänglich zu machen.

2.3 Urheberschaft an Prompts

Prompts können als sog. Textwerk urheberrechtlich geschützt sein. Einfache typische Prompts sind nicht geschützt, da die technische Funktion überwiegt und ein Freihaltebedürfnis für Dritte besteht. Dagegen kann bei detaillierten Prompts, bei denen die Nutzenden selbst kreativen Inhalt liefern und dadurch gestalterische Entscheidungen treffen, ein Urheberrechtsschutz entstehen.

2.4 Urheberrechtlich geschützte Inhalte in Prompts

Wenn neben der Arbeitsanweisung in Prompts auch fremde Inhalte enthalten sind, müssen die Nutzenden im Einzelfall prüfen, ob sie die erforderlichen vertraglichen oder gesetzlichen Rechte haben, um diese geschützten Inhalte im Prompt an den gKI-Anbieter zu senden.

2.5 Kennzeichnungspflichten

Eine Kennzeichnungspflicht für gKI-generierte Werke kann sich zum einen aus den Lizenz- oder Nutzungsbedingungen der Software ergeben. Verstöße können gegebenenfalls zu einer Schadensersatzpflicht oder zu einem künftigen Nutzungsausschluss führen. Daher müssen die „Terms of Use“ geprüft werden. Eine Kennzeichnungspflicht kann sich zum anderen aus den geltenden Prüfungsordnungen, Satzungen und sonstigen Rahmenvorschriften der UHH ergeben, insbesondere aus den Eigenständigkeitserklärungen für die Prüflinge oder den Regeln guter wissenschaftlicher Praxis für die wissenschaftlich Tätigen. Bei Verstößen kann ein Täuschungsversuch oder ein wissenschaftliches Fehlverhalten mit den entsprechenden Konsequenzen vorliegen.

2.6 Verwendung von gKI durch Lehrende zur Bewertung von Prüfungsleistungen

Urheberrechtliche und prüfungsrechtliche Aspekte sind zu beachten, wenn Lehrende gKI für die Bewertung von Leistungen ihrer Studierenden nutzen. Urheberrechtlich sind Prüfungsleistungen geschützt und dürfen zumindest dann nicht in eine gKI eingegeben werden, wenn die Daten als Trainingsdaten oder anderweitig verwendet werden. Prüfungsrechtlich ist zu beachten, dass eine Bewertung durch den Prüfenden selbst und nicht durch die gKI vorzunehmen ist. Bei der Bewertung kann gKI daher nur als Hilfsmittel dienen. Maßgeblich sind im Einzelfall die konkreten Regelungen in den jeweiligen Prüfungsordnungen und Ausbildungsgesetzen. Diese sehen bislang keine entsprechende Kennzeichnungspflicht für Lehrende bei der zulässigen Verwendung von gKI als Korrekturunterstützung vor.

2.7 Text- und Data-Mining

Unter Text- und Data-Mining versteht man die automatisierte Analyse von einzelnen oder mehreren digitalen oder digitalisierten Werken, um daraus Informationen über Muster, Trends und Zusammenhänge in diesen Daten zu gewinnen. Eine urheberrechtlich relevante Handlung entsteht bei der Nutzung von gKI vor allem dann, wenn ein durch Text- oder Data-Mining entstandener Korpus für das Training eines gKI-Systems genutzt wird. Bei einem Einsatz von gKI in der Lehre, der auch deren Training impliziert, sind die entsprechenden Regelungen des Urheberrechts zu beachten.

2.8 Rechtsfolgen bei Verstößen gegen das Urheberrecht

Bei Verstößen gegen das Urheberrecht drohen Ansprüche auf Unterlassung, Schadensersatz und Erstattung von Abmahnkosten. Um Haftungsrisiken zu minimieren, können nach der Generierung der Werke z.B. sog. Plagiatsscanner eingesetzt werden. Ob Ansprüche nur gegen die UHH oder auch gegen die Nutzenden bestehen können, hängt vom Einzelfall ab. Bislang sind in Deutschland keine derartigen Verfahren bekannt, sondern nur in den USA erste Verfahren von Urhebern direkt gegen die gKI-Anbieter.

3. Datenschutzrecht

3.1 Datenschutz nur für personenbezogene Daten

Nur wenn personenbezogene Daten bei der Nutzung von gKI verwendet werden, sind datenschutzrechtliche Vorschriften zu beachten. Dies betrifft sowohl, Anmeldedaten zur Nutzung einer gKI, den Input, also die Eingabe zu Trainings- und Outputzwecken, als auch den Output selbst, insbesondere bei Veröffentlichung gegenüber Dritten.

Hinsichtlich ChatGPT ist die Verwendung von personenbezogenen Daten jedenfalls so lange zu vermeiden, bis die deutschen Aufsichtsbehörden ihre Prüfung abgeschlossen haben, ob die Verarbeitung personenbezogener Daten in ChatGPT überhaupt rechtmäßig erfolgt und die Nutzung von ChatGPT unter Verwendung von personenbezogenen Daten vom Präsidium der UHH ausdrücklich erlaubt wird.

Personenbezogene Daten sind alle Informationen, die direkt oder indirekt die Identifizierung einer Person ermöglichen. Hierzu zählen z.B. nicht nur die Inhaltsdaten (Prompts) und die Anmeldedaten, sondern auch Metadaten (z.B. IP-Adresse). Ein indirekter Personenbezug kann durch zusätzliche Informationen möglich werden, so bei pseudonymisierten Daten. Anders ist dies bei anonymisierten Daten - weswegen im Zweifelsfall nur anonyme Daten zu verwenden sind.

Unabhängig vom Datenschutz kann die Beachtung anderer Vorschriften erforderlich sein, wie Urheberrecht, Persönlichkeitsrecht und Geheimnisschutz.

3.2 Zugang zur gKI

Solange kein Zugang zur gKI über die UHH möglich ist, kann die Nutzung von gKI in der Lehre grundsätzlich nicht verpflichtend sein, weder für die Lehrenden noch für die Studierenden. Ausnahmen sind allenfalls für spezielle Lehr- und Lernbereiche der gKI denkbar, sofern bei der Nutzung der gKI in solchen Fällen nach erfolgter Einzelfallprüfung die Einhaltung von datenschutzrechtlichen Bestimmungen sichergestellt werden kann.

3.3 Datenschutz-Einstellungen

Die gKI-Anbieter aus Drittstaaten wie OpenAI bieten bereits Möglichkeiten an, um zumindest teilweise Datenschutzeinstellungen an das EU-Datenschutzrecht anzupassen. Entsprechende Einstellungen können bei den Plattformen vorgenommen werden. Möglich ist dies bei ChatGPT unter „Einstellungen“ > „Datenkontrolle“, um z.B. den Chat-Verlauf oder die Trainingsdaten zu deaktivieren. Es wird empfohlen, diese Einstellungen vorzunehmen. Gleichwohl entspricht diese Einstellung noch nicht dem Grundsatz der datenschutzfreundlichen Voreinstellungen, wonach per default und nicht erst durch Tätigwerden des Nutzenden datenschutzfreundliche Voreinstellungen implementiert sein müssen.

3.4 Verantwortlicher

Wenn die gKI-Dienste -wie ChatGPT- direkt an Endkunden -wie Lehrende und Studierende- angeboten werden, ist der Anbieter - wie OpenAI- datenschutzrechtlich für die Verarbeitung der Daten verantwortlich. Wenn Behörden - wie die UHH - die GPT-Technologie über die OpenAI-API in ihre Systeme integrieren, gelten sie als verantwortliche Stelle im Sinne des Datenschutzrechts. In diesem Fall agiert OpenAI als Dienstleister und Auftragsverarbeiter.

3.5 Datenschutzrechtliche Grundsätze

Die für die Datenverarbeitung Verantwortlichen müssen die Einhaltung der in Art. 5 Datenschutzgrundverordnung (DSGVO) aufgeführten Rechtsgrundsätze gewährleisten: Rechtmäßigkeit, Verarbeitung nach Treu und Glauben, Transparenz, Zweckbindung, Datenminimierung, Richtigkeit, Speicherbegrenzung, Integrität, Vertraulichkeit und Rechenschaftspflicht.

3.6 Rechtmäßigkeit der Datenverarbeitung

Eine Verarbeitung personenbezogener Daten ist gemäß § 6 Abs. 1 DSGVO nur dann rechtmäßig, wenn eine Rechtsgrundlage vorliegt. Als Rechtsgrundlagen kommen die Einwilligung (lit. a) oder die Wahrnehmung einer Aufgabe im öffentlichen Interesse (lit. e), hier der Lehraufgabe, in Betracht.

Beide unterliegen strengen datenschutzrechtlichen Voraussetzungen, die zwar bei der rechtlichen Prüfung (noch) problematisch sind, in der praktischen Anwendung durch Lehrende und Studierende aber kaum zu Konfliktpotenzial führen dürften. Bei ChatGPT dürfte zurzeit noch die Rechtsgrundlage der Einwilligung problematisch sein, da sich zum einen die Frage der Freiwilligkeit stellt und zum anderen insbesondere noch die Frage der Transparenz hinsichtlich der Informiertheit der Betroffenen offen ist. Bei der Rechtsgrundlage der Wahrnehmung einer Aufgabe im öffentlichen Interesse muss insbesondere eine zweckbezogene Prüfung der Erforderlichkeit erfolgen und bei einer Abwägung das Lehrinteresse das Betroffeneninteresse überwiegen.

3.7 Besonders sensible Daten

Art. 9 DSGVO stellt besondere Voraussetzungen für die Verarbeitung sog. besonderer Kategorien personenbezogener Daten auf, aus denen die rassische und ethnische Herkunft, politische Meinungen, religiöse oder weltanschauliche Überzeugungen oder die Gewerkschaftszugehörigkeit hervorgehen, sowie genetische Daten, biometrische Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung.

Die Verarbeitung der sensiblen Daten ist gemäß Abs. 1 grundsätzlich verboten, es sei denn, diese ist ausnahmsweise gem. Abs. 2 erlaubt, insbesondere aufgrund einer ausdrücklichen Einwilligung (lit. a). Auch hier gilt, dass im Hinblick auf die mangelnde Transparenz es derzeit nicht möglich ist, eine informierte und mithin wirksame Einwilligung einzuholen. Eine weitere Ausnahme vom Verarbeitungsverbot bezieht sich auf personenbezogene Daten, die die betroffene Person offensichtlich öffentlich gemacht hat (lit. e).

3.8 Datenübermittlung in Drittländer

Unabhängig von der Frage der Rechtsgrundlage dürfen personenbezogene Daten jedenfalls dann nicht in ein Drittland übermittelt werden, wenn kein angemessenes Datenschutzniveau und keine Sicherheitsgarantien des gKI-Anbieters bestehen. Im Fall der USA gibt es zwar seit Juli 2023 einen neuen Angemessenheitsbeschluss, der jedoch nur für Anbieter gilt, die unter dem neuen EU-U.S. Data Privacy Framework zertifiziert sind – was bei OpenAI (noch) nicht der Fall ist. Andere geeignete Garantien liegen bisher (noch) nicht für die Endkunden-Variante von ChatGPT, aber für die OpenAI-API-Variante vor (Standardvertragsklauseln).

3.9 Nutzung gKI

Die Verarbeitung von personenbezogenen Daten innerhalb gKI ist untersagt, solange sie nicht für einzelne Dienste über Nutzungsordnungen der UHH explizit gestattet ist. Bei Fragen zu einem konkreten Verfahren, wenden Sie sich bitte an den Fachverantwortlichen des Verfahrens oder sofern es noch keinen Fachverantwortlichen gibt, an die zuständige Ressorteinheit (Forschung: ZFDM, Lehre: Campusmanagement).