Wissenschaftliches Arbeiten und KI: ChatGPT, Stable Diffusion & Co.

Unter Künstlicher Intelligenz (KI) versteht man die „Automatisierung von intelligentem Verhalten […]". Dabei ist weder festgelegt, was „intelligent“ bedeutet, noch welche Technik zum Einsatz kommt.“ (Kompetenzplattform KI.NRW 2024). Eine bestimmte Art von Künstlicher Intelligenz sind generative KI-Modelle. Damit sind Technologien gemeint, die auf einem umfassenden Training basieren und genutzt werden können, um neue Inhalte (z. B. Texte und Bilder) zu erzeugen.

KI-Tools zur Textgenerierung liegen Sprachmodelle (Large Language Models) zugrunde, die mit großen Textkorpora trainiert wurden. Die Funktionsweise eines Sprachmodells lässt sich als Generierung von statistisch wahrscheinlichen Wortsequenzen beschreiben. Durch das Training ist das Modell in der Lage, zu berechnen, welche Wörter in welchen Kontexten am wahrscheinlichsten auftreten. Zu dieser Berechnung kommt ein Zufallsfaktor hinzu, damit nicht immer dieselben Texte generiert werden.

Sprachmodelle sind keine Wissensmodelle und auch keine Suchmaschinen. Sie werden daraufhin optimiert, möglichst menschlich, möglichst sprachlich korrekt und möglichst nützlich zu antworten – nicht faktisch korrekt. Das heißt, es gibt keine Garantie für faktisch korrekte Antworten. Es darf nicht einfach den Ausgaben vertraut werden, sondern sie müssen immer auf ihre inhaltliche Korrektheit und Angemessenheit kontrolliert werden, z. B. anhand wissenschaftlicher Fachliteratur.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 1.1 und 1.2.

Die Funktionsweise eines Sprachmodells lässt sich als Generierung von statistisch wahrscheinlichen Wortsequenzen beschreiben. Sprachmodelle werden daraufhin optimiert, möglichst menschlich, möglichst sprachlich korrekt und möglichst nützlich zu antworten – nicht faktisch korrekt. Es darf nicht einfach den Ausgaben vertraut werden, sondern sie müssen immer auf ihre inhaltliche Korrektheit und Angemessenheit kontrolliert werden, z. B. anhand wissenschaftlicher Fachliteratur.

Bei der Arbeit mit textgenerierenden KI-Tools verbleibt die Verantwortung über die Inhalte Ihres Textes immer bei Ihnen. KI-Tools können im Sinne des Urheberrechts nicht als Autor*innen oder Urheber*innen des von Ihnen generierten Textes gelten. Sie selbst tragen die Verantwortung für die Richtigkeit der Inhalte in Ihrem wissenschaftlichen Text.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 1.2 und 2.1. 

Eine Prüfungsform an der HSBI sind wissenschaftliche Arbeiten. In den verschiedenen Phasen des wissenschaftlichen Arbeitens ist textgenerierende KI unterschiedlich nützlich. Die Potenziale von textgenerierender KI liegen vor allem zu Beginn und zum Ende des Schreibprozesses und beim Formulieren und Übersetzen. Zu beachten sind immer auch Grenzen der Nutzung.

Potenziale der textgenerierenden KI liegen etwa bei der Ideengenerierung, beim Erstellen eines Zeit- und Arbeitsplans, bei Vorschlägen zur Methodik, beim Zusammenfassen von Literatur, beim Erklären schwieriger Textpassagen in den Quellen, bei Vorschlägen von passenden Datenbanken, beim Erstellen von Gliederungsentwürfen, bei der Anpassung an den Stil der Wissenschaftssprache, bei der Ergänzung von Stichwörtern zu Texten, bei der Weiterentwicklung von Textfragmenten, bei der Erklärung von Fachtermini, beim Finden von Synonymen, bei der Anpassung von Texten an Zielgruppen, bei der Unterstützung beim Verständnis der Quellentexte, bei der Vereinheitlichung der Quellenangaben, bei stilistischen, sprachlichen und formalen Korrekturen, bei der Zusammenfassung eigener Texte und beim (kriteriengeleiteten) Feedback.

Textgenerierende KI stößt an ihre Grenzen bei der Begründung der Auswahl einer Idee, bei der Themeneingrenzung, bei der Anpassung des Zeit- und Arbeitsplans, bei der Auswahl der passenden Methode(n), bei der Überprüfung von KI-zusammengefasster Literatur, bei der Recherche und Auswahl passender Quellen, bei der Dokumentation der Literaturrecherche, bei der Überarbeitung der Gliederung, beim Erstellen der Feingliederung, bei der Überprüfung der Aussagen/Argumente auf Wahrheitsgehalt, Logik, Überzeugungskraft, Stichhaltigkeit und Korrektheit, bei der Überprüfung der Korrekturen, bei der Zusammenfassung eigener Texte (unter Berücksichtigung des Datenschutzes/der Nutzungsbedingungen) und beim ganzheitlichen Feedback.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 2.2.

Erste und wichtigste Empfehlung: Sprechen Sie mit Ihren Prüfer*innen und richten Sie sich nach deren Vorgaben.

Danach gelten folgende Empfehlungen: Die Eigenständigkeitserklärung der HSBI gibt Ihnen vor, dass Sie kenntlich machen müssen, wenn Sie mit einer textgenerierenden KI gearbeitet haben. Sie gibt Ihnen auch vor, welche Angaben Sie machen müssen (Produktname, Zugriffsquelle, Angaben zu genutzten Funktionen der Software sowie Nutzungsumfang).

Fall 1: Inhaltsentnahme
Vom ersten Fall, der Inhaltsentnahme, ist abzuraten. Zum einen können Inhalte halluziniert sein und erfundene Inhalte dürfen nicht in einen faktenbasierten wissenschaftlichen Text geraten. Zum anderen stellt textgenerierende KI keine Ursprungsquelle dar (auf die beim Zitieren immer zurückgegriffen werden sollte), sondern sie remixt aus ihren Trainingsdaten neue Inhalte, deren Wahrheitsgehalt manchmal bezweifelt werden kann.

Sollten Sie dennoch Inhalte aus einer textgenerierenden KI zitieren wollen, müssen Sie – wie bei der Inhaltsentnahme aus anderen Quellen – die entnommenen Inhalte mit Quellenbelegen kennzeichnen. Dafür verwenden Sie Quellenbelege in dem von Ihnen ausgewählten Zitationssystem.

Fall 2: Inspirierende bzw. korrigierende Arbeit
Auch der zweite Fall, die inspirierende oder korrigierende Arbeit mit textgenerierender KI, muss dokumentiert werden, um die Vorgaben der HSBI-Eigenständigkeitserklärung einzuhalten und die Eigenständigkeit der Prüfungsleistung für die Prüfer*innen nachvollziehbar und bewertbar zu gestalten.

Zur Dokumentation kann eine „Übersicht verwendeter Hilfsmittel“ dienen, in der Angaben zum Produktnamen, zur Zugriffsquelle, zu den genutzten Funktionen der Software und zum Nutzungsumfang (s. Anforderungen der HSBI-Eigenständigkeitserklärung) aufgenommen werden und die hinter dem Literaturverzeichnis in den wissenschaftlichen Text eingefügt werden kann.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 2.1.

Grundsätzlich gilt für schriftliche Arbeiten, dass Sie sowohl wörtlich als auch sinngemäß übernommene Inhalte aus anderen Quellen kenntlich machen müssen. Dies gilt auch für KI-generierte Textinhalte (siehe Rahmenprüfungsordnung der HSBI , § 13(6)). Mit der bei allen schriftlichen Ausarbeitungen verpflichtenden Abgabe der hochschulweiten Eigenständigkeitserklärung versichern Sie, „dass sie ihre Arbeit selbstständig und ohne Hilfe Dritter angefertigt und Zitate als solche mit Angabe der Quelle kenntlich gemacht haben“ (Rahmenprüfungsordnung der HSBI, § 13 (6)).

Darüber hinaus gibt es Gerichtsverfahren gegen verschiedene KI-Unternehmen wegen Urheberrechtsverletzungen im Trainingskorpus, vor allem in der Bildgenerierung. Es besteht daher die Gefahr, bei 1:1-Verwendung eines generierten Textes eine Urheberrechtsverletzung zu begehen. Auch wenn es sehr unwahrscheinlich ist, so ist ebenfalls nicht vollständig auszuschließen, dass nicht doch einmal eine wörtliche Übernahme aus einem Trainingstext ausgegeben wird.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 2.1 und 1.3.

Mit dem Schreiben eines wissenschaftlichen Textes, wie z. B. der Bachelorarbeit, „[…] wird die Fähigkeit nachgewiesen, innerhalb einer vorgegebenen Frist eine fachbezogene Fragestellung selbstständig unter interdisziplinären, wissenschaftlichen und fachpraktischen Aspekten zu bearbeiten“ (siehe Rahmenprüfungsordnung der HSBI, § 26). Je nach Aufgabenstellung kann die Anforderung der Selbstständigkeit durch die Nutzung von KI-Tools nicht mehr erfüllt werden.

Das ist etwa dann der Fall, wenn zu viele Aufgaben an die KI-Tools abgegeben werden, sodass der eigene Anteil an der Aufgabe nicht mehr überwiegt bzw. nicht mehr erkennbar ist.

Die nicht zulässige Abgabe des Schreibens an eine dritte Person, sogenanntes Ghostwriting, gilt auch für KI-gestützte Angebote (siehe Rahmenprüfungsordnung der HSBI, § 13(6)).

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 2.1.

Mit dem Schreiben eines wissenschaftlichen Textes, wie z. B. der Bachelorarbeit, „[…] wird die Fähigkeit nachgewiesen, innerhalb einer vorgegebenen Frist eine fachbezogene Fragestellung selbstständig unter interdisziplinären, wissenschaftlichen und fachpraktischen Aspekten zu bearbeiten“ (siehe Rahmenprüfungsordnung der HSBI, § 26).

Je nach Aufgabenstellung kann die Anforderung der Selbstständigkeit durch die Nutzung von KI-Tools nicht mehr erfüllt werden. Das ist etwa dann der Fall, wenn zu viele Aufgaben an die KI-Tools abgegeben werden, sodass der eigene Anteil an der Aufgabe nicht mehr überwiegt bzw. nicht mehr erkennbar ist. Fehlende Selbstständigkeit bei der Bearbeitung wirken sich auf die Bewertung Ihrer Leistungen aus.

Besprechen Sie mit Ihren Prüfer*innen, welche Leistungsanforderungen und Bewertungskriterien für die jeweilige Ausarbeitung gelten.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 2.1.

Gute Prompts für textgenerierende KI-Tools zu erstellen, kann dazu beitragen, dass Sie relevantere Antworten erhalten. Dies sind grundlegende Tipps, um effektive Prompts zu formulieren:

1. Spezifisch: Ein präziser Prompt hilft dabei, die Antwort auf das gewünschte Thema zu fokussieren. Versuchen Sie dabei, den Prompt kurz und prägnant zu halten, ohne wichtige Details zu verlieren, denn sehr lange oder komplexe Prompts können die Klarheit der Anfrage verwässern.

2. Kontext: Wenn der Kontext oder Hintergrund relevant ist, teilen Sie das dem KI-Tool mit.

3. Ziel: Konkretisieren Sie, welches Ziel mit der Antwort verfolgt wird.

4. Fragen präzisieren: Stellen Sie gezielte (Nach-)Fragen, um die Antwort zu lenken.

5. Format: Falls eine bestimmte Antwortstruktur oder -formatierung bevorzugt wird, geben Sie das an.
6. Stil und Ton: Wenn eine bestimmte Schreibweise gewünscht wird (formell, informell, humorvoll etc.), teilen Sie das mit.

7. Beispiele: Ein Beispiel kann helfen, die Anfrage zu verdeutlichen.

8. Fehler überprüfen: Stellen Sie am Ende sicher, dass der Prompt keine typografischen oder grammatikalischen Fehler enthält, die zu Missverständnissen führen könnten.

Es gibt auf das Generieren von Prompts spezialisierte KI-Tools wie http://www.prompt-creator.ai, die bei der Prompt-Eingabe unterstützen können.

Datenschutz

Bei vielen KI-Tools ist eine Registrierung nötig, wodurch die eigenen Eingaben mit der E-Mail-Adresse und ggf. mit der Mobiltelefonnummer verknüpft werden. Zudem werden teilweise die Eingaben für weiteres Training verwendet. Es ist daher wichtig, keine personenbezogenen oder betriebssensitiven Daten einzugeben. Bei der Verwendung dieser Tools werden Daten an Server außerhalb der EU (u. a. USA) geschickt, wo andere Gesetze zu Urheberrecht und insbesondere zum Datenschutz gelten.

Datenschutzkonform können Sie nur mit HSBIKI arbeiten, nicht aber mit der ChatGPT-Version, auf die Sie direkt über die Webseite von OpenAI zugreifen. Denn bei der Nutzung von HSBIKI registrieren Sie sich nur mit Ihrer HSBI-Kennung auf der HSBI-Webseite. Aufgrund der Anbindung per Schnittstelle findet kein Datenaustausch zwischen Ihrem persönlichen Benutzer*innenkonto der Hochschule und dem Anbieter OpenAI statt. Weder Ihre Lehrenden noch andere Personen der Hochschule können Ihre Eingaben in HSBIKI einsehen.

Urheberrecht

Eine KI kann nicht Autor*in oder Urheber*in sein. Geben Sie einen simplen Prompt ein, so ist die Ausgabe zunächst einmal gemeinfrei, d. h. nicht urheberrechtlich geschützt. Sie selbst können aber Autor*in bzw. Urheber*in sein, wenn Sie ein „signifikantes Maß an geistiger Eigenleistung“ (Hoeren 2023: 23) einbringen.

Es gibt Gerichtsverfahren gegen verschiedene KI-Unternehmen wegen Urheberrechtsverletzungen im Trainingskorpus, vor allem in der Bildgenerierung. Es besteht daher die Gefahr, bei 1:1-Verwendung eines generierten Textes eine Urheberrechtsverletzung zu begehen. Auch wenn es sehr unwahrscheinlich ist, so ist ebenfalls nicht vollständig auszuschließen, dass nicht doch einmal eine wörtliche Übernahme aus einem Trainingstext ausgegeben wird.

Verzerrungen

In den Trainingsdaten können verzerrte Wahrnehmungen oder Einschätzungen sowie Voreingenommenheit (sogenannte „Bias“) enthalten sein und damit auch in der Ausgabe des KI-Tools auftauchen, z. B. ethnische oder Gender-Bias. Die zugrundeliegenden Texte sind mehrheitlich englischsprachig und westlich geprägt. Darin vorhandene Vorurteile und verzerrte Wahrnehmungen übertragen sich ins Modell und damit in die Ausgabe:

 "[Die Textausgaben] können vorurteilsbehaftet, stereotyp, abergläubisch, weltanschaulich gefärbt oder politisch radikal sein und gründen sich auf Privatmeinungen, unseriöse Berichterstattung, Gossip, Werbung, kommerziell und politisch motivierte Desinformation, Propaganda und Fake News. Dies tun sie bedenklicher Weise auch dann, wenn sie nicht im Duktus einer Meinung, sondern im nüchternen Stil einer Tatsachenbehauptung vorgetragen werden." (Oertner 2024: 280)

Insbesondere für Personen, die mit der Funktionsweise generativer KI-Tools wenig vertraut sind sowie bei Themen ohne eigene Fachkenntnis kann dieser sachliche Stil für falsches Vertrauen in die KI und den Wahrheitsgehalt bzw. die faktische Korrektheit der Antworten sorgen.

Ökologischer Fußabdruck

Umwelttechnisch sind textgenerierende KI-Tools problematisch, da vor allem das Training, aber auch der Betrieb, d. h. die tägliche Anwendung durch eine Vielzahl an Nutzenden, einen hohen Stromverbrauch und CO2-Ausstoß aufweisen. Um GPT 3 einmalig vollständig zu trainieren wird mit etwa 552 Tonnen CO2 gerechnet – zum Vergleich betrugen „[d]ie Durchschnittsemissionen aller 2022 in Deutschland angemeldeten Pkw […] bei 10.000 Kilometer Fahrleistung pro Jahr und Fahrzeug etwa 1,1 Tonnen.“ (Zandt 2023). Die für das Training aufgewandte Energie entspricht mit 1.287 Megawattstunden „dem Energieverbrauch von 320 Vierpersonenhaushalten in einem Jahr“ (Strobl 2023, Herv. i. Orig.).

Missbräuchliche Nutzung

Mit Sprachmodellen lassen sich sehr schnell sehr viele Texte generieren, die sprachlich korrekt sind und menschlich klingen, sodass auch die missbräuchliche Nutzung für Fake News und Spam-E-Mails möglich ist. Die Sprachmodelle sind, wie bereits erwähnt, nicht auf faktische Korrektheit optimiert, sondern geben statistisch wahrscheinliche Wortreihenfolgen aus. So ist auch GPT 4 immer noch anfällig für Fehlinformationen.

Arbeitsbedingungen

Um beim Training von Sprachmodellen diskriminierende Sprache herauszufiltern, ist menschliches Feedback nötig, wofür in der Regel eine Vielzahl an möglichst günstigen Arbeitskräften genutzt wird. Es wurde aufgedeckt, dass für das Training von ChatGPT 3.5 Arbeiter*innen in Kenia für weniger als 2 $ pro Stunde gewalttätige, rassistische, sexistische und andere traumatisierende Texte lesen und markieren mussten.

Mehr Informationen finden Sie in der „Handreichung zu generativen KI-Tools für Studierende“ (s. Downloadbox) in Kapitel 1.3 und 1.4.

Für Studierende und Beschäftigte der HSBI wird die Anwendung HSBIKI bereitgestellt, um die Kommunikation mit einem Chatbot zu ermöglichen. Es erfolgt kein Datenaustausch zwischen dem persönlichen Nutzungskonto (d. h. den Anmeldeinformationen) und dem Anbieter. Übermittelt werden nur die HSBI-Zugehörigkeit, Datum, Uhrzeit und Inhalt der Eingaben. Diese werden nicht für das weitere Training genutzt. Weder Ihre Lehrenden noch andere Personen der Hochschule können Ihre Eingaben in HSBIKI einsehen.

Weitere Informationen zu HSBIKI, den Nutzungsbedingungen und dem Datenschutz sowie den Chatzugriff finden Sie hier: https://www.hsbi.de/dvz/it-services/hsbiki

Die hier aufgeführten, nur beispielhaften Tools dienen der Information und sprechen keine Empfehlung aus.

Schreiben

Einige weitere Tools rund um das Thema Schreiben sind hier gelistet: https://www.vkkiwa.de/ki-ressourcen/ki-tools/

Literaturrecherche

Auf folgender Seite finden Sie Informationen zu KI-Tools zur Literaturrecherche: https://www.hsbi.de/bib/digitales-lernen/tools-und-werkzeuge/ki-recherche-tools 

Maschinelle Übersetzung

Informationen zum Umgang mit KI-basierten Übersetzungstools im Studium finden Sie im „Leitfaden Übersetzen mit KI“ in der Downloadbox.

Transkription

Zu Transkriptionstools: https://youtu.be/DItJ1MZMxb0

E-Mail-Adresse für alle Studierenden mit Fragen zum Schreiben mit KI-Tools:
ki-wissenschaftlich-arbeiten@hsbi.de

Schreibberatungen an den Fachbereichen für Studierende mit Fragen zum Schreibprozess allgemein:

• Fachbereich Ingenieurwissenschaften und Mathematik: Kristina Rzehak kristina.rzehak@hsbi.de
• Fachbereich Sozialwesen: Anna Surmann anna.surmann@hsbi.de
• Fachbereich Wirtschaft: Uta Kentzler uta.kentzler@hsbi.de
• Fachbereich Gesundheit: Stephanie Wiens stephanie.wiens1@hsbi.de

Die Heinrich-Heine-Universität Düsseldorf bietet einen KI-Selbstlernkurs „KI für Alle 1: Einführung in die Künstliche Intelligenz“, der allen Studierenden offen steht: https://ki-campus.org/courses/kifueralle-hhu

Hierzu gibt es auch einen Folgekurs: „KI für Alle 2: Verstehen, Bewerten, Reflektieren“, der fortgeschrittene Kenntnisse vermittelt: https://ki-campus.org/courses/kifueralle2-hhu

Das Projekt KI:edu.nrw bietet kostenlose Basisschulungen, Vertiefungsangebote, Selbstlernkurse, Informationsmaterial, Einführungsvideos sowie Beratung zu den Themen KI-Kompetenz und Learning Analytics an.