Umgang mit KI im wissenschaftlichen Arbeiten

Generative KI ist ein Werkzeug, das im wissenschaftlichen Arbeiten bei adäquater Anwendung die Qualität der Arbeit verbessern kann. Eine unreflektierte Verwendung wird allerdings zu Fehlern führen. Auf dieser Seite wird ein Überblick gegeben, worauf beim Einsatz generell zu achten ist.

Es ist zu bedenken, dass der Einsatz von generativer KI mit den Lehrenden abzustimmen ist. Dabei ist zunächst zu klären, ob KI-Tools überhaupt verwendet werden dürfen. Ist das der Fall, dann sollte transparent gemacht werden, in welchem Umfang und für welche Arbeitsschritte. Außerdem ist zu klären, wie der KI-Einsatz nachvollziehbar dokumentiert wird.

Generelle Risiken beim Einsatz von KI

Wer KI einsetzt, sollte ein Training zu den Themen Ethik & Recht, Technik und praktische Anwendung absolviert haben. Einige Regeln müssen bei jeder Anwendung beachtet werden, ungeachtet dessen, ob man eine wissenschaftliche Arbeit schreibt oder nicht. Diese Risiken werden in der Tabelle unten kurz dargestellt.

	Risiko	Beschreibung	Don't	Do
Eingabe in KI-Tools	Datenschutz	Es dürfen nur Daten in ein KI-Tool eingegeben werden, die keine persönlichen bzw. Urheberrechte verletzen.	Eingabe von Texten/Bildern/Datenmaterial, deren Verfasser:in man selbst nicht ist (z.B. Email-Verläufe, urheberrechtlich geschützte Buchbeiträge, Bilder oder Datenmaterial, Prüfungsunterlagen)	Die Konzepte, um die es in einer E-Mail-Korrespondenz ging durch ein KI-Werkzeug analysieren lassen ohne personenbezogenen Kontext.
KI-Antworten	Qualität der Ergebnisse	KI-Antworten sind Zufallsergebnisse. Sie können sehr gut aber auch völlig falsch sein. Jedes Ergebnis muss genau geprüft werden. Die Person, die die KI verwendet, ist für die Ergebnisse verantwortlich.	Ungeprüftes Annehmen eines KI-Outputs.	Kritisches Prüfen eines Outputs nach dem Thema entsprechenden Kriterien: Logik, Korrektheit der Quellen, eventuelle sachliche Fehler
	Verzerrung/ Bias	KI erzeugt Ergebnisse auf Grund von Trainingsdaten die man idR. nicht kennt. Auch können diese Daten ohne unser Wissen gewichtet sein. Entsprechend können Ergebnisse einen Sachverhalt einseitig aufzeigen.	Ungeprüftes Annehmen eines KI-Outputs.	Prüfen, ob ein Output verschiedene Sichtweisen/Facetten eines Gegenstands ausgewogen wiedergibt oder ob eine Schwerpunktsetzung/Verzerrung stattfindet, die ungewünscht ist.
Generelles Risiko	Abhängigkeit	KI kann zu "Deskilling" führen, wenn komplexere Aufgaben häufig abgegeben werden. Man sollte immer in der Lage sein, die Ergebnisse einer KI zu verstehen und bewerten zu können.	KI als „Abkürzung“, um Arbeit zu erleichtern ohne im Einzelfall zu prüfen, ob das System für die Aufgabe geeignet ist	KI für automatisierbare Tätigkeiten verwenden oder um das kreative Potenzial zu erweitern.

KI-Einsatz-Szenarien

Sollte in einem Modul, einer Lehrveranstaltung oder für eine Prüfung KI durch die Lehrenden ausdrücklich erlaubt sein, bestehen uneingeschränkt die Anforderungen der Studien- und Prüfungsordnung, der guten wissenschaftlichen Praxis und die Beachtung der generellen Risiken beim Einsatz von KI (s.o.). Nichtbeachten kann in ersterem Fall zu einer schlechteren Benotung, zu Nichtbestehens (auch wegen Täuschung) und in letzterem Fall zu rechtlichen Konsequenzen führen. Um einen sicheren Umgang zu ermöglichen, ist eine transparente Vorgabe der erlaubten Einsatzszenarien hilfreich. Diese können beispielsweise an Abschnitten des Forschungszyklus konkretisiert werden.

Beispiel: Sprachliche Überarbeitung

In diesem Fall ist der Inhalt vollständig selbst erstellt. KI dient dazu als reines Werkzeug, den sprachlichen Stil zu optimieren

Beispiel: Literaturrecherche

Hier ist die KI ein Werkzeug, das einen Beitrag zur Arbeit leistet ohne Inhalte für die Arbeit zu erzeugen.

• In dem Modul ist generative KI als Rechercheinstrument zugelassen. Für die Kontrolle der Ergebnisse sind die Anwender:innen selbst verantwortlich.

• Nicht zulässig ist die ungekennzeichnete Übernahme von Texteilen, die inhaltlich von einem KI-Tool generiert wurden.

Daraus lassen sich verschiedene Einsatz-Szenarien ableiten:

1. Die KI unterstützt beim Verfassen eines Suchstrings für eine Online-Datenbank nach Eingabe der Forschungsfrage. Dieser String wird nach Überprüfung der Korrektheit in die entsprechende Datenbank kopiert. Die Suchergebnisse werden ohne KI durchgeschaut.
   • Prompt-Beispiel: **Kontext** Ich untersuche das Thema [Thema einsetzen] und möchte eine systematische Literaturrecherche in der Datenbank [Datenbank einsetzen] durchführen. **Aufgabe** Formuliere mir einen Suchstring, der mir die Konzepte aus der Forschungsfrage mit [Operator einfügen] verknüpft.
2. Es wird in KI nach Literatur "gesucht". Die Ergebnisse werden dann in Literaturdatenbanken identifiziert und gelesen.
   • Prompt-Beispiel:
     • Ich möchte einen ersten Einblick in das Thema [Thema einfügen] gewinnen. Wo kann ich anfangen?

Achtung: Hier besteht das Risiko durch Bias. KI kann zu einer einseitigen Betrachtung eines Themenbereich führen.

Beispiel: Generierung von Inhalten

KI erzeugt hier Inhalte, die sich in der Arbeit finden. Hier sollte exakt geklärt werden, in welchen Bereichen die Generierung gestattet ist. Zudem muss bei der Dokumentation bzw. Zitation vollständig einsehbar sein, wie der Inhalt gepromptet wurde (s.u.)

• Prompt-Beispiel:
  • **Kontext** Für den Ergebnisteil meiner Arbeit zum Thema [Thema] möchte ich einzelne Abschnitte basierend auf meinen empirischen Befunden generieren
  • **Aufgabe** generiere mir einen Textabschnitt, der die Resultate meines Tests darstellt. [Angeben der Teststatistiken]
  • **Beispiel** [Eigenen Beispieltext zu anderem Test einfügen]

Beispiel: KI zur Auswertung empirischer Daten

KI ist hier ein Werkzeug zur Auswertung von Daten. Z.B. ist ein denkbares Szenario die Auswertung großer Mengen qualitativer Daten. Dieser Einsatz muss im Methodik-Teil der Arbeit transparent und reproduzierbar beschrieben werden. Auch hier ist zwingend zu beachten, welche Anwendung Lehrende gestatten. Außerdem ist zwingend auf den Datenschutz zu achten. Die Auswertung durch ein KI-Tool erfordert die Zustimmung der Personen, von denen die Daten gewonnen wurden. Für die Qualität der Ergebnisse sind die Autor:innen der wissenschaftlichen Arbeit vollumfänglich selbst verantwortlich, nicht die KI.

• Prompt-Beispiel:
  • **Kontext** Ich führe eine inhaltlich strukturierende Analyse nach Kuckartz durch und benötige Unterstützung bei der Zusammenfassung der Kategorien [Kategoriensystem und Codierplan sind angehängt]
  • **Aufgabe** Fasse mir die Kernaussagen der folgenden Zitate zur Kategorie [Kategorie benennen] zusammen

Dokumentation

Der Einsatz von KI beim wissenschaftlichen Schreiben erfordert eine transparente Dokumentation, die es für Leser:innen und Prüfer:innen nachvollziehbar macht, welcher Anteil einer Arbeit auf welche Weise bearbeitet wurde. je nach erlaubten Szenarien (s.o.) kann die Dokumentationspflicht unterschiedlich ausfallen.

1. Sprachliche Überarbeitung: Nennung des KI-Tools, Nennung des/der Prompts. Denkbar ist auch: Angabe des Rohtextes.
2. Generierung von Inhalten: Nennung des KI-Tools, Nennung des Prompts (unmittelbar nach der generierten Text-Stelle bzw. der Grafik)
3. Einsatz von KI zur Auswertung empirischer Daten: Ausführliche Beschreibung des Vorgehens im Methodik-Teil, Angabe der Prompts bzw. Systemprompts, Angabe des Modells, bei eigens trainierten Modellen: Angabe der Trainingsdaten. Unbedingt beachten: wer selbst Modelle trainiert, darf nur Daten verwenden, die die Inhaber der Rechte an diesen Daten freigegeben haben.

Vorschlag einer tabellarischen Dokumentation

KI	Einsatzzweck	Ausführliche Beschreibung	Prompt	Datum
ChatGPT4o	Zusammenfassung wissenschaftlicher Quellen	Zusammenfassung von vier Artikeln zu Geschäftsmodellen im Automobilsektor. Verlage haben Verwendung zugestimmt	Prompt zu lang - siehe Anhang A	18.10.24
ChatGPT4o	Strukturierung	Vorschläge für die Gliederung eines Kapitels zur Rolle von KI in der Wertschöpfungskette der OEMs.	"Erstelle eine wissenschaftlich fundierte Gliederung für ein Kapitel über die Rolle von KI in der automobilern Wertschöpfungskette"	18.10.24
OpenAI OSS 120b	Textüberarbeitung	Verbesserung der Sprachlichen Qualität des Kapitels "Markttrends" mit Blick auf Ausdruck, Rechschreibung und Lesbarkeit.	"Überarbeite folgenden Text sprachlich (Grammatik, Stil, Lesefluss), ohne inhaltliche Änderungen vorzunehmen:"	17.11.25

Zitation

Eine hochschulweite Empfehlung für die Zitation von KI-Erzeugnissen ist noch in der Entwicklung. Bis dahin möchten wir auf die Zitationsempfehlungen der APA und auf den Zitierleitfaden der TU München hinweisen.

Siehe auch

• Prompt-Vorschläge