KI-Kennzeichnung und Dokumentation beim wissenschaftlichen Arbeiten - KI-Kennzeichnung und Dokumentation beim wissenschaftlichen Arbeiten

Allgemein

Seitdem generative KI-Technologien die Produktion von Text automatisieren und gängige Schreib- und Lesepraktiken im Wissenschaftsbereich verändern, wird die Frage nach der Kennzeichnung und Dokumentation von KI-Nutzung in wissenschaftlichen Schreib- und Forschungsprozessen diskutiert.

Inzwischen zeichnen sich zwar Tendenzen ab, welche Formen der Kennzeichnung und Dokumentation gängig werden oder häufiger eingesetzt werden. Aber es existiert noch keine fachübergreifende Übereinkunft darüber, wie die KI-Nutzung in wissenschaftlichen Schreibprozessen anzugeben ist. Es existieren aktuell allenfalls fachspezifische Regelungen.

Auch die folgenden Informationen sind keine verbindliche Regelungen. Vielmehr möchten sie dazu beitragen, Unsicherheiten abzubauen, einen Rahmen für die Anwendung zu geben sowie den Austausch zwischen Lehrenden und Studierenden anzuregen.

Wissenschaft setzt auf Nachvollziehbarkeit. Ausgaben aus GenKI haben jedoch nicht den Status einer Quelle, die für Dritte les- und nachvollziehbar ist, denn die jeweilige Ausgabe zu einem Prompt gilt nur für diesen Prompt in Verbindung mit der entsprechenden Version eines Tools, der Lizenz, ggf. sogar der Uhrzeit, der Region des Zugriffs etc.

Zur Erklärung:

KI-generierte Texte nutzen große Sprachmodelle, sogenannte Large Language Models (LLM), die darauf trainiert sind, Muster in natürlicher Sprache zu erkennen und entsprechend reproduzieren zu können. Diese großen Sprachmodelle (z. B. GPT-3.5, GPT-4 für OpenAI ChatGPT und CoPilot, Claude von Antrophic, Gemini Nano von Google uvm.) erzeugen Textausgaben auf der Grundlage komplexer neuronaler Netzwerke und anhand statistischer Wahrscheinlichkeiten.

Sie werden mit sehr großen Mengen an Daten trainiert. Der Datensatz, der jeweils zum Training einer Anwendung verwendet wurde, ist allerdings entweder Geschäftsgeheimnis (z. B. bei Claude) oder besteht vor allem aus einem Common Crawl, einer speziell zusammengestellten Datenbasis aus Webtexten, der englischsprachigen Wikipedia und frei verfügbaren Büchern (siehe Für GPT-3 OpenAI Juli 2020: https://arxiv.org/pdf/2005.14165).
Texte, die von GenKI erstellt wurden, weisen inzwischen in den meisten Fällen eine bemerkenswerte sprachliche Qualität auf. Hohe sprachliche Qualität bedeutet aber nicht gleichzeitig auch hohe inhaltliche Qualität bzw. Richtigkeit. Selbst wenn Texte komplex formuliert sind und glaubwürdig klingen, hat GenKI ein Problem mit Faktentreue.

Denn GenKI recherchiert nicht in Quellen (Datenbanken, Büchern etc.), sondern ist so trainiert, dass sie bei dem Verfassen einer Antwort nach dem statistisch wahrscheinlichsten Folgeelement (Zeichen, Wort) sucht. So entstehen zwar sprachlich kohärente Texte, aber das Verfahren kann keine inhaltliche Korrektheit garantieren. Zuweilen halluziniert GenKI und erfindet wahrscheinliche Antworten, ohne faktische Richtigkeit. Wenn dieselbe Anfrage mehrfach gestellt wurde, werden die Ergebnisse immer variieren.

Die Überprüfung der Richtigkeit, also die Faktentreue und das kritische Hinterfragen von KI-generierten Texten, liegt bei uns Menschen.
Autor:in eines Textes zu sein – sei es eine wissenschaftliche Publikation oder eine Studienarbeit – bedeutet, die Urheberschaft für diesen Text zu übernehmen. Als Autor:in sind Sie für die Inhalte, die Art der Darstellung und die korrekte Angabe von Quellen verantwortlich. Es ist wichtig, klar zwischen eigenen Ideen und denen anderer zu unterscheiden und alle Quellen wie Belege transparent anzugeben.

Wenn Sie textgenerierende KI-Systeme für mehr als ein reines Textlektorat / Korrekturlesen hinaus einsetzen, müssen Sie die Richtigkeit der von der KI gelieferten Informationen a) kritisch überprüfen und b) klären, wie der Einsatz von KI im jeweiligen Fall anzugeben ist. Die Kennzeichnungsvorgaben können je nach Publikationsart variieren. Vergewissern Sie sich also, was für Ihre jeweilige Publikation gilt.

Zum verantwortlichen Umgang mit GenKI zählt auch rechtskonform zu sein. Was das im Einzelnen bedeutet, findet sich hier in dieser Checkliste von KI:connect:NRW. Urheberrechtlich geschützte Materialien dürfen z.B. nicht einfach in eine GenKI zur Weiterverwendung hochgeladen werden.
In der aktuellen KI-Eigenständigkeitserklärung der Hochschule Bremen wird zwischen 2 Optionen gewählt:

Option 1 - Nutzung von KI-Technologien ohne Kennzeichnungspflicht

Option 2 - Nutzung von KI-Technologien mit Kennzeichnungspflicht

In beiden Fällen ist eine Abstimmung zwischen Studierenden und Prüfenden notwendig.

KI-Kennzeichnung und Dokumentation

Hier finden Sie eine Zusammenstellung von Materialien rund um die Kennzeichnung und Dokumentation von KI-Einsatz in Textproduktionsprozessen.

Empfehlungen für die HSB: Drei ausgewählte Varianten mit Templates
Überblicksmaterialien zu Vor- und Nachteilen bestimmter Kennzeichnungsvarianten
ausgewählte Materialien aus der Wissenschaftspraxis von Fachberbänden, Verlagen und wissenschaftlichen Institutionen

KI Kennzeichnung: Empfehlungen für die HSB

Aus den verschiedenen Varianten, wie KI-Kennzeichnung und Dokumentation erfolgen kann, haben wir drei der verbreitetsten Beispiele herausgegriffen und entsprechende Templates erstellt. Sie können unter der CC-Lizenz BY Lizenz verwendet und an eigene Bedarfe angepasst oder auch kombiniert werden.
Sollten Sie Anregungen oder wichtige fachspezifische Ergänzungen zu den Beispielen und Templates haben - schreiben Sie gern an das Schreiblabor.
Hinweis: englischsprachige Beispiele und Templates folgen im April 25

Vorbemerkung: Die (direkte) Zitation oder Paraphrasierung von Textinhalten geht davon aus, dass wir es mit Quellen zu tun haben, die für Dritte wiederholt und mit den gleichen Inhalten erneut abrufbar sind. KI-generierter Text, Code, Bildmaterial etc. sind dynamisch und beziehen sich auf spezifische Prompts zu einem spezifischen Zeitpunkt. Ohne weiteres Zutun sind deren Entstehung für Dritte keinesfalls abruf- und nachprüfbar. Selbst identische Prompts können zu varrierenden Ausgaben führen.

KI-Output als Quelle: Der Einsatz von KI-Technologie als Hilfsmittel ist etwas anderes als die Nutzung von KI-Ausgaben als originäre Quelle. Informationen sind zu überprüfen und von einer direkten Übernahme wird abgeraten, es sei denn die KI-Technologie ist selbst Gegenstand oder Teil des Themas einer Arbeit. Beispiele für solche Fälle, in denen di KI-Technologie selbst der Gegenstand oder das Thema einer Arbeit sind, könnten Arbeiten sein, in denen der Bias in GenKI, Halluzinationen von bestimmten LLM, Vergleiche zwischen Outputs verschiedener GenKI Chatbots etc. untersucht werden. In diesen Fällen kann eine direkte Übernahme von KI-Output sinnvoll sein, da dieser Output selbst explizit untersucht wird.

Kennzeichnung: Die Kennzeichnung des KI-Einsatzes erfolgt je nach gewähltem Referenzstil (z.B. APA, MLA, Chicago...) im Text als Kurzbeleg und im Quellenverzeichnis als Langbeleg.

Dokumentation: Die Dokumentation von Prompt und Ausgabe der GenKI muss je nach genutztem KI-Tool auf unterschiedlichen Wegen erfolgen:

Link zum entsprechenden Chat (nur für bestimmte GenKI Chatbots möglich; der Chat darf nicht in der History gelöscht sein oder werden)
ODER

Textkopie von Pompt und Ausgabe in Form einer Dokumentation im Anhang der Arbeit

Siehe Template Beispiel 3

KI-Kennzeichnung: Weiterführende Hinweise und Informationen

Die Diskussion um Kennzeichnungs- und Dokumentationsvarianten des KI-Einsatzes beim wissenschaftlichen Schreiben ist im vollen Gange. Wir haben interessante Ressourcen von Hochschulen für Sie ausgewählt, die Ihnen und Ihren Studierenden in der Auseinandersetzung mit dem Thema helfen können.

Auf der Seite der Universität Graz werden verschiedenste Kennzeichnungsvarianten vorgestellt (Zitation, AI-Usage Cards, Dokumentationstabellen etc.) und ihre Vor- und Nachteile ausführlich dargestellt.
Die Hochschulen in Niedersachsen haben sich in einer Arbeitsgruppe auf folgende Zusammenstellung geeinigt:

Baresel, Kira; Eube, Cornelia; Knorr, Dagmar; Lutter, Ly; Nys, Jasmin de; Röben, Marieke (2024): KI-Gebrauch im Studienkontext dokumentieren (Version 1.0). Online verfügbar unter https://doi.org/10.48548/pubdata-1476, zuletzt geprüft am 18.03.2025.

Besonders interessant die verschiedenen Dokumentationstabellen:

holistische Dokumentation

werkzeugorientierte Dokumentation

arbeitsphasenorientierte Dokumentation

reflexionorientierte Dokumentation

Das Schreibzentrum der Goethe-Universität Frankfurt/Main hat in Anlehnung an ein Framework von Rowland (2023) eine Übersicht erstellt, die den GenKI-Einsatz auf einer Skala von 1 (Inspiration) bis 4 (Inhaltsgestaltend) differenziert.

Schreibzentrum der Goethe-Universität Frankfurt/Main: Framework zur Entwicklung von Regeln bei KI-gestützten Schreibprozessen. Online verfügbar unter https://www.starkerstart.uni-frankfurt.de/149427334.pdf, zuletzt geprüft am 26.03.2025.
Eine Betrachtung von KI-Handreichungen und typischen Problemen, die sich daraus für Studierende ergeben:

Radau, Jakob; Maibaum, Miriam; Weßels, Doris (2025): Multiperspektivische Betrachtung problematischer KI-Handreichungen an deutschen Hochschulen – die Sichtweise der Studierenden. In: Hochschulforum Digitalisierung, 27.02.2025. Online verfügbar unter https://hochschulforumdigitalisierung.de/multiperspektivische-betrachtung-problematischer-ki-handreichungen/, zuletzt geprüft am 10.03.2025.
Buck, Isabella (2025): Wissenschaftliches Schreiben mit KI. 1. Auflage. Stuttgart: UTB; UVK.

Erstes deutschsprachiges Übersichtsbuch zur Thematik.

Ein zentraler Gedanke: Denkprozesse werden als Grundlage des Schreibens durch KI-Tools nicht ersetzt (werden können).

Wissenschaftspraxis: Kennzeichnungsvarianten

Hier finden Sie verschiedene Beispiele, wie große Fachverbände, Verlage und Institutionen der Forschungsförderung ihre Guidelines zur Kennzeichnung und Dokumentation des KI-Einsatzes formulieren und damit vorgeben, was in ihrem Rahmen zur wissenschaftlichen Integrität zählt und was nicht akzeptiert wird.

IEEE: Guidelines for Artificial Intelligence (AI)-Generated Text

Guidelines von IEEE

IEEE ist ein weltweiter Berufsverband für Berufe und Wissenschaftler:innen im Bereich der Elektro- und Informationstechnik

Im Rahmen seiner Veröffentlichungsrichtlinien schreibt der IEEE folgendes Vorgehen fest:

Regelung für KI und KI-generierten Text.

Werden KI-generierte Inhalte (einschließlich, aber nicht beschränkt auf Text, Abbildungen, Bilder und Code) durch künstliche Intelligenz (KI) generiert und in einem Artikel verwenden, muss dies in den Acknowledgements (Danksagung) des Artikels, der bei einer IEEE-Publikation eingereicht wird, offengelegt werden.
Anzugeben sind:

verwendetes KI-System ist anzugeben

Abschnitte des Artikels, in denen KI-generierte Inhalte verwendet wurden, sind zu kennzeichnen und

mit einer kurzen Erklärung zu versehen, auf welcher Ebene das KI-System zur Generierung der Inhalte verwendet wurde.

KI-Technologien für Überarbeitungsprozesse oder die Verbesserung der Grammatik zu verwenden, ist gängige Praxis und fällt nicht zwingend unter die oben genannte Regelung. Eine Offenlegung wird aber empfohlen.

APA policy on the use of generative artificial intelligence (AI) in scholarly materials

Guidelines von APA

APA ist die American Psychological Association. Der Referenzstil APA ist über viele Disziplinen hinweg weit verbreitet. Aktuelle Informationen, Änderungen finden sich im APA Style Blog.

Künstliche Intelligenz in dieser Richtlinie bezieht sich auf Large Language Modelle. Nicht inbegriffen sind Grammatikprüfsoftware, Zitiersoftware oder Plagiatsdetektoren.

Sofern eine generative KI-Technologie für die Erstellung eines Manuskriptes für eine APA Publikation genutzt wurde, muss der Einsatz der KI im Methodenteil angegeben werden und zitiert werden.

Künstliche Intelligenz darf nicht als Autor:in/Ko-Autor:in für eine APA Publikation angegeben werden.

Sofern KI in einer Publikation zitiert wird, muss der/die Autor:in die Zitiervorlage für Software nutzen. Das bedeutet auch im Methodenteil zu spezifizieren, wie, wann und mit welchem Umfang KI genutzt wurde. Autor.innen in APA-Publikationen müssen die vollständige Ausgabe der KI als zusätzliches Material hochladen.

Autor:innen sind verantwortlich für die Richtigkeit jeglicher Informationen in der Publikation. Sie sind verpflichtet alle Informationen und Zitate, die sie von einem KI-Tool erhalten, zu überprüfen. Autor:innen dürfen KI-Technologie für bestimmte Zwecke wie z. B. die Überarbeitung verwenden, müssen dies aber offenlegen.

Eingesandte Inhalte dürfen nicht in generative KI-Tools eingegeben werden, da dies gegen die Vertraulichkeit des Prozesses verstößt.

Springer - Editorial Policy for Artificial Intelligence (AI)

Editorial Policy - Springer

Springer - ein großes Verlagshaus mit 2.900 Zeitschriften und 300.000 Büchern.

Large Language Models (LLMs) wie ChatGPT erfüllen derzeit nicht unsere Kriterien für die Urheberschaft (Link zur Redaktionspolitik im Impressum). Insbesondere die Zuweisung der Urheberschaft bringt eine Verantwortlichkeit für die Arbeit mit sich, die bei LLMs nicht wirksam angewendet werden kann.

Die Verwendung eines LLM sollte im Methodenteil des Manuskripts ordnungsgemäß dokumentiert werden (und falls ein Methodenteil nicht vorhanden ist, in einem geeigneten alternativen Teil).

Die Verwendung eines LLM (oder eines anderen KI-Werkzeugs) für das „KI-gestützte Lektorat“ muss nicht angegeben werden. In diesem Zusammenhang definieren wir den Begriff „KI-gestütztes Lektorat“ als KI-gestützte Verbesserungen an von Menschen erstellten Texten im Hinblick auf Lesbarkeit und Stil und um sicherzustellen, dass die Texte frei von Fehlern in Grammatik, Rechtschreibung, Zeichensetzung und Tonfall sind. Diese KI-gestützten Verbesserungen können Formulierungs- und Formatierungsänderungen an den Texten umfassen, nicht aber generative redaktionelle Arbeiten und die eigenständige Erstellung von Inhalten.

In allen Fällen muss die Verantwortung für die endgültige Fassung des Textes beim Menschen liegen und die Autoren müssen zustimmen, dass die Änderungen ihre ursprüngliche Arbeit widerspiegeln.

Stellungsnahme der Deutschen Forschungsgemeinschaft

DFG - Deutsche Forschungsgemeinschaft

Stellungnahme des Präsidiums der Deutschen Forschungsgemeinschaft (DFG) zum Einfluss generativer Modelle für die Text- und Bilderstellung auf die Wissenschaften und das Förderhandeln der DFG Stand September 2023

DFG erlaubt grundsätzlich den Einsatz generativer Large Language Modelle:

transparenter Umgang mit der Erzeugung von Text- und Bildinhalten ist wichtig für die Sicherung wissenschaftlicher Qualität (S.1)

Inhaltliche und formale Verantwortung für Texte bleibt bei den Wissenschaftler:innen (S.1)

Es muss sichergestellt sein, dass durch die Verwendung generativer Modelle kein fremdes geistiges Eigen-
tum verletzt wird und kein wissenschaftliches Fehlverhalten etwa in Form von Plagiaten entsteht. (S.2)

Ausgeschlossen ist der Einsatz von generativer KI allerdings bei Begutachtungsprozessen. Hier gilt das Vertraulichkeitsprinzip.

FAQ - Lehrende

Es gibt (Stand 02.2025) keine einheitliche Regelung, aber folgende Empfehlungen und Rahmungen:

Nutzen Sie die Materialien auf diesen Seiten und die Möglichkeit zur Weiterbildung, um sich bzgl. der KI-Nutzung zu positionieren.

Vereinbaren Sie mit den Studierenden, welche Rolle KI-Technologie in Ihrem Modul spielt / spielen darf und wie Sie es mit der Prüfungsleistung handhaben werden. (Nutzen Sie dazu z. B. folgenden Passus, für AULIS).

Weisen Sie die Studierenden auf die KI-Eigenständigkeitserklärung (Stand 11.2024) hin.
Als unerlaubt gilt laut:

Prüfungsordnung: Im Allgemeinen Teil der Prüfungsordnung heißt es: "Der nicht ausdrücklich erlaubte Gebrauch von Künstlicher Intelligenz stellt den Gebrauch eines nicht zugelassenen Hilfsmittels dar (§16 (2), AT-BPO, AT-MPO, Neufassung von 10/2023). Wird also ein nicht erlaubter Gebrauch oder ein intransparenter Gebrauch entdeckt, gilt es als Verstoß gegen das Gebot der Eigenständigkeit.

Wenn gegen Ihre expliziten, schriftlichen Vorgaben im Modul verstoßen wird. Voraussetzung: Es gibt explizite Angaben von Ihnen. Kommunizieren Sie daher zu Beginn der Veranstaltung, in welcher Form Studierende KI-Technologien bei Ihnen einsetzen können. Sie können dazu auch auf diese Varianten verweisen und ebenfalls die o.g. Kennzeichnungsbeispiele (hier für Studierende) nutzen.

KI in wissenschaftlichen Schreibprozessen

Vorab

Allgemein

KI-Kennzeichnung und Dokumentation

KI Kennzeichnung: Empfehlungen für die HSB

KI-Kennzeichnung: Weiterführende Hinweise und Informationen

Wissenschaftspraxis: Kennzeichnungsvarianten

Guidelines von IEEE

Guidelines von APA

Editorial Policy - Springer

DFG - Deutsche Forschungsgemeinschaft

FAQ - Lehrende

Vorab

Allgemein

1. KI-generierte Texte sind keine wissenschaftliche Quelle

2. Faktentreue von KI-generierten Texten

3. Verantwortung und Autor:innenschaft

4. KI-Eigenständigkeitserklärung

KI-Kennzeichnung und Dokumentation

KI Kennzeichnung: Empfehlungen für die HSB

Beispiel 1 - Beschreibung des Einsatzes

Beispiel 2 - Tabellarische Dokumentation

Beispiel 3 - Referenzieren

KI-Kennzeichnung: Weiterführende Hinweise und Informationen

Vor- und Nachteile von Kennzeichnungsvarianten

Arten von Dokumentationstabellen

Problematik von KI-Handreichungen

Einführungsbuch zu Wissenschaftliches Schreiben mit KI (UTB)

Wissenschaftspraxis: Kennzeichnungsvarianten

Guidelines von IEEE

Übersetzung IEEE Guideline - mehr

Guidelines von APA

Übersetzung APA Guideline - mehr

Editorial Policy - Springer

Übersetzung Editorial Policy Springer - mehr

DFG - Deutsche Forschungsgemeinschaft

DFG in a nutshell - mehr

FAQ - Lehrende

Wie sollen Studierende an der HSB die Nutzung von KI-Technologie in schriftlichen Arbeiten ausweisen?

Was gilt als unerlaubte Nutzung von KI-Technologien?