KI in wissenschaftlichen Schreibprozessen - Informationen für Studierende

• Wissenschaft setzt auf Nachvollziehbarkeit. Ausgaben aus GenKI haben jedoch nicht den Status einer Quelle, die für Dritte les- und nachvollziehbar ist, denn die jeweilige Ausgabe zu einem Prompt gilt nur für diesen Prompt in Verbindung mit der entsprechenden Version eines Tools, der Lizenz, ggf. sogar der Uhrzeit, der Region des Zugriffs etc.

Zur Erklärung:

• KI-generierte Texte nutzen große Sprachmodelle, sogenannte Large Language Models (LLM), die darauf trainiert sind, Muster in natürlicher Sprache zu erkennen und entsprechend reproduzieren zu können. Diese großen Sprachmodelle (z. B. GPT-3.5, GPT-4 für OpenAI ChatGPT und CoPilot, Claude von Antrophic, Gemini Nano von Google uvm.) erzeugen Textausgaben auf der Grundlage komplexer neuronaler Netzwerke und anhand statistischer Wahrscheinlichkeiten. 
• Sie werden mit sehr großen Mengen an Daten trainiert. Der Datensatz, der jeweils zum Training einer Anwendung verwendet wurde, ist allerdings entweder Geschäftsgeheimnis (z. B. bei Claude) oder besteht vor allem aus einem Common Crawl, einer speziell zusammengestellten Datenbasis aus Webtexten, der englischsprachigen Wikipedia und frei verfügbaren Büchern (siehe Für GPT-3 OpenAI Juli 2020: https://arxiv.org/pdf/2005.14165).

Texte, die von GenKI erstellt wurden, weisen inzwischen in den meisten Fällen eine bemerkenswerte sprachliche Qualität auf. Hohe sprachliche Qualität bedeutet aber nicht gleichzeitig auch hohe inhaltliche Qualität bzw. Richtigkeit. Selbst wenn Texte komplex formuliert sind und glaubwürdig klingen, hat GenKI ein Problem mit Faktentreue.
 
Denn GenKI recherchiert nicht in Quellen (Datenbanken, Büchern etc.), sondern ist so trainiert, dass sie bei dem Verfassen einer Antwort nach dem statistisch wahrscheinlichsten Folgeelement (Zeichen, Wort) sucht. So entstehen zwar sprachlich kohärente Texte, aber das Verfahren kann keine inhaltliche Korrektheit garantieren. Zuweilen halluziniert GenKI und erfindet wahrscheinliche Antworten, ohne faktische Richtigkeit. Wenn dieselbe Anfrage mehrfach gestellt wurde, werden die Ergebnisse immer variieren.

Die Überprüfung der Richtigkeit, also die Faktentreue und das kritische Hinterfragen von KI-generierten Texten, liegt bei uns Menschen.

Autor:in eines Textes zu sein – sei es eine wissenschaftliche Publikation oder eine Studienarbeit – bedeutet, die Urheberschaft für diesen Text zu übernehmen. Als Autor:in sind Sie für die Inhalte, die Art der Darstellung und die korrekte Angabe von Quellen verantwortlich. Es ist wichtig, klar zwischen eigenen Ideen und denen anderer zu unterscheiden und alle Quellen wie Belege transparent anzugeben. 

Wenn Sie textgenerierende KI-Systeme für mehr als ein reines Textlektorat / Korrekturlesen hinaus einsetzen, müssen Sie die Richtigkeit der von der KI gelieferten Informationen a) kritisch überprüfen und b) klären, wie der Einsatz von KI im jeweiligen Fall anzugeben ist. Die Kennzeichnungsvorgaben können je nach Publikationsart variieren. Vergewissern Sie sich also, was für Ihre jeweilige Publikation gilt.

Zum verantwortlichen Umgang mit GenKI zählt auch rechtskonform zu sein. Was das im Einzelnen bedeutet, findet sich hier in dieser Checkliste von KI:connect:NRW. Urheberrechtlich geschützte Materialien dürfen z.B. nicht einfach in eine GenKI zur Weiterverwendung hochgeladen werden.

In der aktuellen KI-Eigenständigkeitserklärung der Hochschule Bremen wird zwischen 2 Optionen gewählt:

• Option 1 - Nutzung von KI-Technologien ohne Kennzeichnungspflicht
• Option 2 - Nutzung von KI-Technologien mit Kennzeichnungspflicht

In beiden Fällen ist eine Abstimmung zwischen Studierenden und Prüfenden notwendig.

Hier finden Sie die Folien aus dem

• ZLL KI-Impuls vom 24.06.2025 zum Thema:  "KI in Prüfungsordnung & Kennzeichnungsvarianten" (Foliensatz ist eine komprimierte Form der wichtigstens Infos zur KI-Kennzeichnung).
• Weitere KI-Impulse finden Sie hier. 

GenKI-Technologien verantwortungsvoll im akademischen Kontext einzusetzen, wirft Fragen auf, auf die es häufig noch keine abschließenden Antworten gibt. Wir stellen Ihnen hier Informationen rund um den Einsatz von Sprachmodellen sowie dessen Kennzeichnung und Dokumentation zur Verfügung.

• Spezifische Fragen zum Einsatz von Sprachmodellen (und ggdf. Weiteren Modellen) im Studium klären Sie mit den jeweiligen Lehrenden/Prüfenden Ihres Moduls. Sie können die Empfehlungen und Vorlagen zu Kennzeichnung und Dokumentation auf diesen Seiten nutzen.
• Haben Sie konkrete Wünsche oder Informationen zu GenKI über Ihre Module hinaus? Kontaktieren Sie StudiumPlus - wir sind offen für Ihre Bedarfe.
• Wenn Sie Fragen rund um GenKI beim wissenschaftlichen Schreiben haben, kontaktieren Sie das Schreiblabor.
• Bei eher technischen Fragen zu KI-Technologien oder hauseigener GenKI - kontaktieren Sie das ZLL-Support-Team.

Ein Studium soll auf eine zukünftige Berufstätigkeit vorbereiten und es ist davon auszugehen, dass GenKI-Modelle Teil des professionellen Handelns in Wissenschaft und anderen Berufsfeldern werden. Daher ist es sinnvoll, dass Sie bereits während Ihres Studiums Sprach- und andere Modelle kennen und (kritisch) nutzen lernen. 

Ihre Lehrenden prüfen, ob wie GenKI-Modelle in ihren Modulen eine Rolle spielen können und sollten, und informieren Sie darüber. 

Es gibt verschiedene Möglichkeiten, den Einsatz von KI im Studium zu regeln: 

1. Uneingeschränkte Nutzung von GenKI
2. Selektiver Einsatz spezifischer GenKI-Modelle
3. Gezielte GenKI-Einbinding mit klaren Nutzungsregeln
4. Keine Nutzung von GenKI-Anwendungen erlaubt. 

Bei Fragen und Unklarheiten fragen Sie immer direkt Ihre Lehrenden.

Die KI-Eigenständigkeitserklärung der Hochschule Bremen sieht aktuell die Möglichkeit vor, GenKI-Modelle mit oder ohne Dokumentationspflicht in Lehre und Prüfungen zu nutzen. Falls Sie von Ihren Lehrenden keine Information zur Eigenständigkeitserklärung bekommen haben, fragen Sie immer direkt Ihre Lehrenden, welche Version Sie nutzen sollen. 

Sollten Ihre Lehrenden überlegen die Nutzung von GenKI-Modellen in der Lehre verpflichtend zu machen, müssen verschiedene Aspekte beachtet werden, darunter fällt u. a. der Grundsatz der Datensparsamkeit, die informierte Einwilligung der Studierenden zur Verarbeitung ihrer Daten durch bestimmte Dienste und/oder Organisationen, anfallende Kosten und Abrechnungsmöglichkeiten, sowie die Nutzungsbedingungen der Dienste, in denen insbesondere der Umgang mit den Nutzungsdaten geregelt ist. Besonders die Nutzungsbedingungen variieren je nach Software, Modell oder Plattform. 

Kann keine datenschutzkonforme Lösung (nach DSGVO) gewährleistet werden, sollte die Nutzung kritisch betrachtet und nur auf freiwilliger Basis erlaubt werden. Einen datenschutzkonformen Zugang zu Sprachmodellen und weiteren Diensten bietet die Academic Cloud und HSBrain (auf Basis von HAWKI). 

Grundsätzlich gilt darüber hinaus, dass das Urheberrecht der hochgeladenen Dokumente, besonders bei proprietären GenKI-Modellen, beachtet werden muss. 

Wissenschaftliches Schreiben erfüllt vielfältige Funktionen. Es dient nicht nur der Präsentation und Kommunikation von Forschungsergebnissen, sondern auch als Denk- und Lernhilfe. Durch das Schreiben und Lesen von Fachtexten entwickeln Studierende Inhalte sowie fachtypische Denk- und Argumentationsstrukturen. Diese Funktionen sollten bewusst gemacht werden, damit Schreibende entscheiden können, welche Aufgaben sie eigenständig erledigen und welche sie automatisieren wollen.

Die aktuelle Forschung in diesem Bereich scheint auf den ersten Blick widersprüchlich und ambivalent. So weisen z. B. Neurowissenschaftler:innen darauf hin, dass die Nutzung von Sprachmodellen beim Schreiben dafür sorgt, dass weniger kognitive Ressourcen genutzt werden und sich die Gehirnaktivitäten verschieben (Kosmyna et al, 2025: your Brain on ChatGPT). Es gibt Hinweise darauf, dass die unkontrollierte Nutzung von proprietären Sprachmodellen dafür sorgt, dass Lernende weniger lernen (Bastani et al, 2024: Generative AI Can Harm Learning), dass die Nutzung zu gedanklicher Faulheit führen kann (Fan et al, 2024: Beware of metacognitive laziness) oder dass Studierende sich zu sehr auf die GenKI-Systeme verlassen (overrealiance) und die Outputs auch auf ihrem eigenen Studiengebiet nicht hinterfragen (Krupp et al, 2024: Unreflected Acceptance). Andere Studien weisen darauf hin, dass speziell trainierte GenKI-Systeme (Kestin et al, 2025: AI tutoring outperforms in-class active learning) oder GenKI-Systeme mit RAG-Funktionen (Ma et al, 2024: Integrating AI tutors in a Programming Course) bei Studierenden zu besseren Lernergebnissen führen. Bei Studierenden, die nicht in ihrer Erstsprache studieren, kann die Nutzung von GenKI-Modellen zu einer verbesserten sprachlichen Qualität führen (Nguyen Minh, 2024: Leveraging ChatGPT for Enhancing English Writing Skills and Critical Thinking in University Freshmen).

Inwiefern die GenKI-Nutzung Lernen grundsätzlich verhindert, kommt also darauf an, wie die Modelle genutzt werden. Aufgrund der allgegenwärtigen Verfügbarkeit von proprietären GenKI-Modellen besteht allerdings die Gefahr, dass diese außerhalb von Forschungsexperimenten unkontrolliert genutzt werden. Da Sprachmodelle schnell fehlerfreie und gut klingende Texte produzieren, ist ihre Nutzung verführerisch. Dies kann dazu führen, dass Studierende ihre eigenen Fähigkeiten in Frage stellen, verlieren (Deskilling) oder gar nicht erst entwickeln (Skill Skipping). Beim Programmieren wird in diesem Fall von Vibe Coding gesprochen, d. h. Personen ohne Programmierkenntnisse lassen sich Code von GenKI-Programmen ausgeben (mit signifikanten Sicherheitsproblemen). Ähnliche Praktiken finden sich mittlerweile auch im Designbereich (Vibe Designing).

Für die Lehre an der Hochschule bedeutet das vor allem, dass Lernende in ihrer Nutzung GenKI-Nutzung kritisch begleitet werden müssen. Es reicht nicht, die Nutzung der Modelle zu erlauben. Ergänzend sollten auch wissenschafts- und berufsethische Fragen bearbeitet werden. 

Studierende sollten lernen, sich aktiv mit Themen auseinander zu setzen. Kritische Betrachtungen, Deutungen, Wertungen sollten nicht einer KI überlassen werden, sie gehören zu wichtigen Denk- und Lernschritten, die Studierende im Studium lernen sollten. Dazu muss ihnen innerhalb der Lehrveranstaltungen Gelegenheit gegeben werden.

Es gibt an der HSB keine einheitlich gültige Regelung zur Kennzeichnung von GenKI-Nutzung.

• Es liegt daher am jeweiligen Studiengang und/oder Lehrenden, diese Nutzung zu regeln und den Studierenden zu Beginn des jeweiligen Seminars transparent zu kommunizieren. 
• Je nach Lernziel und Prüfungsleistung kann eine GenKI-Nutzung vollumfänglich, eingeschränkt oder gar nicht erlaubt sein. 
• Für schriftliche Arbeiten bietet die HSB zwei Richtlinien an: In der Eigenständigkeitserklärung wird die Zulässigkeit der GenKI-Nutzung für die jeweilige Arbeit geregelt. Diese muss ggf. an Ihr jeweiliges Nutzungsszenario angepasst werden. 
• Darüber hinaus finden sich für Lehrende und Studierende Hinweise zu drei verschiedenen Möglichkeiten der Kennzeichnung von GenKI-Nutzung in schriftlichen Arbeiten. 
• Für Prüfungsformen wie z. B. Präsentationen sind separate Abmachungen zu treffen. 

Die EU KI-Verordnung (EU AI Act) sieht es in bestimmten Fällen vor, dass die Nutzung von KI-Systemen offengelegt wird. Dies gilt u. a. für Deepfakes sowie die Veröffentlichung von Texten zur Information der Öffentlichkeit über Angelegenheiten des öffentlichen Interesses (EU KI-VO § 50 (4)). In diesen Fällen sind Lehrende in ihrer Lehre zur Offenlegung der Nutzung von GenKI-Modellen verpflichtet. Forschungsaktivitäten sind davon üblicherweise nicht betroffen. 

Darüber hinaus nutzen viele Lehrende GenKI-Modelle, z. B. um ihre Lehre vorzubereiten. Lehrende können mit gutem Beispiel vorangehen, indem sie kennzeichnen, wenn Lehrmaterialien, Prüfungsfragen, usw. mithilfe von GenKI-Modellen erstellt wurden. Dabei können Lehrende die gleichen Kennzeichnungsvarianten nutzen wie Studierende oder sich an anderen Formaten wie z. B. den AI Use Cards orientieren (Whitepaper dazu).

Wenn die Nutzung von GenKI-Modellen nicht explizit Bestandteil der Aufgabenstellung war, dürfen die Nutzung oder Nicht-Nutzung als solches sich nicht auf die Beurteilung auswirken. Wenn die Nutzung von GenKI-Modellen Bestandteil der Aufgabenstellung ist, ist dafür zu sorgen, dass die Nutzung der jeweiligen Modelle 1) gelehrt und in die Lehre eingebettet wird, und 2) für eine datenschutzkonforme Nutzung gesorgt wird. 

Darüber hinaus ist sowohl für Lehrende als auch Studierende relevant, dass einzelne Personen durch Betreibende von digitalen Diensten ausgeschlossen werden können, wie z. B. durch Microsoft im Fall des IStGH-Chefanklägers Karim Khan geschehen. 

Da es sich bei GenKI-Outputs nicht um zitierwürdige Quellen handelt, wird in diesem Zusammenhang nicht von Zitation gesprochen. Stattdessen sollte die jeweilige GenKI-Nutzung im Sinne der guten wissenschaftlichen Praxis offengelegt und dokumentiert werden. Siehe dazu Vorschläge zur Kennzeichnung und die KI-Eigenständigkeitserklärung.

Zum Hintergrund: Wissenschaftliche Zitation dient der Transparenz und Nachvollziehbarkeit. Das Nachschlagen einer Quelle soll es ermöglichen, die Schlussfolgerungen von anderen Wissenschaftler:innen nachzuvollziehen. Dies ist bei durch Sprachmodelle generiertem Text nicht in allen Modellen möglich: Die Outputs sind für Dritte nicht les- und nachvollziehbar, da der jeweilige Output nur in einer Kombination aus Prompt, User:in, KI-Modell, Modellkontext, etc. entsteht und von Dritten nicht reproduziert werden kann. Darüber hinaus wird das Thema der Nachvollziehbarkeit von Outputs aktuell in der IT-Community breit diskutiert; weitere Informationen dazu finden Sie z. B. bei Joshi et al, 2026: Stochastic CHAOS. 

Die Nutzung von GenKI-Modellen in Prüfungen muss von den jeweiligen Lehrenden explizit erlaubt und für alle Studierenden des entsprechenden Moduls transparent kommuniziert werden. 

In der Allgemeinen Prüfungsordnung heißt es: „Der nicht ausdrücklich erlaubte Gebrauch von Künstlicher Intelligenz stellt den Gebrauch eines nicht zugelassenen Hilfsmittels dar“ (§16 (2), AT-BPO, AT-MPO, Neufassung von 10/2023). Wird also keine explizite Erlaubnis von Lehrenden ausgesprochen, gilt die Nutzung von GenKI-Modellen als Nutzung eines unerlaubten Hilfsmittels und damit als Täuschungsversuch.

Wenn GenKI-Modelle unerlaubt in Prüfungen eingesetzt werden, gilt dies als Einsatz nicht-erlaubter Hilfsmittel und kann als Täuschungsversuch gewertet werden (siehe §16 AT-BPO & AT-MPO). Das Verfahren ist das gleiche wie zur Feststellung anderer Täuschungsversuche. 

Die Regularien für die jeweilige Prüfung, inkl. der Nutzung von GenKI-Modellen, sollten vorher festgesetzt und den Studierenden frühzeitig mitgeteilt werden. 

Weder spezielle KI-Detektoren noch allgemein nutzbare Plagiatssoftware kann die Nutzung von GenKI-Modellen zuverlässig nachweisen. Diese Tools bewerten automatisch generierte Texte als von Menschen geschriebene Texte und umgekehrt. Von letzterem sind besonders Studierende betroffen, die schriftliche Prüfungen nicht in ihrer Erstsprache ableisten oder aus nicht-akademischen Haushalten kommen (Gostmann und Hildermeier, 2026). Damit reproduzieren solche Detektoren bestehende Ungleichheiten. 

Für einen Täuschungsversuch ist vorsätzliches Handeln Voraussetzung. Fahrlässiges Handeln stellt hingegen keinen Täuschungsversuch dar. Zunächst muss also vorsätzliches Handeln, in der Regel über äußere Indizien, nachgewiesen werden (Baresel u. a., 2025).

Da ein zuverlässiger Nachweis der GenKI-Nutzung über Detektoren nicht möglich ist, müssen Prüfende eine unzulässige Nutzung selbst nachweisen, z. B. über den Vergleich verschiedener Textpassagen, einen Vergleich zwischen Leistungen verschiedener Studierender, oder den Nachweis von typischen Ausdrucksformen von GenKI-Modellen (Baresel u. a., 2025). Beispiele von typischen KI-Formulierungen finden sich (auf Englisch) u. a. beim Wikipedia Projekt AI Cleanup. 

Das Verfahren zum Feststellen eines Täuschungsversuchs beruht auf §16 (1 & 2) AT-BPO & AT-MPO. 

Prüfungsleistungen, die über stark vorstrukturierte Formate wie bspw. Multiple-Choice-Klausuren hinausgehen, unterliegen dem Urheberrecht. Die Eingabe einer solchen Prüfungsleistung ohne vorheriges explizites und informiertes Einverständnis der Studierenden stellt eine unzulässige Vervielfältigung, und eine Verletzung des Urheberrechts dar. 

Darüber hinaus fällt die automatisierte Bewertung von studentischen Leistungen durch KI-Systeme laut der EU KI-VO unter eine Hochrisiko-Anwendung. Im Falle einer solchen Nutzung von KI-Systemen müssen die Hochschule sowie die jeweiligen Prüfenden besondere Verpflichtungen erfüllen (Baresel u. a., 2025). Solange die Hochschule Bremen dazu keine Regelungen getroffen und Maßnahmen eingeführt hat, sind Hochrisiko-Anwendungen von KI-Systemen unzulässig. Herkömmliche Praktiken, wie bspw. die automatisierte Bewertung von Multiple-Choice-Klausuren, in denen Prüfungsergebnisse deterministisch und regelbasiert automatisch ermittelt werden, sind davon nicht betroffen.