KI in wissenschaftlichen Schreibprozessen

• Wissenschaft setzt auf Nachvollziehbarkeit. Ausgaben aus GenKI haben jedoch nicht den Status einer Quelle, die für Dritte les- und nachvollziehbar ist, denn die jeweilige Ausgabe zu einem Prompt gilt nur für diesen Prompt in Verbindung mit der entsprechenden Version eines Tools, der Lizenz, ggf. sogar der Uhrzeit, der Region des Zugriffs etc.

Zur Erklärung:

• KI-generierte Texte nutzen große Sprachmodelle, sogenannte Large Language Models (LLM), die darauf trainiert sind, Muster in natürlicher Sprache zu erkennen und entsprechend reproduzieren zu können. Diese großen Sprachmodelle (z. B. GPT-3.5, GPT-4 für OpenAI ChatGPT und CoPilot, Claude von Antrophic, Gemini Nano von Google uvm.) erzeugen Textausgaben auf der Grundlage komplexer neuronaler Netzwerke und anhand statistischer Wahrscheinlichkeiten. 
• Sie werden mit sehr großen Mengen an Daten trainiert. Der Datensatz, der jeweils zum Training einer Anwendung verwendet wurde, ist allerdings entweder Geschäftsgeheimnis (z. B. bei Claude) oder besteht vor allem aus einem Common Crawl, einer speziell zusammengestellten Datenbasis aus Webtexten, der englischsprachigen Wikipedia und frei verfügbaren Büchern (siehe Für GPT-3 OpenAI Juli 2020: https://arxiv.org/pdf/2005.14165).

Texte, die von GenKI erstellt wurden, weisen inzwischen in den meisten Fällen eine bemerkenswerte sprachliche Qualität auf. Hohe sprachliche Qualität bedeutet aber nicht gleichzeitig auch hohe inhaltliche Qualität bzw. Richtigkeit. Selbst wenn Texte komplex formuliert sind und glaubwürdig klingen, hat GenKI ein Problem mit Faktentreue.
 
Denn GenKI recherchiert nicht in Quellen (Datenbanken, Büchern etc.), sondern ist so trainiert, dass sie bei dem Verfassen einer Antwort nach dem statistisch wahrscheinlichsten Folgeelement (Zeichen, Wort) sucht. So entstehen zwar sprachlich kohärente Texte, aber das Verfahren kann keine inhaltliche Korrektheit garantieren. Zuweilen halluziniert GenKI und erfindet wahrscheinliche Antworten, ohne faktische Richtigkeit. Wenn dieselbe Anfrage mehrfach gestellt wurde, werden die Ergebnisse immer variieren.

Die Überprüfung der Richtigkeit, also die Faktentreue und das kritische Hinterfragen von KI-generierten Texten, liegt bei uns Menschen.

Autor:in eines Textes zu sein – sei es eine wissenschaftliche Publikation oder eine Studienarbeit – bedeutet, die Urheberschaft für diesen Text zu übernehmen. Als Autor:in sind Sie für die Inhalte, die Art der Darstellung und die korrekte Angabe von Quellen verantwortlich. Es ist wichtig, klar zwischen eigenen Ideen und denen anderer zu unterscheiden und alle Quellen wie Belege transparent anzugeben. 

Wenn Sie textgenerierende KI-Systeme für mehr als ein reines Textlektorat / Korrekturlesen hinaus einsetzen, müssen Sie die Richtigkeit der von der KI gelieferten Informationen a) kritisch überprüfen und b) klären, wie der Einsatz von KI im jeweiligen Fall anzugeben ist. Die Kennzeichnungsvorgaben können je nach Publikationsart variieren. Vergewissern Sie sich also, was für Ihre jeweilige Publikation gilt.

Zum verantwortlichen Umgang mit GenKI zählt auch rechtskonform zu sein. Was das im Einzelnen bedeutet, findet sich hier in dieser Checkliste von KI:connect:NRW. Urheberrechtlich geschützte Materialien dürfen z.B. nicht einfach in eine GenKI zur Weiterverwendung hochgeladen werden.

In der aktuellen KI-Eigenständigkeitserklärung der Hochschule Bremen wird zwischen 2 Optionen gewählt:

• Option 1 - Nutzung von KI-Technologien ohne Kennzeichnungspflicht
• Option 2 - Nutzung von KI-Technologien mit Kennzeichnungspflicht

In beiden Fällen ist eine Abstimmung zwischen Studierenden und Prüfenden notwendig.

• Das hängt von der Absprache mit der jeweiligen Lehrkraft, der Prüfungsleistung und dem Modul ab. Es gibt weder eine generelle Erlaubnis, noch ein generelles Verbot.
• Informieren Sie sich bei der Lehrkraft und wählen Sie in Absprache den entsprechenden Passus der Eigenständigkeitserklärung aus.

• Fragen Sie nach und bitten Sie die Lehrenden explizit um Informationen zur KI-Nutzung in dem jeweiligen Modul/ der jeweiligen Prüfungsleistung.
• Weisen Sie die Lehrenden auf die Materialien auf diesen Seiten hin und nutzen Sie auch selbst die Materialien auf diesen Seiten.
• Lehrende finden außerdem auf dieser Seite weiterführende Informationen zur Nutzung und Bausteine für AULIS.
• Verweisen Sie auf die KI-Eigenständigkeitserklärung und die Optionen des KI-Einsatzes.

Die Frage ist zwar kurz - die Antwort aber lang, da sie mehrere Ebenen berücksichtigen muss, die für Sie relevant sind:

Kennzeichungsvarianten/ Kennzeichnungspflicht

• Es gibt keine einheitliche, pauschal geltende Regel. Der Einsatz und die Kennzeichnung von KI-Nutzung für Ihre Texte oder Prüfungsleistungen kann fachspezifisch verschieden ausgelegt und gehandhabt werden. An dieser Stelle finden Sie drei Vorschläge und Templates zur KI-Kennzeichnung und Dokumentation, an denen Sie sich orientieren können. 

Vorgaben der Lehrenden/ Prüfenden

• Es kann auch von der jeweils konkreten inhaltlichen Prüfungsleistung abhängen, ob KI-Einsatz überhaupt erlaubt ist oder nicht.
• Fragen Sie in jedem Fall Ihre Lehrenden/ Prüfenden, ob und in welcher Form Sie KI-Technologien einsetzen können. Sie können dazu auch auf diese Varianten verweisen und auf die o.g. Kennzeichnungsbeispiele (hier für Lehrende).

Prüfungsordnung

• Im Allgemeinen Teil der Prüfungsordnung heißt es: "Der nicht ausdrücklich erlaubte Gebrauch von Künstlicher Intelligenz stellt den Gebrauch eines nicht zugelassenen Hilfsmittels dar (§16 (2), AT-BPO, AT-MPO, Neufassung von 10/2023). Wird also ein nicht erlaubter Gebrauch oder ein intransparenter Gebrauch entdeckt, gilt es als Verstoß gegen das Gebot der Eigenständigkeit.

Nachvollziehbarkeit und Autor:innenschaft

• Beachten Sie, dass KI-generierter Text nicht mit wissenschaftlichen Quellen gleichzusetzen ist.
• Die Verantwortung für die Inhalte liegt bei der Autor:in eines Textes. Eine unkritische Textübernahme von KI-generierten Textpassagen entspricht nicht der Praxis guter wissenschaftlicher Arbeit.

Schauen Sie sich dazu die Antwort zur Frage "Was muss ich angeben?"  an und sprechen Sie mit Ihren Lehrenden/ Prüfenden. Nutzen Sie zudem die Materialien auf dieser Seite hier und die KI-Eigenständigkeitserklärung zur Klärung der Frage.

Schauen Sie sich dazu die Antwort zur Frage "Was muss ich angeben?"  an und sprechen Sie mit Ihren Lehrenden/ Prüfenden. Nutzen Sie zudem die Materialien auf dieser Seite und die KI-Eigenständigkeitserklärung zur Klärung der Frage.