KI in Studium und Lehre

Unter dem Oberbegriff „Künstliche Intelligenz“ (KI) wird eine Vielzahl von verschiedenen Systemen verstanden, die sich auf ganz unterschiedliche Art unterteilen lassen. Jede dieser Unterscheidungsmöglichkeiten repräsentiert eine bestimmte Perspektive innerhalb der IT. Eine mögliche Unterteilung ist z. B. die Differenzierung von Expertensystemen und generativer KI. Ein Expertensystem ist ein Programm, das Handlungsempfehlungen auf einer umfangreichen gesicherten Wissensbasis ableitet und auf diese Weise Menschen wie ein Experte bei der Lösung komplexerer Probleme unterstützt. Sie generieren also keine neuen Inhalte, sondern reproduzieren in der Regel bereits vorher existente Ergebnisse. Generative KI-Tools sind dagegen explizit darauf ausgelegt, neue Inhalte zu erzeugen. Generative KI wird zwar ebenfalls mit Daten und Informationen trainiert, aus denen sie Muster und Strukturen ableitet. Diese Muster nutzt die KI jedoch dazu, neue Inhalte wie Text, Audio, Bilder oder Videos zu produzieren. Zwar können auch andere KI-Formen Inhalte generieren, aber dies ist nur ein Nebeneffekt und nicht ihre Hauptfunktion. Bei der generativen KI ist die Generierung neuer Inhalte die primäre Aufgabe. In der EU KI-Verordnung (EU KI-VO) wird wiederum zwischen General Purpose AI (GPAI) wie ChatGPT und spezieller KI-Software unterschieden. 

Large Language Models (LLMs) bzw. Große Sprachmodelle stellen eine besonders leistungsfähige Form generativer KI dar und werden hauptsächlich für Text-to-Text Generierung in den bekannten Chatbots eingesetzt. Sie basieren auf tiefen neuronalen Netzwerken und sind in der Lage, menschenähnliche Texte in verschiedenen Sprachen zu generieren und zu verarbeiten. Durch das Training mit umfangreichen Textkorpora können LLMs umfangreiche Sprachmuster erkennen und anwenden, was sie zu vielseitigen Werkzeugen beispielsweise für das Verfassen, Zusammenfassen oder Übersetzen von Texten macht. 

Andere Formen generativer KI sind z. B. Text-to-Image-Modelle (Bildgenerierung). Auch dabei handelt es sich um Modelle, die auf neuronalen Netzwerken beruhen und aufgrund eines Trainings mit großen Bildkorpora, die von Menschen verschlagwortet wurden, neue Bilder generieren können. 

Herkömmliche Chatbots vereinen üblicherweise verschiedene Modelle, die im Hintergrund laufen und einzelne Aufgaben übernehmen. 

Die Funktionsweise von Sprachmodellen führt dazu, dass der Output der Modelle auf statistischen Berechnungen beruht. Der Output der Modelle ist demnach nicht unbedingt faktisch korrekt und wird vor der Ausgabe nicht überprüft. Das führt zu statistisch wahrscheinlichen Aussagen, die faktisch nicht richtig sein müssen. Zudem tendieren die gängigen Chatbots dazu, die Nutzenden in ihren Ideen und Meinungen zu bestätigen. Die Verlässlichkeit der Informationen aus Sprachmodellen ist daher immer zu prüfen. 

An der Hochschule Bremen stehen die Services der Academic Cloud und HSBrain (basierend auf HAWKI) zur Verfügung. Angehörige der Hochschule können sich dort mit ihren HSB-Anmeldedaten einloggen und verschiedene Angebote nutzen, z. B. den Chatbot ChatAI (AcademicCloud), in dem verschiedene Sprachmodelle zur Auswahl stehen. 

Wenn Sie Fragen oder Beratungsbedarf haben, oder unsicher sind, welche Modelle Sie verwenden sollen, wenden Sie sich an das ZLL-Support-Team. 

Chat AI stellt eine Auswahl verschiedener Open-Weight Large-Language-Models (LLMs) zur Verfügung, die von der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH Göttingen) datenschutzkonform auf ihrer Plattform gehostet werden. Die bei der Nutzung von ChatAI an diese Modelle gesendeten Daten, inkl. Prompts und Antworten, werden nicht in den Systemen der GWDG gespeichert. ChatAI bietet aber auch einige extern gehostete Modelle an, wie zum Beispiel OpenAIs GPT-5, GPT-4o und o3. Bei den externen Modellen werden Daten an die jeweiligen Betreiber gesendet. 

Die GWGD aktualisiert die Liste der zur Verfügung gestellten Modelle regelmäßig, wenn neuere und leistungsfähigere Varianten veröffentlicht werden. Die GWDG stellt zudem eine Vergleichsliste der Modelle zur Verfügung, die ebenfalls stetig aktualisiert wird (Link). 

Die EU KI-Verordnung schafft einen rechtlichen Rahmen, der die Nutzung von Künstlicher Intelligenz in der EU sicher und ethisch gestaltet. Seit August 2024 ist sie grundsätzlich in Kraft, mit schrittweiser Umsetzung der einzelnen Vorgaben. Erste Verbote für unannehmbare Risiken gelten seit Februar 2025, während die meisten Vorschriften für Hochrisiko-KI-Systeme erst 2026 und 2027 vollständig wirksam werden.

Für die Hochschule Bremen als Bildungs- und Forschungseinrichtung sind die Klassifizierungen der EU KI-Verordnung entscheidend: KI-Systeme mit unannehmbarem Risiko, wie soziale Bewertungssysteme, sind verboten. Hochrisiko-Systeme, etwa für die Bewertung von Lernergebnissen oder Prüfungsüberwachung, unterliegen strengen Vorgaben, die unter anderem Dokumentation, Überwachung und Schulungen erfordern. Auch Sprachmodelle wie ChatGPT zählen zu den General Purpose AI (GPAI) und sind je nach Einsatz streng reguliert.

Die Hochschule verpflichtet sich zu einer verantwortungsvollen Nutzung von KI im Rahmen dieser Vorgaben. Lehrende spielen eine zentrale Rolle, indem sie Studierende nicht nur im technischen Umgang mit KI schulen, sondern auch für ethische und rechtliche Fragestellungen sensibilisieren. Das Ziel ist, Studierende zu befähigen, KI kompetent, reflektiert und verantwortungsvoll anzuwenden.

In Rücksprache mit Jurist:innen ist die Hochschule Bremen bemüht, im Rahmen der EU KI-VO einen rechtlich sicheren Zugang zu GenKI-Tools für Lehrende und Studierende zu ermöglichen. Bei Unsicherheiten und Fragen wenden Sie sich an das ZLL-Support-Team. 

• Entwicklungen deutscher Hochschulen: HS Brain und ChatAI (datenschutzkonform)
• Übersicht Chatbots (VK:KIWA Thinktank 'Wissenschaftliches Schreiben & KI'  CC BY-SA 4.0)
• Übersicht Recherchetools (ZHAW Hochschulbibliothek CC BY-SA 4.0)

Hier finden Sie Informationen und Beispiele, wie der KI-Einsatz in wissenschaftlichen Texten gekennzeichnet und dokumentiert werden kann. Immer vorausgesetzt, dass die Nutzung von den Prüfenden erlaubt wurde.

-  Stand Nov.2024 -

In der aktuellen KI-Eigenständigkeitserklärung der Hochschule Bremen wird zwischen 2 Optionen gewählt:

• Option 1 - Nutzung von KI-Technologien ohne Kennzeichnungspflicht
• Option 2 - Nutzung von KI-Technologien mit Kennzeichnungspflicht

In beiden Fällen ist eine Abstimmung zwischen Studierenden und Prüfenden notwendig.  Wie eine Kennzeichnungspflicht umgesetzte werden kann, dazu finden Sie hier drei Varianten.

AI-Declaration of independence

Hier liegt die englischsprachige Version der KI-Eigenständigkeitserklärung "AI-Declaration of independent preparation of work"

• Hier auf der Seite "Für Lehrende" finden Sie neben den Empfehlungen zur KI-Kennzeichnung auch vertiefende Materialien und Begründungen, die Sie für sich selbst und für Ihre Studierenden in Modulen oder bei der Abschlussarbeit nutzen können.
• Hier auf der Seite "Für Studierende" finden Sie nur die Empfehlungen und Beispiele für Studierende, wie diese den Einsatz von KI-Technologie beim wissenschaftlichen Schreiben und Arbeiten kennzeichnen und dokumentieren können.

Schauen Sie beim aktuellen Veranstaltungsprogramm von LehrePlus.

Interessieren Sie sich für die Erstellung von KI-Lehrvideos und den Einsatz von Avataren? Wollten Sie schon immer mal Podcasts in Ihrer Lehre einsetzen? Kontaktieren Sie uns, um eine mögliche Integrationen in Ihre Lehre zu besprechen.