Damit ein Text wissenschaftliche Höhe erreichen kann, müssen die Grundsätze guter wissenschaftlicher Praxis eingehalten werden. Das gilt ausdrücklich auch für die Verwendung von KI-Hilfsmitteln. Im Sinne dieser Empfehlung bezeichnet der Begriff „KI-Hilfsmittel“ solche digitalen Werkzeuge, die auf Technologien der künstlichen Intelligenz basieren und im Schreibprozess wissenschaftlicher Texte eingesetzt werden.

1.1 Rechtskonformität

Die wissenschaftliche Integrität erfordert ein Agieren innerhalb des gesetzlichen Rahmens. Bei der Verwendung von KI-Technologie sind neben dem Urheberrechtsgesetz (1) insbesondere die KI-Verordnung (2) und die Datenschutz-Grundverordnung (3) der Europäischen Union einzuhalten.

1.2 Verantwortlichkeit

Insbesondere beim Einsatz von KI-Hilfsmitteln trägt der Nutzende des Hilfsmittels die vollumfängliche Verantwortung für die Einhaltung aller an ihn und seine wissenschaftliche Arbeit gestellten Anforderungen. Die Wahrung dieses Grundsatzes verpflichtet den Nutzenden dazu KI-Generate stets mit geeigneten Maßnahmen nach bestem Wissen und Gewissen zu überprüfen und ggf. anzupassen. Die Hilfsmittel dürfen die Denkprozesse und intellektuellen Leistungen des Nutzenden unterstützen, dürfen diese jedoch nicht ersetzen.

1.3 Abgrenzung von Eigen- und Fremdleistung

Die Abgrenzung von Eigen- und Fremdleistung ist eine grundlegende Anforderung der wissenschaftlichen Integrität. Es muss jederzeit gewährleistet sein, dass die Urheberschaft eindeutig zugeordnet werden kann. Dies bedeutet, dass Textpassagen und Aussagen, die von anderen Personen/Quellen übernommen wurden, mit einer nachprüfbaren Quellenangabe belegt und zitiert werden müssen. Da ein KI-System an seinen Erzeugnissen keine Urheberschaft besitzt und die KI-Erzeugnisse im Allgemeinen weder reproduzierbar noch gesichert sachlich korrekt sind, kann die Kenntlichmachung von KI-generierten Textpassagen nicht als Zitieren von Quellen im klassischen Sinne betrachtet werden. Unverändert übernommene KI-generierte Textpassagen können jedoch unmittelbar im Text gekennzeichnet werden (vgl. Abschnitt 2 „Kennzeichnung von KI-generierten Textpassagen “). Von KI-Hilfsmitteln manipulierte Textpassagen können mittelbar in einem KI-Hilfsmittel-Verzeichnis dokumentiert werden (vgl. Abschnitt 4 „Kennzeichnung von speziellen Einsatzformen (KI-Hilfsmittel-Verzeichnis) “).

1.4 Verlässlichkeit sachlicher Informationen

Sachliche Informationen, die über das Allgemeinwissen und das fachspezifische Grundwissen der adressierten wissenschaftlichen Fachgemeinschaft hinausgehen, müssen im Sinne der wissenschaftlichen Integrität stets auf ihren Wahrheitsgehalt, ihre Relevanz und ihre Genauigkeit hin überprüft und mit zitier- und vertrauenswürdigen Quellen belegt werden. KI-Hilfsmittel, welche generative Verfahren nutzen, stellen grundsätzlich keine zitierwürdigen Quellen für sachliche Informationen dar, solan-ge sie nicht die Korrektheit der Informationen garantieren können. Da diese Anforderung von derzei-tigen generativen KI-Systemen im Allgemeinen nicht erfüllt wird, müssen alle von diesen Systemen generierten sachlichen Informationen auf konventionelle Weise überprüft und mit zitierwürdigen Quellen (4) versehen werden.

Gemäß Grundsatz 1.3 „Abgrenzung von Eigen- und Fremdleistung“ kann ein KI-Generat nicht im klassischen Sinne als Quelle zitiert werden. Dennoch sollte sich die Kennzeichnung KI-generierter Textpassagen an den bestehenden Regeln für das Zitieren klassischer Quellen orientieren. In Abhängigkeit des gewählten Zitierstils besteht dann die Möglichkeit, direkte sowie indirekte „Zitate“ von KI-Generaten entweder unmittelbar im Text selbst, beispielsweise in Form einer Fußnote, oder alternativ mit einem Verweis auf einen Eintrag im Quellenverzeichnis zu kennzeichnen. In den nachfolgenden vier Unterabschnitten werden vier verschiedene Dokumentationsstile zur Kennzeichnung von KI-generierten Textpassagen exemplarisch dargestellt. Die Festlegung der Regeln zur Kennzeichnung und Dokumentation von KI-Generaten obliegt den jeweiligen Fachbereichen.

2.1 American Psychological Association (APA)

Passagen aus dem Gesprächsverlauf mit einem KI-Hilfsmittel sind im Sinne des APA-Stils als Output eines Algorithmus‘ zu kennzeichnen (5) . Dabei folgt die Kennzeichnung im Text dem folgenden Schema:

Mit Jahr ist das Jahr der verwendeten Version gemeint. Wenn der zugehörige Gesprächsverlauf an anderer Stelle dokumentiert wird, kann die Referenz „(OpenAI, 2023)“ unter Angabe der entsprechenden Stelle zum Beispiel zu „(OpenAI, 2023; siehe Anhang A für den gesamten Gesprächsverlauf)“ ergänzt werden.

Der zugehörige Eintrag im Quellenverzeichnis folgt dem Template für Software der Publication Manual (American Psychological Association, 2020, Chapter 10.10). Als Autor wird der Anbieter des KI-Hilfsmittels angegeben, während sich das Datum auf das Jahr der verwendeten Version bezieht. Der Eintrag im Quellenverzeichnis generiert sich nach dem folgenden Schema:

Mit Jahr ist das Jahr der verwendeten Version gemeint. Wenn der zugehörige Gesprächsverlauf an anderer Stelle dokumentiert wird, kann die Referenz „(OpenAI, 2023)“ unter Angabe der entsprechenden Stelle zum Beispiel zu „(OpenAI, 2023; siehe Anhang A für den gesamten Gesprächsverlauf)“ ergänzt werden.

Der zugehörige Eintrag im Quellenverzeichnis folgt dem Template für Software der Publication Manu-al (American Psychological Association, 2020, Chapter 10.10). Als Autor wird der Anbieter des KI-Hilfsmittels angegeben, während sich das Datum auf das Jahr der verwendeten Version bezieht. Der Eintrag im Quellenverzeichnis generiert sich nach dem folgenden Schema:

Nach der Empfehlung des CMOS (6) ist es ausreichend das KI-Hilfsmittel im Text zu erwähnen und beispielsweise zu schreiben: „Das folgende Rezept wurde von ChatGPT generiert“. Eine ausführlichere Kennzeichnung kann in Form einer Fußnote nach dem folgenden Schema erfolgen:

Ein Link muss nicht zwangsläufig angegeben werden. Prompts können ebenfalls in die Fußnote nach folgendem Schema aufgenommen werden:

Textpassagen aus der KI-Reaktion auf den Prompt „Erstelle mir ein Kochrezept für grüne Soße“ werden nach dem folgenden Schema (7) im Text unmittelbar gekennzeichnet:

Der zugehörige Eintrag im Quellenverzeichnis generiert nach dem folgenden Schema:

Eine KI-generierte Textpassage wird nach der Deutschen Industrienorm ISO 690 mit einer fortlaufen-den Nummer in eckigen Klammern gekennzeichnet:

Erst im Quellenverzeichnis findet eine ausführliche Dokumentation nach folgendem Schema statt:

Mögliche Einsatzformen von KI-Hilfsmittel umfassen beispielsweise Hilfestellungen bei dem …

• Korrigieren von Orthografie und Grammatik (nicht kennzeichnungspflichtig)
• Zusammenfassen und Präzisieren von Texten (nicht kennzeichnungspflichtig, wenn intellektuell überprüft)
• Umformulieren oder Paraphrasieren von Texten. Dabei kann die Berücksichtigung eines bestimmten Schreibstils oder die Anwendung einfacher Sprache maßgeblich sein. (je nach Umfang kennzeichnungspflichtig)
• Übersetzen von Texten (nicht kennzeichnungspflichtig, wenn intellektuell überprüft)
• Generieren von Texten bzw. dem Verschriftlichen von Ideen und Gliederungen (je nach Umfang kennzeichnungspflichtig)
• Strukturieren von Texten (nicht kennzeichnungspflichtig)
• Erstellen oder Optimieren von Gliederungen (je nach Umfang kennzeichnungspflichtig)
• Sammeln von Ideen und dem Brainstormen (je nach Umfang kennzeichnungspflichtig)
• Identifizieren von Themeneinstiegen und dem Verschaffen eines Überblicks über den aktuellen Forschungsstand (nicht dokumentationspflichtig, wenn die Informationen lediglich als Rechercheeinstieg dienen)
• Vorbereiten von Recherchen z.B. durch Identifizieren geeigneter Suchbegriffe (nicht dokumentationspflichtig)
• Recherchieren von Literatur (nur dokumentationspflichtig)
• Finden von Pro- und Contra-Argumenten (8) (je nach Umfang kennzeichnungspflichtig)
• Transkribieren von Tonaufnahmen (kennzeichnungspflichtig. Die Wahrung der Datenschutzgrundverordnung (DSGVO) muss beachtet werden)
• Visualisieren in Form von Bildern und Grafiken (kennzeichnungspflichtig)

Der Einsatz von KI-Hilfsmitteln kann mittelbar in einem KI-Hilfsmittel-Verzeichnis dokumentiert werden, welches das Quellenverzeichnis der Arbeit ergänzt. Dabei wird ein tabellarischer Aufbau empfohlen, der wie folgt aussehen kann:

Tabelle 1: Beispieltabelle zur Dokumentation der Nutzung von KI-Hilfsmitteln (auf Basis des Leitfadens «Aus KI zitieren» (opens in new tab) der Universität Basel)

KI-generierte Bilder und Grafiken sollten direkt in der Bildunterschrift als solche und unter Angabe des verwendeten KI-Hilfsmittels und seines Anbieters gekennzeichnet werden. Sofern die zur Erstellung der Grafik verwendeten Prompts für die Arbeit oder deren Nachvollziehbarkeit relevant und an anderer Stelle dokumentiert sind, sollte in der Bildunterschrift auf sie verwiesen werden.

6.1 Auswählen

Prompts bzw. ggf. ganze Gesprächsverläufe sollen dokumentiert werden, wenn …

• wesentliche Beiträge zum Inhalt oder ihrer Struktur geleistet werden:
  • Die Ergebnisse aus dem KI-Hilfsmittel fließen direkt in die wissenschaftliche Argumentation, Struktur, Methodik, Analyse oder Interpretation ein. Beispielsweise wird ein KI-Hilfsmittel zur Manipulation oder zur Auswertung von Daten verwendet und wird somit Teil der Methodik.
  • Der Prompt führt zu textuellen oder inhaltlichen Ergebnissen, die als Basis für zentrale Aussagen oder Schlussfolgerungen dienen.

• das KI-Hilfsmittel Gegenstand der Forschung ist:
  • Die Arbeit untersucht die Anwendung oder Leistungsfähigkeit von KI-Modellen. In diesem Fall werden die Gesprächsverläufe zu Forschungsdaten (9) und müssen als solche dokumentiert werden.
• ein kreativer oder nicht-trivialer Einsatz vorliegt:
  • Die Gestaltung des Prompts erfordert besondere Expertise oder Kreativität, die als wesentliche intellektuelle Leistung betrachtet werden kann.
• die Reproduzierbarkeit gewährleistet werden muss:
  • Prompts beeinflussen die Ergebnisse so stark, dass andere Forscher diese nachvollziehen oder validieren können müssen.
  • Die Arbeit wird in einem Bereich oder innerhalb eines Rahmens veröffentlicht, der besondere Anforderungen an die Nachvollziehbarkeit und Transparenz stellt.

• der KI-Einsatz ethische Fragen aufwirft:
  • Um Bedenken hinsichtlich Manipulation, Plagiarismus und unsachgemäßem Einsatz von KI-Technologien auszuräumen.

6.2 Speichern

ChatGPT von OpenAI bietet in der Gesprächsansicht innerhalb des Webbrowsers die Möglichkeit, den Gesprächsverlauf mit einem Klick auf die Schaltfläche „Share“ zu speichern und über einen Weblink öffentlich zugänglich zu machen.

Außerdem bietet ChatGPT die Möglichkeit Gesprächsverläufe in einem gewünschten Datenformat zu exportieren. Nach Eingabe des Prompts „Stelle mir den Gesprächsverlauf als .txt zur Verfügung“ wird der Downloadlink der gewünschten Datei im Textformat bereitgestellt. Je nach Verwendungsart kann der Export in verschiedenen Dateiformaten erfolgen:

• Text-Datei (.txt),
• Portable-Document-Format-Datei (.pdf),
• Microsoft-Word-Datei (.docx),
• Microsoft-Excel-Datei (.xlsx),
• Comma-Separated-Values-Datei (.csv),
• Extensible-Markup-Language-Datei (.xml) und
• Java-Script Object-Notation-Datei (.json).

Es wird empfohlen, mindestens eine strukturierte und maschinenlesbare Form der Daten im CSV-Format zu speichern, um keine Informationen zu verlieren und niederschwellig verfügbar zu halten.

6.3 Dokumentieren

Einzelne dokumentationswürdige Prompts können direkt oder per Fußnote in den Fließtext eingebaut werden. Beim Vorliegen relevanter Promptfolgen oder kürzeren Gesprächsverläufen bietet sich die Angabe eines Weblinks zum Gesprächsverlauf (sofern vorhanden) oder die Dokumentation im Anhang der Arbeit an. Wenn viele und oder lange Promptfolgen oder Gesprächsverläufe dokumentiert werden sollen und dies nicht über die Angabe eines Weblinks erfolgen kann, sollten diese Interaktionen nicht Teil der schriftlichen Arbeit sein, sondern separat gespeichert und je nach Verwendungszweck zugänglich gemacht werden. Grundsätzlich empfiehlt es sich diese Daten als Forschungsdaten zu behandeln und, falls vorhanden, im Datenmanagementplan zu verzeichnen. Wenn kein solcher vorliegt, muss an geeigneter Stelle im Text auf die Daten hingewiesen werden.

Für alle drei Varianten gilt: wenn die jeweiligen Prompts und Gesprächsverläufe nicht selbsterklärend sind, müssen diese entsprechend kommentiert und ggf. diskutiert werden. Bei Gesprächsverläufen kann eine tabellarische Darstellung sinnvoll sein, die den jeweiligen Prompt oder den KI-Output in einer weiteren Spalte kommentiert. Dies kann insbesondere im Rahmen von Bachelor- oder Masterarbeiten, beispielsweise als Nachweis der notwendigen KI-Kompetenz, sinnvoll oder sogar obligatorisch sein. Je nach Anwendung sind weitere Spalten denkbar.

Tabelle 2: Beispieltabelle zur Dokumentation eines Gesprächsverlaufs mit einem KI-Hilfsmittel. Bei „Assistant“ handelt es sich um ChatGPT 4o von Open AI. Das Gespräch wurde am 04.12.2024 über den Webbrowser https://openai.com/index/chatgpt/ geführt.

(1) https://www.gesetze-im-internet.de/urhg/index.html, zuletzt aufgerufen am 28.02.2025

(2) https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=OJ:L_202401689, zuletzt aufgerufen am 28.02.2025

(3) https://eur-lex.europa.eu/legal-content/DE/TXT/HTML/?uri=CELEX:32016R0679, zuletzt aufgerufen am 28.02.2025

(4) Zitierwürdige Quellen müssen verlässlich, überprüfbar (veröffentlicht) und wissenschaftlich fundiert sein. Darunter fallen insbesondere wissenschaftliche Veröffentlichungen aus Fachzeitschriften, Büchern oder Fachtagungen. Nach zitierwürdigen Quellen kann mithilfe des Suchportals TUfind der ULB Darmstadt recherchiert werden. Darüber hinaus existieren zahlreiche (fachspezifische) Datenbanken mit zitierwürdigen Quellen, welche im Datenbank-Infosystem DBIS verzeichnet sind. Weitere Informationen zu DBIS unter https://www.ulb.tu-darmstadt.de/artikel_details_1664.de.jsp.

(5) “How to cite ChatGPT”, Timothy McAdoo, 07.04.2023, https://apastyle.apa.org/blog/how-to-cite-chatgpt, zuletzt aufgerufen am 09.12.2024

(6) https://www.chicagomanualofstyle.org/qanda/data/faq/topics/Documentation/faq0422.html, zuletzt aufgerufen am 19.12.2024

(7) https://style.mla.org/citing-generative-ai/, zuletzt aufgerufen am 19.12.2024

(8) Zum Beispiel mit dem KI-Hilfsmittel „ArgumenText“ von Summetix, welche die ULB lizenziert hat. Es ermöglicht die Suche nach natürlichsprachlichen Argumenten in wissenschaftlicher Literatur. Neuronale Netze finden und fassen das Für und Wider bzgl. bestimmter Themen in Echtzeit zusammen.

(9) Mehr zum Thema Forschungsdaten finden Sie auf der Seite TUdata. Die offiziellen Leitlinien zum Umgang mit digitalen Forschungsdaten an der TU Darmstadt sind unter https://tuprints.ulb.tu-darmstadt.de/23200/ abrufbar.