Resolution Ki

Teilnehmende Fachschaften:

• KIT (Luis)
• TU Braunschweig (Oussama)
• Uni Paderborn (Richard, Justus)
• RPTU (Joschua)
• RWTH (Lasse)
• TU Darmstadt (Antonio)
• Universität Duisburg/Essen (Thomas)
• HS Hannover (Fabio)

Allgemein: 2 Resolutionen: KIF und ZAPF zu besprechen, dann anschließen oder Anmerkungen machen

KIF 51.0

• Bemerkung zu (2):
  • RWTH: Vereinfachung des Betrugs ⇒ Argumentation ggf. nicht so sinnvoll
  • Braunschweig: Einfacher aber trotzdem immer möglich gewesen
  • RPTU: Vorteil, da die „einfache“ Arbeit minimiert wird und mehr er Fokus auf den eigentlichen Problemen liegt
  • KIT: Bemerkung ist nicht gut begründet, auch wenn der eigentliche Aussagenpunkt richtig und relevant ist

KIF 51.5

• Allgemeine Anmerkungen zu den Stichpunkten:
  • RPTU: Soll es expliziert für den Bund/Hochschulenübergreifende Gremien formuliert werden?
  • RWTH: Eher nicht, da Hochschulen direkt weniger träge
  • RPTU: KI ist wichtiges Tool, wenn Unis sich unterschiedliche Entscheiden ⇒ Studis gehen ggf. dahin, wo es mehr KI gibt
  • KIT: Ziel ist es, die Universitäten auf einen Standard zu bringen, sodass sich die Regelungen nur leicht unterscheiden

• Bemerkungen zu Punkt 8
  • Uni Paderborn: Mehr auf Lehre und auf den Nutzen auch für Uni eingehen
  • TU Darmstadt: tw. in Punkt 3 erfasst

• Können wir uns den allg. Stichpunkten der Resolution anschließen?
  • Konsens ja, gerne auch noch Anmerken selbstformulieren

Der Workshop empfield einstimmig die Resolution mit dem folgenden Statement zu beschließen.

„Die Fatama 2024 schließt sich der Resolution „KI-Tools“ der 51.5 KIF inklusive der Erläuterungen der Resolution „KI-Tools“ der KIF 51.0 an.

Künstliche Intelligenz (KI) hat großes Potential, das Maschinenwesen zu beeinflussen. Dies gilt für die Bereiche Lehre, Forschung und Industrie. Aus unserer Sicht ist es von Bedeutung, Studierenden den richtigen und verantwortungsvollen Umgang mit KI-Tools zu lehren. Dadurch sollen grundlegende, zukunftsorientierte Kompetenzen für die Industrie und Forschung sichergestellt werden. Um zeitnah gleiche Rahmenbedingungen für alle Studierenden des Maschinenwesen zu schaffen, sollen die Bedingungen der KIF-Resolution „KI-Tools“ vollumfänglich umgesetzt werden.“

Die 51,5. Konferenz der deutschsprachigen Informatikfachschaften bestätigt die Resolution „KI-Tools an Hochschulen“, welche auf der 51,0. Konferenz der deutschsprachigen Informatikfachschaften verabschiedet wurde. Diese stellt die folgenden vier Forderungen an Hochschulen zur hochschulweit einheitlichen Regelung zum Einsatz von KI-Tools:

  1. Vorgesehene und ausgeschlossene Nutzungen von KI-Tools sind in Ordnungen der Hochschule festzuhalten.
  2. Die Konferenz spricht sich gegen ein generelles Nutzungsverbot von KI-Tools an Hochschulen aus.
  3. Die Konferenz sieht die Lehre in der Pflicht, Studierenden Chancen, Risiken und den verantwortungsvollen Umgang mit neuen Werkzeugen zu vermitteln.
  4. Datenschutz ist bei der Verwendung von KI-Tools in der Lehre und im Hochschulbetrieb einzuhalten.

Darüber hinaus fordert die 51,5. Konferenz der deutschsprachigen Informatikfachschaften zusätzlich die Punkte 5 bis 9:

  5. Für KI-Inhalte sind einheitliche und klar definierte Regeln zur Attribution festzuschreiben.
  6. Bei Einsatz von KI-Tools müssen alle Studierenden die gleichen Voraussetzungen erhalten.
  7. Aufgabenstellungen müssen für alle Studierenden barrierefrei bleiben, auch wenn dadurch unerlaubter Einsatz von KI-Tools vereinfacht wird.
  8. KI-Tools sollen keinen Ersatz zur Vermittlung von Lehrinhalten darstellen.
  9. Bewertungen von Leistungen dürfen nicht durch KI-Tools stattfinden.
  

Zu 1. Ordnungen: Gute Regelungen gelten hochschulweit und passen sich neuen Entwicklungen an, indem sie nicht an spezifische Modelle oder Tools gebunden sind. Ordnungen sollen klarstellen, welche Verwendungen von KI-Tools von der Hochschule ausgeschlossen werden. Das macht die Regelungen für Studierende transparent, nachvollziehbar und unabhängig von den Entscheidungen einzelner Dozierender.

Zu 2. Kein KI Verbot: KI-Tools bieten nach unserer Einschätzung keinen größeren Nutzen als menschliche Expert:innen (z.B. Studierende aus höheren Semestern). Die Möglichkeit, Inhalte von anderen erstellen oder verbessern zu lassen und als eigene Leistung auszugeben, besteht bereits ohne technische Hilfsmittel. Prüfungsformen werden durch das Erlauben von KI-Tools nicht empfindlicher gegenüber Fremdleistungen.

Zu 3. KI Lehre: Studierende aller Fachrichtungen können von einem guten Umgang mit KI-Tools profitieren. Da diese eine breite fachunabhängige Einsetzbarkeit zeigen, sollten KI-Tools auch außerhalb von Informatikveranstaltungen in die Lehrinhalte aufgenommen werden.

Zu 4. Datenschutz: Es ist darauf zu achten, dass geschützte Daten von KI-Tools nicht repliziert werden können und es für das Studium nicht erforderlich ist und sein darf, persönliche Daten an Drittanbieter weiterzugeben.

Zu 5. Regelungen zur Attribution: Die Attribution von KI-Inhalten dient der Erfüllung wissenschaftlicher Standards, womit der Prozess der Erstellung von Inhalten bzw. die Art der Verwendung von KI nachvollziehbar gemacht werden soll. Zusätzlich ist – wenn möglich – eine Reproduzierbarkeit der KI-Inhalte, zumindest aber eine Nachvollziehbarkeit des Erstellungsprozesses durch ausreichende Protokollierung zu gewährleisten.

Die Regelungen zur Attribution sind nicht an ein Studienfach oder KI-Tool zu binden. Klar definierte Regeln erlauben eine wichtige Vergleichbarkeit. Idealerweise ist eine einheitliche Regelung über alle Hochschulen hinweg zu finden. Die Attribution sollte mindestens das verwendete KI-Tool sowie die verwendete Version und relevante Eingabe-Parameter umfassen.

Zu 6. Gleiche Voraussetzungen beim Einsatz: Einige KI-Tools können sehr teuer sein oder andere Barrieren zur Verwendung aufweisen. Bei verpflichtender Verwendung spezieller KI-Tools, muss sowohl die Kostenübernahme als auch die Erfüllung anderer Voraussetzungen durch die Hochschule für alle Studierenden gleich angeboten werden. Unterschiede in der Bewertung rein auf Basis der Qualität unterschiedlicher KI-Tools müssen verhindert werden.

Zu 7. Vereinbarkeit der Barrierefreiheit: Zur Verhinderung unerlaubter Nutzung von KI-Tools in Abgaben und Prüfungen werden teilweise Techniken eingesetzt, welche die Barrierefreiheit gegenüber Studierenden erheblich verschlechtern. Dazu gehört beispielsweise die Bereitstellung von Textaufgaben als Bild. Derartige Workarounds müssen vermieden werden. Um Täuschungsversuchen vorzubeugen ist es deshalb immer zielführender, Prüfungsmodi und -fragen kompetenzorientiert zu gestalten.

Zu 8. Vermittlung von Lehrinhalten durch KI: In der Wissenschaft und Lehre gibt es qualitätssichernde Prozesse, um Personen für ihre Bildungsbereiche auszubilden und ihnen eine Lehrbefugnis zu erteilen. Dies ist ein relevanter Aspekt des Bildungswesens, den ein KI-Tool explizit nicht erfüllen kann. Der Output eines KI-Tools kann in den meisten Fällen nicht klar genug nachvollzogen werden und kann demnach nicht durch Validierungsprozesse auf die Erfüllung wissenschaftlicher Standards geprüft werden.

Zu 9. Bewertung von Leistungen durch KI: Eine Bewertung durch KI-Tools birgt die Gefahr unfairer Bewertungen. Diese können durch Biases und Fehler sowie bewusstes Ausnutzen bestimmter Eigenschaften des KI-Tools entstehen. Aus diesem Grund muss die Bewertung immer Menschen – mit der in der Erklärung zu Punkt 8 erwähnten Befugnis – überlassen werden.