Ethik in Ingenieurwesen und Informatik mit Deepfakes vermitteln

Laufzeit: Juli 2022 – Juli 2023
Status: Abgeschlossen
Bildungsstufe: Tertiärstufe
Thema: Artificial Intelligence AI
Keywords: Ethische Sensibilität

Ausgangslage

Der Aufstieg von Deepfakes wirft spezifische pädagogische Fragen auf – sowohl für potenzielle Konsument*innen von Deepfakes als auch für deren potenzielle Ersteller*innen. Da die Produktion und Nutzung von Deepfakes typischerweise auf zahlreichen Inputs von vielfältigen Akteur*innen beruht, bieten sie ein eindeutiges Beispiel für das «Many Hands»-Problem in der Ingenieurethik (van der Poel, Royakkers und Zwart, 2015), bei dem die Zuordnung individueller Verantwortung in kollektiven Settings extrem schwierig wird. Zudem erhöht die Fähigkeit der Technologie, eine räumliche oder emotionale Distanz zwischen Ersteller*innen von Deepfakes und jenen, die von ihrer Herstellung betroffen sind, das Risiko, dass Produzent*innen sich von traditionellen sozialen Verpflichtungen gegenüber anderen entbunden fühlen (Hoffman, 2000; 2008).

Derzeit scheint die Ausbildung von Ingenieur*innen und Informatiker*innen unzureichend darauf ausgelegt zu sein, mit den genannten Herausforderungen umzugehen. Tatsächlich deuten Forschungsergebnisse aus Ingenieurwesenprogrammen (sowohl international als auch in der Schweiz) darauf hin, dass Student*innen im Verlauf ihres Studiums nicht nur kaum ethisches Engagement entwickeln, sondern sich im Gegenteil zunehmend von ethischen Anliegen distanzieren (Cech, 2014; Tormey et al., 2015; Lönngren, 2020). Obwohl es Bestrebungen gibt, Ethik Materialien zum Lehren rund um Deepfakes zu entwickeln (siehe z. B. https://mediaethicsinitiative.org/ oder die EPFL AMLD), erfolgt – wie in der Ethiklehre im Ingenieurwesen allgemein – die Gestaltung von Fallstudien und anderen Lehrmaterialien typischerweise nicht auf der Basis von Evidenz darüber, wie Menschen Ethik lernen oder überhaupt wie sie im Allgemeinen lernen (siehe Hess und Fore, 2019).

Ziele

Unsere Studie zielt darauf ab, die Effekte eines Lehrgangs in Informatikthemen – konkret Deepfakes –, der sowohl technische als auch ethische Aspekte enthält, mit einem rein technischen Lehrgang bei Ingenieurwesen-Student*innen zu vergleichen. Zwei Haupteffekte sind von Interesse:

1. der Einfluss des Lehrinhalts auf die Aufmerksamkeit der Student*innen und ihr emotionales Engagement mit realen und Deepfake-Darstellungen einer Person, und
2. das moralische Urteil der Student*innen in ethisch mehrdeutigen Situationen.

Methode

Wir verwendeten ein experimentelles Modell, um zwei mögliche pädagogische Ansätze zu evaluieren, wie Deepfakes genutzt werden könnten, um das moralische Empfinden sowie das moralische Urteilsvermögen der Student*innen zu entwickeln (Bebeau, 2002). In beiden Bedingungen sahen die Student*innen drei Videos: ein authentisches Video, ein Deepfake-Video hoher Qualität und ein Deepfake-Video niedriger Qualität. Drei Typen von Daten wurden erhoben: (i) Aufmerksamkeitsdaten mittels Eye Tracking, (ii) emotionale Reaktionen mittels Gesichtserkennungssoftware, und (iii) moralisches Urteil mittels eines Protokolls, das sich am «Moral Judgement Interview» von Kohlberg orientiert. In der Kontroll- und in der Experimentalbedingung wurden die Student*innen unterschiedlich geprimed: In der Kontrollbedingung wurden sie dazu angeregt, die Videoqualität unter dem Aspekt technischer Leistungsfähigkeit zu beurteilen, in der Experimentalbedingung hingegen unter Berücksichtigung sowohl technischer Leistungsfähigkeit als auch ethischer Überlegungen. Die Versuchsteilnehmer*innen waren Ingenieurwesen-Student*innen, die mindestens einen Kurs zum maschinellen Lernen belegt hatten.

Ergebnisse

Als Ergebnis des Projekts wurde ein umfassender methodologischer Bericht verfasst, der einen Ansatz zur Untersuchung der Auswirkungen ethischer und technischer Bildung im Kontext von Deepfakes beschreibt. Der Bericht dokumentiert eine multimodale Forschungsmethodik, die darauf abzielt, die Effekte auf drei zentrale Dimensionen zu erfassen: die Fähigkeit von Proband*innen zur Erkennung von Deepfakes, ihre Aufmerksamkeit und Emotionalität gegenüber deepfake-betroffenen Personen sowie ihr moralisches Urteilsvermögen in ethisch ambivalenten Situationen.

Umgesetzte Translation

Die Forschungsergebnisse eröffnen zahlreiche Chancen für praktische Anwendungen in der Ethiklehre im Ingenieurwesen. Universitäten können sie nutzen, um Curricula neu zu gestalten, insbesondere in der Informatik, indem Ethik in Kurse über KI-Einsatz eingebunden wird. Lehrende benötigen möglicherweise eine Weiterbildung, um dies effektiv umzusetzen; Workshops können helfen, verantwortungsvollen KI-Einsatz zu lehren. Die Befunde unterstützen auch die Entwicklung von Lehrmaterialien wie Lehrbüchern, Online Ressourcen und Fallstudien, die kognitives und emotionales Lernen verbinden. Neue Kurse könnten ethische Diskussionen in bestehende technische Studiengänge integrieren. Kooperationen mit Institutionen und Organisationen im Bereich KI und Ethik können den Einfluss durch gemeinsame Praktiken erweitern. Die Ergebnisse können auch ethische Leitlinien in der Industrie beeinflussen und Codes of Conduct für KI bezogene Arbeit aktualisieren. Abschliessend können öffentliche Vorträge, Seminare und Workshops ein breiteres Publikum in Diskussionen zu Deepfakes, KI-Ethik und verantwortungsvollem Technologieeinsatz einbeziehen.

Beteiligte Institutionen