Ethik und Wissenschaftstheorie des maschinellen Lernens

Interdisziplinäres Seminar für Master-Studierende verschiedener Fachrichtungen (Informatik in allen Varianten, Kognitionswissenschaften, Ethik, Philosophie, usw).

Wann, wo, wie

  • Dozenten: Thomas Grote (Zentrum für Ethik in den Wissenschaften), Philipp Berens (Neurowissenschaften / Medizin), Ulrike von Luxburg (Informatik)
  • Zeit und Ort: Dienstags, 14 - 16 Uhr, Forum Scientiarum (Doblerstrasse 33), kleiner Seminarraum
  • Sprache: Seminar selbst auf Deutsch, Literatur meist in Englisch
  • Umfang: 2 SWS, 3 CP
  • Zu diesem Seminar muessen Sie sich bis Semesteranfang anmelden. Dabei bitten wir Sie, auch kurz zu begruenden, warum Sie das Thema interessiert. Zur Anmeldung geht es hier. Falls es mehr Interessenten als Plaetze gibt, werden wir die Plaetze in der ersten Seminarsitzung vergeben.

Literatur

Hier ist die Literaturliste für das ganze Semester. Bitte lesen Sie zur ersten Sitzung am 17.10. schon die drei Zeitungsartikel, die dort angegeben sind. Alles Weitere wird dann vor Ort besprochen.

Fragestellung

„Intelligente Technologien“ verändern die Welt. Sie dringen in unterschiedlichste Bereiche von Technik, Industrie und Wirtschaft vor und haben das Potential, unsere Gesellschaft zu verändern. Grundlage dafür bilden Techniken aus dem Bereich des maschinellen Lernens, die es Algorithmen erlauben, immer komplexere Aufgaben zu erfüllen und selbständig Entscheidungen zu treffen. Als InformatikerIn sieht man sich dadurch mit neuen ethischen Fragestellungen konfrontiert, die bisher so nicht vorgekommen sind, und die sich nur schwer ignorieren lassen. Ziel dieses Seminars ist, Studierende aus verschiedenen Fachrichtungen zusammenzubringen, um gemeinsam über solche Fragen zu diskutieren:


Wie sollen Algorithmen Entscheidungen treffen / nicht treffen? Wer trägt die Verantwortung dafür, wenn etwas schief läuft? Wie können / sollen wir verhindern, dass Algorithmen bestimmte Gesellschaftsgruppen diskriminieren (ohne dass es explizit gewollt ist)? Was ist “faires’’ maschinelles Lernen (gibt es das überhaupt)? Inwiefern können und sollen Entscheidungen von Algorithmen transparent und nachvollziehbar sein? Wird sich die Gesellschaft durch maschinelles Lernen verändern, sollen/wollen/können wir das steuern?


Ein zweites Themengebiet dieses Seminars ist die Wissenschaftstheorie: wie wird sich die wissenschaftliche Herangehensweise verändern, wenn Algorithmen des maschinellen Lernens auf einmal eine zentrale Rolle im wissenschaftlichen Erkenntnisprozess innehaben? Welche Art von Erkenntnissen kann man durch eine algorithmisch getriebene Wissenschaft erzielen, welche nicht?


Ziel des Seminars ist nicht, alle diese Fragen zu beantworten, sondern sie zu diskutieren, und sowohl Studierenden der Informatik , den Kognitionswissenschaften als auch der Philosophie/ Ethik exemplarisch demonstrieren, wie solche Fragen angegangen werden können.


Zielgruppe

Unser Seminar richtet sich an Master-Studierende aus den Bereichen Informatik, Kognitionswissenschaften und Ethik/Philosophie, auch andere Fachgebiete sind willkommen. Wir wünschen uns diskussionsfreudige und aktive Studierende. Insbesondere sollten Sie bereit sein, sich auf den interdisziplinären Kontext einzulassen und die typischen Herangehensweisen aus ihrem eigenen Fach auch mal über Bord zu werfen, um sich in andere Fächer einzudenken. Vorkenntnisse im Bereich des maschinellen Lernens oder Ethik sind hilfreich, aber nicht zwingend.


Ablauf

Das Seminar findet einmal pro Woche statt. Zu jeder Sitzung wird es Literatur geben, die von allen (!) TeilnehmerInnen vorher gelesen werden muss. Für jede Sitzung werden vorher Rollen verteilt: jemand hält ein kurzes Impulsreferat von 10 min über die gelesene Literatur, jemand anderes bereitet kontroverse Thesen oder Fragen vor. Zur erfolgreichen Teilnahme gehört neben der aktiven Beteiligung an den Veranstaltungen auch das Verfassen von zwei kurzen Essays zu den Themen einzelner Sitzungen. Eines davon nach Weihnachten, das andere Ende März. Genaueres wird in der ersten Veranstaltung bekannt gegeben.


Vorläufige Themenliste

Themenkomplex Ethik:
  • Was ist (kann) maschinelles Lernen
  • Ansätze aus der Ethik
  • Wenn Algorithmen Informationen filtern: Algorithmenethik
  • Einfluss von künstlicher Intelligenz auf die Gesellschaft
  • Fairness, Diskriminierung und das Recht auf Erklärung
  • Wenn Algorithmen Entscheidungen treffen: Moral machines
Themenkomplex Wissenschaftstheorie:
  • Einführung in die Wissenschaftstheorie
  • Maschinelles Lernen in der Wissenschaft
  • Implikationen von ML in den Wissenschaften
  • Modelle
  • Verstehen und die Erkenntnisgrenzen von ML